הנחיה בבחירה
יש לספק למפעיל משוב, המציג בפניו את
האפקט הצפוי כתוצאה מהבחירה.
למשל
-
בתאונת
טביעת המיכלית Torrey Canyon,
המכונה לא סיפקה משוב לגבי המשמעות של בחירת מצב ההיגוי השגויה
-
בתאונה
ב-Cali, המפעיל בחר באות R
והתכוון ל-Rozo,
אבל המערכת הנחתה את המטוס לעבר אנטנת הרדיו של Romeo.
המערכת לא סיפקה למפעיל משוב מספק, בכדי שיוכל להבחין בטעות.
|
עקרון השוט והגזר
על פי עקרון השוט והגזר, לא ניתן להסתפק בהוספת האופציה הבטוחה: על
מנת להבטיח שהמפעיל יבחר באופציה הבטוחה, צריך להקשות עליו בתהליך הבחירה של
החלופות הבלתי בטוחות.
כדי להבטיח שהמפעיל יפעל על פי כוונת המתכנן, התכנון צריך לנקוט בשני
אמצעים:
- הגזר: צריך לספק למפעיל גישה לפונקציות, על פי תרחישים מונחי תפקיד
- השוט: צריך לספק אזהרות משמעותיות בפני סטייה מתהליך התפעול המומלץ.
|