תנאים בהם אין ליישם אוטומציה

האוטומציה עלולה לגרום לאסון אם היא מופעלת במצבים בהם יתכן שהפעולה האוטומטית נוגדת את כוונת המפעיל.

דוגמא

מעטפת ההגנה כנגד הזדקרות בגירסאות הראשונות של מטוסי איירבאס 320 הופעלה בגלל טעות בתכן גם בגבהים נמוכים, בהם נדרשה התערבות הטייס על מנת להתרחק מהקרקע. המחיר של טעות זו היה שני אסונות תעופה:

• התרסקות מטוס בטיסת AF 296 בשנת 1988 באלזס שבצרפת (ניתוח האירוע)
• התרסקות מטוס של טיסת IA 605 בשנת 1990 בשלב הנחיתה בבנגלור שבהודו (ניתוח האירוע).

תכן הגישה לפונקציה

הדרך הארוכה יכולה להיות גם הדרך המהירה. המכונה יכולה להנחות את המפעיל בתפעול מצבים חריגים

אמינות חווית השליטה

המכונה צריכה לדווח למפעיל באופן ברור לגבי מצבים בהם היא נוטלת ממנו את השליטה, על מנת למנוע מצבים של חווית שליטה, שמתברר כשגויה רק כאשר מאוחר מדי, כמו בדוגמת התאונה של AF 296.

אבטחת שליטת המפעיל

חשוב לאפשר למפעיל ליטול את השליטה חזרה במקרים בהם הוא משוכנע שהפתרון האוטומטי הוא הרה אסון. (ע"ע תאונת AF 296 משנת 1988).

מאפייני הפקדים המשמשים לתפעול מצבים חריגים

במצבים החריגים, המפעיל נדרש להכיר ולהתמצא במצב שהוא בלתי מוכר לו. היכולת שלו מוגבלת על ידי תכונת הזכרון קצר הטווח. פירוש הדבר הוא שהמפעיל נדרש "למצוא מחט בערימה של שחת".

הנחת העבודה בתכן הפקדים המשמשים לתפעול מצבים חריגים היא שהמפעיל זכה להתנסות מעט מאוד, אם בכלל, בזיהוי והכרת הפקדים הדרושים לצורך התפעול.

על בסיס הנחה זו, ובהנחה שבשלב פתרון בעיות המפעיל נדרש להתמקד בתהליכי התפעול הנדרשות לפתרון הבעיה, ממשק ההפעלה צריך להנחות את המפעיל בגישה לפונקציה.

הכלל הישים לתפעול מצבים חריגים הוא:

תפעול מצבים חריגים בהנחית המכונה