תנאים בהם אין ליישם אוטומציה

האוטומציה עלולה לגרום לאסון אם היא מופעלת במצבים בהם יתכן שהפעולה האוטומטית נוגדת את כוונת המפעיל.

דוגמא

מעטפת ההגנה כנגד הזדקרות בגירסאות הראשונות של מטוסי איירבאס 320 הופעלה בגלל טעות בתכן גם בגבהים נמוכים, בהם נדרשה התערבות הטייס על מנת להתרחק מהקרקע. המחיר של טעות זו היה שני אסונות תעופה:

• התרסקות מטוס בטיסת AF 296 בשנת 1988 באלזס שבצרפת (ניתוח האירוע)
• התרסקות מטוס של טיסת IA 605 בשנת 1990 בשלב הנחיתה בבנגלור שבהודו (ניתוח האירוע).

הנחיות לגבי אוטומציה

הגורם העיקרי לבעיית האוטומציה הוא ליקויים בתחום המשוב למפעיל והאינטראקציה איתו. (הסבר של נורמן).

הנחיה - מידע למפעיל לגבי מצבי הסיכון. המכונה צריכה למפעיל מידע שוטף וממוקד לגבי מצבי הסיכון, וכיצד היא מתמודדת עימם. ביחוד, יש לתכנן היטב את המשוב למפעיל לגבי הסיכונים בפעולות שהוא מבצע, וכן את אופן הצגת המידע לגבי שינויים במצבה.

בקרה אוטומטית

הנחיה - כיול פרמטרי ההפעלה. יש להתאים את תחום הבקרה העצמית למצבי שימוש מציאותיים. דוגמא של טעות בתחום זה היא של הסגווי, כפי שהודגמה באירוע כשל 39