דילמת האוטומציה

למכונות יש תכונות מסויימות, בעיקר, מהירות ודיוק, המצדיקות את ההשקעה בפיתוחן.  בעזרת אוטומציה אפשר לשחרר את המפעיל ממטלות עזר, ולהתפנות למטלות הקריטיות לתפקוד המערכת. בהיבט של תכן למניעת טעויות בתפעול, תכונות אלה באות לידי ביטוי בנושא הטיפול האוטומטי בהפרעות.

דוגמא - אירוע כשל מספר 50. תקלה בחללית סויוז 11

אופן הכשל - אוטומציה בלתי הולמת את מצב התפעול. החיסרון של המכונה הוא במצבים עבורם לא ניתן בשלב התכנון להגדיר במדויק את דרך הפעולה המועדפת. הכוונה היא להפרעות שהמכונה לא הצליחה לפתור אוטומטית, ושהופכות בשל כך לאיומים.

הנחיה - הגבלת האוטומציה. פעולות אוטומטיות ניתן ליישם אך ורק במצבים בהם ידועים בוודאות התנאים בהם הפעולות הללו רצויות למפעיל. אחרת עלול לקרות שהגולם עולה על יוצרו.

למפעילים יש תכונות מסויימות, בעיקר, גמישות וישום ידע וניסיון מעולם התוכן בתנאי אי-וודאות, שמצדיקים את ההשקעה בהשמתם בתהליך התפעול. על מנת לספק מענה לבעיות תפעול שבשלב התכנון הן בחזקת בלתי צפויות, מפתחי מערכות נוהגים להטיל על המפעיל את מלוא האחריות להתמודדות עם המצבים החריגים.

אופן כשל - המפעיל פועל לאט מדי. חיסרון של המפעיל שמצדיק אוטומציה הוא באיטיות בתהליכי תפיסת המצב, ובחיפוש וניתוח הנתונים הרלבנטיים לטיפול במצבים החריגים.

אופן כשל - המפעיל פועל על פי הרגלים. בתנאי חירום, שהם בלתי מוכרים למפעיל, הוא עלול לפעול באופן שאינו מתאים לתנאי החירום ("האירוניה של האוטומציה" - Bainbridge).

דוגמא - אירוע כשל מספר 3. התרסקות איירבאס 380 בטיסה  AF 447

הנחיה - מידע למפעיל. על מנת להבטיח שהמפעיל אכן יצליח להתמודד עם המצבים החריגים, היצרן צריך להבטיח שהמפעיל יקבל את המידע הנחוץ לפתרון הבעיה.

אופן כשל - התמכרות לאוטומציה

במערכת בה החלקים הקריטיים בתפעול הם אוטומטים, המפעיל פנוי לעסוק בנושאים חשובים אחרים. במצבים אלו, אם המכלול אינו מתוכנן להתריע במצב תקלה, המפעיל עלול לא להבחין בשינוי המצב.