דילמת השליטה

דילמת השליטה מתייחסת אל האחריות על תהליך פתרון הבעיה: שליטת המכונה, על ידי אוטומציה, לעומת שליטת המפעיל.

דילמת השליטה מתוארת על ידי נקודת העבודה שנמצאת על עקומת החסינות, כאשר נקודות שונות מסמלות רמות שונות של חלוקת אחריות בין המכונה לבין המפעיל.

הפרדוקס של בקרה אנושית

המפעיל אמור לנהל את המכונה במצב שהוא חדש עבורו. הוא לא התנסה בו, והוא צריך להגיב נכון, ובמהירות, אבל נדרש לו זמן רב ללמוד להכיר את המצב, מה אפשר לעשות, מהם הסיכונים של כל פעולה, ומה התוצאות הצפויות.

דוגמא

נניח שתוכנת מחשב מזהה שהמפעיל ביקש לבצע פונקציה מסויימת, שהיא חריגה במצב בו נמצאת התוכנה. לפיכך, התוכנה מבקשת מהמפעיל לאשר את ביצוע הפונקציה. אם המפעיל מבין את מלוא המשמעות של בקשת האישור, ומסוגל לנבא את התנהגות התוכנה במקרה של אישור ובמקרה של דחיה, אזי קרוב לודאי שתגובת המפעיל תמנע את הכשל.

במקרים מעשיים רבים, המפעיל אינו מודע לכל ההשלכות של ביצוע הפונקציה במצב החריג, והתוצאה בפועל היא בלתי צפויה.

בדרך כלל, המפעיל מתנסה בתפעול המכונה בתנאים נורמלים, ואינו זוכה להתנסות בתפעול המכונה במצבים שהם חריגים או בלתי צפויים. במצבים בהם הוא לא התנסה, זמן התגובה שלו הוא ארוך.

במיוחד, יש לצפות לזמן תגובה ארוך מאוד כאשר הבעיה אינה מוכרת למפעיל, והוא נדרש ללמוד את הבעיה ואת דרכי הפתרונות האפשריים.

בתנאי לחץ זמן של מערכות זמן אמת, כגון, בפתרון בעיות בזמן טיסה, המפעיל נוטה לנהוג על פי הרגלים מהתנסויות קודמות, כלומר, בתנאים נורמלים, ואינו פועל בדרך אליה התכוון מתכנן המערכת (ע"ע טיסת AF 447).

הפרדוקס של תפעול במצבים חריגים

הפרדוקס, שנקרא גם "האירוניה של האוטומציה", הוא שככל שהמכונה פועלת טוב יותר בפעילות נורמלית, כך למפעיל יש פחות הזדמנויות להכיר את דרך הפעולה שלה במצבי תקלה, ולכן במצבים חריגים הסיכויים לכישלון גבוהים יותר.