דילמת השליטה מתייחסת אל הכללים המגדירים את אופני הקצאת האחריות בין המכונה (ע"י אוטומציה) לבין המפעיל במשימת התפעול השונות:

• בקרת פונקציות
• קביעת מוד התפעול (שגרתי או חירום)

ממשקי התפעול צריכים לענות על שתי דרישות שהן לכאורה מנוגדות:

• למנוע מהמפעיל לבצע פעולות חריגות
• לאפשר למפעיל שליטה מלאה במערכת.

 הפרדוקס של בקרה אנושית

המפעיל אמור לנהל את המכונה במצב שהוא חדש עבורו. הוא לא התנסה בו, והוא צריך להגיב נכון, ובמהירות, אבל נדרש לו זמן רב ללמוד להכיר את המצב, מה אפשר לעשות, מהם הסיכונים של כל פעולה, ומה התוצאות הצפויות.

דוגמא

נניח שתוכנת מחשב מזהה שהמפעיל ביקש לבצע פונקציה מסויימת, שהיא חריגה במצב בו נמצאת התוכנה. לפיכך, התוכנה מבקשת מהמפעיל לאשר את ביצוע הפונקציה. אם המפעיל מבין את מלוא המשמעות של בקשת האישור, ומסוגל לנבא את התנהגות התוכנה במקרה של אישור ובמקרה של דחיה, אזי קרוב לודאי שתגובת המפעיל תמנע את הכשל.

במקרים מעשיים רבים, המפעיל אינו מודע לכל ההשלכות של ביצוע הפונקציה במצב החריג, והתוצאה בפועל היא בלתי צפויה.

במיוחד, יש לצפות לזמן תגובה ארוך מאוד כאשר הבעיה אינה מוכרת למפעיל, והוא נדרש ללמוד את הבעיה ואת דרכי הפתרונות האפשריים.

בתנאי לחץ זמן של מערכות זמן אמת, כגון, בפתרון בעיות בזמן טיסה, המפעיל נוטה לנהוג על פי הרגלים מהתנסויות קודמות, כלומר, בתנאים נורמלים, ואינו פועל בדרך אליה התכוון מתכנן המערכת (ע"ע טיסת AF 447).

הפרדוקס של תפעול במצבים חריגים

ככל שהמכונה פועלת טוב יותר בפעילות נורמלית, כך למפעיל יש פחות הזדמנויות להכיר את דרך הפעולה שלה במצבי תקלה, ולכן במצבים חריגים הסיכויים לכישלון גבוהים יותר. (מקור)

האירוניה של האוטומציה

ככל שהמערכת אוטומטית יותר, הסיכון במקרה של כשל הוא גבוה יותר.

דילמת השליטה מתוארת על ידי נקודת העבודה שנמצאת על עקומת החסינות, כאשר נקודות שונות מסמלות רמות שונות של חלוקת אחריות בין המכונה לבין המפעיל.