במטרה למנוע מצבי כשל הנובעים מכך שהתנהגות המפעיל היא בלתי צפויה, מהנדסי מערכת עושים כמיטב יכולתם להעביר את תפקידי המפעיל אל המכונה. הבעיה היא שככל שהאוטומציה אמינה יותר, למפעיל יש פחות הזדמנויות להתנסות בתפעול במצבים חריגים. כתוצאה מכך, כשהמערכת מגיעה למצב חריג, למפעילים חסר הידע הדרוש לתפעול במצב זה. לדוגמא, ב-40% מהתאונות האויריות שהתרחשו בין השנים 2001-2009 התברר שהיו ליקויים בהכרת הצוות את המערכת האוירית (Abbott, 2010). בעיה זו נקראת "האירוניה של האוטומציה" (Bainsbridge, 1983).

התרשים הבא ( מתוך Zonnenshain & Harel, 2013), מדגים את דילמת האיזון בין האוטומציה לבין שליטת המפעיל.