עזרי בטיחות

במקרים בהם ניתן לחזות את המצב החריג בשלב התיכון, ניתן להוסיף למערכת עזרים שיאלצו אותה לפעול בהתאם לחוקים. עזרי הבטיחות כוללים:

• חיישנים יעודיים
• חוקים ואלגוריתמים שיאפשרו גילוי חריגות מהתנהגות נורמלית
• חוקים לגבי החזרה מהמצב החריג למצב של פעילות נורמלית
• פקדים ועזרים יעודיים.

כדי לאפשר תהליך אוטומטי, יש לכלול בתכן המכונה אלגוריתמים שיאפשרו לה לזהות האם מצב התהליך הוא נורמאלי או הפרעה, ולטפל בהפרעה באופן שלא תתפתח לאיום. במקרה שהמכונה זיהתה הפרעה, אבל אינה מצליחה לטפל בה כראוי, מתפתח איום, כלומר, נדרשת התערבות של המפעילים. במקרים אלו המכונה צריכה להתריע על הבעיה.

עלות החסינות

אבטחת החסינות צורכת משאבי כסף וזמן פיתוח. התרשים הבא מדגים את הקשר בין סיכון למשאבים, כאשר אבטחת החסינות מקטינה את הסיכון, על חשבון המשאבים, ואילו מיחזור מרכיבי מערכת מאפשר צמצום משאבים, אבל כרוך בהגדלת הסיכון.

דוגמא

התאונות של מערכת הרדיותרפיה Therac-25  בין השנים 1985-7 מדגימות את הסיכון הכרוך בהעדפת החסכון במשאבים על פני אבטחת החסינות.

הערכת עלות החסינות

הפרדוקס של אבטחת חסינות נובע מהקושי בהערכת נזקים בגין כשלים בפוטנציה, לפני שהם התממשו. אבטחת החסינות עולה כסף רב בפיתוח, במנהלות וביחסי ציבור. קשה להצדיק את ההשקעות הללו כל עוד הנזק הפוטנציאלי לא התממש.

לדוגמא, מערכת התובלה האוירית התארגנה להשקעה שנדרשה כנגד חטיפות מטוסים רק לאחר שהאיום הפוטנציאלי התממש, במתקפת אל-קאידה ב-11 בספטמבר, 2001.