תכן המכונה צריך למנוע מצבים חריגים, ככל הניתן.

פרק זה מציג עקרונות ושיטות למניעת איומים צפויים, כולל בעיקר, איומים אותם נהוג לייחס לטעויות מפעיל.

הפרעה חוץ מערכתית

דוגמא של הפרעה חוץ מערכתית זוהי של בעלי חיים על הכביש.

ניתן לצמצם סיכונים כאלו על ידי מניעת כניסה של בעלי חיים לכביש, על ידי גידור משני צידי הכביש.

ההנחה במדריך זה היא שנושא זה אינו בתחום העיסוק של הנדסת מערכות.

טעויות מפעיל

גירסת גורמי אנוש של חוק מרפי אומרת שאם המכונה מאפשרת למפעיל לטעות, במוקדם או במאוחר, הוא יטעה.

ניתן למנוע טעויות מפעיל רבות, אבל צריך להניח שהמפעיל יטעה בכל מקרה, ולכן נדרשת חסינות בפני טעויות מפעיל.

תקלות חומרה

ההנחה, בהתאם לחוק מרפי הקלאסי, היא שלא ניתן למנוע לחלוטין תקלות חומרה. ניתן לצמצם אותן, על ידי הגדרת דרישות לרכיבים באמינות גבוהה, הוראות תחזוקה הכוללות הנחיות מפורטות לריענון רכיבים קריטיים, בדיקות תקופתיות וכיו"ב.

באגים בתוכנה

האפקט של באגים בתוכנה הוא במצבים חריגים, שלא נבדקו די הצורך במהלך בדיקות התוכנה. מעשית, לא ניתן לפתח תוכנה שהיא נקייה מבאגים לחלוטין, אבל ניתן לצמצם את הסבירות להפרעות שנוצרות על ידי באגים, על ידי בדיקות מקיפות של התוכנה בכל מצבי ההפעלה הנורמאלית.

דרך אפשרית למנוע את הבאגים הוא על ידי הגבלת התוכנה לפעול במצבים שמוגדרים על ידי תרחישים, ולהתריע על חריגות.

ניתן ליישם זאת על ידי הגדרת ההתרעה כברירת מחדל בתגובה לשינויי מצב, ועל ידי הגדרת התנהגות התוכנה במסגרת של תרחישים בלבד.

תפעול במצבים קיצוניים

דוגמא של תפעול במצבים קיצוניים זוהי של נהיגה בכביש רטוב. ניתן לצמצם סיכונים של החלקה על ידי התרעות לנהג לגבי המצבים הקיצוניים.

התאמה דינאמית

במקרה של חריגה קלה (שנמצאת בתחום הבטיחות) בתפוקה או בפרמטרים של ביצוע, המכונה יכולה לבדוק את גורמי החריגה. במקרים בהם הבדיקה מעלה שהשינוי נובע משינויים קלים וסבירים בתנאי התפעול, המכונה יכולה לבצע תיקון על ידי התאמה אוטומטית של הפרמטרים המשפיעים על התפוקה או הביצוע.

דוגמא מהתעשיה התהליכית

מצב קיצוני מתבטא ערכים קיצוניים בשרוול של הבקרה הסטטיסטית. מניעת האיום היא בשני שלבים:

1. המכונה מזהה את מצב הקיצון ומספקת התרעה למפעיל

2. המפעיל נדרש לשנות את מצב המערכת.

נפילות מתח

ההנחה, בהתאם לחוק מרפי הקלאסי, היא שלא ניתן למנוע לחלוטין נפילות מתח. נפילת מתח עלולה לגרום לאובדן נתונים, ולהצבה שגויה של ערכי ברירת מחדל (ע"ע התאונה באפגניסטן 2001).

ניתן לשלוט בעיתוי נפילת המתח על ידי טיפול מונע, למשל, הנחיות להחלפת סוללה בעוד מועד, עוד לפני שהיא חלשה מדי.

תקלות תקשורת

ההנחה, בהתאם לחוק מרפי הקלאסי, היא שלא ניתן למנוע לחלוטין תקלות תקשורת.

ניתן לצמצם את הסיכון שלהן על ידי מנגנונים לסינכרון מחדש לאחר חידוש התקשורת.

בעיות תיאום בין מכלולים

אירועי כשל רבים הם תוצאה של ליקויים בתיאום בין מכלולי המערכת, בין השאר, כתוצאה מתקלות אחרות, כגון נפילות מתח או תקלות תקשורת. במקרים רבים, ניתן לאלץ את המערכת לפעול באופן מבוקר, ולמנוע בכך כשלים של חוסר תיאום.