Нормальні аварії, Чарльз Перроу - Нотатки

Нормальні аварії (Normal Accidents)

📖 View Original Handwritten Notes (English Source)

Глави 1-2 Глава 3.1 Глава 3.2

Download (Ch. 1-2)

Download (Ch. 3.1)

Download (Ch. 3.2)

Області відмов (Failure areas):

• Проєктування (Design)
• Обладнання (Equipment)
• Процедури (Procedures)
• Оператори (Operators)
• Постачання та матеріали (Supplies and material)
• Навколишнє середовище (Environment)

Джерела відмов (Failure origins):

1. Системи з жорстким зв’язком (Tightly coupled systems)
2. Системи зі складними взаємодіями (Complexly interactive systems)

“Бачити — не обов’язково означає вірити;
іноді ми маємо повірити, щоб побачити”

Система (2 сторони)

Графік надійності

• Подія A: Руйнування середньовічного собору
  Високий рівень навчання (на той час) → застосовано
• Подія B: Аварія на атомній електростанції
  Низький рівень навчання (порівняльний) → складно застосувати
• ШІ: можливо, ми зможемо використовувати ШІ для кращого нагляду та контролю на критично важливих об’єктах, що допоможе подолати плато?

Експлуатаційний досвід (Operating experience)

• Фактична швидкість розширення / масштабування: 3.5%! → насправді масштабування відбувається в 60 разів агресивніше (при цьому досвіду роботи з новою технологією в 60 разів менше)

Проблеми з дотриманням процесів:

• приховування інформації (cover-ups)
• залякування персоналу (intimidations)
• фальсифікація даних (falsifications)
• недбалість (neglect)
• помилки (mistakes)
• обман (deception)
• неякісне навчання (mistraining)

Визначення аварій та інцидентів

Інцидент чи Аварія? (Incident vs. Accident?)

• Визначення: Аварія — це відмова в системі або підсистемі, яка завдає шкоди більше ніж одному вузлу і в результаті порушує поточну або майбутню продуктивність (випуск) системи. * Суперечливо. Якщо робота системи порушена, масштаб першопричини (імхо) не має значення. Друге речення превалює над першим.
• Відносність: Одна й та сама подія може вважатися аварією в одній системі та не вважатися такою в суперсистемі (рівні абстракції / масштабу).
• Порушує (disrupts): Вимагає прямих негайних дій.
• Людина(и): Не окремий клас, а просто подістема. Тому шкода людям (Рівень 3) = аварія.

Ешелонований захист під питанням?

Жертви (Victims):

Рівень залученості в систему (Від найвищого до найнижчого)

• Ризик і оплата праці: Немає/зворотна кореляція між ризиком та оплатою в різних галузях.
• Користувачі системи проти непричетних свідків (неявно): Перші певною мірою «обирають» участь => погоджуються розділити (частину) ризику. Але користувачі, на відміну від операторів, не мають впливу на роботу системи.
• Жертви четвертої категорії: Постійне нехтування інтересами жертв четвертої категорії, сьогодення проти майбутнього.

Взаємодії: Лінійні / Складні

• Засоби інженерної безпеки (ESD): Не можуть захистити від неочевидних взаємодій.
• Моніторинг та коригувальні дії: Приховані взаємодії, засоби моніторингу (замало проти занадто багато) => потенціал для «неправильної» коригувальної дії, що веде до нових збоїв.