Normal Accidents von Charles Perrow - Notizen

Normale Unfälle (Normal Accidents)

📖 View Original Handwritten Notes (English Source)

Kapitel 1-2 Kapitel 3.1 Kapitel 3.2

Download (Ch. 1-2)

Download (Ch. 3.1)

Download (Ch. 3.2)

Fehlerbereiche (Failure areas):

• Entwurf (Design)
• Ausrüstung (Equipment)
• Verfahren (Procedures)
• Bediener (Operators)
• Materialien (Supplies and material)
• Umgebung (Environment)

Fehlerursachen (Failure origins):

1. Eng gekoppelte Systeme (Tightly coupled systems)
2. Komplex interaktive Systeme (Complexly interactive systems)

“Sehen bedeutet nicht zwangsläufig glauben;
Manchmal müssen wir glauben, bevor wir sehen können”

System (2 Seiten)

Zuverlässigkeitsdiagramm

• Ereignis A: Einsturz einer mittelalterlichen Kathedrale
  Hoher Lerneffekt (zu der Zeit) → angewendet
• Ereignis B: Atomkraftwerksunfall
  Geringer Lerneffekt (im Vergleich) → schwer anzuwenden
• KI: Vielleicht können wir KI für eine bessere Überwachung und Steuerung sicherheitskritischer Objekte nutzen, was zum Durchbrechen des Plateaus führt?

Betriebserfahrung (Operating experience)

• Tatsächliche Expansions-/Skalierungsrate: 3,5%! → tatsächlich 60-mal aggressiver skalierend (oder) mit 60-mal weniger Erfahrung mit neuer Technologie

Probleme bei der Prozesskonformität:

• Vertuschungen (cover-ups)
• Einschüchterungen (intimidations)
• Fälschungen (falsifications)
• Vernachlässigung (neglect)
• Fehler (mistakes)
• Täuschung (deception)
• Fehlschulung (mistraining)

Definition von Unfällen und Störungen

Störung oder Unfall? (Incident vs. Accident?)

• Definition: Ein Unfall ist ein Ausfall in einem System oder Subsystem, der mehr als eine Einheit* beschädigt und dadurch die gegenwärtige oder zukünftige Leistung (Output) des Systems stört. * Argumentativ. Wenn das System gestört ist, ist das Ausmaß der Ursache (m. E.) irrelevant. Der zweite Satz setzt sich gegenüber dem ersten durch.
• Relativität: Dasselbe Ereignis kann in einem System als Unfall gewertet werden, in einem Supersystem jedoch nicht (Abstraktions- / Skalierungenebenen).
• Stört (disrupts): Erfordert direktes sofortiges Handeln.
• Mensch(en): Keine alternative Klasse, sondern nur ein Subsystem. Daher ist ein Schaden an Menschen (Ebene 3) = ein Unfall.

Defense in Depth in Frage gestellt?

Opfer (Victims):

Grad der Beteiligung am System (Vom höchsten zum niedrigsten)

• Risiko und Bezahlung: Keine/umgekehrte Korrelation zwischen Risiko und Bezahlung in verschiedenen Branchen.
• Systembenutzer vs. Unbeteiligte (implizit): Erstere „entscheiden“ sich bis zu einem gewissen Grad zur Teilnahme => entscheiden sich dafür, ein gewisses Risiko zu teilen. Aber Benutzer haben im Gegensatz zu Bedienern keinen Einfluss auf den Systembetrieb.
• Opfer der vierten Klasse: Ständige Vernachlässigung von Opfern der vierten Klasse, Gegenwart vs. Zukunft.

Interaktionen: Linear / Komplex

• Sicherheitsvorrichtungen (ESD): Können vor nicht offensichtlichen Interaktionen nicht schützen.
• Überwachung & Korrekturmaßnahmen: Versteckte Interaktionen, Überwachungsmittel (zu wenige vs. zu viele) => Potenzial für „falsche“ Korrekturmaßnahmen, die zu weiteren Ausfällen führen.