Простыми словами
Успешное завершение опасной операции воспринимается как подтверждение качества, хотя реальная причина могла быть в удаче или запасе системы. Граница нормы сдвигается после каждого «ничего не произошло».
Механизм действия
Сначала проверяют, есть ли исходное условие из определения. Затем смотрят, как оно влияет на структуру компонентов, потоки данных, ограничения и действия участников. Если эту связь не удаётся наблюдать, принцип не стоит использовать как готовое объяснение.
Пример в работе
Закрывать предупреждение словами «так уже делали много раз».
Отслеживать повторяющиеся исключения, отделять отсутствие аварии от доказательства безопасности и регулярно пересматривать допуски.
Ограничения
«Нормализация отклонений» объясняет только часть происходящего в области «Надежность и SRE». Сам принцип не говорит, насколько сильным будет эффект в вашем случае, и не заменяет измерения. При другом масштабе, среде или временном горизонте результат может отличаться.
Источник
Diane Vaughan, The Challenger Launch Decision, 1996.