Agentic test-environment engineering
3. Flake와 Evidence 운영5 / 9

Flake는 환경에서 새는 비결정성

taxonomy, quarantine, SLA, normalizer와 evidence completeness

Concept 45 XP 9 min

Flake를 “가끔 실패”라는 한 bucket에 넣으면 owner를 찾을 수 없습니다. timing·locator·data·environment·external·async·model variance로 분류하고, retry/pass 패턴을 탐지 신호로 사용하되 해결로 간주하지 않습니다.

분류대표 원인우선 owner
Timing/Locatorwait·animation·contract drift제품팀·QA platform
Data/Environmentseed·계정·infra·quotaPlatform·SRE
External/Asyncsandbox·provider·queue 지연Integration owner
Model varianceprompt·model·tool timingAI platform
  1. 정규화모든 runner 결과를 공통 failure vocabulary로 바꿉니다.
  2. 분류·owner증상·환경·artifact로 원인 bucket과 담당을 정합니다.
  3. Quarantine 결정gate 위험, 빈도, SLA를 기준으로 격리합니다.
  4. 재활성 추적수정 뒤 2주 동안 재발과 evidence를 관찰합니다.