# 문제의 원인을 다시 만들 수 있는가

> canonical trace, SLI/SLO, error budget와 cost per successful task

- Canonical: https://learning.reopt.ai/en/courses/llmops-agentops/lessons/lo-m3-concept
- Language: en
- HTML: https://learning.reopt.ai/en/courses/llmops-agentops/lessons/lo-m3-concept

---

[LLMOps & AgentOps](/en/courses/llmops-agentops) 3. 관측성·SLO·비용·지연 5 / 9

# 문제의 원인을 다시 만들 수 있는가

canonical trace, SLI/SLO, error budget와 cost per successful task
Concept 45 XP 9 min

로그 양보다 중요한 것은 사고가 났을 때 모델·프롬프트·도구·정책·승인 흐름을 재구성하는 속도입니다. 요청·모델·agent·tool·policy·trace의 필수 필드를 내부 canonical schema로 모으고, 품질·가용성·p95 지연·비용을 SLO로 운영합니다.
최적화 단위는 호출이 아니라 성공한 작업 캐시 적중률→프롬프트 길이→모델 라우팅→비동기 tool 순으로 최적화하고, 모델 비용과 search·container·MCP 같은 runtime 비용을 분리합니다.

| SLI | 예시 목표 | 초과 시 행동 |
| Availability | 99.9% | fallback·traffic shift |
| Quality | 95% 이상 | rollout hold·regression 분석 |
| Latency | p95 4초 | fast tier·cache·async 분리 |
| Cost/task | 월 예산 +10% 이내 | route·prompt·tool 비용 점검 |
| Policy failure | 0에 근접 | 제한 모드·incident |

- 1 Canonical schema trace_id와 모든 운영 버전·승인·도구 필드를 묶습니다.

- 2 SLO와 error budget 품질·가용성·지연·비용 목표를 업무별로 정합니다.

- 3 Pareto 최적화 quality·cost·latency의 효용 가중치를 명시합니다.

- 4 Action threshold 임계값 초과가 자동 알림·중단·routing 변경으로 이어지게 합니다.

실무에 남길 기준

- 평균보다 p95·p99와 상위 tenant·정책 실패 구간을 본다
- 외부 표준은 내부 canonical trace schema로 매핑하고 버전 관리한다
- 비용 최적화는 품질과 지연을 함께 보는 Pareto 문제다

[Previous](/en/courses/llmops-agentops/lessons/lo-m2-scenario) Got it · Continue

---

Site guide for agents: https://learning.reopt.ai/llms.txt · Sitemap: https://learning.reopt.ai/sitemap.xml · Contact: https://learning.reopt.ai/contact