LLMOps·AgentOps 운영
모델 데모를 SLO와 복구가 있는 프로덕션 시스템으로
Control Plane과 Data Plane을 분리하고 프롬프트·모델·도구·정책·평가셋을 하나의 릴리즈 단위로 운영합니다. 평가, 온라인 가드레일, 관측성, 비용·지연, 실험, 인시던트를 연결해 AI 시스템의 변화와 실패를 통제합니다.
출처 · 핸드북 · LLMOps·AgentOps · 원문 검토 2026-07-01
0%
코스 진행률9개 학습 단계 기준
1. 아키텍처·버전·릴리즈
변경 주기와 실패 반경에 따라 제어면과 실행면을 분리합니다.
2. 평가와 온라인 가드레일
오프라인 점수와 실시간 사업 리스크 통제를 분리해 연결합니다.
3. 관측성·SLO·비용·지연
원인 재구성과 서비스 예산을 같은 trace schema에 연결합니다.
4. 실험과 인시던트
변경을 제한된 실험으로 만들고 실패를 학습 자산으로 되돌립니다.
최종 챌린지
코스에서 배운 내용을 업무에 재사용할 수 있는 산출물로 완성하세요.