AI Agents for Beginners - 10. AI Agents in Production: Observability & Evaluation

AI Agents for Beginners - 10. AI Agents in Production: Observability & Evaluation

출처: microsoft/ai-agents-for-beginners - 10-ai-agents-production

Traces and Spans

Trace & Span Hierarchy
Mermaid
flowchart TD
    T["Trace\n전체 에이전트 태스크\n(사용자 쿼리 처리)"]
    T --> S1["Span: LLM Call\n모델 추론"]
    T --> S2["Span: Tool Call\nget_flight_info()"]
    T --> S3["Span: Tool Call\nget_activity_suggestions()"]
    T --> S4["Span: LLM Call\n최종 응답 생성"]
    S1 -->|"latency, tokens"| M1["Metrics"]
    S2 -->|"latency, result"| M2["Metrics"]
    S3 -->|"latency, result"| M3["Metrics"]
    S4 -->|"latency, tokens"| M4["Metrics"]

Why Observability Matters in Production Environments

Key Metrics to Track

Instrument your Agent

OpenTelemetry

otel_instrumentation.py
python

Manual Span Creation

manual_span_langfuse.py
python

Building an Observable Agent

setup.py
python

travel_tools.py
python

observable_agent.py
python

Observable Agent Flow
Mermaid
flowchart LR
    User["User Query\n'Plan a day trip in Paris'"]
    --> Timer["start_time = time.time()"]
    --> Agent["TravelAgent"]
    Agent --> F["get_flight_info('Paris')"]
    Agent --> A["get_activity_suggestions('Paris')"]
    F & A --> LLM["LLM\n응답 종합"]
    LLM --> Stop["elapsed = time.time() - start_time"]
    Stop --> Out["Response (elapsed s)\n+ 프로덕션: OTel 백엔드 전송"]

Agent Evaluation

Offline Evaluation

• 장점: 반복 가능하고 ground truth가 있어 명확한 정확도 메트릭 확보
• 핵심 과제: 테스트 데이터셋을 포괄적으로 유지하고 실제 시나리오로 지속 업데이트

Online Evaluation

• 장점: 실험실 환경에서 예상하지 못한 것들을 포착 — 모델 드리프트, 예상치 못한 쿼리 패턴
• 방법: 암묵적·명시적 사용자 피드백 수집, shadow test, A/B 테스트

Combining the two

Evaluation Loop
Mermaid
flowchart LR
    OE["Offline Evaluation\n테스트 데이터셋으로 평가"]
    --> Deploy["Deploy\n프로덕션 배포"]
    --> OL["Online Monitoring\n실제 사용자 상호작용 추적"]
    --> Collect["Collect Failures\n새 실패 케이스 수집"]
    --> Add["Offline Dataset 보강\n엣지 케이스·신규 패턴 추가"]
    --> Refine["Refine Agent\n프롬프트·모델·로직 개선"]
    Refine --> OE

Evaluation Patterns

evaluator_agent.py
python

Evaluator Agent Pattern
Mermaid
flowchart TD
    User["User Query"]
    --> Primary["Primary Agent\n(TravelAgent)"]
    Primary --> Resp["Agent Response"]
    Resp --> Eval["Evaluator Agent\n(ResponseEvaluator)"]
    Eval --> Score["Scores\nCompleteness · Accuracy · Helpfulness · Overall"]
    Score --> Gate{품질 기준 통과?}
    Gate -->|"Pass"| Deliver["사용자에게 전달"]
    Gate -->|"Fail"| Flag["플래그 → 개선·재시도"]

Common Issues

Managing Costs

Cost Management: Router Model Strategy
Mermaid
flowchart TD
    Req["User Request"]
    --> Router["Router Model\n(LLM/SLM/serverless)"]
    Router --> Complexity{복잡도 분류}
    Complexity -->|"Simple\n인텐트 분류·파라미터 추출"| SLM["SLM\n(GPT-4o-mini 등)\n저비용·고속"]
    Complexity -->|"Complex\n복잡한 추론·계획"| LLM["Large Model\n(GPT-4o 등)\n고성능"]
    Complexity -->|"Cached\n자주 묻는 질문"| Cache["Cache\n즉시 응답\n비용 0"]
    SLM & LLM & Cache --> Response["Final Response"]

Lets see how this works in practice

Define Expense Models

expense_models.py
python

Defining Tools

expense_tools.py
python

Processing Expenses

expense_workflow.py
python

Expense Claim Workflow
Mermaid
flowchart LR
    Receipt["receipt.jpg\n영수증 이미지"]
    --> OCR["OCRAgent\nload_receipt_image()\n이미지 → base64 인코딩"]
    OCR --> Parse["영수증 텍스트 분석\ndate|description|amount|category\n세미콜론 구분 형식"]
    Parse --> Email["EmailAgent\ngenerate_expense_email()\nExpenseFormatter.parse_expenses()"]
    Email --> Mail["경비 청구 이메일\nDear Finance Team...\nTotal Amount: $xxx"]

Summary

Lesson 10 Summary
Mermaid
flowchart LR
    Root["AI Agents\nin Production"]
    Root --> Obs["Observability"]
    Root --> Eval["Evaluation"]
    Root --> Cost["Cost Management"]
    Obs --> O1["Traces & Spans"]
    Obs --> O2["Key Metrics\nLatency·Cost·Error·Feedback"]
    Obs --> O3["OpenTelemetry\n+ Manual Spans"]
    Eval --> E1["Offline Evaluation\n통제된 테스트 데이터셋"]
    Eval --> E2["Online Evaluation\n실제 사용자 모니터링"]
    Eval --> E3["Evaluator Agent\n자동 품질 스코어링"]
    Cost --> C1["Smaller Models (SLM)"]
    Cost --> C2["Router Model"]
    Cost --> C3["Caching"]

• Traces & Spans로 에이전트를 "블랙박스"에서 "글래스박스"로 전환해 디버깅·최적화를 가능하게 합니다
• Latency·Cost·Request Errors·User Feedback 등 핵심 메트릭을 추적해 에이전트 건강 상태를 종합적으로 파악합니다
• Offline Evaluation으로 배포 전 기준선을 확보하고, Online Evaluation으로 실제 환경의 드리프트와 예상치 못한 패턴을 포착합니다
• Evaluator Agent 패턴으로 주 에이전트 응답을 자동 품질 게이팅해 회귀를 방지합니다
• Router Model·SLM·Caching으로 비용을 관리하면서 필요한 태스크에 고성능 모델을 유지합니다