AI Agents for Beginners - 12. Context Engineering

AI Agents for Beginners - 12. Context Engineering

출처: microsoft/ai-agents-for-beginners - 12-context-engineering

What is Context Engineering?

Prompt Engineering vs Context Engineering

Types of Context

%%{init: {'look': 'default'}}%%
flowchart TD
    Agent["AI Agent\n컨텍스트 윈도우"]
    Agent --> I["Instructions\n프롬프트·시스템 메시지·few-shot·도구 설명"]
    Agent --> K["Knowledge\nRAG·DB·장기 기억"]
    Agent --> T["Tools\nAPI·MCP 서버·함수 결과"]
    Agent --> CH["Conversation History\n멀티턴 대화 이력"]
    Agent --> UP["User Preferences\n선호·습관·피드백"]

Strategies for Effective Context Engineering

1. Define Clear Results — AI Agent가 맡게 될 태스크의 결과를 명확히 정의. "에이전트가 완료했을 때 세상은 어떤 모습인가?"라는 질문에 답해야 합니다.
2. Map the Context — 결과를 정의한 후 "에이전트가 이 태스크를 완료하려면 어떤 정보가 필요한가?"를 파악하여 정보 위치를 매핑.
3. Create Context Pipelines — 정보가 어디 있는지 알았다면 "에이전트가 이 정보를 어떻게 얻을 것인가?"를 결정. RAG, MCP 서버, 다른 도구 활용.

%%{init: {'look': 'default'}}%%
flowchart LR
    R["Define Clear Results\n결과 명확히 정의"] --> M["Map the Context\n필요 정보 위치 매핑"]
    M --> P["Create Context Pipelines\nRAG·MCP·Tool로 정보 전달"]
    P --> Agent["AI Agent\n적절한 컨텍스트 보유"]

Planning Strategies

Managing Context

%%{init: {'look': 'default'}}%%
flowchart TD
    CW["컨텍스트 윈도우\n(제한된 크기)"]
    CW -->|"단일 세션 임시 저장"| SP["Agent Scratchpad\n파일·런타임 객체"]
    CW -->|"세션 간 장기 보존"| MEM["Memories\n요약·선호·피드백"]
    CW -->|"윈도우 한계 시"| COMP["Compressing Context\n요약·트리밍"]
    CW -->|"복잡한 병렬 작업"| MAS["Multi-Agent Systems\n독립 컨텍스트 분산"]
    CW -->|"코드·대용량 처리"| SBX["Sandbox Environments\n결과만 반환"]
    CW -->|"다단계 워크플로우"| RSO["Runtime State Objects\n서브태스크 결과 컨테이너"]

Example of Context Engineering

• 캘린더에서 가능한 날짜를 실시간으로 조회
• 장기 기억에서 선호 항공사·예산·직항 선호 여부를 회상
• 항공편·호텔 예약에 필요한 도구를 파악

Common Context Failures

Context Poisoning

%%{init: {'look': 'default'}}%%
flowchart TD
    LLM["LLM 응답\n(항공편 정보 포함)"] --> V{"실시간 API 검증"}
    V -->|"검증 성공"| CTX["컨텍스트에 추가\n정상 진행"]
    V -->|"검증 실패\n환각 감지"| Q["격리(Quarantine)\n컨텍스트 차단"]
    Q --> Fresh["새 컨텍스트 스레드\n오염 방지"]

Context Distraction

%%{init: {'look': 'default'}}%%
flowchart LR
    Long["긴 대화 이력\n(비관련 내용 포함)"] -->|"임계값 초과"| Sum["컨텍스트 요약\n현재 목표·관련 세부정보만"]
    Sum --> Next["다음 LLM 호출\n압축된 요약 사용"]
    Next --> Focused["집중된 응답\n현재 요청에 적합"]

Context Confusion

%%{init: {'look': 'default'}}%%
flowchart TD
    Query["사용자 쿼리\n'파리에서 이동 방법?'"] --> RAG["RAG over Tool Descriptions\n벡터 DB에서 관련 도구 선택"]
    RAG --> Focused["집중된 도구 세트\nrent_car, public_transport_info"]
    Focused --> LLM["LLM\n적절한 도구 호출"]
    LLM --> Response["정확한 응답"]

Context Clash

%%{init: {'look': 'default'}}%%
flowchart TD
    Old["이전 지시문\n'이코노미 클래스'"] --> Conflict{"상충 감지\n새 지시문 도착"}
    New["새 지시문\n'비즈니스 클래스'"] --> Conflict
    Conflict -->|"Context Pruning"| Prune["이전 지시문 제거\n새 지시문만 유지"]
    Conflict -->|"Scratchpad"| Scratch["스크래치패드에서 조율\n최종 일관된 지시 결정"]
    Prune & Scratch --> Clean["일관된 컨텍스트\n에이전트 정상 동작"]

Chat History Reduction with Agent Scratchpad

• 각 사용자 메시지와 어시스턴트 응답으로 토큰 수가 선형으로 증가
• 전체 이력을 매번 재전송하므로 프롬프트 토큰이 비용의 대부분 차지
• 결국 대화가 컨텍스트 윈도우를 초과하면 모델이 잘라내거나 오류 발생

Creating a Context-Aware Agent

context_aware_agent.py
python

Simulating a Long Conversation

long_conversation.py
python

%%{init: {'look': 'default'}}%%
flowchart TD
    T1["Turn 1\n일본·스시·사원·사진"] --> T2["Turn 2\n예산 $3000·솔로·10일·4월"]
    T2 --> T3["Turn 3\n컨텍스트 보존 테스트"]
    T3 --> T4["Turn 4\n숙박: 전통 일본 료칸"]
    T4 --> T5["Turn 5\n날짜 변경: 10월 단풍"]
    T5 --> T6["Turn 6\n전체 요약 요청"]
    T1 & T2 & T4 & T5 -->|"누적 컨텍스트"| CTX["컨텍스트 윈도우\n(점점 증가)"]
    CTX -->|"짧은 대화: 정상"| T6

Context Summarization Pattern

1. 에이전트가 대화에서 핵심 사실을 파악
2. 요약 도구를 호출해 영구 저장
3. 요약이 핵심을 포착하므로 오래된 메시지를 안전하게 제거 가능

summarization_tool.py
python

summarization_demo.py
python

%%{init: {'look': 'default'}}%%
flowchart TD
    Conv["멀티턴 대화\n선호·예산·날짜·관심사 누적"] --> Agent["SummarizingTravelAgent"]
    Agent -->|"핵심 사실 파악"| Tool["summarize_preferences()\n압축 요약 저장"]
    Tool --> Sum["[SUMMARY] User preferences recorded: ..."]
    Sum -->|"오래된 메시지 제거 가능"| Trim["컨텍스트 윈도우 축소"]
    Trim --> Next["다음 LLM 호출\n요약 기반 응답"]
    Next -->|"지속적 연속성"| User["사용자\n이전 맥락 유지된 응답"]

vacation_agent_scratchpad.md
markdown

Summary

%%{init: {'look': 'default'}}%%
flowchart LR
    Root["Context\nEngineering"]
    Root --> PE["vs Prompt Eng.\n정적 vs 동적"]
    Root --> Types["Types of Context\n5가지 소스"]
    Root --> Plan["Planning\nStrategies"]
    Root --> Mgmt["Managing\nContext\n6가지 전략"]
    Root --> Fail["Common\nFailures"]
    Types --> I["Instructions"]
    Types --> K["Knowledge"]
    Types --> T["Tools"]
    Types --> CH["Conversation\nHistory"]
    Types --> UP["User Preferences"]
    Plan --> P1["Define Clear Results"]
    Plan --> P2["Map the Context"]
    Plan --> P3["Create Pipelines"]
    Mgmt --> M1["Scratchpad"]
    Mgmt --> M2["Memories"]
    Mgmt --> M3["Compression"]
    Mgmt --> M4["Multi-Agent"]
    Mgmt --> M5["Sandbox"]
    Mgmt --> M6["Runtime State"]
    Fail --> F1["Poisoning\n환각 전파"]
    Fail --> F2["Distraction\n이력 과집중"]
    Fail --> F3["Confusion\n도구 과부하"]
    Fail --> F4["Clash\n정보 충돌"]

• Context Engineering은 Prompt Engineering을 넘어 에이전트가 시간에 따라 필요한 동적 정보를 갖추도록 반복 가능하고 신뢰할 수 있는 프로세스를 구축하는 것
• 컨텍스트는 Instructions·Knowledge·Tools·Conversation History·User Preferences의 다섯 가지 유형으로 구성
• Planning Strategies(결과 정의 → 컨텍스트 매핑 → 파이프라인 생성)와 6가지 실용 전략(Scratchpad·Memories·Compression·Multi-Agent·Sandbox·Runtime State)으로 효과적으로 관리
• Context Poisoning·Distraction·Confusion·Clash 네 가지 Context Failures를 인식하고 검증·요약·RAG·프루닝으로 해결
• Chat Summarization + Agent Scratchpad 패턴으로 긴 대화에서도 컨텍스트 연속성을 유지하면서 토큰 비용을 절감