AI Agents for Beginners - 9. Metacognition in AI Agents

AI Agents for Beginners - 9. Metacognition in AI Agents

출처: microsoft/ai-agents-for-beginners - 09-metacognition

What is Metacognition?

Importance of Metacognition
Mermaid
flowchart LR
    MC["Metacognition\n자신의 사고 과정 인식"]
    MC --> SR["Self-Reflection\n성능 평가·개선 영역 파악"]
    MC --> AD["Adaptability\n과거 경험 기반 전략 수정"]
    MC --> EC["Error Correction\n오류 자율 감지·수정"]
    MC --> RM["Resource Management\n시간·연산 자원 최적화"]

• "저렴한 항공편을 우선했는데… 직항편을 놓쳤을 수 있다. 다시 확인해보자."
• "사용자가 '너무 복잡하다'고 할 때마다 내가 인기도 기준으로 추천한 것이 문제였다."

Planning in Agents

Travel Agent Planning Flow
Mermaid
flowchart TD
    P1["1. Gather Preferences\n날짜·예산·관심사 수집"]
    --> P2["2. Retrieve Information\n항공·숙박·관광지 검색"]
    --> P3["3. Generate Recommendations\n개인화 일정 작성"]
    --> P4["4. Present to User\n일정 공유"]
    --> P5["5. Collect Feedback\n사용자 의견 수집"]
    --> P6["6. Adjust Based on Feedback\n일정 수정"]
    --> P7["7. Final Confirmation\n최종 확인"]
    --> P8["8. Book & Confirm\n예약 진행"]
    --> P9["9. Ongoing Support\n여행 중 지원"]

travel_agent_metacognition.py
python

Metacognition Loop
Mermaid
flowchart TD
    G["gather_preferences()\n선호도 초기화"]
    --> R["generate_recommendations()\n항공·숙박·관광지 검색 + 일정 생성"]
    --> U["사용자에게 일정 제공"]
    --> FB["User Feedback\n{liked, disliked}"]
    FB --> Adj["adjust_based_on_feedback()\nexperience_data 누적\n선호도 재조정"]
    Adj -->|"Updated Preferences"| R

Corrective RAG System

RAG Tool Calling vs Pre-Emptive Context Load
Mermaid
%%{init: {'look': 'handDrawn'}}%%
flowchart TD
    subgraph RAG["RAG Tool Calling"]
        direction TD
        LLM1["LLM"]
        LLM1 --> T1["Tool"]
        LLM1 --> T2["Tool"]
        LLM1 --> T3["Tool"]
        T1 & T2 & T3 --> R1["Response"]
    end

    subgraph PCL["Pre-Emptive Context Load"]
        direction TD
        LLM2["LLM"]
        LLM2 --> CTX["Context\n(쿼리 처리 전 제공)"]
        CTX --> R2["Response"]
    end

Corrective RAG 접근법

Corrective RAG 단계별 구현 예시

step1_preferences.py
python

step2_retrieve.py
python

step3_feedback.py
python

• Prompting Technique: 피드백을 반영해 새 검색 쿼리 작성

step4_prompting.py
python

• Tool: 업데이트된 선호도로 재검색 및 새 일정 생성

step4_tool.py
python

• Evaluation: 피드백을 선호도에 반영하는 지속 평가 함수

step4_evaluation.py
python

corrective_rag_travel_agent.py
python

Corrective RAG Travel Agent Flow
Mermaid
flowchart TD
    GP["gather_preferences()\n목적지·예산·관심사 저장"]
    --> GR["generate_recommendations()\nretrieve_information() 호출"]
    GR --> RT["search_flights + hotels + attractions"]
    RT --> CI["create_itinerary()"]
    CI --> SU["사용자에게 일정 제공"]
    SU --> FB["User Feedback\n{liked, disliked}"]
    FB --> AF["adjust_based_on_feedback()\nexperience_data.append(feedback)\nadjust_preferences() → 선호도 갱신"]
    AF -->|"Updated user_preferences"| GR

Corrective RAG 흐름

Corrective RAG Flow
Mermaid
flowchart TD
    User["사용자 입력\n목적지·예산·관심사"]
    --> Retrieve["정보 검색\n항공·숙박·관광지"]
    --> Gen["초기 일정 생성"]
    --> Feedback["사용자 피드백 수집"]
    Feedback --> Adjust{피드백 분석}
    Adjust -->|"disliked 항목"| NewQuery["쿼리 재작성\npreferences['avoid'] 추가"]
    NewQuery --> Retrieve
    Adjust -->|"만족"| Done["최종 일정 확정"]

Pre-emptive Context Load

preemptive_context.py
python

Pre-emptive Context Load Flow
Mermaid
flowchart TD
    Init["__init__()\nself.context 미리 로드\n{Paris, Tokyo, NY, Sydney}"]
    --> Query["사용자 목적지 쿼리"]
    --> Get["get_destination_info(destination)\nself.context.get(destination)"]
    Get --> Check{컨텍스트 존재?}
    Check -->|"Yes"| Hit["country·currency·language·attractions\n즉각 반환 (외부 검색 없음)"]
    Check -->|"No"| Miss["'정보 없음' 반환"]

Bootstrapping a Plan with a Goal Before Iterating

bootstrap_plan.py
python

Goal Bootstrapping Loop
Mermaid
flowchart TD
    Goal["명확한 목표 정의\n(예: 만족도 최대화, budget ≤ $2000)"]
    --> Bootstrap["bootstrap_plan\n목표·예산 기반 초기 계획 수립"]
    --> Execute["계획 실행"]
    --> Eval{결과 평가}
    Eval -->|"개선 가능"| Iterate["iterate_plan\n더 나은 목적지로 교체"]
    Iterate --> Execute
    Eval -->|"최적"| Done["최종 여행 계획 확정"]

Taking advantage of LLM for Re-ranking and Scoring

llm_reranking.py
python

LLM Re-ranking & Scoring Flow
Mermaid
flowchart TD
    Query["사용자 선호도\nactivity: sightseeing\nculture: diverse"]
    --> Retrieve["초기 후보 목록\n(Paris, Tokyo, NYC, Sydney)"]
    --> Prompt["generate_prompt()\n선호도 + 목적지 설명 포함"]
    --> LLM["LLM (Azure OpenAI)\n관련성·품질 평가"]
    LLM --> Rerank["Re-ranking\n가장 적합한 목적지 상위 정렬"]
    Rerank --> Score["Scoring\n각 후보에 점수 부여"]
    Score --> Result["최종 추천 목록\n(순위 + 점수 포함)"]

RAG: Prompting Technique vs Tool

rag_prompting_vs_tool.py
python

Evaluating Relevancy

relevancy_techniques.py
python

travel_agent_relevancy.py
python

Relevancy Evaluation Flow
Mermaid
flowchart TD
    Pref["User Preferences\n{destination, budget, interests}"]
    --> GenRec["generate_recommendations()\n일정 생성 시작"]
    GenRec --> Retrieve["retrieve_information()\n항공·숙박·관광지 검색"]
    Retrieve --> Rank["filter_and_rank(hotels)\nrelevance_score 기준 정렬 → 상위 10개"]
    Rank --> Score["relevance_score(item, query)\ncategory·price·location 매칭 점수"]
    Score --> Itin["create_itinerary()\n최종 일정 생성"]
    Itin --> FB["User Feedback\n{liked, disliked}"]
    FB --> Adjust["adjust_based_on_feedback()\nrelevance +1 / -1 조정"]
    Adjust -->|"다음 추천에 반영"| Rank

Search with Intent

search_with_intent.py
python

Intent-Aware Search Flow
Mermaid
zenuml
    title Intent-Aware Search Flow
    User->Agent: "best museums in Paris"
    Agent->IntentClassifier: identify_intent(query)
    IntentClassifier->Agent: "informational"
    Agent->ContextAnalyzer: analyze_context(query, user_history)
    ContextAnalyzer->Agent: current + history context
    Agent->SearchEngine: search informational query with preferences
    SearchEngine->Agent: raw results
    Agent->Personalizer: personalize_results(results, user_history)
    Personalizer->Agent: filtered top 10
    Agent->User: personalized recommendations

Generating Code as a Tool

step1_agent.py
python

step2_generate_code.py
python

step3_execute.py
python

step4_itinerary.py
python

step5_feedback_regen.py
python

Code Generating Agent Flow
Mermaid
flowchart TD
    S1["Step 1\ngather_preferences()\n사용자 선호도 수집"]
    --> S2["Step 2\ngenerate_code_to_fetch_data()\ngenerate_code_to_fetch_hotels()\n코드 동적 생성"]
    --> S3["Step 3\nexecute_code()\n생성된 코드 실행 → flights, hotels"]
    --> S4["Step 4\ngenerate_itinerary()\n항공·숙박·관광지 조합"]
    --> S5["Step 5\nadjust_based_on_feedback()\n선호도 갱신 → 코드 재생성·재실행"]
    S5 -->|"Updated Preferences"| S2

Leveraging Environmental Awareness and Reasoning

schema_awareness.py
python

Schema-Aware Feedback Adjustment Flow
Mermaid
flowchart TD
    FB["User Feedback\n{liked, disliked}"]
    SC["Schema\n{favorites·avoid: +/-/default}"]
    FB & SC --> AdjFn["adjust_based_on_feedback()\nfavorites·avoid 직접 갱신"]
    AdjFn --> Loop["schema 필드 순회"]
    Loop --> EnvFn["adjust_based_on_environment()\n필드별 조정값 결정"]
    EnvFn --> UPref["Updated Preferences"]
    UPref --> GenF["generate_code_to_fetch_data()"]
    UPref --> GenH["generate_code_to_fetch_hotels()"]
    GenF --> ExF["execute_code() → flights"]
    GenH --> ExH["execute_code() → hotels"]
    ExF & ExH --> Itin["generate_itinerary()\nUpdated Itinerary"]

Using SQL as a Retrieval-Augmented Generation (RAG) Technique

sql_as_rag.py
python

example_queries.sql
sql

SQL as RAG: Query Generation & Execution Flow
Mermaid
flowchart TD
    Pref["User Preferences\n{destination, budget, dates, interests}"]
    --> GenRec["generate_recommendations(preferences)"]
    GenRec --> FQ["generate_sql_query('flights')\nSELECT * FROM flights WHERE ..."]
    GenRec --> HQ["generate_sql_query('hotels')\nSELECT * FROM hotels WHERE ..."]
    GenRec --> AQ["generate_sql_query('attractions')\nSELECT * FROM attractions WHERE ..."]
    FQ --> EF["execute_sql_query()\n→ flight results"]
    HQ --> EH["execute_sql_query()\n→ hotel results"]
    AQ --> EA["execute_sql_query()\n→ attraction results"]
    EF & EH & EA --> Dict["{flights, hotels, attractions}\nItinerary Dict"]

Example of Metacognition

hotel_metacognition.py
python

Metacognition: Reflect & Adjust Loop
Mermaid
flowchart TD
    Start["초기 결정\nrecommend_hotel('cheapest')"]
    --> Eval["자기 반성\nreflect_on_choice()"]
    Eval --> Feedback{User Feedback}
    Feedback -->|"'bad'\nprice < 100 or quality < 7"| Switch["전략 전환\n'cheapest' → 'highest_quality'"]
    Switch --> Retry["재추천\nrecommend_hotel('highest_quality')"]
    Retry --> Eval
    Feedback -->|"'good'"| Done["추천 확정"]

• 초기 결정: cheapest 전략으로 Budget Inn 선택
• 자기 반성: quality 6 → "bad" 피드백 인식
• 전략 수정: 최종적으로 Luxury Stay 추천

Summary

Lesson 09 Summary
Mermaid
flowchart LR
    Root["Metacognition\nin AI Agents"]
    Root --> MC["메타인지 루프"]
    Root --> RAG["RAG 전략"]
    Root --> Search["Intent Search"]
    Root --> Code["Code Generation"]
    MC --> M1["Self-Reflection\n성능 평가"]
    MC --> M2["Error Detection\n오류 인식"]
    MC --> M3["Strategy Adjustment\n전략 수정"]
    RAG --> R1["Corrective RAG\n피드백 기반 재검색"]
    RAG --> R2["Pre-emptive Load\n사전 컨텍스트 로드"]
    RAG --> R3["SQL as RAG\n동적 쿼리 생성"]
    Search --> S1["Informational"]
    Search --> S2["Navigational"]
    Search --> S3["Transactional"]
    Code --> C1["generate_code\n동적 코드 생성"]
    Code --> C2["execute_code\n실행·결과 반영"]

• Metacognition은 에이전트가 자신의 의사결정 방식을 인식하고 수정하는 능력으로, 단순한 결과 수정이 아닌 추론 전략 자체의 개선입니다
• Corrective RAG는 사용자 피드백을 prefer/avoid로 반영해 쿼리를 재작성하고 재검색하는 반복적 자기 수정 루프를 구현합니다
• Pre-emptive Context Load는 알려진 도메인 정보를 미리 메모리에 로드해 외부 검색 없이 즉각 응답하는 방식으로, 속도가 중요할 때 유효합니다
• Intent-aware Search로 Informational·Navigational·Transactional 인텐트를 분류하면 키워드 매칭보다 훨씬 관련성 높은 결과를 제공합니다
• Code Generation + SQL as RAG로 에이전트가 동적으로 코드를 작성·실행해 실시간 데이터를 검색하고 복잡한 태스크를 자동화합니다