AI Agents for Beginners - 13. Memory for AI Agents

AI Agents for Beginners - 13. Memory for AI Agents

출처: microsoft/ai-agents-for-beginners - 13-agent-memory

Understanding AI Agent Memory

Why is Memory Important?

Types of Memory

%%{init: {'look': 'default', 'flowchart': {'subGraphTitleMargin': {'top': 12, 'bottom': 6}}, 'themeVariables': {'clusterBkg': '#e8efff28', 'clusterBorder': '#aabbcc'}}}%%
flowchart LR
    Root["Memory Types"]
    Root --> WM["Working\nMemory"]
    Root --> ST["Short-term\nMemory"]
    Root --> LT["Long-term\nMemory"]
    Root --> PM["Persona\nMemory"]
    Root --> EM["Episodic\nMemory"]
    Root --> ENT["Entity\nMemory"]
    Root --> SR["Structured\nRAG"]

Implementing and Storing Memory

Specialized Memory Tools

Mem0

Cognee

Storing Memory with RAG

Working Memory with Sessions

setup.py
python

working_memory.py
python

new_session.py
python

%%{init: {'look': 'default'}}%%
flowchart LR
    U1["사용자: '해변 좋아해, 예산 $3000'"] -->|"session"| A["TravelMemoryAgent"]
    U2["사용자: '내 예산이 얼마라고 했지?'"] -->|"same session"| A
    A -->|"이전 턴 참조"| R["$3000 정확히 회상"]

    U3["사용자: '내 예산이 얼마야?'"] -->|"new_session"| B["TravelMemoryAgent\n(새 세션)"]
    B -->|"이전 대화 없음"| NR["모름 — 새 세션"]

Long-Term Memory Pattern

memory_tools.py
python

%%{init: {'look': 'default'}}%%
flowchart LR
    subgraph Agent["MAF Agent (LLM)"]
        direction TB
        LLM["LLM"]
    end
    subgraph Tools["@tool functions"]
        direction TB
        SP["save_preference()"]
        GP["get_preferences()"]
        SH["search_hotels()"]
    end
    subgraph Store["Preference Store (dict)"]
        direction TB
        PS["user_id → [prefs]"]
    end
    LLM -->|"call"| Tools
    SP & GP --> PS
    PS -->|"persists across\nsessions"| PS
    SH -->|"hotel DB"| LLM

Scenario 1 — First-time user books an anniversary trip

scenario1_session1.py
python

scenario1_session1_followup.py
python

Scenario 2 — Sarah returns weeks later

scenario2_session2.py
python

scenario2_followup.py
python

%%{init: {'look': 'default'}}%%
flowchart TD
    subgraph S1["Session 1 — First Visit"]
        U1["Sarah: '로맨틱·스파·접근 가능\n예산 $700-800/박'"]
        U2["Sarah: '채식·견과류 알레르기'"]
        U1 & U2 -->|"save_preference()"| STORE["preference_store\n['romantic', 'spa', 'accessible',\n 'vegetarian', 'nut allergy']"]
    end
    subgraph S2["Session 2 — Returns Weeks Later"]
        U3["Sarah: '호텔 추천해줘'\n(새 세션, working memory 없음)"]
        U3 -->|"get_preferences()"| STORE
        STORE -->|"저장된 선호 반환"| A2["TravelBookingAssistant\n개인화된 추천"]
    end

Storing Memory with Cognee Knowledge Graphs

Part 1 — Building the Knowledge Base

cognee_setup.py
python

cognee_data.py
python

cognee_ingest.py
python

%%{init: {'look': 'default'}}%%
flowchart TD
    D1["Developer Profile\n(developer_intro)"]
    D2["Past Conversations\n(human_agent_conversations)"]
    D3["Python Principles\n(python_zen_principles)"]
    D1 & D2 -->|"cognee.add(node_set=['developer_data'])"| ADD["cognee.add()"]
    D3 -->|"cognee.add(node_set=['principles_data'])"| ADD
    ADD -->|"cognee.cognify()"| KG["Knowledge Graph\n+ Vector Embeddings"]
    KG -->|"cognee.memify()"| Rules["Enriched Memory\n패턴·규칙·관계"]
    KG -->|"visualize_graph()"| HTML["cognee_graph.html\n인터랙티브 시각화"]

Part 2 — MAF Agent with Cognee Tools

cognee_tools.py
python

cognee_agent.py
python

%%{init: {'look': 'default'}}%%
flowchart LR
    subgraph MAF["MAF Agent (AgentSession)"]
        direction TB
        LLM2["CodingAssistant\n(LLM)"]
        Sess["create_session()\nWorking Memory"]
        LLM2 <--> Sess
    end
    subgraph CogneeTools["@tool functions"]
        direction TB
        SK["search_knowledge()\nGRAPH_COMPLETION"]
        SP2["search_principles()\nprinciples_data만"]
    end
    subgraph KG2["Cognee Knowledge Graph"]
        direction TB
        VEC["Vector Embeddings"]
        GR["Graph Relations"]
    end
    LLM2 -->|"call"| CogneeTools
    CogneeTools -->|"cognee.search()"| KG2
    KG2 -->|"관련 지식 반환"| LLM2

Making AI Agents Self-Improve

1. Identify valuable information: 대화의 어느 부분이 일반 지식이나 특정 사용자 선호로 저장할 가치가 있는지 판단
2. Extract and summarize: 대화에서 필수 학습이나 선호를 추출·요약
3. Store in a knowledge base: 추출된 정보를 벡터 데이터베이스 등에 저장
4. Augment future queries: 사용자가 새 쿼리를 시작할 때 관련 저장 정보를 검색해 사용자 프롬프트에 추가 (RAG와 유사)

%%{init: {'look': 'default'}}%%
flowchart TD
    User["사용자"] -->|"새 쿼리"| KA["Knowledge Agent\n(옵저버)"]
    KA -->|"관련 지식 검색\n(RAG)"| VDB["Vector DB\n지식 베이스"]
    VDB -->|"저장된 컨텍스트 추가"| PA["Primary Agent\n주 에이전트"]
    PA -->|"응답"| User
    PA -->|"대화 관찰"| KA
    KA -->|"가치 있는 정보\n추출·요약·저장"| VDB

Optimizations for Memory

Summary

%%{init: {'look': 'default'}}%%
flowchart LR
    Root["Memory for\nAI Agents"]
    Root --> Types["Memory Types"]
    Root --> Tools["Memory Tools"]
    Root --> Pattern["Self-Improving\nPattern"]

    Types --> T1["Working\ncreate_session()"]
    Types --> T2["Short-term\n세션 내 컨텍스트"]
    Types --> T3["Long-term\n@tool 영구 저장소"]
    Types --> T4["Persona·Episodic\nEntity·Structured RAG"]

    Tools --> TL1["Mem0\n추출+업데이트 파이프라인"]
    Tools --> TL2["Cognee\n지식 그래프+벡터"]
    Tools --> TL3["Azure AI Search\nStructured RAG 백엔드"]

    Pattern --> P1["Knowledge Agent\n대화 관찰·추출"]
    Pattern --> P2["RAG Augmentation\n미래 쿼리에 컨텍스트 추가"]

• agent.create_session()으로 working memory 제공 — 에이전트가 세션 내 전체 대화 이력을 확인
• 새 세션은 컨텍스트를 잃습니다 — 장기 메모리 없이는 에이전트가 과거 대화를 회상할 수 없음
• @tool 함수가 간극을 메웁니다 — 에이전트가 영구 저장소에서 정보를 저장·검색
• Mem0: 두 단계 파이프라인(추출→업데이트)으로 stateless 에이전트를 stateful로 전환
• Cognee: 지식 그래프 + 벡터 임베딩으로 관계 인식 장기 메모리 — GRAPH_COMPLETION 검색으로 개념 간 관계까지 이해
• 저장된 선호·이력이 많을수록 에이전트 추천이 정교해지는 자기 개선(self-improving) 루프 형성