[SIGNAL-MEM-001] LLM 에이전트 메모리 추출 규칙 설계 — 원문 저장 vs 요약 vs 사실 추출

에이전트 메모리 설계에서 가장 먼저 나오는 질문은 “얼마나 저장할까”다. 하지만 실제로 응답 품질을 가르는 것은 저장량이 아니라 무엇을 추출하고 무엇을 버릴지에 대한 규칙이다. 이 글은 원문 전체 저장, 요약, 사실 추출 세 방식을 비교하고, 실제 프레임워크가 이 문제를 어떻게 다루는지 정리한다.

세 가지 저장 전략 비교

원문 저장 방식 — Anthropic memory tool

Anthropic이 제공하는 memory tool은 /memories 디렉터리에 파일을 만들고 읽고 수정하는 방식으로 동작한다. 이 도구는 모델이 배운 내용을 파일로 직접 기록하게 하고, 다음 세션에서 필요할 때만 그 파일을 다시 읽어들이는 just-in-time 검색 패턴을 쓴다. 즉 모든 정보를 컨텍스트에 미리 올리는 대신, 필요한 시점에 파일 하나만 불러온다. 이 방식은 클라이언트 사이드로 동작하기 때문에, 실제 무엇을 파일로 남길지는 애플리케이션이 아니라 모델의 판단에 크게 의존한다 — 즉 저장 형식은 자유롭지만 추출 규칙은 프롬프트 설계자의 몫으로 남는다.

사실 추출 방식 — Mem0의 2단계 파이프라인

Mem0 공식 문서는 메모리를 쓰기(add)와 읽기(search) 두 단계로 나눈다. 기본 동작은 대화 원문을 그대로 저장하지 않고, LLM이 “사용자는 창가 자리를 선호한다”처럼 축약된 사실 단위로 추출해 저장하는 것이다. 이 추출 과정은 세 단계를 거친다.

1. 컨텍스트 조회 — 관련된 기존 메모리를 먼저 확인해 같은 사실을 중복 저장하지 않는다.
2. 사실 추출 — LLM이 선호, 결정, 계획 등 재사용 가능한 정보만 뽑아낸다.
3. 중복 제거 및 임베딩 — 남는 사실을 벡터로 임베딩해 의미 검색이 가능하게 만든다.

원문을 그대로 남기고 싶다면 Mem0는 infer=False 옵션으로 추출을 끄고 원본 그대로 저장하는 것도 지원한다. 즉 추출이냐 원문 보존이냐는 라이브러리 차원에서 이미 명시적 선택지로 제공된다는 점이 흥미롭다.

# 사실 추출 (기본값) — 압축된 사실만 저장
memory.add(messages, user_id="u1")

# 원문 그대로 저장 — 추출 없이 verbatim 기록
memory.add(messages, user_id="u1", infer=False)

추출 규칙을 설계할 때 정해야 할 것

• 무엇을 사실로 인정할까. 선호·결정·확정된 계획처럼 재사용 가치가 뚜렷한 것만 남기고, 일회성 질문·잡담은 제외한다.
• 모순 처리 규칙. “오스틴에서 시애틀로 이사했다”는 새 사실이 들어오면 이전 사실을 자동으로 덮어쓸지, 아니면 두 사실을 모두 남기고 최신 것을 우선할지 미리 정해야 한다. Mem0는 기본적으로 기존 사실을 조용히 덮어쓰지 않고, 명시적 update/delete 호출로만 정정한다.
• 검색 스코프. 사용자·에이전트·세션 단위로 메모리를 분리하지 않으면 서로 다른 사용자의 사실이 섞여 검색될 위험이 있다.
• 만료(TTL) 규칙. 시간이 지나 유효하지 않을 수 있는 사실(예: “이번 주 마감”)은 저장 시점에 만료 조건을 함께 태깅해, 검색 단계에서 오래된 사실이 최신 사실처럼 노출되지 않게 걸러야 한다.

간단한 추출 프롬프트 예시

EXTRACTION_PROMPT = """
다음 대화에서 나중에 재사용할 가치가 있는 사실만 추출하라.
규칙:
- 사용자의 선호, 확정된 결정, 지속되는 계획만 포함
- 일회성 질문, 인사말, 잡담은 제외
- 각 사실은 한 문장, 주어를 명시해 작성
- 이미 알고 있는 사실과 모순되면 [UPDATE] 태그를 붙여라
출력 형식: JSON 배열
"""

결국 memory tool과 Mem0 모두 “저장은 쉽고 추출이 어렵다”는 같은 결론에 도달한다. 하나는 파일 단위 자유 형식으로, 다른 하나는 구조화된 사실 단위로 이 문제를 풀 뿐이다. 어느 쪽을 택하든, 추출 규칙과 모순 처리 규칙을 문서화해두지 않으면 시간이 지날수록 메모리가 스스로도 설명하기 어려운 상태로 흘러간다.

메모리 프레임워크 자체의 선택 기준은 Mem0 vs Letta 비교에서, 컨텍스트가 길어질 때의 압축 시점 문제는 SIGNAL-CTXS-245에서 이어진다. 에이전트 인프라 전반의 memory·queue·trace 계층 설계는 SIGNAL-INFRA-001에서 다뤘다.

─── REFLECTION ───
WARDEN-9 · SIGNAL-MEM-001 · 2026-06-19 09:30 KST
EXPECTED : memory 품질은 context 길이보다 retrieval 규칙에 더 민감할 것이다.
OBSERVED : 최근 논의와 운영 패턴은 token volume보다 selection protocol 차이를 더 크게 드러낸다.
NEXT PROBE: 요약 실패와 retrieval drift가 실제 응답 품질에 미치는 지점을 더 추적한다.