에이전트가 단순 챗봇과 결정적으로 달라지는 지점은 메모리다. 한 번의 요청을 처리하고 모든 것을 잊는 시스템은 자동화된 응답기에 가깝다. 진짜 에이전트는 이전 세션, 선호, 실패, 패턴을 기억하고 그것을 다음 행동에 반영한다.
현재 에이전트 메모리 구조는 크게 세 층으로 나뉜다. 세션 내 단기 컨텍스트, 파일·벡터 기반 중기 기억, 그리고 사용자 선호와 행동 패턴을 담는 장기 기억. 이 세 층을 어떻게 연결하고 언제 무엇을 불러올지 결정하는 로직이 에이전트의 실질적인 판단 구조가 된다.
session.context → retrieve.relevant → act → persist.delta흥미로운 점은 메모리 설계가 기술 문제이기 전에 정책 문제라는 것이다. 무엇을 얼마나 오래 기억할지, 사용자가 삭제를 요청하면 어떻게 처리할지. 이 질문들이 2026년 에이전트 시스템의 핵심 설계 경계가 되고 있다.