메모리를 세 계층으로 나누는 이유
에이전트 메모리는 이제 에피소딕·시맨틱·프로시저럴 세 계층으로 나누는 방식이 표준 스코프로 확립됐습니다. 에피소딕은 특정 시점의 대화·실행 궤적을, 시맨틱은 사용자·도메인에 관한 사실을, 프로시저럴은 반복 가능한 작업 절차를 담습니다. 세 계층을 뭉뚱그리면 컨텍스트가 부풀고 회수 정확도가 떨어집니다. 계층을 분리하면 질의 시점에 필요한 조각만 골라 넣어, 프롬프트를 짧게 유지하면서 루프 재현성을 확보할 수 있습니다.
성공 궤적을 절차로 증류한다
MemP는 성공한 실행 궤적을 재사용 가능한 절차로 증류하는 접근입니다. 한 번 성공한 작업 흐름을 프로시저럴 메모리로 승격해, 다음 루프에서 같은 경로를 재현하게 만듭니다. 매번 탐색을 반복하지 않으므로 단계 수와 실패율이 줄고 재현성이 올라갑니다. 핵심은 무엇이든 저장하는 것이 아니라, 검증된 성공 궤적만 절차로 남기는 선별입니다.
컨텍스트 스터핑 대비 지연·비용
Mem0(2026.4) 기준으로 계층형 회수 메모리는 naive 컨텍스트 스터핑 대비 p95 지연을 91%, 토큰 비용을 90% 낮췄고, OpenAI 기본 메모리 대비 정확도를 26% 개선했습니다. 전체 이력을 매번 밀어 넣는 방식은 토큰과 지연을 함께 키우지만, 회수형 메모리는 관련 조각만 선택해 둘을 동시에 줄입니다.
A4 분량 상세 가이드: 기획부터 운영까지
기획 단계에서는 목표 지표를 수치로 고정합니다. 예를 들어 회수 정밀도 90% 이상, 절차 재사용 시 루프 통과율 기준선 대비 +10%p, p95 지연 상한, 저장 메모리의 PII 위반 0건을 둡니다. 계층별 승격 조건도 정의합니다. 에피소딕은 원본 궤적을, 시맨틱은 반복 확인된 사실만, 프로시저럴은 검증을 통과한 성공 궤적만 기록합니다.
실패 패턴은 유형별로 복구 분기를 둡니다. 회수 실패(관련 조각 미검색)는 질의 재작성 후 1회 재시도하고, 그래도 비면 계층 범위를 넓혀 재검색합니다. 오염된 절차(과거 성공이 현재 환경에서 실패)는 해당 프로시저럴 항목을 격리하고 에피소딕부터 재탐색합니다. 상충하는 사실(시맨틱 충돌)은 자동 병합하지 않고 사람 확인으로 넘깁니다. 회수 컨텍스트가 상한을 넘으면 안전 축약으로 최신·고신뢰 조각만 남기고, 신뢰도가 임계 미만이면 루프를 중단해 오답 확산을 막습니다.
운영 체크리스트에는 표준 로그를 강제합니다. 어떤 질의로 어느 계층에서 무엇을 회수했는지, 회수 히트·미스, 승격·격리 이벤트, 절차 재사용 여부를 모두 기록합니다. 저장 전 PII 마스킹을 적용하고, 마스킹에 실패한 항목은 저장하지 않습니다. 프로시저럴 항목에는 마지막 성공 시각과 통과율을 붙여, 오래되거나 통과율이 떨어진 절차를 재사용 후보에서 내립니다.
지속 개선 루프는 주간 단위로 계층별 회수 히트율과 절차 재사용률을 봅니다. 재사용률이 높은데 실패로 이어진 절차는 강등하고, 반복 회수되는 사실은 시맨틱으로 승격해 회수를 빠르게 합니다. 지표는 고정이 아니라 실제 통과율·위반 건수를 반영해 임계값을 계속 조정합니다.
실행 요약
정리하면 에이전트 메모리는 에피소딕·시맨틱·프로시저럴 세 계층으로 분리하는 것이 표준입니다. MemP처럼 검증된 성공 궤적만 절차로 증류하면 루프 재현성이 오르고, Mem0(2026.4) 기준 컨텍스트 스터핑 대비 p95 지연 91%·토큰 비용 90%를 절감합니다. 회수 실패·오염 절차·사실 충돌에 재시도·격리·사람 확인 분기를 두고, PII 마스킹과 표준 로그로 품질을 관리하면 값싸고 재현 가능한 메모리 루프를 유지할 수 있습니다.