Zero-Mem: Zero-Token Memory Operations for LLM Agents
LLM 에이전트가 장기적인 상호작용에서 일관성을 유지하기 위해 메모리가 필요하지만, 기존 시스템은 메모리 관리를 위해 추가적인 LLM 호출을 사용하며 이는 토큰과 시간 비용을 발생시킵니다. 이러한 중간 기록 생성 및 검색 과정은 원본 증거를 모호하게 만들 수 있다는 문제가 제기되었습니다.
Zero-Mem은 이러한 문제를 해결하기 위해 중간 표현을 생성하지 않고도 구조화된 메모리 접근을 수행하는 제로 토큰 메모리 연산을 도입합니다. 이 방법은 최종 질문 답변 단계 외에는 LLM을 호출하거나 LLM 입력 및 출력 토큰을 소비하지 않으며, 메모리 연산의 시간 비용을 기존 최적화된 기준 대비 57.6% 절감합니다.
Zero-Mem은 상호작용 흔적을 엔티티-컨텍스트 그래프와 시간적 계층이라는 두 가지 보완적인 방식으로 조직하여 메모리를 보존합니다. 이 구조를 통해 시스템은 두 관점을 모두 활용하여 관련 정보를 검색하고, 충돌하는 증거를 제거한 후 답변을 도출합니다.
연구 결과는 구조화된 에이전트 메모리가 과거의 중간 표현을 생성할 필요가 없음을 보여주며, 이는 LLM 호출과 토큰 소비 없이도 경쟁력 있는 성능을 달성할 수 있음을 시사합니다. 이는 장기 기억 및 장기 컨텍스트 질문 답변 벤치마크에서 LLM 호출과 메모리 연산에서 발생하는 토큰 소비를 제거하면서 메모리 연산 시간을 크게 줄이는 데 기여합니다.
Zero-Mem은 이러한 문제를 해결하기 위해 중간 표현을 생성하지 않고도 구조화된 메모리 접근을 수행하는 제로 토큰 메모리 연산을 도입합니다. 이 방법은 최종 질문 답변 단계 외에는 LLM을 호출하거나 LLM 입력 및 출력 토큰을 소비하지 않으며, 메모리 연산의 시간 비용을 기존 최적화된 기준 대비 57.6% 절감합니다.
Zero-Mem은 상호작용 흔적을 엔티티-컨텍스트 그래프와 시간적 계층이라는 두 가지 보완적인 방식으로 조직하여 메모리를 보존합니다. 이 구조를 통해 시스템은 두 관점을 모두 활용하여 관련 정보를 검색하고, 충돌하는 증거를 제거한 후 답변을 도출합니다.
연구 결과는 구조화된 에이전트 메모리가 과거의 중간 표현을 생성할 필요가 없음을 보여주며, 이는 LLM 호출과 토큰 소비 없이도 경쟁력 있는 성능을 달성할 수 있음을 시사합니다. 이는 장기 기억 및 장기 컨텍스트 질문 답변 벤치마크에서 LLM 호출과 메모리 연산에서 발생하는 토큰 소비를 제거하면서 메모리 연산 시간을 크게 줄이는 데 기여합니다.