New agentic memory framework uses 118K tokens per query. LangMem burns through 3.26M.

National University of Singapore 연구진은 정적 retrieve-then-reason 방식 대신, LLM의 추론 과정에서 증거를 누적하며 기억을 재구성하는 MRAgent를 제안했습니다. 기존 vector search와 graph traversal 기반 검색은 맥락 창을 불필요한 정보로 채우고 중간 추론에 따라 검색 전략을 바꾸기 어렵지만, MRAgent는 다단계 메모리 재구성을 통해 쿼리당 token 사용량과 런타임 비용을 크게 낮췄습니다.

이번 연구는 장기 과제에서 단순한 context window 확장이나 top-k retrieval만으로는 AI 에이전트의 비용·정확도 문제를 해결하기 어렵다는 점을 보여줍니다. agentic memory가 정적 데이터베이스 조회에서 동적 기억 재구성으로 이동하면서, 향후 LLM 에이전트 경쟁은 모델 크기뿐 아니라 메모리 관리 효율성으로도 확장될 가능성이 큽니다.