MemCode: Discrete Semantic Representations for Long-Term Agent Memory

مسئله

حافظه‌ی بلندمدت بین سشن‌ها هنوز گلوگاه اصلی ایجنت‌های مدل زبانی است. بیشتر سیستم‌ها تکه‌های گفت‌وگو را همان‌طور ذخیره می‌کنند و با جست‌وجوی نزدیک‌ترین همسایه در فضای بردارها بازیابی می‌کنند. این تکه‌ها به کانتکست وابسته‌اند و واحد پایداری نیستند، و شواهدی که منطقاً مرتبط‌اند ولی کلمه‌هایشان فرق دارد به‌طور منظم جا می‌مانند؛ مثلاً «سگم بیمار است» و «پیش دامپزشک رفتم».

روش

سیستم MemCode گفت‌وگو را به «واحدهای حافظه‌ی اتمی» مستقل بازنویسی می‌کند، آن‌ها را با یک روش کوانتیزه‌سازی معنایی به یک کدبوک قابل یادگیری نگاشت می‌کند و از الگوی هم‌رخدادی کدها به عنوان مسیر بازیابی مکمل جست‌وجوی برداری استفاده می‌کند. نوشتن‌های اتمی برخط از تثبیت آفلاین ناهمزمان جدا شده است.

یافته‌ها

• روی LongMemEval-S و LoCoMo با مدل‌های GPT-4o-mini و Qwen3-30B-A3B-Instruct-2507، بهترین دقت کلی را داشت.
• ساختن حافظه برای هر گفت‌وگو حدود ۴۰ تا ۱۳۰ ثانیه طول کشید؛ ۳ تا ۲۱ برابر سریع‌تر از LightMem و بیش از ده برابر سریع‌تر از A-MEM و MemoryOS.

محدودیت‌ها

نویسنده‌ها می‌گویند MemCode برای حافظه‌ی گفت‌وگوی پر از بازیابی است، نه ایجنت‌های کامل با برنامه‌ریزی و ابزار. نوشتن واحدهای حافظه با مدل زبانی ممکن است انگیزه‌ها، احساسات و نشانه‌های ضمنی را از دست بدهد یا تحریف کند.