مقاله‌ی arXiv:2610.11188 · در صف خبرنامه
What to Admit and How to Present: Governing Persistent Memory in LLM Agents
چه چیزی را بپذیریم و چطور نشان دهیم: حکمرانی حافظه‌ی پایدار در ایجنت‌های مدل زبانی
- تاریخ
- (۱۶ مهر ۱۴۰۵) 2026-10-08 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Chang Liu, Deliang Ding
- نهاد نویسنده‌ها
- Pazhou Laboratory
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
حافظه‌ی پایدار می‌تواند شخصی‌سازی ایجنت را بهتر کند، اما ممکن است چاپلوسی و نشت بین حوزه‌ها هم ایجاد کند؛ مثلاً ایجنتی که می‌داند کاربر از یک برند خوشش می‌آید، در یک سؤال فنی بی‌طرف هم همان برند را ترجیح دهد، یا اطلاعات پزشکی کاربر در گفت‌وگوی کاری ظاهر شود.
روش
نویسنده‌ها دو تصمیم حکمرانی را جدا کردند: پذیرش، یعنی چه اطلاعات فراخوانده‌شده‌ای وارد کانتکست شود، و نمایش، یعنی اطلاعات پذیرفته‌شده چطور بیان شود. دو طراحی زمان استنتاج بدون آموزش دوباره ساختند: پذیرش کامپایل‌شده با عامل‌ها که کل مدخل حافظه را می‌سنجد، و پذیرش معنایی مجوز که مدخل‌ها را به واحدهای نوع‌دار تجزیه می‌کند؛ هر دو با سیاست‌های قطعی ویژگی‌های داوری‌شده را به تصمیم صلاحیت تبدیل می‌کنند.
یافته‌ها
- نسبت به تزریق کلمه‌به‌کلمه، دو طراحی نرخ شکست داوری‌شده را روی بنچمارک بیرونی به ترتیب ۶٫۷ و ۸٫۸ واحد درصد کم کردند و نشت بین حوزه‌ها در مجموعه‌ی توسعه تا ۲۹٫۵ واحد درصد افت کرد.
- با ثابت نگه داشتن نمایش، سخت‌تر کردن پذیرش شکست بین حوزه‌ها را ۱۷٫۵ واحد درصد دیگر کم کرد، اما هیچ مقایسه‌ای بین دو شیوه‌ی نمایش پس از اصلاح مقایسه‌های چندگانه معنادار نماند.
- هر دو طراحی شکست‌های شخصی‌سازی را افزایش دادند و طراحی معنایی مجوز معیارهای از پیش ثبت‌شده‌ی بهبود و حفظ شخصی‌سازی را برآورده نکرد.
محدودیت‌ها
نویسنده‌ها می‌گویند نرخ گمراه شدن در تعارض حافظه و شواهد هنوز ۸۲٫۳ تا ۸۵٫۰ درصد است، هر دو طراحی شکست شخصی‌سازی را بیشتر می‌کنند و روی GPT-OSS-120B نشت بهتر نشد.
چرا مهم است
حافظه‌ی ایجنت‌ها هم مفید است و هم خطرناک. این کار نشان می‌دهد تصمیم درباره‌ی این‌که چه چیزی وارد کانتکست شود مهم‌تر از نحوه‌ی نمایش آن است، و حفظ فایده‌ی حافظه هنوز حل نشده است.