Many Steps into One: Reasoning Contraction and the Limits of Safe Memory Reuse for LLM Agents

مسئله

قالب‌های فکر، کتابخانه‌های اسکیل، حافظه‌های ایجنت و کش‌ها چند قدم استدلال را به یکی تبدیل می‌کنند؛ نویسنده‌ها این را «انقباض استدلال» می‌نامند. حافظه‌ی منقبض‌شده قدم‌ها و خطاها را صرفه‌جویی می‌کند تا وقتی واقعیت‌هایش عوض شوند، و بعد بی‌صدا جواب غلط می‌دهد. مثلاً حافظه‌ای که «مدیرعامل شرکت X فلانی است» را ذخیره کرده، بعد از تغییر مدیرعامل همچنان همان جواب را می‌دهد. بیشتر سیستم‌ها با شمردن موفقیت‌ها و شکست‌ها به حافظه اعتماد می‌کنند.

روش

نویسنده‌ها ثابت می‌کنند این شمارنده‌ها آشکارسازهای تغییرِ بدتنظیم‌شده‌اند: شمارنده‌ی متقارن تغییر جزئی را فقط بعد از توانی از افق هشدار نادرستش می‌بیند، و شمارنده‌ی بدون سقف ممکن است هرگز نبیند. وقتی واقعیت‌ها عوض می‌شوند و هر حافظه فقط با نتیجه‌های تأییدشده‌ی خودش قضاوت می‌شود، یک عدد به نام «بار گواهی» تعیین می‌کند هر حافظه‌ی امن چقدر استدلال را می‌تواند حذف کند. دستور پیشنهادی شکست‌های هر حافظه را با نسبت درست‌نمایی خودش وزن می‌دهد، سودش را در برابر استدلال زنده گواهی می‌کند و با تغییر واقعیت‌ها گواهی را از نو شروع می‌کند.

یافته‌ها

• روی پنج مدل زبانی که به پرسش‌های چندمرحله‌ای درباره‌ی واقعیت‌های ویرایش‌شده جواب می‌دادند، شمارنده‌های به سبک ExpeL و ACE با اطلاعات یکسان ۷ تا ۱۳٫۵ برابر بیشتر از حافظه‌های گواهی‌شده جواب کهنه دادند.
• روی تسک‌های کد با تأییدکننده‌ی دقیق، این نسبت ۳۵ تا ۷۳ برابر بود.
• زیر تقاضای زیپفی، بار گواهی به یک قانون مقیاس برای مقدار استدلالی که حافظه‌ی امن می‌تواند حذف کند می‌رسد.

محدودیت‌ها

نویسنده‌ها می‌گویند نتیجه‌ها مربوط به حافظه‌هایی است که پاسخشان را یک تأییدکننده‌ی دقیق بررسی می‌کند، مثل اجرای پایگاه دانش یا تست واحد، و شواهد از سه حوزه و پنج مدل باز تا ۸ میلیارد پارامتر می‌آید.