مقالهی arXiv:2610.18684 · در صف خبرنامه
Knowing the User Is Not Knowing What We Established: Grounding Awareness in Personal Agents
شناختن کاربر با دانستن آنچه با هم توافق کردهایم یکی نیست: آگاهی از وضعیت توافق در ایجنتهای شخصی
- تاریخ
- (۲۱ مهر ۱۴۰۵) 2026-10-13 تأییدشده از روی تاریخ ارسال نسخهی اول در آرکایو
- نویسندهها
- Jiajun Chen, Xinyue Chen, Yicheng Jiang, Hua Shen
- نهاد نویسندهها
- Carnegie Mellon University; New York University; NYU Shanghai
- برچسب لابراتوار
- موضوعها
خلاصهی فارسی
مسئله
حافظهی ایجنتهای شخصی بیشتر روی یادگرفتن دانستهها، ترجیحها و خواستههای کاربر متمرکز بوده است. اما شناختن کاربر به معنای دانستن آنچه کاربر و ایجنت با هم توافق کردهاند نیست. پیشنهاد دستیار نباید فقط چون در حافظه مانده به دستور مجاز تبدیل شود؛ مثلاً دستیار پیشنهاد داده هر جمعه اشتراکی را تمدید کند و کاربر هیچوقت جواب نداده، ولی ایجنت در جلسهی بعد آن را اجرا میکند.
روش
نویسندهها «آگاهی از توافق» را توانایی تشخیص قرارهای پذیرفتهشده، بیپاسخ، اصلاحشده و محدود به زمینه هنگام انتخاب اقدام تعریف میکنند. یک بنچمارک کنترلشده میسنجد آیا ایجنت پیشنهادهای پذیرفتهشده را از نپذیرفتهها تشخیص میدهد و قرارهای پذیرفته را فقط در جای مناسب به کار میبرد. خطاها در نوشتن حافظه، بازیابی و انتخاب اقدام ردیابی شدند و Grounding Layer، یک افزونهی سبک و بدون آموزش، پیشنهاد شد که وضعیت توافق را صریحاً دنبال میکند و اقدامهای پیامددار را بررسی میکند.
یافتهها
- در چند ایجنت و سیستم حافظه، کارایی قوی حافظه آگاهی از توافق را تضمین نکرد.
- دادن اطلاعات کاملتر دربارهی کاربر میتواند اجرای پیشنهادهای بیپاسخ را بیشتر کند، و حافظهی پایدار میتواند باعث شود ایجنت با این پیشنهادها مثل دستور کاربر رفتار کند.
- افزونهی Grounding Layer بدون تغییر مدل یا سیستم حافظه، رفتار ایجنت را بهطور چشمگیری بهتر کرد.
محدودیتها
نویسندهها میگویند بنچمارک وضعیت توافق را با تاریخچههای جفتشده جدا میکند، اما گفتوگوی واقعی ممکن است شواهد ضمنی، تدریجی یا متناقض از توافق داشته باشد. افزونه هم برای اقدامهای پیامددار از قاعدههای از پیش تعریفشده استفاده میکند.
چرا مهم است
ایجنتهای شخصی با حافظهی پایدار ممکن است کارهایی بکنند که کاربر هرگز تأیید نکرده است. این کار این خطر را قابل اندازهگیری میکند و نشان میدهد حافظهی بهتر به تنهایی آن را حل نمیکند.