مقاله‌ی arXiv:2610.06406 · در صف خبرنامه
What Did the Agent Actually Do? Evidence-Grounded Oversight for Long-Horizon Agents
ایجنت واقعاً چه کرد؟ نظارت مبتنی بر شواهد برای ایجنت‌های بلندمدت
- تاریخ
- (۱۳ مهر ۱۴۰۵) 2026-10-05 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Zhongxiang Sun, Jiahao Yan, Hongkang Zhao, Haojie Ding, Boheng Zhang, Fan Yang, Xiao Zhang, Jun Xu
- نهاد نویسنده‌ها
- Gaoling School of Artificial Intelligence, Renmin University of China; Kuaishou Technology
- برچسب لابراتوار
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
با سپردن تسک‌های طولانی به ایجنت‌ها، کاربران از تصمیم‌گیری تک‌تک به نظارت بر اجرای مستقل می‌رسند. اما حجم فعالیت ایجنت و پراکندگی شواهد پشتیبان تشخیص این‌که کدام تصمیم‌ها ارزش تأیید کاربر را دارند سخت می‌کند؛ مثلاً ایجنت در میان صدها گام بی‌صدا یک نسخه‌ی کتابخانه را عوض کرده که کاربر باید از آن باخبر شود.
روش
نویسنده‌ها پایشگرهایی را بررسی کردند که تصمیم‌های مهم را شناسایی و شواهد را برای ارزیابی پیامدها پیدا می‌کنند. بنچمارک AgentMonBench در مهندسی نرم‌افزار سه زیرمجموعه دارد که هم‌راستایی الزام و رفتار و آگاهی از تصمیم‌های مستقل مهم را پوشش می‌دهد. روش بدون آموزش «گراف رفتار مبتنی بر شواهد» شواهد پیوندخورده به منبع را در قالب رفتارها گروه‌بندی و رابطه‌هایشان را در یک گراف سازمان می‌دهد و دیدهای تسک‌محور از این گراف به پایشگر ارائه می‌کند.
یافته‌ها
- در هشت مدل، این روش در بیشتر تنظیم‌ها شناسایی تصمیم و مکان‌یابی شواهد را نسبت به دسترسی مستقیم به کانتکست اصلی بهتر کرد.
- بهبود مکان‌یابی شواهد در مقیاس‌های ورودی و تنظیم‌های ابرپارامتر مختلف پایدار ماند و کاربردهای واقعی ارزش عملی آن را برای نظارت انسانی نشان داد.
محدودیت‌ها
مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ بهبود «در بیشتر تنظیم‌ها» گزارش شده نه همه، و چکیده عدد مشخصی نمی‌دهد.
چرا مهم است
کاربری که نمی‌تواند هزاران گام ایجنت را بخواند، باید بداند کجا را نگاه کند. این کار ابزاری می‌دهد که تصمیم‌های مهم را همراه شواهدشان جلوی چشم ناظر انسانی می‌گذارد.