HERA: Harness-Environment Co-Evolution for Reliable Agentic Abstention

مسئله

ایجنت‌ها در محیط‌های پیچیده‌ی ابزارمحور توانمندترند، اما اغلب تشخیص نمی‌دهند تسکی ناشدنی است و راه‌حل معتبری ندارد؛ مثلاً کاربر می‌خواهد پروازی را رزرو کند که اصلاً وجود ندارد و ایجنت به جای گفتن این، پرواز دیگری رزرو می‌کند. روش‌های موجود مدل یا هارنس را روی یک مجموعه‌ی ثابت تسک بهینه می‌کنند که تعمیم به حالت‌های شکست دیده‌نشده را محدود می‌کند.

روش

چارچوب HERA دو بخش دارد: یک خط لوله که با جهش‌های کنترل‌شده‌ی محیط، تسک‌های شدنی را به مواردی تبدیل می‌کند که خودداری لازم دارند و جفت‌های قابل تأیید شدنی و ناشدنی می‌سازد، و یک رویه‌ی هم‌تکاملی که شکست‌های قبلی هم تطبیق هارنس را هدایت می‌کنند و هم محیط‌ها و تسک‌های تازه‌ای متمرکز بر ضعف‌های قبلی می‌سازند.

یافته‌ها

• روی تسک‌های ارزیابی کنارگذاشته، هارنس تکامل‌یافته دقت خودداری را از ۶۱٫۷ به ۸۳٫۳ درصد و تکمیل تسک‌های شدنی را از ۶۸٫۳ به ۷۶٫۷ درصد رساند و بین روش‌های مقایسه‌شده در هر دو بالاترین بود.
• بهترین هارنس به ۱۹ مدل دیگر منتقل شد و دقت خودداری را به‌طور میانگین ۱۵٫۳ واحد درصد بدون بهینه‌سازی ویژه‌ی مدل بهتر کرد.
• مدل‌های کوچک‌تر با این هارنس به کارایی مدل‌های قوی‌تر رسیدند، با هزینه‌ی تخمینی ۸۵ درصد کمتر.

محدودیت‌ها

مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ تسک‌های ناشدنی با جهش‌های کنترل‌شده‌ی محیط ساخته شده‌اند که ممکن است همه‌ی حالت‌های واقعی را پوشش ندهند.