Loud Failures, Quiet Failures: Fault Detection and Recovery in Tool-Using Language Model Agents

مسئله

ایجنت‌های ابزارمحور معمولاً با این سنجیده می‌شوند که وقتی ابزارها کار می‌کنند تسک را تمام می‌کنند یا نه. استقرار واقعی بی‌رحم‌تر است: سرویس‌ها مهلت‌شان تمام می‌شود، نقطه‌های پایانی ناپدید می‌شوند، نام پارامترها عوض می‌شود و نتیجه‌ها خوش‌فرم اما غلط برمی‌گردند. کارهای قبلی نشان داده‌اند مدل‌ها به خروجی ابزاری که بی‌صدا شکست می‌خورد بیش از حد اعتماد می‌کنند.

روش

نویسنده محیط‌های اجرایی یک بنچمارک شناخته‌شده‌ی فراخوانی تابع را در یک لایه‌ی تزریق خطا پیچید و یکی از چهار خطای نوع‌دار را در نقطه‌ای کنترل‌شده از مسیر تزریق کرد، و ثبت کرد آیا ایجنت متوجه می‌شود، برنامه را عوض می‌کند، تسک را بازیابی می‌کند یا تکرار می‌کند. شش مدل از سه خانواده، نیمی نسخه‌ی استدلالی، ۱۹۲۰ آزمایش روی ۲۴ تسک چندمرحله‌ای اجرا کردند.

یافته‌ها

• ایجنت‌ها وقتی ابزار خطای صریح برمی‌گرداند در ۹۱٫۳ درصد آزمایش‌ها شکست را مشکل می‌دانند، اما وقتی مقدار غلط ولی معقول برمی‌گرداند فقط در ۵۸٫۸ درصد، در برابر نرخ ۲۶٫۸ درصدی گزارش مشکل وقتی هیچ مشکلی نبود.
• مدل‌های استدلالی بهتر نیستند: نسبت به نسخه‌ی دستوری هم‌خانواده ۹٫۳ واحد کمتر متوجه می‌شوند و ۱۰٫۴ واحد بیشتر برنامه عوض می‌کنند و بازیابی تغییری نمی‌کند.
• دو اجرای بدون خطای یک تسک فقط در ۶۳٫۳ درصد موارد به یک وضعیت می‌رسند؛ نسبت به این پایه فقط ابزار غایب بازیابی را آشکارا کم می‌کند، به ۳۹٫۹ درصد، و یک خط پرامپت که از ایجنت می‌خواهد هر نتیجه را بررسی کند تشخیص را تغییر نداد.

محدودیت‌ها

نویسنده می‌گوید تسک‌ها محیط‌های شبیه‌سازی‌شده از یک خانواده بنچمارک‌اند نه سرویس‌های تولیدی، چهار نوع خطا انتخابی‌اند نه جامع، و دو نوع خطا فقط وقتی ایجنت ابزار مربوط را فرابخواند فعال می‌شوند.