Proxy Confidence: Auditing Black-Box LLM Agents with a Surrogate's Log-Probabilities

مسئله

ایجنت مستقر فراخوانی ابزار، پرس‌وجو و کدی تولید می‌کند که می‌تواند بی‌صدا غلط باشد و تا خطا آشکار شود، عمل اجرا شده است. رابط‌های برنامه‌نویسی مدل‌های پیشرو احتمال توکن‌ها را پنهان می‌کنند، اطمینان اعلام‌شده‌ی ایجنت در خطاهای مهم به‌سختی از شانس بهتر است، و نمونه‌گیری دوباره هم کمکی نمی‌کند چون این مدل‌ها همان فراخوانی را تکرار می‌کنند.

روش

نویسنده‌ها سیگنال گم‌شده را از یک مدل جانشین وزن‌باز ارزان که موازی اجرا می‌شود بازیابی می‌کنند. جانشین همان کانتکست، طرح و عمل پیشنهادی را می‌خواند و فراخوانی را با خانواده‌ای از خوانش‌های مکمل امتیاز می‌دهد: احتمال هر مقدار آرگومان، حکم تمایزی برای کل فراخوانی، و رقابت انتخاب ابزار با تابع‌های هم‌خانواده. خوانش‌ها بدون آموزش‌اند، به درون ایجنت دسترسی نمی‌خواهند و یک گذر پیش‌پردازش هزینه دارند.

یافته‌ها

• روی تسک‌های دشوار کدنویسی به AUROC برابر ۰٫۸۲۵ رسید، در حالی که اطمینان اعلام‌شده‌ی خود ایجنت نزدیک شانس (۰٫۵۹۸) بود.
• در برابر خودسازگاری روی ایجنت‌های تقریباً قطعی ۰٫۱۴ تا ۰٫۱۹ بهتر بود، با کسری از هزینه.
• دروازه‌ی بلادرنگ که کم‌اعتمادترین فراخوانی‌ها را برای بازبینی ارجاع می‌دهد، دقت عمل‌های پذیرفته را در پوشش ۵۰ درصد ۰٫۰۵ تا ۰٫۳۰ بالا برد.

محدودیت‌ها

نویسنده‌ها می‌گویند ادعاها به عمل‌هایی محدود است که درستی‌شان با خواندنشان قابل تصمیم است، و وقتی شاهد تعیین‌کننده یک واقعیت بیرونی خارج از کانتکست است چیزی ادعا نمی‌کنند. جهت هر خوانش هم به رژیم وابسته است و باید روی برچسب‌های کنارگذاشته برای هر رژیم تنظیم شود.