Thinking Outside the Box: Can Language Models Rely on External Guidance Selectively?

مسئله

هارنس‌های ایجنت معمولاً مدل‌ها را با گردش‌کارهای طراحی‌شده توسط انسان بهتر می‌کنند، اما با تواناتر شدن مدل‌ها راهنمایی غیرقابل اعتماد می‌تواند اجرا را محدود کند؛ مثلاً گردش‌کاری که یک گام غلط یا کهنه دارد و مدل بی‌چون و چرا دنبالش می‌کند. نویسنده‌ها توانایی سود بردن از راهنمایی مفید و نادیده گرفتن راهنمایی غیرقابل اعتماد را «فکر کردن بیرون از جعبه» می‌نامند.

روش

بنچمارک Box²-Bench مدل و تسک را ثابت نگه می‌دارد و قابلیت اطمینان گردش‌کار را تغییر می‌دهد تا جدا کند مدل‌ها تکیه بر راهنمایی را چطور تنظیم می‌کنند. برای آزمودن یادگیری‌پذیری این توانایی، دو مدل وزن‌باز با گردش‌کارهای بد آموزش دیدند و گردش‌کارهای خوب برای ارزیابی کنار گذاشته شدند؛ دو راهبرد تنظیم دقیق نظارت‌شده‌ی خلاف واقع و یادگیری تقویتی مبتنی بر نتیجه بررسی شد.

یافته‌ها

• مدل‌های پیشرو اغلب از راهنمایی قابل اعتماد سود می‌برند اما وقتی راهنمایی گمراه‌کننده یا غیرقابل اعتماد می‌شود آسیب‌پذیر می‌مانند.
• تنظیم دقیق خلاف واقع استحکام را بهتر کرد و یادگیری تقویتی توازن را به سمت استفاده‌ی بیشتر از گردش‌کارهای مفید برد.
• این رفتار به شکل‌های دیگر اطلاعات بیرونی هم تعمیم یافت و اصلاح همتا و استحکام در برابر حافظه‌ی خراب را بهتر کرد.

محدودیت‌ها

مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ ساخت بنچمارک با یک بازبین معنایی ممیزی شده نه با برچسب‌زنی کور انسانی. چکیده عدد مشخصی نمی‌دهد و وابستگی سازمانی نویسنده‌ها در متن در دسترس نیامده است.