Thinking Inertia: LLMs Keep Thinking When Told Not To

مسئله

مدل‌های زبانی بیش از پیش با «حالت تفکر» صریح عرضه می‌شوند، اما حالت مقابل یعنی «بدون تفکر» کمتر بررسی شده است. کارهای قبلی بدون تفکر را با جانشین‌هایی مثل خاموش بودن حالت تفکر یا نبود ردپای طولانی تعریف می‌کنند که قابل اعتماد نیستند: حالت خاموش ممکن است باز هم استدلال تولید کند و ردپای طولانی ممکن است پرکننده باشد نه استنتاج واقعی.

روش

نویسنده‌ها هر پاسخ را به یک ردپای پیش از پاسخ و پاسخ نهایی تقسیم کردند و در سه سطح سنجیدند: نرخ تفکر خالی برای پاسخ‌دهی صرف، ربط پرسش و متن پیش از پاسخ، و نرخ استنتاج صریح با داور مدل زبانی. شش مداخله‌ی پرامپتی روی شش مدل در پرسش‌های بله و خیر، چندگزینه‌ای و باز ارزیابی شد.

یافته‌ها

• کنترل‌های صریح «فکر نکن» نمی‌توانند استنتاج قابل مشاهده را مطمئناً حذف کنند؛ مدل‌ها «اینرسی تفکر» دارند و استنتاج صریح حتی زیر کنترل‌های سخت باقی می‌ماند و با بازتر شدن فضای پاسخ بیشتر می‌شود.
• دقت در پرسش‌های بله و خیر و چندگزینه‌ای ثابت ماند، اما در پرسش‌های باز بین پاسخ‌دهی صرف و دقت تسک تعادل وجود دارد.
• بازنویسی همان پرسش‌ها در فضاهای پاسخ مختلف نشان داد دادن گزینه‌های نامزد پاسخ‌دهی صرف را آسان‌تر می‌کند.

محدودیت‌ها

نویسنده‌ها می‌گویند ادعاها فقط درباره‌ی خروجی قابل مشاهده است نه نبود محاسبه در وضعیت‌های پنهان، و مجموعه‌ی شش مدل و شش بنچمارک برای جدا کردن ساختار فضای پاسخ زیر رمزگشایی قطعی طراحی شده است.