DelegationBench: Measuring When AI Agents Should Ask Before Acting

مسئله

ایجنت‌هایی که ایمیل می‌فرستند، فایل ویرایش می‌کنند و خرید انجام می‌دهند باید تصمیم بگیرند کِی خودشان عمل کنند و کِی اول از کاربر بپرسند. این تصمیم معمولاً با نشان دادن یک اقدام پیشنهادی به مدل و سنجش توافق با برچسب انسانی ارزیابی می‌شود. سؤال این است که آیا این امتیازها قابل اعتمادند.

روش

بنچمارک DelegationBench شامل ۱۵۶ سناریو با چهار پاسخ ممکن است: عمل، درخواست اجازه، درخواست اطلاعات گم‌شده و رد. بیشتر سناریوها در جفت‌های منطبق می‌آیند که فقط یک ویژگی را تغییر می‌دهند: آیا اقدام درخواست شده بود، چه چیزی در خطر است، آیا قابل بازگشت است، یا چه کسی آن را می‌بیند. ده مدل از پنج خانواده ارزیابی شدند.

یافته‌ها

• یک قاعده‌ی ساده‌ی کلیدواژه‌ای که نویسنده پس از دیدن بنچمارک نوشت، از هشت مدل بیشتر با برچسب‌گذارها توافق داشت، اما تصمیمش فقط در ۹ جفت از ۴۸ جفت منطبق تغییر کرد.
• شیوه‌های هم‌ارز پرسیدن یک سؤال، نرخ اقدام مدل را تا ۵۲٫۵ واحد درصد تغییر دادند.
• همه‌ی مدل‌ها وقتی باید تسک را با ابزار انجام دهند کمتر از وقتی که یک اقدام پیشنهادی را قضاوت می‌کنند از کاربر می‌پرسند؛ با قاعده‌های صریح، همان مدل‌ها تقریباً کامل پیروی می‌کنند.

محدودیت‌ها

نویسنده می‌گوید سناریوها کوتاه و مصنوعی‌اند و از استقرار واقعی نیامده‌اند، هر ویژگی فقط ۱۲ جفت منطبق دارد و بعضی جفت‌ها بیش از یک چیز را تغییر می‌دهند.