موضوع
۳۱ مقاله با این موضوع (به انگلیسی Verifiers & judges). جستجو و فیلتر در همین موضوع
ایجنت ناظری که وسط کار تشخیص می‌دهد سیستم از هدف دور شده و آن را برمی‌گرداند
ایجنت‌ها و سیستم‌های چندایجنتی در کارهای طولانی با ابزار، کم‌کم از هدف اصلی دور می‌شوند؛ مثلاً در یک جست‌وجو آن‌قدر دنبال یک جزئیات فرعی می‌روند که سؤال اصلی فراموش می‌شود. به این «رانش هدف» می‌گویند و هم منابع را هدر می‌دهد و هم نتیجه را خراب می‌کند. برنامه‌ر
مدل قوی به جای نوشتن هر قدم ایجنت، فقط قدم‌های نوشته‌شده‌ی مدل ضعیف را بازبینی کند
ایجنت‌ها کارها را با رشته‌های طولانی فراخوانی ابزار حل می‌کنند و معمولاً یک مدل قوی همه‌ی قدم‌ها را تولید می‌کند، در حالی که خیلی از قدم‌ها آن‌قدر ساده‌اند که یک مدل خیلی کوچک‌تر هم از پسشان برمی‌آید. روش‌های موجود برای تقسیم کار، مدل قوی را تولیدکننده نگه می
در آموزش با چند پاداش، هر پاداش فقط به توکن‌هایی برسد که واقعاً به آن مربوط‌اند
مدل‌های زبانی بیشتر و بیشتر با چند پاداش قابل بررسی هم‌زمان آموزش می‌بینند؛ مثلاً درستی و قالب یک فراخوانی ابزار، یا هر کدام از محدودیت‌های یک دستور پیچیده. روش GDPO هر پاداش را جدا نرمال می‌کند، اما سیگنال هر پاداش را به طور یکسان روی کل پاسخ پخش می‌کند، در ح
ارزیابی ایجنت‌های دارای وضعیت با یک پرونده‌ی ارزیابی که شواهدش قابل بازرسی است
تمام شدن یک تسک به‌تنهایی نشان نمی‌دهد ایجنتی که وضعیت را تغییر می‌دهد (مثلاً سفارش ثبت می‌کند یا پول برمی‌گرداند) همه‌ی تعهداتش را انجام داده است. یک حکم ثبت‌شده هم تضمین نمی‌کند شواهد پشتش هنوز معتبر باشد؛ مثلاً ممکن است داده‌ای که ارزیابی بر آن تکیه کرده بع
پلتفرم بازی برای ارزیابی و آموزش ایجنت‌های رابط گرافیکی در موبایل، کامپیوتر و وب
یادگیری تقویتی برخط با پاداش قابل بررسی، در ریاضی، کدنویسی و کار با ابزار پیشرفت سریعی آورده، اما گسترش آن به ایجنت‌های رابط گرافیکی سخت است: محیط‌های تعاملی گران‌اند و تسک‌های آموزشی واقع‌گرا کم‌اند. کارهای قبلی اپ و تسک تازه ساخته‌اند ولی نه کد آموزش را منتش
سنجیدن ایجنت‌های اجتماعی با برنامه‌ای که واقعاً بر سرش توافق کردند، نه با زیبایی گفت‌وگو
تعامل اجتماعی مؤثر فقط جواب روان نیست: ایجنت‌ها باید به برنامه‌ای برسند که با نیازها و شرایط طرفین جور باشد. ارزیابی‌های فعلی ایجنت‌های اجتماعی بیشتر به داور مدل زبانی تکیه دارند که به گفت‌وگو نمره می‌دهد، بی آن‌که برنامه‌ی نهایی را بررسی کند. مثلاً دو ایجنت م
مدل پاداش با معیارهایی که فقط از خود تسک ساخته می‌شوند و داوری که با ابزار شواهد جمع می‌کند
مدل‌های پاداش مبتنی بر معیار، پاسخ‌ها را با معیارهای صریح می‌سنجند. اما روش‌های موجود اغلب معیارها را از پاسخ‌های نامزد مشاهده‌شده استخراج می‌کنند که سوگیری می‌سازد و ممکن است نیازهای تسک را جا بیندازد. داورهایشان با قیدهای مکانیکی، مثل «پاسخ دقیقاً ۵۰ کلمه با
داور کد ایجنتی که به جای فقط حکم دادن، مثال نقض قابل بررسی برای برنامه‌ی غلط پیدا می‌کند
مقیاس‌دهی زمان اجرا برای مدل‌های زبانی می‌تواند شامل تولید چند راه‌حل و انتخاب بین آن‌ها یا اصلاح یک تلاش قبلی باشد، و این کار تأییدکننده‌ای لازم دارد که درستی را برآورد کند و شاهد شکست بدهد. در برنامه‌نویسی رقابتی، داور رسمی حکم معتبر می‌دهد ولی با تعداد ارسا
داورهای فراخوانی ابزار به مرجع متنی تکیه می‌کنند و مقدار درستی را که منبعش دیده نمی‌شود رد می‌کنند
داورهای فراخوانی ابزار مقدار آرگومان‌هایی را که ایجنت پیشنهاد داده ارزیابی می‌کنند. نویسنده‌ها دیدند وقتی در ورودی داور هیچ متنی نیست که بگوید مقدار باید چه باشد، داور مقدار درست را کمتر می‌پذیرد. این در سه حالت پیش می‌آید: مقدار پیش‌فرض طرح‌واره‌ی تابع است که
سنجه‌ی پیشرفت «توکن تا پایان» برای پخش پاداش پایانی بین قدم‌های ایجنت چندنوبتی
یادگیری تقویتی با پاداش قابل تأیید برای ایجنت‌های چندنوبتی به پاداش پایانی پراکنده تکیه دارد که درباره‌ی تک‌تک قدم‌ها چیز زیادی نمی‌گوید. مقایسه‌ی قدم‌ها درون یک گروه به تطبیق قابل اعتماد وضعیت و نتیجه‌های متنوع نیاز دارد، و امتیازدهی مستقیم به قدم‌ها ممکن است
ایجنت کدنویسی روی دستگاه محلی با یک مدل کوچک، که فقط قدم‌های کلیدی را به مدل ابری می‌سپارد
کارهای پیچیده و طولانی ایجنتی معمولاً به مدل‌های پیشرو در ابر تکیه دارند. اما اجرای این مدل‌ها در همه‌ی قدم‌های یک مسیر طولانی هزینه‌ی زیادی دارد، در حالی که همه‌ی قدم‌ها به یک اندازه توانایی لازم ندارند؛ مثلاً خواندن یک فایل به اندازه‌ی طراحی یک راه‌حل سخت نی
تیم ایجنت‌های کدنویسی: بودجه‌ی اضافه را کجا خرج کنیم؟ بیشتر روی برنامه‌ریزی
سیستم‌های چندایجنتی محور تازه‌ای برای بزرگ کردن محاسبه در زمان اجرا پیشنهاد می‌کنند: به جای این‌که یک ایجنت بیشتر فکر کند یا بیشتر تلاش کند، کار بین چند ایجنت موازی تقسیم می‌شود. اما در عمل، ایجنت‌های بیشتر به راحتی کار تکراری، شکست هماهنگی و هزینه‌ی بیشتر می
مقاوم کردن خودکار بررسی‌کننده‌های محیط‌های ایجنتی در برابر تقلب، با حلقه‌ی هکر و ترمیم‌کار
محیط‌های ایجنتی با بررسی‌کننده‌های برنامه‌ای، نتیجه‌های پیچیده را به پاداش تبدیل می‌کنند. اما می‌شود به این بررسی‌کننده‌ها حمله کرد تا به ایجنتی که تسک را انجام نداده و تقلب کرده نمره‌ی کامل بدهند؛ مثلاً ایجنت به جای درست کردن کد، فایل تست را عوض کند. این هم ا
پژوهش عمیق کنترل‌شده با یک فضای کاری معنایی مشترک و ایجنت تأییدکننده‌ی جدا
پژوهش عمیق نیاز دارد چند قدم جست‌وجو، استدلال و محاسبه به هم وصل شوند و یافته‌های میانی مسیر بررسی بعدی را تعیین کنند. با بزرگ شدن پژوهش، ایجنت باید وضعیت پژوهش را بین فراخوانی‌های مدل نگه دارد و یافته‌ها را پیش از این‌که خطا به کار بعدی منتقل شود بررسی کند. ه
چارچوب باز چندجلسه‌ای برای حل مسئله‌های المپیاد با حل، بازبینی، ویکی و تأیید
ایجنت‌های مدل زبانی در کارهای علمی و المپیادی طولانی سریع بهتر می‌شوند، اما سیستم‌های برجسته نه مدل و نه پشته‌ی کامل استنتاجشان را منتشر می‌کنند. یک جلسه‌ی ایجنتی تنها هم روی مسئله‌های سخت شکننده است: خطاهای اولیه منتشر می‌شوند، دانش حوزه‌ی کم پیشرفت را متوقف
پس‌آموزش تأییدکننده‌های عمومی برای داوری مسیرهای ایجنت کدنویسی، همراه با توضیح متنی
ایجنت‌های کدنویسی بیشتر برای کارهای سرتاسری مهندسی نرم‌افزار به کار می‌روند، جایی که اغلب داوری آماده که معیار موفقیت را تعریف کند وجود ندارد. پس تأییدکننده‌ای لازم است که رفتار ایجنت را قابل اعتماد داوری و توضیح دهد. اما مسیرهای اجرا می‌توانند خیلی طولانی باش
کیفیت، نه فقط نتیجه: امتیازدهی ساختاری به مسیرهای ایجنت کدنویسی برای انتخاب داده‌ی آموزشی
ایجنت‌های کدنویسی باز معمولاً با آموزش نظارت‌شده روی مسیرهایی آموزش می‌بینند که پچ نهایی‌شان تست‌ها را پاس کرده است. این فیلتر کیفیت فرایند را نادیده می‌گیرد: مسیری که در نهایت موفق شده ممکن است الگوهای ناکارآمد داشته باشد، مثل بررسی تکراری فایل‌ها، استفاده‌ی
پیدا کن، داوری کن، بخوان: ایجنت‌های ابزاری با نقش‌های جدا برای پرسش و پاسخ روی اسناد چندوجهی
پرسش و پاسخ روی مجموعه‌های بزرگ و ناهمگون اسناد اول نیاز دارد بخش‌های درست پیدا شوند و بعد خوانده شوند، اما ایجنت‌های بازیابی فعلی هر دو نوع ابزار را به یک مدل می‌دهند و می‌گذارند خودش زمان‌بندی کند؛ نتیجه این است که مدل اغلب به جای خواندن، مدام جست‌وجو می‌کند
هک پاداش به عنوان یک راهبرد مسری در سیستم‌های چندایجنتی کدنویسی
سیستم‌های چندایجنتی با هماهنگی ایجنت‌هایی که کد و برنامه را به اشتراک می‌گذارند تسک‌های کدنویسی را حل می‌کنند و اغلب با یادگیری تقویتی و ارزیاب خودکار بهینه می‌شوند. دور زدن ارزیاب می‌تواند بدون راه‌حل واقعی پاداش بگیرد؛ مثلاً کدی که تست را دستکاری می‌کند تا ه
آیا ایجنت‌ها می‌توانند باگ را در نرم‌افزار تعاملی خودشان پیدا کنند؟ بنچمارکی بدون گزارش باگ
ایجنت‌های کدنویسی بیشتر به جای پاسخ متنی، نرم‌افزار تعاملی می‌سازند، ولی بسیاری از باگ‌های چنین نرم‌افزاری فقط بعد از تعامل چندمرحله‌ای ظاهر می‌شوند. امروز کاربر باید باگ را پیدا کند و منتظر رفع آن بماند. بنچمارک‌های موجود معمولاً فرض می‌کنند باگ از قبل شناخته
بهینه‌سازی بازتابی پرامپت یک ایجنت پژوهش عمیق: پروتکلی برای جدا کردن بهبود قابل انتقال از حفظ کردن
بهینه‌سازی پرامپت جایگزین جذابی برای یادگیری تقویتی در تطبیق ایجنت‌هاست، چون ارزان است و خروجی خوانا می‌دهد. اما در تسک‌های واقعیت‌محور یک خطر دارد: بهینه‌سازی که نمونه‌های آموزشی را می‌خواند می‌تواند پاسخ‌هایشان را در پرامپت بنویسد، پس بهبود درون توزیع ممکن ا
آن‌ترک: پایش و مداخله‌ی بلادرنگ در مسیر ایجنت‌ها با ترابرد بهینه‌ی جریانی و آگاه از ساختار
ایجنت‌ها از برنامه‌ریزی سفر و معامله‌ی سهام تا رسیدگی به حادثه‌های فناوری اطلاعات به کار می‌روند و بیشتر وقت‌ها با حداقل حفاظت قاعده‌محور مستقل کار می‌کنند، که به هزینه و خطر اقدام‌های برگشت‌ناپذیر منجر می‌شود. راه‌حل‌های فعلی یا یک ایجنت محافظ برای پایش می‌گذ
تریس: تشخیص شکنندگی تأییدکننده در ارزیابی ایجنت‌ها، تا معلوم شود تغییر امتیاز از ایجنت است یا از سنجش
امتیاز تأییدکننده‌ها هم معیار بنچمارک است و هم پاداش آموزشی ایجنت‌ها، و تغییر امتیاز معمولاً تغییر توانایی خوانده می‌شود. اما ممکن است فقط تغییر در خود ارزیابی باشد؛ مثلاً اگر فقط نام ابزارها عوض شود و امتیاز افت کند، ممکن است قاعده‌ی امتیازدهی به نام‌ها حساس
چه کسی تأییدکننده را تأیید می‌کند؟ هم‌تکاملی داورهای قابل بازرسی با ایجنت‌های خودبهبود
هر حلقه‌ی خودبهبودی ایجنت صدها بار می‌پرسد «آیا تغییر واقعاً ایجنت را بهتر کرد؟» و پاسخ از یک تأییدکننده می‌آید. در تسک‌های باز چنین تأییدکننده‌ای وجود ندارد، پس حلقه به یک معیار دست‌نوشته یا داور مدل زبانی ساده سپرده می‌شود که خروجی مدلی شبیه خودش را داوری می
یافتن نقطه‌کورهای تأییدکننده‌های تسک در AppWorld و WorkArena
تأییدکننده‌های اجرامحور تصمیم می‌گیرند آیا ایجنت موفق شده است. اگر تأییدکننده اثر غلطی را قبول کند، امتیاز بنچمارک و پاداش آموزش هر دو گمراه‌کننده می‌شوند. نویسنده تأییدکننده‌های منتشرشده‌ی AppWorld و WorkArena را با تست‌های جهش آگاه از کد منبع ممیزی کرد، بدون
مم‌ماکس: پایش زمان اجرا و اسناد صادقانه‌ی منابع برای ناوگان ایجنت‌های کدنویسی موازی
توسعه‌دهندگان بیش از پیش چند ایجنت کدنویسی را هم‌زمان روی یک ایستگاه کاری اجرا می‌کنند. ابزارهایی مثل tmux و مدیرهای ایجنت برای چیدن پنجره‌ها ساخته شده‌اند نه مدیریت حافظه. وقتی ده ایجنت هرکدام سرور زبان، اجراکننده‌ی تست و مرورگر راه می‌اندازند، هیچ ابزار استا
کلیفت: خودتأییدی هم‌دیس برای آموزش ایجنت‌های وب و مقیاس دادن زمان آزمون
ایجنت‌های وب متن‌باز حالا برای اجرای تسک‌های واقعی مرورگر به اندازه‌ی کافی قوی‌اند، اما آموزششان با یادگیری تقویتی هنوز به نظارت ضعیف وابسته است: موفقیت دودویی تسک برای اعتباردهی بیش از حد پراکنده است و داورهای مدل پیشرو برای هر گام گران‌اند و در استقرار هم در
پس‌نگری آینده‌نگر: یادگیری تقویتی خودکالیبره با فاصله‌ی پیش‌بینی و واقعیت
یادگیری تقویتی برای ایجنت‌های بلندمدت فقط به سیگنال‌های گذشته‌نگر تکیه دارد: اعتبار فقط پس از مشاهده‌ی پیامد محیط تخصیص می‌یابد و باور ایجنت در لحظه‌ی عمل برای گرادیان نامرئی می‌ماند. در نتیجه ایجنت ممکن است با اطمینان زیاد شکست بخورد یا با تردید موفق شود و آم
ورس: بهینه‌ساز خودتکامل تأییدشده برای هارنس‌های ایجنت
تکامل هارنس پرامپت‌ها، ابزارها و گردش‌کار یک ایجنت را بهتر می‌کند، اما ابزارها و رویه‌های خود بهینه‌ساز معمولاً ثابت می‌مانند. سؤال این است که آیا بهینه‌ساز با بهتر کردن نحوه‌ی تشخیص شکست، ساخت ویرایش و آزمودن اثرشان، ایجنت دیگر را مؤثرتر بهبود می‌دهد یا نه. د
امتیاز بیشتر، پاسخ بدتر: کاهش تقلب در پاداش در یادگیری تقویتی روبریک‌محور با روبریک‌های سطح پروتکل
یادگیری تقویتی روبریک‌محور مدل‌ها را جایی آموزش می‌دهد که تأییدکننده‌ای وجود ندارد: یک داور هر معیار روبریک را بررسی می‌کند و حکم‌ها معمولاً با جمع وزن‌دار به پاداش تبدیل می‌شوند. در جمع، معیارها یکدیگر را جبران می‌کنند: سیاستی که تنها تصمیم مهم را از دست بدهد
هو اند وِن پرو: آیا مدل‌های زبانی واقعاً می‌توانند شکست ایجنت‌ها را به علتش نسبت دهند؟
نسبت‌دهی خودکار شکست از مدل‌های زبانی استفاده می‌کند تا مشخص کند سیستم‌های ایجنتی کجا و چرا شکست می‌خورند. با تواناتر شدن ایجنت‌ها، شکست‌هایشان ظریف‌تر و نسبت‌دهی خودکار مهم‌تر می‌شود، اما برای سنجش این توانایی به برچسب‌های طلایی دقیق در مقیاس بزرگ نیاز است. ب