آرشیو مقاله‌ها همه‌ی مقاله‌هاموضوع‌هالابراتوارهاجستجودرباره
همه‌ی مقاله‌هاموضوع‌هالابراتوارهاجستجودرباره
خانه مقاله‌ها مقاله‌ی 2610.15368

مقاله‌ی arXiv:2610.15368 · در صف خبرنامه

ANTE: Anticipate, Then Execute -- Learning Internal World Models for Coding Agents from Verified Beliefs

ایجنت کدنویسی که پیش از هر اقدام نتیجه‌اش را پیش‌بینی می‌کند و از درستیِ پیش‌بینی‌اش پاداش می‌گیرد

تاریخ
(۱۹ مهر ۱۴۰۵) 2026-10-11 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
نویسنده‌ها
Yi Ge, Kangrui Ruan, Jifan Chen, Manish Prajapat, Christian Bock, Xiaoyang Wang, Rein Houthooft, Aritra Sengupta, Varun Kumar
نهاد نویسنده‌ها
University of Maryland, College Park; AWS AI Labs
برچسب لابراتوار
Amazon
موضوع‌ها
هارنسیادگیری تقویتی برای کدنویسیایجنت کدنویسی

خلاصه‌ی فارسی

مسئله

بیشتر ایجنت‌های کدنویسی پیش‌بینی نمی‌کنند هر اقدامشان چه نتیجه‌ای دارد. پاداش پایانی هم شکست را به قدم مشخصی نسبت نمی‌دهد، پس یک ویرایش اشتباه می‌تواند پیش از رسیدن هر سیگنالی وضعیت ریپو را خراب کند؛ مثلاً ویرایشی که تست هدف را پاس می‌کند ولی تستی را که قبلاً پاس می‌شد می‌شکند. مدل‌های جهان کد هم یا قبل از یادگیری تقویتی منجمد می‌شوند یا فقط یک خطای کمکی پیش‌بینی خروجی‌اند.

روش

چارچوب ANTE از سیاست می‌خواهد پیش از هر اقدام باور خود را بنویسد: چه چیزی ثابت شده، کد الان چه می‌کند و دستور بعدی چه تغییری می‌دهد. اجرای واقعی این پیش‌بینی را تأیید یا رد می‌کند. روش BAPO این پیش‌بینی‌های تأییدشده را به اعتبار جداگانه برای هر قدم و تصمیم «اعتماد کن یا دست نگه دار» تبدیل می‌کند. در زمان اجرا هم ANTE-TTO بدون امتیازدهنده‌ی بیرونی از میان اقدام‌های نامزد انتخاب می‌کند.

یافته‌ها

  • مدل Qwen3-32B را در SWE-bench Verified از ۲۵ به ۵۷٫۲ درصد موفقیت در اولین تلاش رساند، ۶٫۲ امتیاز بالاتر از یک پایه‌ی GRPO هم‌اندازه که بدون حالت باور آموزش دیده بود.
  • دقت مدل جهان در طول یادگیری تقویتی از ۴۴ به ۶۹ درصد رسید.
  • توانایی پیش‌بینی آموخته‌شده به هارنس‌های دیگر و حوزه‌های بیرون از توزیع آموزش هم منتقل شد.

محدودیت‌ها

مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد و نویسنده‌ها محدودیت مشخصی برای روش خود نام نبرده‌اند.

چرا مهم است

خطای کدنویسی ایجنت معمولاً از یک ویرایش عجولانه شروع می‌شود که پیامدش دیر دیده می‌شود. این کار نشان می‌دهد وادار کردن ایجنت به پیش‌بینی پیش از اقدام، هم آموزش را دقیق‌تر می‌کند و هم کارایی را بالا می‌برد.