آرشیو مقاله‌ها همه‌ی مقاله‌هاموضوع‌هالابراتوارهاجستجودرباره
همه‌ی مقاله‌هاموضوع‌هالابراتوارهاجستجودرباره
خانه مقاله‌ها مقاله‌ی 2610.18868

مقاله‌ی arXiv:2610.18868 · نگه‌داشته برای بعد

Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards

ساخت محیط‌های طولانی با پاداش پیشرفت متراکم، از روی یک «جهان پنهان» کاملاً مشخص

تاریخ
(۲۱ مهر ۱۴۰۵) 2026-10-13 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
نویسنده‌ها
Wenbo Hu, Shraman Pramanick, Krishna Kumar Singh, Nanyun Peng, Kai-Wei Chang, Yong Jae Lee
نهاد نویسنده‌ها
Adobe Research; University of California, Los Angeles
برچسب لابراتوار
ClaudeGPT-6Terminal-Bench
موضوع‌ها
یادگیری تقویتی برای کدنویسیایجنت‌های بلندمدت

خلاصه‌ی فارسی

مسئله

ایجنت‌های طولانی‌مدت که ساعت‌ها تا روزها روی کار ارزشمند کار می‌کنند، توجه زیادی گرفته‌اند، ولی مدل‌های متن‌باز در این کارها ضعیف‌اند، عمدتاً به خاطر نبود داده‌ی آموزشی و دستور آموزش کارآمد. تسک‌های طولانی و پیچیده سخت ساخته و تأیید می‌شوند و پاداششان پراکنده است و فقط در پایان می‌آید.

روش

مجموعه‌داده‌ی Tev-Gym با ۱۱۷۰ محیط تأییدشده در ۷ حوزه از رویکرد «اول جهان پنهان» ساخته شده: ابتدا یک مشخصات کامل و درست پنهان از حوزه، گردش کار و وضعیت مورد انتظار بعد از هر قدم ساخته می‌شود، و بعد هر تسک از روی آن به تدریج به محیطی برای ایجنت تبدیل می‌شود. این کار پیچیدگی قابل کنترل و یک معیار طبیعی پیشرفت می‌دهد. با روش PPRS این پیشرفت به پاداش متراکم برای هر قدم تبدیل می‌شود.

یافته‌ها

  • مدل Tev-27B روی حوزه‌های محاسبات و ریاضی بنچمارک ALE بهبود چشمگیری داشت و در نرخ موفقیت پنج‌تلاشی با GPT-6 Astra و Claude Opus ۵ برابر شد.
  • با آموزش فقط روی داده‌ی مرتبط با این بنچمارک، به زیرمجموعه‌های Terminal-Bench ۳٫۰ و ۴٫۰ تعمیم یافت و از GLM ۵٫۲ و Gemini ۳٫۷ Flash بهتر بود، و روی کارهای میان‌مدت مثل Terminal-Bench ۲٫۱ به سطح Claude Opus ۴٫۸ رسید.
  • پاداش متراکم کارایی آموزش را بالا برد و تسک‌هایی را که در غیر این صورت قابل آموزش نبودند، قابل آموزش کرد.

محدودیت‌ها

مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ محیط‌ها ساختگی‌اند و در هفت حوزه ساخته شده‌اند.

چرا مهم است

نبود محیط آموزشی تأییدپذیر برای کارهای طولانی، مانع اصلی رسیدن مدل‌های متن‌باز به مدل‌های پیشرو است. این کار راهی برای ساختن چنین محیط‌هایی با پاداش قدم‌به‌قدم نشان می‌دهد.