مقاله‌ی arXiv:2610.02826 · منتشرشده در کانال
Scaling Trajectories for Complex Tasks through Recursive Self-Rewrite
مقیاس دادن مسیرها برای تسک‌های پیچیده با بازنویسی بازگشتی خودی
- تاریخ
- (۱۰ مهر ۱۴۰۵) 2026-10-02 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Zongxia Li, Yucheng Shi, Zhongzhi Li, Junyao Yang, Ruhan Wang, Chengsong Huang, Fuxiao Liu, Haitao Mi, Jordan Boyd-Graber, LeoweiLiang
- نهاد نویسنده‌ها
- Tencent HY LLM Frontier; University of Maryland, College Park; University of Georgia; National University of Singapore; Indiana University; Washington University in St. Louis; Nanyang Technological University
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
مسیرهای موفق روی تسک‌های دشوار نظارت ارزشمندی برای بهبود مدل‌اند، اما هارنس‌های تخصصی مداخله‌هایی دارند که ممکن است هنگام استقرار در دسترس نباشد؛ مثلاً ابزاری ویژه یا راهنمایی‌ای که فقط در یک هارنس هست. آموزش مستقیم روی چنین مسیرهایی مدل را به قراردادهای آن هارنس وابسته می‌کند.
روش
چارچوب RSR از یک مدل پایه، Qwen-3.8-27B، استفاده می‌کند تا راه‌حل‌های موفق را زیر هارنس‌های متنوع پیدا کند و آن‌ها را به شکل مسیرهای آموزشی زیر یک هارنس عمومی بازسازی کند. یک برنامه‌ریز رویه‌ها را به دستورالعمل‌های اجرایی تبدیل می‌کند، یک منتقد نشت تأییدکننده و راه‌حل را غربال و بازنگری بازگشتی را هدایت می‌کند، و یک اجراکننده دستورالعمل‌های پذیرفته را در جعبه‌شن‌های تازه اجرا می‌کند.
یافته‌ها
- در حدود ۳ هزار تسک ترمینالی خودگزینش‌شده، سه هارنس روی هم ۷۵۹ تسک را حل کردند، ۳۴٫۳ درصد بیشتر از قوی‌ترین هارنس تکی.
- این روش ۲٬۰۰۱ مسیر موفق منبع را به ۱۱٬۰۹۴ مسیر بازنویسی‌شده برای تنظیم دقیق نظارت‌شده گسترش داد.
- نسبت به مدل پایه، pass@۳ روی Terminal-Bench ۲ از ۵۷٫۰ به ۷۴٫۲ درصد و روی Terminal-Bench Hard خودساخته از ۳۹٫۰ به ۶۳٫۰ درصد رسید، و از تنظیم دقیق مستقیم روی مسیرها هم بهتر بود.
محدودیت‌ها
مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ چند بنچمارک ارزیابی را خود نویسنده‌ها ساخته‌اند و بهبود روی Terminal-Bench ۴ از ۱٫۵ به ۹٫۱ درصد هنوز در سطح پایینی است.
چرا مهم است
هارنس‌های تخصصی می‌توانند راه‌حل‌هایی پیدا کنند که مدل به تنهایی نمی‌یابد. این کار نشان می‌دهد چطور آن تجربه را به توانایی‌ای تبدیل کنیم که مدل در هارنس عمومی هم داشته باشد.