مقاله‌ی arXiv:2610.22344 · در صف خبرنامه
MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering
آموزش یک مدل ایجنتی برای مهندسی یادگیری ماشین، با پاداش دادن به «پنجره»های بین دو آزمایش
- تاریخ
- (۲۳ مهر ۱۴۰۵) 2026-10-15 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Shangheng Du, Jinxin Shi, Shuaiyu Zhang, Yiming Wu, Junpeng Zhao, Shiyang Feng, Xin Li, Liang He, Xiangchao Yan, Bo Zhang
- نهاد نویسنده‌ها
- Shanghai Artificial Intelligence Laboratory, East China Normal University
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
وقتی یک ایجنت خودش کار مهندسی یادگیری ماشین را انجام می‌دهد (داده آماده کند، مدل بسازد، آزمایش اجرا کند و از نتیجه یاد بگیرد)، هر آزمایش گران است و نتیجه‌اش حاصل چند تصمیم قبلی است. یک اجرای طولانی پر از این آزمایش‌های پرهزینه است. پس سخت است بفهمیم کدام تصمیم خوب بوده و از کدام تکه‌ی این مسیرهای طولانی باید یاد گرفت.
روش
نویسنده‌ها با کارخانه‌ی Kaggle-MLE Factory تسک‌های اجراپذیر ساخته‌اند و یک هارنس که در آن خود مدل تصمیم می‌گیرد چه آزمایشی اجرا کند. اول با آموزش نظارت‌شده‌ی سلسله‌مراتبی، مهارت‌های عمومی کار با ابزار و کدنویسی را به این حوزه منتقل می‌کنند. بعد در مرحله‌ی یادگیری تقویتی (روش WIRL)، همه‌ی تصمیم‌هایی که بین دو نتیجه‌ی آزمایشِ پشت سر هم گرفته شده‌اند یک «پنجره» حساب می‌شوند و همه با هم یک پاداش مشترک از نتیجه‌ی همان آزمایش می‌گیرند. جمع‌آوری داده ناهمزمان است، پس مدل پیش از تمام شدن یک اجرای طولانی هم به‌روز می‌شود.
یافته‌ها
- مدل MLExpert (یک مدل ترکیب متخصصان با ۳۵ میلیارد پارامتر) روی بنچمارک MLE-Bench Lite نرخ مدال میانگین را از ۳۷٫۹ درصد مدل پایه به ۷۲٫۷ درصد رساند و هم‌رده‌ی مدل‌های بزرگ‌تری مثل Kimi-K3 و GLM-5.3 شد.
- این مهارت بهینه‌سازی به کارهای دیگر هم منتقل شد: NatureBench Lite، بهینه‌سازی اسکفولد ایجنت و بهینه‌سازی الگوریتم.
- کد و وزن‌های مدل منتشر شده است.
محدودیت‌ها
نویسنده‌ها در چکیده محدودیت مشخصی ذکر نکرده‌اند؛ ارزیابی اصلی روی تسک‌های سبک کگل است.
چرا مهم است
گره اصلی ایجنت‌هایی که مدت طولانی کار می‌کنند این است که بفهمیم کدام قدم باعث نتیجه‌ی خوب یا بد شد. بریدن مسیر به پنجره‌هایی که هر کدام با یک بازخورد واقعی از محیط بسته می‌شوند، دستور ساده و تکرارپذیری است که بیرون از یادگیری ماشین هم به کار می‌آید، هر جا ایجنت فقط گاه‌به‌گاه نتیجه‌ی واقعی می‌گیرد.