مقالهی arXiv:2610.14709 · نگهداشته برای بعد
Vela: User Behavior as Supervision Sparks LLM Intelligence
رفتار کاربران به عنوان نظارت: تبدیل تاریخچهی رفتار واقعی کاربران به تسکهای آموزشی مدل زبانی
- تاریخ
- (۱۸ مهر ۱۴۰۵) 2026-10-10 تأییدشده از روی تاریخ ارسال نسخهی اول در آرکایو
- نویسندهها
- Yang Xiao, Yusong Sun, Haoyi Wu, Wenyang Hui, Weiqiang Hang, Luqing Wang, Zejian Wang, Zirui Tu, Jingsheng Mao, Shaobo Hu, Yang Luo, Jiale Guo, Jin Zhang, Yudan Liu, Zhaokai Luo, Ren Huan, Yao Hu, Chengyue Jiang, Wenjie Li, Chuan Mu
- نهاد نویسندهها
- AllSpark Team
- برچسب لابراتوار
خلاصهی فارسی
مسئله
مدلهای زبانی بیشتر در کاربردهایی به کار میروند که روی تاریخچهی بلندمدت رفتار کاربر عمل میکنند، از دستیار شخصی تا سیستمهای توصیه و تبلیغات. این کاربردها نیاز دارند مدل ترجیح، قصد و اقدامهای احتمالی آیندهی یک نفر را از هفتهها تا سالها دادهی رفتاری بفهمد. اما مدلها روی متن ثابت یا دادهی ساختگی آموزش میبینند که هیچکدام تحول رفتار کاربر در طول زمان را نشان نمیدهد.
روش
چارچوب Vela دادهی رفتار واقعی کاربر را به تسک و مسیر قابل آموزش تبدیل میکند. از سوابق رفتاری ناشناسشدهی ۱۰۰ هزار کاربر، ۱۰۰ هزار تسک در ۹۱ قالب تسک واقعی ساخت؛ فیلتر بر اساس سختی و معیارهای پذیرش مسیر حدود ۷۵ هزار تسک با مسیرهای آموزشی منتخب را نگه داشت. مدل Qwen3.6-35B-A3B روی این مسیرها تنظیم دقیق شد.
یافتهها
- تنظیم دقیق، کارایی را روی تسکهای مرتبط با کاربر تا ۱۱٫۵ امتیاز و روی بنچمارکهای عمومی بهطور میانگین ۴ امتیاز نسبت به مدل پایه بهتر کرد.
- آموزش روی دادهی رفتاری بیشتر، کارایی مرتبط با کاربر را بیشتر بالا برد.
- یادگیری تقویتی بعد از تنظیم دقیق تا ۷٫۷ امتیاز از یادگیری تقویتی مستقیم روی مدل پایه بهتر بود.
محدودیتها
مقاله بخش جداگانهای برای محدودیتها ندارد؛ نویسندهها دربارهی منبع داده فقط میگویند سوابق ناشناسشدهاند و جزئیات بیشتری در چکیده نمیدهند.
چرا مهم است
دستیارهای شخصی باید کاربر را از رفتارش بشناسند، نه فقط از حرفش. این کار نشان میدهد رفتار واقعی کاربران منبع نظارت مقیاسپذیری است که حتی توانایی عمومی مدل را هم بالا میبرد، و پرسشهای حریم خصوصی مهمی هم پیش میکشد.