مقاله‌ی arXiv:2610.07792 · در صف خبرنامه
ServeLearnBench: How Well Can Agents Self-Improve from Serving Experience?
بنچمارک یادگیری از سرویس‌دهی: ایجنت‌ها چقدر می‌توانند از تجربه‌ی استقرار خودشان بهتر شوند؟
- تاریخ
- (۱۴ مهر ۱۴۰۵) 2026-10-06 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Haizhong Zheng, Yizhuo Di, Ranajoy Sadhukhan, Shuowei Jin, Beidi Chen
- نهاد نویسنده‌ها
- Carnegie Mellon University; Amazon
- برچسب لابراتوار
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
دانش لازم برای رفتار درست ایجنت در محیط‌های واقعی اغلب ضمنی، اعلام‌نشده و در حال تغییر است؛ مثلاً یک فروشگاه سیاست بازگشت کالا را بی‌اعلام عوض می‌کند. هارنس‌های یادگیری پیوسته می‌خواهند ایجنت از تجربه‌ی سرویس‌دهی بهتر شود، اما اثربخشی و محدودیت‌هایشان مشخص نیست و بنچمارک‌های موجود یا دانش هدف را صریح می‌دهند، یا محیط را ایستا فرض می‌کنند، یا در مقیاس و تنوع دانش محدودند.
روش
نویسنده‌ها «مجموعه‌داده‌ی جریانی محیط در حال تکامل» را صورت‌بندی کردند که در آن ایجنت باید دانش پنهان محیط را از تعامل و بازخورد نتیجه استنتاج، اعمال و با تغییر سیاست‌های پنهان بازنگری کند. بنچمارک ServeLearnBench پشتیبانی خرده‌فروشی، بانکداری و تولید متن فروش را با ۵۳ پنجره‌ی محیطی و ۷۷۱۸ تسک پوشش می‌دهد. پنج هارنس یادگیری روی شش مدل، در ۲۸ جفت مدل و هارنس و ۲۵۲ اجرای یادگیری ارزیابی شد.
یافته‌ها
- فاصله‌ی بزرگی بین توان انجام تسک و یادگیری از تجربه باقی است، حتی وقتی تسک‌ها کاملاً در توان مدل‌اند.
- سازگاری پیوسته پرهزینه است و می‌تواند رفتارهای از قبل درست را خراب کند.
- کاوش ناکافی یک گلوگاه کلیدی برای سازگاری مؤثر است.
محدودیت‌ها
مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ محیط‌ها شبیه‌سازی‌شده‌اند و سیاست‌های پنهان را نویسنده‌ها طراحی کرده‌اند.
چرا مهم است
وعده‌ی ایجنت‌های خودبهبود این است که در حین کار یاد بگیرند. این بنچمارک نشان می‌دهد روش‌های فعلی هنوز در این کار ضعیف‌اند و گاهی چیزهای درست را هم خراب می‌کنند.