مقاله‌ی arXiv:2610.22316 · در صف خبرنامه
Learning to Steer LLM Agents and Multi-Agent Systems
ایجنت ناظری که وسط کار تشخیص می‌دهد سیستم از هدف دور شده و آن را برمی‌گرداند
- تاریخ
- (۲۳ مهر ۱۴۰۵) 2026-10-15 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Leyang Shen, Yaxin Gong, Yang Zhang, Chenxiao Fan, Jiakai Wang, Dong Wang, Yang Liu, Fuli Feng, Chun Kai Ling, Tat-Seng Chua
- نهاد نویسنده‌ها
- National University of Singapore, University of Science and Technology of China, Alibaba (Qwen)
- برچسب لابراتوار
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
ایجنت‌ها و سیستم‌های چندایجنتی در کارهای طولانی با ابزار، کم‌کم از هدف اصلی دور می‌شوند؛ مثلاً در یک جست‌وجو آن‌قدر دنبال یک جزئیات فرعی می‌روند که سؤال اصلی فراموش می‌شود. به این «رانش هدف» می‌گویند و هم منابع را هدر می‌دهد و هم نتیجه را خراب می‌کند. برنامه‌ریزی اولیه جلوی انحراف در طول اجرا را نمی‌گیرد، و بررسی در پایان کار هم ممکن است دیر باشد و به تکرار پرهزینه یا پیامد برگشت‌ناپذیر برسد.
روش
نویسنده‌ها یک «ایجنت هدایتگر» پیشنهاد می‌کنند که در طول اجرا کانتکست را می‌بیند. یک مسیر سریع و ارزان تصمیم می‌گیرد کِی باید دخالت کرد و یک مسیر کند و پرهزینه‌تر تصمیم می‌گیرد چطور دخالت کند، مثلاً چه پیامی به ایجنت اجراکننده بدهد. هر دو مسیر با هم با یادگیری تقویتی آموزش می‌بینند: ترکیبی از یک هدف رتبه‌بندی دوتایی و روش GRPO.
یافته‌ها
- در تسک‌های جست‌وجوی اطلاعات، ایجنت هدایتگر هم برای سیستم‌های تک‌ایجنتی و هم چندایجنتی هم کیفیت و هم کارایی را بهتر کرد.
- توانایی یادگرفته به تسک‌های بیرون از حوزه‌ی آموزش و به اجراکننده‌هایی که در آموزش دیده نشده بودند منتقل شد.
- می‌شود بدون آموزش دوباره، تعداد دفعات دخالت را کم یا زیاد کرد.
محدودیت‌ها
نویسنده‌ها در چکیده محدودیت مشخصی ذکر نکرده‌اند؛ آزمایش‌ها فقط روی تسک‌های جست‌وجوی اطلاعات انجام شده است.
چرا مهم است
هرکس با ایجنت کار طولانی انجام داده، دیده که وسط کار راه را گم می‌کند. یک ناظر سبک که فقط وقتی لازم است دخالت کند، راهی عملی‌تر از نوشتن پرامپت‌های طولانی‌تر یا بررسی در پایان کار است.