Know What You Don't Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning

مسئله

بهبود مدل‌های زبانی بیش از پیش به تجربه‌ی مصنوعی وابسته است، اما داده‌سازی مؤثر برای ایجنت‌های تعاملی فقط به مسیرهای اجرایی و قابل تأیید نیاز ندارد، بلکه به تعامل‌هایی نیاز دارد که برای ایجنت فعلی ارزش یادگیری داشته باشند. روش‌های موجود بازخورد محیط یا شکست‌های یادگیرنده را وارد می‌کنند، اما شکاف بازخورد تا تصمیم باقی است: ضعف‌های مشاهده‌شده مشخص نمی‌کنند داده‌سازی بعدی چطور باید تغییر کند یا آیا اصلاً در فضای فعلی داده‌سازی قابل بیان‌اند.

روش

چارچوب چندایجنتی EvoSyn داده‌سازی را حول یک وضعیت قابل بازنگری سازمان می‌دهد که مشخص می‌کند کدام عامل‌های تعامل را می‌شود عمداً تولید کرد و تلاش داده‌سازی کجا صرف شود. یک سیستم چندایجنتی با نقش‌های تخصصی بازخورد یادگیرنده را به بازنگری در داده‌سازی تبدیل می‌کند؛ یک طراح جهت‌های داده‌سازی را تخصیص می‌دهد و یک برنامه‌ریز آن‌ها را به تجربه‌ی اجرایی تبدیل می‌کند. فضای داده‌سازی هم می‌تواند با افزودن عامل‌های تازه‌کشف‌شده به کنترل‌های صریح تولید گسترش یابد.

یافته‌ها

• روی τ²-Bench و CAR-Bench میانگین موفقیت تسک را ۱۳٫۳ امتیاز بیشتر از قوی‌ترین پایه‌ی داده‌سازی بالا برد.
• تجربه‌ی مصنوعی باکیفیت‌تر و از نظر ساختاری متنوع‌تری تولید کرد و عامل‌های قابل کنترلی را کشف کرد که بدون بازخورد یادگیرنده دیده نمی‌شدند.

محدودیت‌ها

مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ ارزیابی فقط روی دو بنچمارک ایجنت گفت‌وگومحور انجام شده است.