Turbo Harness: Instance-Adaptive Harness Optimization

مسئله

خودکارسازی جست‌وجوی هارنس مؤثر گامی مهم به سوی خودبهبودی بازگشتی ایجنت‌هاست. روش‌های موجود معمولاً یک هارنس سراسری واحد می‌سازند که یکسان روی همه‌ی نمونه‌های تسک اعمال می‌شود، اما هارنسی که در میانگین خوب است برای هر نمونه بهینه نیست.

روش

چارچوب Turbo Harness مصنوعات تولیدشده در یک اجرای کامل بهینه‌سازی سراسری هارنس را بازیافت و در یک دفترچه‌ی راهنمای ساختاریافته خلاصه می‌کند. سپس یک ویرایشگر هارنس آموزش داده می‌شود تا با این تجربه‌ی قبلی، وصله‌های ویژه‌ی هر نمونه برای هارنس سراسری بسازد؛ در زمان استنتاج ویرایشگر با نمونه و دفترچه یک هارنس متناسب می‌سازد که مدل اجراکننده در آن کار می‌کند.

یافته‌ها

• در هفت بنچمارک تسک‌های ایجنتی تعاملی، مهندسی نرم‌افزار و تسک‌های ترمینالی بلندمدت، پیوسته از پایه‌های بهینه‌سازی هارنس بهتر بود.
• تطبیق‌های ویژه‌ی هر نمونه پیوسته از هارنس سراسری متناظر بهتر بودند و اغلب هزینه‌ی اجرا را هم کم کردند.

محدودیت‌ها

نویسنده‌ها می‌گویند اثربخشی روش به کیفیت و تنوع نامزدها، مسیرها و بازخورد جست‌وجوی سراسری وابسته است، و آموزش ویرایشگر به اجراهای محیطی اضافه نیاز دارد که در تسک‌های ایجنتی پرهزینه است. چکیده عدد مشخصی برای بهبود نمی‌دهد.