مقاله‌ی arXiv:2610.06597 · منتشرشده در کانال
Can Agent Harnesses and Inference Engines Hear Each Other? The HEAR Protocol for Agentic LLM Serving
آیا هارنس ایجنت و موتور استنتاج صدای هم را می‌شنوند؟ پروتکل HEAR برای سرویس‌دهی ایجنتی
- تاریخ
- (۱۳ مهر ۱۴۰۵) 2026-10-05 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Jiaqi Zhao, Haodong Chen, Jitai Hao, Wei Zhao, Jinghao Pang, Qiang Huang, Jun Yu
- نهاد نویسنده‌ها
- Harbin Institute of Technology (Shenzhen)
- موضوع‌ها
خلاصه‌ی فارسی
مسئله
ایجنت‌ها گردش‌کارهای پیچیده با استدلال چندنوبتی، ابزار و ایجنت‌های موازی اجرا می‌کنند. سرویس‌دهی کارآمد به تصمیم‌هایی نیاز دارد که دو لایه با اطلاعات مکمل را در بر می‌گیرد: هارنس وابستگی‌های گردش‌کار، چرخه‌ی عمر کانتکست و هدف اجرا را می‌فهمد، و موتور استنتاج صف درخواست، وضعیت حافظه‌ی نهان، فشار منابع و توانایی‌ها را می‌بیند. رابط‌های موجود این دو دید را به هم وصل نمی‌کنند؛ مثلاً موتور نمی‌داند کانتکست یک ایجنت چند ثانیه‌ی دیگر دوباره لازم است و آن را از حافظه بیرون می‌اندازد.
روش
پروتکل دوطرفه‌ی HEAR استاندارد می‌کند هارنس چطور نیت گردش‌کار و الزام‌های اجرا را اعلام کند و موتور چطور وضعیت زمان اجرا، توانایی‌ها و نتیجه‌ها را برگرداند. با جدا کردن معنای پروتکل از سیاست‌های بهینه‌سازی، راهبردهای هماهنگی متنوع را بدون تغییر معنای گردش‌کار یا مدل پشتیبانی می‌کند. برای هماهنگی آگاه از حافظه‌ی نهان و انتخاب حالت اجرای متناسب با نقش ایجنت پیاده شد.
یافته‌ها
- در چهار بنچمارک گفت‌وگویی و پژوهشی زیر محدودیت حافظه و سرویس‌دهی هم‌زمان، روی SCBench سرعت دسته‌ای را ۱٫۶۱ برابر کرد و میانه‌ی زمان تا اولین توکن را ۲٫۲۳ برابر کم کرد.
- روی Mooncake نشان داد نیت گردش‌کار و وضعیت زنده‌ی موتور در رژیم‌های بار مختلف سود مکمل دارند.
- روی BrowseComp-Plus و DeepResearchBench پیکربندی‌های ویژه‌ی بار کاری سرعت سرتاسری ۱٫۲۳ و ۲٫۴۵ برابر دادند، بدون افت مشاهده‌شده در کیفیت تسک.
محدودیت‌ها
مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ نتیجه‌ها زیر شرایط محدودیت حافظه و بار هم‌زمان گزارش شده‌اند.
چرا مهم است
ایجنت‌ها الگوی بار متفاوتی با چت‌بات‌ها دارند و موتورهای استنتاج از آن خبر ندارند. یک پروتکل مشترک بین هارنس و موتور، سرویس‌دهی ایجنت‌ها را چند برابر سریع‌تر می‌کند.