کارایی استنتاج

DLite: History-free Speculative Decoding for Agentic AI

خلاصه‌ی فارسی هنوز نوشته نشده است.

OPRD: On-Policy Reminder Distillation for Long-Horizon Coding Agents

یاد دادن به ایجنت کدنویسی که از اطلاعاتی که همین الان در کانتکستش هست استفاده کند

کدنویسی قابل اعتماد در سطح ریپو یعنی ایجنت نه فقط کد درست بنویسد، بلکه محدودیت‌ها را در طول تعامل طولانی رعایت کند و به بازخورد ابزارها واکنش نشان دهد. تحلیل نویسنده‌ها نشان داد ایجنت‌ها اغلب به اطلاعاتی که همین حالا در کانتکست دارند عمل نمی‌کنند؛ مثلاً پیام خ

The World Won't Wait: Evaluating and Teaching Agents Under a Live Clock

دنیا منتظر نمی‌ماند: سنجیدن ایجنت‌ها وقتی بازی در حین فکر کردنشان ادامه دارد

ایجنت‌های مدل زبانی کارهای تعاملی پیچیده را حل می‌کنند، اما استدلال و فراخوانی ابزار زمان می‌برد. در محیطی که مدام تغییر می‌کند، یک عمل درست ممکن است خیلی دیر برسد؛ مثلاً در یک بازی، تا مدل تصمیم بگیرد به کدام سمت برود، مانع رسیده است. بیشتر بنچمارک‌ها محیط را

Co-Evolving Acting and Forecasting for Language Agents

آموزش هم‌زمان اقدام و پیش‌بینی چند قدم بعدی، برای استفاده‌ی بهتر از مسیرهای موفق ایجنت

آموزش ایجنت‌های زبانی به خاطر هزینه‌ی بالای اجراهای طولانی محدود است، ولی یادگیری تقویتی معمول فقط از یک پاداش پایانی یاد می‌گیرد و نظارت قدم‌های میانی را هدر می‌دهد. روش‌های قبلی یا هدف ارزش برای هر قدم می‌سازند، که همه از همان یک پاداش می‌آیند، یا هدف مشاهده

DuoDiscover: Scaling Autonomous Discovery Beyond the Evaluation Bottleneck

مقاله‌ی DuoDiscover: Scaling Autonomous Discovery Beyond the Evaluation Bottleneck (12 Oct 2026، گوگل با دانشگاه‌های برکلی و استنفورد؛ از جمله یون استوئیکا و توماس فیستر) مسئله: وقتی به ایجنت کدنویس می‌گویی کدی را سریع‌تر کند، مثلاً یک کرنل جی‌پی‌یو یا موتور س

ProgAgent: Learning Tool Orchestration through Programmatic Training

آموزش ایجنت برای فراخوانی ابزار با کد، به جای فراخوانی پشت‌سرهم که کانتکست را پر می‌کند

ایجنت‌ها معمولاً ابزارها را مستقیم و پشت‌سرهم صدا می‌زنند و پاسخ هر ابزار به کانتکست اضافه می‌شود، که در کارهای طولانی به «پوسیدگی کانتکست» و از هم پاشیدن هماهنگی می‌انجامد. مثلاً ایجنتی که باید ۵۰ فایل را بخواند و خلاصه کند، همه‌ی محتوا را در کانتکست انباشته

RATED: Reliability-Aware AI Agent Tool Retrieval via Execution Dynamics

بازیابی ابزار آگاه از قابلیت اطمینان: کنار گذاشتن ابزارهایی که در لحظه از کار افتاده‌اند

ایجنت‌ها بیشتر به ابزارهای بیرونی تکیه می‌کنند و بازیابی درست ابزار برای رفتار قابل اعتماد لازم است. روش‌های موجود ارتباط معنایی را بهینه می‌کنند ولی در دسترس بودن ابزار در زمان اجرا را نادیده می‌گیرند؛ مثلاً API آب‌وهوایی که از نظر معنایی بهترین گزینه است ولی

Taking Tokenization off the Host for Agentic LLM Serving

بردن توکن‌سازی از CPU به GPU برای سرو ایجنت‌ها: وقتی کش پیشوند پیش‌پر را حذف کرده، توکن‌سازی گلوگاه می‌شود

بارهای کاری ایجنتی کانتکست‌های طولانی را که بین فراخوانی‌ها تقریباً تغییر نمی‌کنند دوباره می‌فرستند. کش پیشوند حالا بیشتر پیش‌پر را حذف می‌کند، اما هر درخواست هنوز باید کامل توکن‌سازی شود تا اصلاً بشود کش را بررسی کرد. توکن‌سازی، یک مرحله‌ی CPU که مدت‌ها ناچیز

TokenRouter: Efficient Serving System for Token-Level LLM Routing

توکن‌روتر: سیستم سرویس‌دهی کارآمد برای مسیریابی در سطح توکن بین چند مدل زبانی

مسیریابی بین مدل‌ها کار استنتاج را بین چند مدل پخش می‌کند و تعادل هزینه و کیفیت را بهتر می‌کند. مسیریابی درشت‌دانه در سطح جلسه یا پرسش در سیستم‌های تولیدی رایج است و کارهای الگوریتمی اخیر نشان داده‌اند مسیریابی ریزدانه در سطح توکن سود بیشتری دارد، مثلاً مدل کو

ServeLearnBench: How Well Can Agents Self-Improve from Serving Experience?

بنچمارک یادگیری از سرویس‌دهی: ایجنت‌ها چقدر می‌توانند از تجربه‌ی استقرار خودشان بهتر شوند؟

دانش لازم برای رفتار درست ایجنت در محیط‌های واقعی اغلب ضمنی، اعلام‌نشده و در حال تغییر است؛ مثلاً یک فروشگاه سیاست بازگشت کالا را بی‌اعلام عوض می‌کند. هارنس‌های یادگیری پیوسته می‌خواهند ایجنت از تجربه‌ی سرویس‌دهی بهتر شود، اما اثربخشی و محدودیت‌هایشان مشخص نیس

Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell

حافظه‌ی پایدار در استنتاج چندایجنتی: چه هزینه‌ای دارد، چه سودی می‌دهد و کِی می‌شود فهمید

تقسیم استنتاج کانتکست طولانی بین ایجنت‌های همکار، حافظه‌ی نهان کلید و مقدار فعال هر فراخوانی را محدود می‌کند، که وقتی حافظه گلوگاه است مهم است. بسیاری از این سیستم‌ها یک لایه‌ی پایدار برای ذخیره و یادآوری ردپاهای استدلال اضافه می‌کنند و معمولاً با یک آزمایش حذ

Persistent Context Graphs for Efficient Memory Compaction in LLM Agents

گراف‌های کانتکست پایدار برای فشرده‌سازی کارآمد حافظه در ایجنت‌ها

تاریخچه‌ی رو به رشد تعامل ایجنت‌ها فشرده‌سازی حافظه را برای ماندن در پنجره‌ی کانتکست و کاهش هزینه‌ی پیش‌پرکردن ضروری می‌کند. روش‌های موجود تاریخچه را خلاصه یا حافظه‌ی کلید و مقدار را فشرده می‌کنند و اغلب محاسبه‌ی مدل اضافه می‌کنند. یک درخواست جدید کاربر می‌توا

DolphinBench: Mapping the Pareto Frontier of Agent Memory

دلفین‌بنچ: ترسیم مرز پارتوی حافظه‌ی ایجنت با سنجش دقت، هزینه و تأخیر

ایجنت‌ها امروز کنش‌های واقعی انجام می‌دهند که به حافظه‌ی بلندمدت و یادآوری کانتکست وابسته است. اما بیشتر بنچمارک‌های حافظه در قالب پرسش و پاسخ گفت‌وگویی ساخته شده‌اند، جایی که خود پرسش نشان می‌دهد باید چیزی بازیابی شود و اغلب کدام چیز. همچنین بنچمارک‌ها به ندر