محصول
۳ مقاله که به این محصول مربوط است. جستجو و فیلتر در همین فهرست
مقاله‌ی DuoDiscover: Scaling Autonomous Discovery Beyond the Evaluation Bottleneck (12 Oct 2026، گوگل با دانشگاه‌های برکلی و استنفورد؛ از جمله یون استوئیکا و توماس فیستر) مسئله: وقتی به ایجنت کدنویس می‌گویی کدی را سریع‌تر کند، مثلاً یک کرنل جی‌پی‌یو یا موتور س
بردن توکن‌سازی از CPU به GPU برای سرو ایجنت‌ها: وقتی کش پیشوند پیش‌پر را حذف کرده، توکن‌سازی گلوگاه می‌شود
بارهای کاری ایجنتی کانتکست‌های طولانی را که بین فراخوانی‌ها تقریباً تغییر نمی‌کنند دوباره می‌فرستند. کش پیشوند حالا بیشتر پیش‌پر را حذف می‌کند، اما هر درخواست هنوز باید کامل توکن‌سازی شود تا اصلاً بشود کش را بررسی کرد. توکن‌سازی، یک مرحله‌ی CPU که مدت‌ها ناچیز
توکن‌روتر: سیستم سرویس‌دهی کارآمد برای مسیریابی در سطح توکن بین چند مدل زبانی
مسیریابی بین مدل‌ها کار استنتاج را بین چند مدل پخش می‌کند و تعادل هزینه و کیفیت را بهتر می‌کند. مسیریابی درشت‌دانه در سطح جلسه یا پرسش در سیستم‌های تولیدی رایج است و کارهای الگوریتمی اخیر نشان داده‌اند مسیریابی ریزدانه در سطح توکن سود بیشتری دارد، مثلاً مدل کو