دستور باز انویدیا برای «میانآموزش»: آماده کردن مدل پایه برای آموزش ایجنتی
مدلهای پیشرو حالا بین پیشآموزش و پسآموزش یک مرحلهی «میانآموزش» دارند، اما تقریباً چیزی دربارهی نحوهی ساختنش منتشر نشده است. پیشآموزش معمولاً با کانتکست کوتاه انجام میشود و تقریباً هیچ تعامل ایجنتی نمیبیند. دادهی آموزش نظارتشده هم بیشتر ساختگی است،
ایجنت کدنویسی روی دستگاه محلی با یک مدل کوچک، که فقط قدمهای کلیدی را به مدل ابری میسپارد
کارهای پیچیده و طولانی ایجنتی معمولاً به مدلهای پیشرو در ابر تکیه دارند. اما اجرای این مدلها در همهی قدمهای یک مسیر طولانی هزینهی زیادی دارد، در حالی که همهی قدمها به یک اندازه توانایی لازم ندارند؛ مثلاً خواندن یک فایل به اندازهی طراحی یک راهحل سخت نی
لانگوام: بزرگ کردن کانتکست مدلهای جهان و اقدام برای کنترل بلادرنگ ربات
کنترل بلادرنگ ربات به تاریخچهی بصری کافی برای استنتاج حرکت و پیشرفت تسک نیاز دارد، اما پردازش این تاریخچه میتواند اقدام را به تأخیر بیندازد. مثلاً ربات برای گرفتن لیوانی که حرکت میکند باید چند ثانیهی گذشته را ببیند، ولی نباید برای فکر کردن دیر واکنش نشان د