L3M: A Verifiable Harness and Runtime for Self-Extending and Self-Improving Agents

مسئله

کار مفید ایجنت‌ها در طول ساعت‌ها و روزها، از راه ابزارها، بین ایجنت‌های متعدد و انسان‌ها، و بیشتر با کدی که خود ایجنت‌ها می‌نویسند انجام می‌شود. از سه شرکت‌کننده‌ی این محاسبه، یعنی انسان، مدل و کد، فقط توجه انسان مقیاس‌پذیر نیست؛ پس محاسبه فقط وقتی بزرگ می‌شود که انسان در هر حلقه نباشد. سؤال این است که کجا کنار گذاشتن انسان امن است.

روش

محیط اجرایی L3M به زبان Lean ۴ نوشته شده، تا یک زبان هم هارنس را پیاده کند، هم ناورداهایش را بیان کند و هم زبانی باشد که ایجنت‌ها آن را با آن گسترش می‌دهند. همه‌ی وضعیت در Git است، پس مسیر وضعیت، نه یک گفت‌وگو، قابل ادامه، برگشت، انشعاب، مقایسه و ادغام است. انتظار، ارتباط، واگذاری و لغو، عملیات پایه‌اند. ایجنت می‌تواند رویه‌ای را یک بار به شکل برنامه‌ی مهروموم‌شده‌ی Lean بنویسد که نوعش درخواست مجوزش است، و هارنس آن را به عنوان ابزار برمی‌گرداند. سطح بازبینی هر ابزار از میزان برگشت‌پذیری اثرهایش تعیین می‌شود و ویژگی‌های امنیتی به شکل قضیه‌های بررسی‌شده با هسته درباره‌ی کد در حال اجرا بیان شده‌اند.

یافته‌ها

• روی Terminal-Bench، نسخه‌ی تنظیم‌نشده‌ی L3M فقط با ابزارهای امن (بدون نیاز به بازبینی انسانی) به حدود دو سوم نرخ پاس خودش با شل کامل و ناامن رسید.
• ایجنت‌ها جایی آزادانه عمل می‌کنند که محیط اجرایی بتواند اثرشان را برگرداند، و فقط اقدام‌های برگشت‌ناپذیر بازبینی انسانی می‌خواهند.

محدودیت‌ها

مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ نویسنده‌ها در کار آینده می‌گویند بودجه‌ها فعلاً تعداد فراخوانی مدل، بایت و بیدار شدن را می‌شمارند و هنوز جریان اطلاعات را محدود نمی‌کنند.