موضوع
۳ مقاله با این موضوع (به انگلیسی Safety & alignment). جستجو و فیلتر در همین موضوع
ایجنت ارزانی که فقط وقتی مطمئن نیست کار را به مدل گران‌قیمت می‌سپارد
ایجنت‌هایی که با کامپیوتر کار می‌کنند (کلیک، تایپ، باز کردن برنامه‌ها) در کارهای طولانی یا باید در هر قدم یک مدل پیشرفته‌ی گران اجرا کنند، یا با یک مدل کوچک متن‌باز کار کنند که اغلب شکست می‌خورد. راه میانه این است که مدل ضعیف کار کند و فقط وقتی لازم است کنترل
دستور کاربر شاهد است، نه هدف: ایجنت باید نیازهای واقعی کار را از محیط بفهمد
ایجنت‌ها دستورهای پیچیده را دنبال می‌کنند، اما دستور اولیه در عمل اغلب ناقص است. نویسنده‌ها در تحلیل ۱۰۰ مسیر کاربر-ایجنت از SWE-chat دیدند ۵۶ درصد دستورهای اولیه نیازهایی را جا انداخته‌اند که بعداً لازم شده، و ۵۲ درصد نیازهای مفید بعدی را می‌شد از خود پروژه ف
ایجنت واقعاً چه کرد؟ نظارت مبتنی بر شواهد برای ایجنت‌های بلندمدت
با سپردن تسک‌های طولانی به ایجنت‌ها، کاربران از تصمیم‌گیری تک‌تک به نظارت بر اجرای مستقل می‌رسند. اما حجم فعالیت ایجنت و پراکندگی شواهد پشتیبان تشخیص این‌که کدام تصمیم‌ها ارزش تأیید کاربر را دارند سخت می‌کند؛ مثلاً ایجنت در میان صدها گام بی‌صدا یک نسخه‌ی کتابخ