مقاله‌ی arXiv:2610.00797 · منتشرشده در کانال
Sapien: A Stateful Policy Engine for Autonomous AI Agents
ساپین: موتور سیاست حالت‌دار برای امنیت ایجنت‌های خودمختار
- تاریخ
- (۸ مهر ۱۴۰۵) 2026-09-30 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Corinn Tiffany, Wen Zhang, Eugene Bagdasarian, Lillian Tsai
- نهاد نویسنده‌ها
- Google; University of Massachusetts Amherst
خلاصه‌ی فارسی
مسئله
دفاع‌های امنیتی بافتاری با ساخت یک سیاست ویژه‌ی تسک و اعمال آن روی فراخوانی ابزارها جلوی کنش‌های سرکش ایجنت را می‌گیرند. اما در تسک‌های چندمرحله‌ای، این‌که کدام کنش معتبر است اغلب به آنچه ایجنت قبلاً انجام داده و فهمیده بستگی دارد؛ مثلاً پس از خواندن یک فهرست کار از یک صفحه‌ی وب، کنش‌های مجاز به محتوای همان فهرست وابسته است.
روش
موتور سیاست Sapien سیاست‌های بافتاری حالت‌دار را اعمال می‌کند. هر سیاست دنباله‌های مجاز فراخوانی ابزار را با یک عبارت منظم گسترش‌یافته با گزاره‌های حالت‌دار، تولید سیاست معوق و بررسی‌های معنایی با دامنه‌ی محدود مشخص می‌کند. عملگر معوق یک جای خالی در سیاست می‌گذارد که وقتی داده‌ی مرتبط در دسترس شد در زمان اجرا تکمیل می‌شود.
یافته‌ها
- سودمندی آن در فاصله‌ی چند درصدی ایجنت بدون محدودیت ماند.
- حتی اگر ایجنت کاملاً ربوده شود، سیاست‌ها ۹۳ تا ۹۵ درصد حمله‌ها را در AgentDojo و ۶۲ تا ۸۵ درصد را در Toolathlon رد کردند، که در تسک‌های بلندمدت دو برابر فهرست مجاز ابزارهاست.
محدودیت‌ها
نویسنده‌ها می‌گویند وقتی پرامپت کاربر چند کنش معتبر را مجاز می‌کند، موتور دقت اضافه نمی‌کند و همه را مجاز می‌گذارد؛ مثلاً اگر کاربر بگوید «به Bob جواب بده» و دو ایمیل از دو Bob مختلف باشد، ممکن است ایجنت به Bob مهاجم پاسخ دهد.
چرا مهم است
سیاست‌های امنیتی ثابت برای ایجنت‌هایی که در طول تسک چیز یاد می‌گیرند یا بیش از حد سخت‌گیرند یا بیش از حد شل. این کار نشان می‌دهد سیاست حالت‌دار می‌تواند بیشتر حمله‌ها را با هزینه‌ی کم سودمندی متوقف کند.