مقاله‌ی arXiv:2610.13008 · نگه‌داشته برای بعد
Provenance-Aware Belief Updating in Human-AI Feedback Loops
به‌روزرسانی باور آگاه از منشأ: یک مشاهده که چند بار نقل شده نباید مثل چند شاهد مستقل حساب شود
- تاریخ
- (۱۷ مهر ۱۴۰۵) 2026-10-09 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Tianyi Huang, Eric Liu, Jay Chong, Emily Yin, Wanqi Zhao
- نهاد نویسنده‌ها
- Ryquo; App-In Club
خلاصه‌ی فارسی
مسئله
در تعامل تکراری انسان و هوش مصنوعی، یک مشاهده ممکن است نقل، خلاصه و به شکل چند گزارش به مدل برگردد، و تکرار مثل تأیید مستقل به نظر برسد؛ مثلاً یک خبر که در سه پیام مختلف بازنشر شده، سه منبع جدا به نظر می‌آید. سؤال این است که آیا مدل زبانی می‌تواند با استفاده از تبار گزارش‌ها، بر اساس منشأ شواهد به‌روز شود نه تعداد گزارش‌ها.
روش
روش LQET یک هدف رابطه‌ای است که نظارت بیزی تُنُک را با قیدهایی ترکیب می‌کند: وقتی گزارش‌ها شاهد تازه‌ای اضافه نمی‌کنند پیش‌بینی پایدار بماند، و به‌روزرسانی برای همان شاهد تازه در تاریخچه‌های نقل مختلف سازگار باشد. ارزیابی روی یک بنچمارک دودویی کنترل‌شده با پیوندهای منشأ داده‌شده انجام شد.
یافته‌ها
- در Qwen3-4B و Phi-4-mini با سه بذر آموزشی جفتی، خطای به‌روزرسانی برای شاهد تازه را ۴۱ تا ۴۴ درصد و رانش لگاریتم شانس بعد از هشت قدم نقل را ۸۹ تا ۹۱ درصد نسبت به آموزش فقط با تسک کم کرد.
- این بهبود به یک شبیه‌سازی حلقه‌ی بسته هم منتقل شد، که در آن اطمینان مدل تعیین می‌کند چند گزارش نقل‌شده در دورهای بعد به کانتکست برگردند.
محدودیت‌ها
نویسنده‌ها می‌گویند بررسی در یک تنظیم دودویی کنترل‌شده با پیوندهای منشأ داده‌شده و مدل مشخص اعتبار منبع انجام شده و فقط دو مدل حدود ۴ میلیاردی آزموده شده‌اند؛ انتقال به مدل‌های بزرگ‌تر، تسک‌های طبیعی و منشأ ناقص یا غیرقابل اعتماد بررسی نشده است.
چرا مهم است
ایجنت‌هایی که از منابع متعدد می‌خوانند، به‌راحتی تکرار را با تأیید اشتباه می‌گیرند. این کار نشان می‌دهد می‌شود به مدل یاد داد بر اساس شاهد تازه قضاوت کند، نه تعداد دفعاتی که یک ادعا تکرار شده.