مقاله‌ی arXiv:2610.03195 · منتشرشده در کانال
Source Preference in the Wild: How LLM Agents Favor Items by Source, and How to Reduce It
ترجیح منبع در دنیای واقعی: ایجنت‌ها چطور آیتم‌ها را بر اساس منبعشان ترجیح می‌دهند و چطور کمش کنیم
- تاریخ
- (۱۰ مهر ۱۴۰۵) 2026-10-02 تأییدشده از روی تاریخ ارسال نسخه‌ی اول در آرکایو
- نویسنده‌ها
- Jonghyun Song, Haewon Park, Jeonghoon Shim, Woojung Song, Yohan Jo
- نهاد نویسنده‌ها
- Graduate School of Data Science, Seoul National University
خلاصه‌ی فارسی
مسئله
وقتی ایجنت‌ها از طرف کاربر تصمیم می‌گیرند کدام محصول را بخرند، کدام هتل را رزرو کنند یا کدام مقاله را ارجاع دهند، ترجیح برای آیتم‌های برخی منابع، یعنی سایت یا سرویسی که از آن آمده‌اند، تعیین می‌کند کاربر چه دریافت می‌کند و کدام منابع انتخاب می‌شوند.
روش
نویسنده‌ها ترجیح منبع را در جست‌وجوی سرتاسری با ۱۲ مدل ایجنتی در سه حوزه بررسی کردند و آیتم‌هایی از منابع مختلف را که نیازهای یکسانی را در جایگاه یکسان برآورده می‌کنند مقایسه کردند. سپس با پنهان کردن یا تغییر برچسب منبع و آزمودن دو مسیر علّی، یعنی آموزشی که منبع را میان‌بر برآورده شدن نیاز می‌کند و اطلاعات گم‌شده‌ای که پیش‌داوری درباره‌ی منبع را فعال می‌کند، منشأ ترجیح را سنجیدند.
یافته‌ها
- هر مدل در هر حوزه برخی منابع را ترجیح می‌دهد و از برخی دوری می‌کند، و مدل‌ها تا حد زیادی بر سر این‌که کدام منابع، هم‌نظرند.
- آیتمی که یک نیاز کمتر را برآورده می‌کند، وقتی از منبع ترجیحی و آیتم بهتر از منبع نامطلوب باشد، حدود دو سوم مواقع انتخاب می‌شود، اما در حالت برعکس تقریباً هرگز.
- پنهان کردن هویت منبع ترجیح را ضعیف می‌کند و برچسب منبع ترجیحی نرخ انتخاب را بالا می‌برد.
- تأمین اطلاعات گم‌شده یا پرامپتی که این پیش‌داوری‌ها را خنثی کند، ترجیح منبع را کم می‌کند.
محدودیت‌ها
مقاله بخش جداگانه‌ای برای محدودیت‌ها ندارد؛ بررسی به سه حوزه و ۱۲ مدل محدود است.
چرا مهم است
اگر ایجنت‌ها خرید و انتخاب را از طرف ما انجام دهند، سوگیری منبع می‌تواند هم کاربر را به گزینه‌ی بدتر برساند و هم بازار را به نفع چند سایت خم کند. این کار هم مشکل را می‌سنجد و هم راه کاهشش را نشان می‌دهد.