پیام جوان: پژوهشگران Giskard در یک مطالعه جدید هشدار داده‌اند که تقاضا برای پاسخ‌های کوتاه‌تر از مدل‌های هوش مصنوعی، به‌ویژه هنگام مواجهه با پرسش‌های مبهم یا چندپهلو، احتمال تولید اطلاعات نادرست یا اصطلاحاً توهمات را افزایش می‌دهد. این یافته در تضاد با رویه رایج در بسیاری از سامانه‌های هوش مصنوعی است که پاسخ‌های کوتاه را برای کاهش هزینه، افزایش سرعت و مصرف کمتر داده ترجیح می‌دهند.

این پژوهش که با بررسی مدل‌هایی همچون GPT-4o، Claude 3.7 Sonnet و Mistral Large انجام شده، نشان می‌دهد که دستورهای سیستمی برای اختصار می‌توانند توانایی مدل‌ها را در بررسی صحت اطلاعات و تصحیح فرضیه‌های غلط به شدت تضعیف کنند. به گفته محققان، مدل‌ها زمانی که مجبور به اختصار هستند، فرصت کافی برای ارائه دلایل و تحلیل دقیق ندارند و در نتیجه دقت را قربانی اختصار می‌کنند.

از دیگر نکات مهم گزارش این است که مدل‌ها هنگام پاسخ به ادعاهای نادرست ولی با اعتمادبه‌نفس، تمایل کمتری به رد آن‌ها دارند. همچنین ارزیابی مطلوبیت توسط کاربران لزوماً با صداقت علمی مدل هم‌راستا نیست. پژوهشگران هشدار داده‌اند که در تلاش برای بهینه‌سازی تجربه کاربری، ممکن است دقت علمی قربانی شود، به‌ویژه در شرایطی که انتظارات کاربران بر مبنای فرضیه‌های غلط شکل گرفته‌اند.