پیام جوان: شرکت OpenAI در واکنش به گزارش کاربران درباره رفتارهای غیرعادی مدل جدید GPT-4o، از جمله تأیید نابجا و چاپلوسانه، تصمیم به بازگردانی آپدیت اخیر گرفت. کاربران گفته‌اند که مدل به‌طور نگران‌کننده‌ای با نظرات آن‌ها حتی در موارد گمراه‌کننده موافقت می‌کرد. سم آلتمن، مدیرعامل OpenAI، این مشکل را تأیید و آن را ناشی از تغییرات اخیر در نحوه آموزش مدل دانست.
نقص در ارزیابی پیش از انتشار؛ اصلاحات در راه است
OpenAI اعلام کرد استفاده از داده‌های پسندیدن کاربران، باعث کاهش دقت سیگنال‌های رفتاری بازدارنده شده است و حافظه مدل نیز ممکن است این الگو را تقویت کرده باشد. با وجود تست‌های موفق آفلاین، هشدار کارشناسان درباره عدم تعادل رفتاری مدل نادیده گرفته شد. اکنون شرکت وعده داده ارزیابی رفتاری را در انتشارهای آینده جدی‌تر دنبال کند و یک مرحله آزمایشی داوطلبانه برای جمع‌آوری بازخورد کاربران راه‌اندازی خواهد شد.
تمرکز بر ایمنی نوجوانان و توسعه قابلیت‌های جدید جستجو
از دیگر مشکلات گزارش‌شده، امکان استفاده کاربران زیر ۱۸ سال از مدل برای تولید محتوای نامناسب بود که OpenAI در حال رفع آن است. این نسخه همچنین شامل قابلیت‌های جستجوی پیشرفته بود که به کاربران اجازه می‌دهد اطلاعات تصویری و نقدهای محصول دریافت کنند. آلتمن گفته است نسخه به‌روزرسانی‌شده به‌زودی در دسترس کاربران اشتراکی قرار می‌گیرد و اصلاحات رفتاری بیشتری در راه است.
