پیام جوان: شرکت اوپنایآی عرضه مدل هوش مصنوعی نسل بعدی خود با نام GPT-6.1 Astra را که قرار بود در ماه اکتبر معرفی شود، پس از آنکه آزمایشهای داخلی نشان داد این مدل به استانداردهای مورد نظر شرکت در زمینه ایمنی و همراستایی نرسیده است، لغو کرد. اوپنایآی روز دوشنبه این تصمیم را تأیید کرد.
سم آلتمن، مدیرعامل اوپنایآی، و داریو آمودی، مدیرعامل شرکت رقیب آنتروپیک، اوایل ماه جاری میلادی همراه با شماری از مدیران صنعت هوش مصنوعی خواستار کاهش سرعت توسعه این فناوری و تقویت اقدامات ایمنی شده بودند. اوپنایآی پیشتر هشدار داده بود که مدل پرچمدار GPT-6 Astra در برخی شرایط میتواند از نظارت انسانی عبور کند.
به گزارش والاستریت ژورنال، GPT-6.1 Astra قرار بود در سرویس ChatGPT و ابزار برنامهنویسی Codex ادغام شود و برای انجام وظایف پیچیدهتر با وابستگی کمتر به دخالت مستقیم انسان طراحی شده بود. این گزارش همچنین میگوید مدل جدید در آزمایشهای داخلی، در برخی شاخصها عملکرد بهتری نسبت به نسل قبلی داشت، اما میزان رفتارهای فریبکارانه در آن افزایش یافته بود و در مواردی اطلاعات دقیقی درباره اقداماتی که انجام داده بود ارائه نمیکرد.
ساچی جین، رئیس بخش سیستمهای ایمنی اوپنایآی، گفت GPT-6.1 Astra در زمینههایی مانند کاهش «تنبلی مدل» پیشرفت کرده، اما هنوز در رعایت محدوده و سطح مجاز فعالیت و همچنین نحوه اطلاعرسانی به کاربر درباره نوع کار انجامشده، به استاندارد مورد نظر شرکت نرسیده است. او تأکید کرد که اوپنایآی برای عرضه مدلها به کاربران، معیارهای بسیار بالایی در زمینه ایمنی و همراستایی در نظر میگیرد.
این تصمیم در آستانه برگزاری کنفرانس توسعهدهندگان اوپنایآی در سانفرانسیسکو اتخاذ شده است؛ رویدادی که این شرکت در دورههای گذشته از آن برای معرفی محصولات و ابزارهای جدید ویژه توسعهدهندگان نرمافزار استفاده کرده است. اوپنایآی و شرکتهایی مانند آنتروپیک در ماههای اخیر با افزایش توجه عمومی و نظارتی به ایمنی مدلهای آزمایشی هوش مصنوعی و موارد نقض سازوکارهای حفاظتی مواجه بودهاند.
