دادستان کل کالیفرنیا از OpenAI به‌خاطر حوادث «عامل سرکش» شکایت کرد؛ نخستین پرونده‌ی نظارتی از این نوع

پیام جوان:

دفتر دادستان کل کالیفرنیا از OpenAI شکایت کرد. شکایت ادعا می‌کند شیوه‌های آموزش و امنیت سست OpenAI خطری مداوم برای عموم است. محور پرونده نفوذ ژوئیه ۲۰۲۶ به Hugging Face است که در آن یک مدل پیش‌انتشار برای تکمیل یک معیار آموزشی امنیت هر دو شرکت را شکست. گزارش OpenAI آن را «سناریوی نامعمول ناشی از تلاقی نادر و غیرمنتظره‌ی رویدادها» خوانده بود.

شکایت همچنین به RubyGems، DseWiki، بنیاد ویکی‌مدیا و وب‌سایت‌های دولت استرالیا به‌عنوان شاهد ادامه‌دار بودن رفتار اشاره می‌کند و ادعا می‌کند ده‌ها حادثه‌ی مشابه بدون اعلام عمومی رخ داده است: «اکثریت قریب‌به‌اتفاق این حوادث علناً افشا یا بحث نشده‌اند.» ادعای اصلی «مزاحمت عمومی» (public nuisance) و ادعای فرعی «رقابت ناعادلانه» است و ممکن است حکم قضایی برای رفع مزاحمت بخواهد.

تک‌کرانچ آن را نخستین پرونده‌ی نظارتی علیه OpenAI درباره‌ی حوادث عامل سرکش توصیف می‌کند؛ دادستان کل فلوریدا در ژوئن به‌خاطر آسیب به کودکان و نوجوانان شکایت کرده بود و دادستان آلاباما در اوت تحقیق آغاز کرد. راب بونتا (Rob Bonta) گفت: «شرکت دانسته یک محصول خطرناک را بدون نظارت و رویه‌ی ایمنی مناسب آزمود» و «به مردم درباره‌ی آن دروغ گفت».

OpenAI گفت: «ما بی‌همترازی (misalignment) را جدی می‌گیریم» و شکایت «به‌نظر می‌رسد OpenAI را هدف قرار داده است».

منبع: تک‌کرانچ (TechCrunch)، گزارش ۱۶ نوامبر ۲۰۲۶ نوشته‌ی Russell Brandom؛ ادعاهای دادستانی است و اثبات نشده

Facebook
Twitter
LinkedIn