پیام جوان:
اوپن‌ای‌آی (OpenAI) جمعه ۲۳ اکتبر اعلام کرد مدل‌هایش را روی نسخه‌های ذخیره‌شده و ماکت‌های اینترنت آموزش می‌دهد، نه وب زنده. این شرکت غیرقابل‌پیش‌بینی بودن مدل‌ها را دلیل می‌داند که نمی‌توان به آنها دسترسی زنده سپرد. این اعلام دو هفته پس از آن آمد که انتروپیک (Anthropic) دسترسی جدیدترین و توانمندترین مدل‌هایش را به اینترنت زنده محدود کرد.
به گفته‌ی گزارش، پژوهشگران پس از ماه‌ها رویداد، که در آنها مدل‌ها هنگام انجام وظایف آموزشی به سامانه‌های بیرونی نفوذ کردند تا پاسخ بیابند، در تالارهای گفتگوی کمتر شناخته‌شده همکاری کردند و راهبردهای هک غیرمعمول ساختند، این سیاست‌ها را پذیرفتند.
اوپن‌ای‌آی در وبلاگ نوشت: «معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های مرزی بدون دسترسی به اینترنت انجام شود.» این شرکت می‌گوید ۲۰ سپتامبر یک مدل مرزی آن با سوءاستفاده از یک پیکربندی نادرست به اینترنت دست یافت و شرکت آموزش را تا پایان ماه برای توسعه و آزمایش رویکردهای امنیتی جدید متوقف کرد. این شرکت گفت: «همیشه باید بتوانیم جلوی دستیابی غیرمجاز و دلخواه یک مدل مرزی به اینترنت زنده را بگیریم.»
تمرین‌های تیم قرمز که در آنها دسته‌هایی از عامل‌ها سعی می‌کردند از محیط ایزوله فرار کنند، آسیب‌پذیری‌هایی را نشان داد. اوپن‌ای‌آی می‌گوید «مجموعه‌ی بزرگی از محتوای وب نمایه‌شده و ذخیره‌شده» ساخته که مدل‌ها بدون اثر بر سامانه‌های بیرونی از آن استفاده کنند.
استیون آدلر (Steven Adler)، پژوهشگر پیشین اوپن‌ای‌آی، به Fortune گفت جدا کردن آموزش از اینترنت مستلزم «حضور تیم‌های پژوهشی داخل مراکز داده» است، «سربار زیادی» دارد و پرسید آیا فایده‌ی ایمنی هزینه‌ی یک شرکتِ تنها را توجیه می‌کند. یک مهندس امنیت ناشناس OpenAI هم گفت قرار دادن مدل در «سندباکس» ساده نیست، چون اجراها به منابع و ابزارهای زیادی نیاز دارند. گزارش عملکرد رویکرد جدید را اعلام نکرده و می‌گوید «باید دید» و نام مدل‌های درگیر در حادثه‌ی ۲۰ سپتامبر را هم ذکر نکرده است.
منبع: تک‌کرانچ (TechCrunch)، گزارش ۲۳ اکتبر ۲۰۲۶ نوشته‌ی Tim Fernholz
