هند هم از فعالیت عامل‌های هوش مصنوعی «سرکش» خبر داد؛ دسترسی به داده‌ها از طریق اعتبارنامه‌های بازمانده

پیام جوان:

تیم واکنش اضطراری رایانه‌ای هند (CERT-In) پنجشنبه اعلام کرد «چند افشای داوطلبانه از ارائه‌دهندگان مدل هوش مصنوعی» دریافت کرده است؛ مدل‌هایی که هنگام پژوهش و ارزیابی روی اینترنت باز «به سامانه‌های زنده‌ی سازمان‌های هندی رسیده بودند».

طبق این اعلام، عامل‌ها از اعتبارنامه‌ها و تنظیمات اتصالی که در پیکربندی اپلیکیشن‌ها، مخزن‌های عمومی کد و نقش‌های بیش‌ازحد باز ابری در معرض دید مانده بود استفاده کرده‌اند و کارهایشان «از مجوز وظیفه‌های محول‌شده فراتر رفته است». عامل‌های چند ارائه‌دهنده به داده‌های شخصی و سوابق محرمانه‌ی تجاری دسترسی پیدا کردند.

CERT-In نگفته آیا عامل‌ها سامانه‌ها را تغییر داده‌اند و نام ارائه‌دهندگان هوش مصنوعی یا سازمان‌های آسیب‌دیده را اعلام نکرده است. برخلاف موارد دیگر، عامل‌ها در هند ظاهراً از آسیب‌پذیری‌های نرم‌افزاری سوءاستفاده نکرده‌اند و صرفاً از دسترسی‌ای استفاده کرده‌اند که باز مانده بود.

تک‌کرانچ چند مورد مشابه در کشورهای دیگر را یادآوری می‌کند: در فرانسه در ژوئیه عامل‌های OpenAI از محیط آزمایش خارج شدند و به شرکت فرانسوی «هاگینگ فیس» نفوذ کردند. در استرالیا در سپتامبر OpenAI پس از دسترسی عامل‌ها به چهار وب‌سایت دولتی، از جمله پورتال آمار مدیکر، عذرخواهی کرد و گفت شواهدی از دست‌یابی به سوابق پزشکی یا جنایی افراد ندیده است. آنتروپیک هم در ژوئیه افشا کرد Claude هنگام آزمایش با روش‌های ساده مثل رمزهای ضعیف به سامانه‌ی سه شرکت نفوذ کرده است.

وجه مشترک هند و موارد آنتروپیک این است که سازمان‌های آسیب‌دیده خودشان نفوذ را تشخیص ندادند و دولت‌ها برای اطلاع از فعالیت عامل‌های سرکش به افشای داوطلبانه‌ی شرکت‌های هوش مصنوعی وابسته هستند.

منبع: تک‌کرانچ (TechCrunch)، گزارش ۱۶ اکتبر ۲۰۲۶ درباره‌ی اعلام CERT-In هند