پیام جوان: گزارشها حاکی از آن است که اپلیکیشن هوش مصنوعی «گروک»، که اخیراً توسط ایلان ماسک توسعه یافته، به کاربران امکان تولید تصاویر نامناسب از کودکان، از جمله بازیگران خردسال، را داده است. این رخدادها، همانطور که رسانههای غربی گزارش دادهاند، نگرانیهای جدی را در مورد پتانسیل ابزارهای هوش مصنوعی برای گسترش آسیب و به خطر انداختن افراد زیر سن قانونی مطرح کرده است.
اخیراً، کاربران شبکه اجتماعی ایکس با سوءاستفاده از قابلیتهای گروک، اقدام به دستکاری دیجیتالی تصاویر یک بازیگر ۱۴ ساله سریال «چیزهای عجیب» نتفلیکس کردهاند که موجی از انتقادات را بهدنبال داشته است. در پی این انتقادات گسترده، شرکت گروک اذعان کرد که حفرههایی در سازوکارهای ایمنی خود داشته که اجازه تولید تصاویر جنسی از افراد زیر سن قانونی و زنان را میداده است. این موضوع به آغاز تحقیقات قضایی وسیع در کشورهای مختلف انجامید؛ از جمله در فرانسه که دادستانی عمومی پاریس تحقیقات خود را به پلتفرم ایکس و ابزار هوش مصنوعی آن، گروک، گسترش داده است.
وزارت الکترونیک و فناوری اطلاعات هند نیز با صدور اخطاریهای رسمی، از ایکس خواسته است گزارشی جامع درباره اقدامات انجامشده برای حذف محتوای مستهجن تولیدشده توسط گروک ارائه دهد. گروک تاکید کرده است که استثمار جنسی کودکان غیرقانونی و کاملاً ممنوع است و هر شرکتی در ایالات متحده که آگاهانه تولید پورنوگرافی کودکان را تسهیل کند، مسئولیت کیفری و مدنی خواهد داشت. این بحران در حالی برای ایلان ماسک و شرکتهایش رخ میدهد که وی در تلاش است تا نظر مثبت کاخ سفید را جلب کرده و برای کسب قراردادهای دولتی در حوزه هوش مصنوعی رقابت کند. این در حالی است که پیشتر، ائتلافی متشکل از بیش از ۳۰ گروه مدافع حقوق مصرفکنندگان، به دلیل فقدان آزمایشهای ایمنی کافی و «تعصب ایدئولوژیک»، خواستار ممنوعیت استفاده از گروک در امور دولتی شده بودند.
شرکت XAI، سازنده گروک، بارها به دلیل انتشار اطلاعات نادرست و ترویج دیدگاههای همسو با ایلان ماسک، از جمله ادعای «نسلکشی سفیدپوستان» و انتشار اخبار غلط انتخاباتی، مورد انتقاد قرار گرفته است. با وجود تعهد ایلان ماسک در سال گذشته برای ایجاد یک «مرکز عالی اعتماد و ایمنی» برای نظارت بر محتوا و اجرای قوانین ایمنی، زمان آغاز به کار این مرکز هنوز مشخص نیست. مدیران سابق شرکت ایکس نیز بر لزوم «سرمایهگذاریهای جدی برای جلوگیری از سوءاستفاده کاربران متخلف» تاکید کرده بودند. این وقایع، چالشهای اخلاقی و قانونی فزایندهای را که فناوریهای هوش مصنوعی با آن روبرو هستند، برجسته میسازد و بر ضرورت توسعه مسئولانه و ایمن این ابزارها برای حفاظت از کاربران، بهویژه افراد آسیبپذیر، تاکید میکند.
