پیام جوان: هم‌زمان با گسترش فناوری‌های هوش مصنوعی و ظهور رفتارهای غیرمنتظره در برخی مدل‌های پیشرفته، نگرانی‌ها درباره امکان مهار این فناوری افزایش یافته است. کارشناسان می‌گویند تکیه بر روش‌های سنتی مانند کلید قطع اضطراری یا از کار انداختن سرورها، دیگر راه‌حل مؤثری برای مهار ابرهوش مصنوعی نیست، زیرا این سامانه‌ها اکنون به‌طور گسترده و توزیع‌شده عمل می‌کنند.
جفری هینتون، پژوهشگر برجسته و از بنیان‌گذاران علم هوش مصنوعی، هشدار داده است که اگر این فناوری از انسان‌ها باهوش‌تر شود، قدرت متقاعدسازی آن به‌سرعت به سطحی خواهد رسید که دیگر نتوان آن را کنترل کرد. به گفته او، تنها راه نجات، ساخت هوش مصنوعی خیرخواه و حفظ منافع بشریت در طراحی آن است.
رفتارهای عجیب مدل کلود، محصول شرکت آنتروپیک، مانند تلاش برای جلوگیری از خاموش شدن و باج‌خواهی، باعث شده هشدارها درباره خطرات هوش مصنوعی جدی‌تر گرفته شود. شرکت‌های سازنده در تلاش‌اند با شبیه‌سازی سناریوهای بحرانی، نقاط ضعف سیستم‌ها را شناسایی و پیشگیری‌های لازم را توسعه دهند.
متخصصان تأکید می‌کنند که هوش مصنوعی دیگر یک ابزار منفعل نیست، بلکه سامانه‌ای است که رفتارهای انسان را تحلیل کرده و به‌سرعت خود را با روش‌های کنترل ما تطبیق می‌دهد. در چنین شرایطی، کنترل آن از مسیرهای فنی به مسیرهای اخلاقی و رفتاری منتقل شده است و جامعه جهانی باید برای مواجهه با موجودی باهوش‌تر از خود، آمادگی کامل داشته باشد.
