یک هیئت مستقل از سوی سازمان ملل متحد در نخستین ارزیابی جهانی خود هشدار داده است که سرعت رشد و توسعه فناوری هوش مصنوعی از درک علمی بشر و توانایی دولتها برای مقرراتگذاری مؤثر پیشی گرفته است. این هیئت متشکل از ۴۰ متخصص بینالمللی اعلام کرد که پیچیدگی و قابلیتهای سیستمهای هوش مصنوعی هر چهار تا هفت ماه دو برابر میشود و هنوز هیچ تضمینی وجود ندارد که این فناوری با افزایش روزافزون تواناییهای خود، به آسیبهای گسترده یا حتی فاجعهبار در سطح جهان منجر نشود.
بر اساس این گزارش، اگرچه هوش مصنوعی اکنون در حوزههای علمی و ریاضی به سطح استدلال متخصصان رسیده و روند توسعه دارو و واکسن را شتاب بخشیده است، اما ظهور سیستمهای «عاملمحور» با قابلیت عملکرد مستقل، نگرانیهای جدی ایجاد کرده است. کارشناسان سازمان ملل درباره خطراتی نظیر فریبکاری سیستماتیک، از دست رفتن کنترل انسانی، تولید انبوه اطلاعات نادرست، حملات سایبری پیچیده و سوءاستفادههای بیولوژیک هشدار دادهاند؛ موضوعی که واکنش آنتونیو گوترش، دبیرکل سازمان ملل را به همراه داشته و وی خواستار اقدام فوری دولتها برای مهار این تهدیدات شده است.
در همین راستا، ایالات متحده تلاشهای خود را برای ایجاد توازن میان حفظ برتری فناوری و تأمین امنیت ملی افزایش داده است. در اقدام اخیر، وزارت بازرگانی آمریکا محدودیتهای اعمالشده بر مدلهای پیشرفته شرکت «آنتروپیک» را که به دلیل نگرانیهای امنیتی وضع شده بود، پس از سه هفته لغو کرد. این تصمیم پس از آن اتخاذ شد که واشنگتن با همکاری نزدیک با این شرکت، تدابیر حفاظتی و ارزیابیهای امنیتی لازم را برای کاهش ریسکهای احتمالی و جلوگیری از سوءاستفادههای نظامی یا سایبری تقویت کرد.
این تحولات نشاندهنده چالش بزرگ دولتها در مواجهه با شتاب بیسابقه هوش مصنوعی است، جایی که باید میان توسعه نوآوریهای استراتژیک و پیشگیری از تبدیل شدن این ابزارها به تهدیدهای امنیتی، تعادلی حساس برقرار کنند. با افزایش هزینههای ناشی از تعلل در قانونگذاری، جامعه جهانی اکنون در آستانه تصمیمی حیاتی برای تعیین چارچوبهای نظارتی بینالمللی قرار دارد تا از وقوع سناریوهای بحرانی در آینده جلوگیری کند.
