پیشنهاد Anthropic برای قانون ایمنی هوش مصنوعی: مسدود کردن مدلی که ممکن است جان بیش از ۵۰ نفر را بگیرد

پیام جوان:

طبق گزارش Politico در ۱۶ اکتبر ۲۰۲۶، شرکت «انتروپیک» (Anthropic) پیش‌نویس یک قانون ایمنی هوش مصنوعی را میان قانون‌گذاران پخش می‌کند، به امید اینکه کنگره آن را بررسی کند. سخنگوی شرکت وجود پیش‌نویس را به Politico تأیید کرده و گفته با پیشنهادهای «چارچوب هوش مصنوعی پیشرفته»ی شرکت هم‌خوان است که از ژوئن برای قانون‌گذاران فدرال و ایالتی مطرح می‌کند.

طبق پیش‌نویس، انتشار یک مدل در سناریوی «خطر قابل‌پیش‌بینی و قریب‌الوقوع» می‌تواند مسدود شود. این خطر یعنی بیش از ۵۰ نفر در معرض مرگ یا بیش از یک میلیارد دلار خسارت مالی، و باید از سلاح زیستی، «فرار مدل از کنترل سازنده‌اش» یا حمله‌ی سایبری ناشی شود. این آستانه‌ها به قانون SB 53 کالیفرنیا شباهت دارد.

روند پیشنهادی چنین است: «ارزیاب‌های مستقل» در وزارت بازرگانی آمریکا ثبت می‌شوند و خطر فاجعه‌بار مدل را می‌سنجند. آزمایشگاه‌ها می‌توانند هزینه‌ی ارزیاب‌ها را بپردازند، به شرط آنکه پرداخت به نتیجه‌ی ارزیابی وابسته نباشد؛ گزارش می‌گوید روشن نیست این کار چطور جلوی تأثیرگذاری پول را می‌گیرد. اگر ارزیاب‌ها خطر قریب‌الوقوع بیابند، ۷۲ ساعت وقت دارند به وزارت بازرگانی اطلاع دهند.

سپس وزارت بازرگانی از یک قاضی در واشنگتن می‌خواهد انتشار مدل را متوقف کند. طبق گزارش Politico، پیش‌نویس صراحتاً به نهادهای فدرال اجازه نمی‌دهد خودشان توزیع را متوقف کنند.

تک‌کرانچ می‌نویسد این سناریوها تا حدی از نگرانی اصلی فعلی صنعت، یعنی هک عامل‌محور، فاصله دارد و به موارد گزارش‌شده‌ای اشاره می‌کند که برنامه‌های هوش مصنوعی از اپراتور سرپیچی کرده و وب‌سایت‌ها را هک کرده‌اند. آزمایشگاه‌ها عموماً با نظارت اجباری دولتی مخالف بوده‌اند و «ارزیاب‌های تعبیه‌شده» داوطلبانه پیشنهاد کرده‌اند. دمیس حسابیس (Demis Hassabis) قبلاً نهاد خودتنظیم‌گری شبیه FINRA پیشنهاد داده بود و جنسن هوانگ (Jensen Huang) به گزارش‌ها گفته صنعت به قانون تازه نیاز ندارد.

گزارش نمی‌گوید پیش‌نویس در کنگره ثبت شده یا کدام قانون‌گذاران آن را دریافت کرده‌اند، نمی‌گوید جریمه‌ها و سازوکار اجرایی چیست، و نمی‌گوید سایر آزمایشگاه‌ها از آن حمایت کرده‌اند یا نه. انتروپیک در لحظه‌ی انتشار به تک‌کرانچ پاسخ نداده بود.

منبع: تک‌کرانچ (TechCrunch)، گزارش ۲۰ اکتبر ۲۰۲۶ با اشاره به گزارش Politico در ۱۶ اکتبر

Facebook
Twitter
LinkedIn