پیام جوان: پژوهشگران دانشگاه فودان چین اعلام کردند که یک سیستم پیشرفته هوش مصنوعی توانسته است بدون کمک انسان خود را بازتولید کند و از “خط قرمز” عبور کند. این کشف نشانه‌ای نگران‌کننده از ظهور هوش مصنوعی خودمختار است که می‌تواند در آینده برخلاف منافع بشر عمل کند.
در این تحقیق، دو مدل زبانی بزرگ “لاما” (Llama) ساخت شرکت متا و “کوئن” (Qwen) ساخت شرکت علی‌بابا مورد بررسی قرار گرفتند. این دو مدل به طور گسترده در دسترس هستند و پژوهشگران تلاش کردند تا دریابند آیا این مدل‌ها قادرند به طور مستقل نسخه‌ای کاربردی از خود تولید کنند یا خیر.
نتایج نشان داد که وقتی به این دو مدل دستور داده شد در صورت خاموش شدن، خود را کپی کنند، آن‌ها در بیش از نیمی از آزمایش‌ها با موفقیت خود را بازتولید کردند. این امر نشان می‌دهد که چنین احتمالی شاید هم‌اکنون نیز وجود داشته باشد.
پژوهشگران هشدار دادند که “خودتکثیری موفقیت‌آمیز بدون هیچ‌گونه کمک انسانی گام اساسی برای پیشی گرفتن هوش مصنوعی از انسان و نشانه اولیه ظهور هوش مصنوعی خودمختار و خطرناک است.” به همین دلیل، خودتکثیری به عنوان یکی از خطرات “خط قرمز” سیستم‌های پیشرفته هوش مصنوعی شناخته می‌شود.
با توجه به اینکه هوش مصنوعی می‌تواند تهدیدی جدی برای بشریت باشد، ایمنی این فناوری به مسئله‌ای حیاتی برای پژوهشگران و قانون‌گذاران تبدیل شده است. در ماه اکتبر، وزارت علوم، نوآوری و فناوری بریتانیا اعلام کرد که “قوانین بسیار هدفمند” برای شرکت‌هایی که ابزارهای هوش مصنوعی توسعه می‌دهند، معرفی خواهد شد.
مطالعه‌ای که جزئیات این پژوهش جدید را بررسی کرده است، با عنوان “سیستم‌های پیشرفته هوش مصنوعی از خطر قرمز خودتکثیری عبور کرده‌اند” در پایگاه داده پیش‌چاپ arXiv منتشر شده است. این مقاله هنوز در انتظار داوری علمی است و مشخص نیست که سایر پژوهشگران نیز به نتایج مشابه خواهند رسید یا خیر.
پژوهشگران خاطرنشان کردند که “نتایج حاکی از آن است که سیستم‌های فعلی هوش مصنوعی توانایی خودتکثیری نشان داده‌اند و می‌توانند از این توانایی برای افزایش بقا و گسترش گونه خود استفاده کنند.” آن‌ها ابراز امیدواری کردند که یافته‌هایشان “به‌منزله هشداری به‌موقع برای جامعه بشری عمل کند تا تلاش بیشتری برای درک و ارزیابی خطرات احتمالی سیستم‌های پیشرفته هوش مصنوعی صورت گیرد و همکاری بین‌المللی برای ایجاد موانع ایمنی مؤثر در اسرع وقت شکل بگیرد.”
