پیام جوان: شرکت آنتروپیک اعلام کرد مدل‌های جدید هوش مصنوعی «کلود اوپوس ۴» و «کلود اوپوس ۴.۱» اکنون قادرند در شرایط خاص به مکالمات کاربران پایان دهند. این قابلیت برای موقعیت‌هایی طراحی شده که گفتگو به طور مداوم مضر، توهین‌آمیز یا دارای محتوای بسیار حساس باشد و تلاش‌های متعدد برای تغییر مسیر نتیجه نداده باشد.
به گفته آنتروپیک، این ویژگی تنها در موارد نادر فعال می‌شود؛ از جمله درخواست‌های مربوط به محتوای غیرقانونی مانند سوءاستفاده جنسی از کودکان، یا تلاش برای دسترسی به اطلاعات مرتبط با خشونت گسترده و اقدامات تروریستی. در چنین شرایطی، کلود به‌عنوان آخرین راهکار، مکالمه را خاتمه می‌دهد.
کاربران در صورت مواجهه با این اقدام دیگر نمی‌توانند در همان چت پیامی ارسال کنند، اما می‌توانند فوراً یک مکالمه جدید آغاز کنند. همچنین پایان یک گفتگو تأثیری بر سایر چت‌ها ندارد و امکان ویرایش یا امتحان مجدد پیام‌های قبلی برای ادامه تعامل وجود خواهد داشت.
این ویژگی بخشی از یک برنامه تحقیقاتی آنتروپیک درباره «رفاه هوش مصنوعی» است. هرچند ایده انسان‌انگاری مدل‌های هوش مصنوعی همچنان محل بحث است، این شرکت می‌گوید توانایی خروج از تعاملات ناراحت‌کننده روشی کم‌هزینه برای کاهش خطرات احتمالی محسوب می‌شود. آنتروپیک تأکید کرده که این قابلیت هنوز در مرحله آزمایش است و کاربران می‌توانند بازخورد خود را ارائه دهند.
