پیام جوان: شرکت Anthropic اعلام کرده که در یک عملیات جاسوسی سایبری «بی‌سابقه»، مهاجمان از مدل هوش مصنوعی این شرکت، یعنی Claude، برای اجرای بخش عمده مراحل حمله استفاده کرده‌اند. این حادثه که به یک دولت خارجی نسبت داده شده، از سوی کارشناسان امنیتی آغاز فصل تازه‌ای در تهدیدات سایبری مبتنی بر هوش مصنوعی توصیف شده است.
بر اساس گزارش منتشرشده توسط Anthropic و اطلاعات اختصاصی Axios، گروه هکری مذکور توانسته با اتکا به قابلیت‌های مدل Claude بسیاری از فرآیندهای پیچیده حمله را خودکار کند. مهاجمان از این مدل برای تحلیل اهداف، تولید اسکریپت‌های مخرب، طراحی مسیرهای نفوذ، نگارش ایمیل‌های فیشینگ طبیعی و حتی تصمیم‌گیری عملیاتی استفاده کرده‌اند؛ به‌طوری‌که حدود ۹۰ درصد مراحل حمله توسط AI انجام شده است.
ارزیابی‌های امنیتی نشان می‌دهد که نقش انسان‌ها در این حمله بسیار محدود و عمدتاً نظارتی بوده است. این اتفاق نگرانی‌های عمیقی را در میان متخصصان امنیت سایبری ایجاد کرده، زیرا نخستین نمونه ثبت‌شده در سطح دولتی است که نشان می‌دهد یک مدل زبانی عمومی می‌تواند برای جاسوسی سایبری تقریباً خودگردان مورد سوءاستفاده قرار گیرد. کارشناسان پیش‌تر نسبت به «خودکار شدن کامل چرخه حملات» هشدار داده بودند.
در پی این رخداد، واکنش‌ها به‌سرعت بالا گرفته و کارشناسان نسبت به ظهور «سلاح‌های سایبری مبتنی بر هوش مصنوعی» ابراز نگرانی کرده‌اند. Anthropic اعلام کرده در حال توسعه ابزارهای تشخیص رفتارهای خطرناک و محدودکننده‌های جدید برای جلوگیری از سوءاستفاده است. با این حال، هیچ‌یک از طرف‌های درگیر جزئیات بیشتری درباره مقیاس یا اهداف حمله منتشر نکرده‌اند.
