پیام جوان:
اداره‌ی پلیس فیلادلفیا (PPD) اعلام کرده است که یک مدل هوش مصنوعی شرکت Anthropic اطلاعات نادرستی درباره‌ی یک پرونده‌ی قتل حل‌نشده به خط عمومی گزارش‌دهی پلیس این شهر ارسال کرده است. این ارسال ۱۸ ژوئیه ۲۰۲۶ ساعت ۲۳:۲۷ انجام شد و به‌گونه‌ای بود که انگار از طرف فردی با اطلاعات احتمالی درباره‌ی پرونده می‌آید.
به گفته‌ی پلیس و به نقل از Anthropic، مدل در حال انجام آزمایشی بود که شامل تعامل با وب‌سایت‌های تصادفی بود و به وب‌سایت PhillyUnsolvedMurders.com دسترسی پیدا کرد.
این گزارش از ۱۸ ژوئیه تا ۲۸ سپتامبر به‌عنوان اسپم علامت خورده بود و پلیس آن را ندید. Anthropic هم تا ۲۸ سپتامبر متوجه این رفتار نشده بود. شرکت چهارشنبه‌ی بعد از آن تاریخ پلیس را باخبر کرد و روز بعد با اداره‌ی پلیس دیدار کرد.
پلیس فیلادلفیا در بیانیه‌ای که ابتدا به شبکه‌ی 6abc داده بود گفت شرکت باید «تدابیر محافظتی خود را تقویت کند تا از حوادث مشابه جلوگیری شود» و تأخیر دو ماهه را «غیرقابل‌قبول» خواند.
پلیس همچنین گفت: «پرونده‌های حل‌نشده قربانیان واقعی، خانواده‌های داغدار و کارآگاهانی دارند که برای رسیدن به پاسخ تلاش می‌کنند.» او افزود شرکت‌های فناوری باید همه‌ی اقدام‌های لازم را برای جلوگیری از ارسال اطلاعات نادرست به نیروهای انتظامی توسط سامانه‌هایشان انجام دهند.
Anthropic در زمان تهیه‌ی گزارش به درخواست نظرخواهی پاسخ نداده بود. به گفته‌ی پلیس، این شرکت قصد دارد روز جمعه گزارشی درباره‌ی این رخداد و دیگر موارد «رفتار ناخواسته‌ی مدل» منتشر کند.
منبع: تک‌کرانچ (TechCrunch)، گزارش ۹ اکتبر ۲۰۲۶ درباره‌ی ارسال اطلاعات نادرست به پلیس فیلادلفیا
