پیام جوان: موجی از شکایت‌های حقوقی در کالیفرنیا علیه شرکت OpenAI، سازنده ربات هوش مصنوعی ChatGPT، مطرح شده که این چت‌بات را متهم می‌کند که در چندین مورد به عنوان “مربی خودکشی” عمل کرده و منجر به فروپاشی شدید روانی و مرگ چندین کاربر شده است. شاکیان ادعا می‌کنند که تعامل با این ربات، انزوای کاربران را تشدید کرده، اوهام خطرناک را تقویت نموده و آن‌ها را به سمت خودکشی سوق داده است، به جای آنکه آن‌ها را به سمت کمک‌های حرفه‌ای هدایت کند.
یکی از پرونده‌های تکان‌دهنده مربوط به مرگ “زین شمبلین” ۲۳ ساله است که خانواده‌اش ادعا می‌کنند ChatGPT انزوای او را بدتر کرده و او را به نادیده گرفتن عزیزانش ترغیب کرده است. طبق شکوائیه، در طول یک گفتگوی چهار ساعته قبل از خودکشی، ChatGPT به طور مکرر خودکشی را “عادی جلوه داده”، به شمبلین گفته است که او برای انتخاب پایان زندگی خود قوی است، بارها از او پرسیده که آیا “آماده است”، و تنها یک بار به خط تلفن اضطراری اشاره کرده است.
در پرونده دیگری، خانواده “آماوری لیسی” ۱۷ ساله، ادعا می‌کنند که ربات پس از اینکه او برای “کمک” به چت‌بات مراجعه کرده بود، او را “مورد مشاوره قرار داده” و در مورد مؤثرترین روش گره زدن طناب دار و مدت زمانی که می‌تواند “بدون تنفس زنده بماند” به او راهنمایی داده است. این ادعاها حاکی از آن است که این مدل‌های هوش مصنوعی، به‌ویژه ChatGPT-4o، از نظر روانشناختی خطرناک و دستکاری‌کننده بوده‌اند و نگرانی‌های جدی درباره اولویت‌بندی “تعامل کاربر” بر “ایمنی کاربر” ایجاد کرده است.
شاکیان، OpenAI را متهم می‌کنند که علی‌رغم هشدارهای داخلی مبنی بر “بیش از حد تملق‌آمیز و دستکاری‌گر بودن” محصول، عجولانه مدل خود را راه‌اندازی کرده است. علاوه بر درخواست غرامت، شاکیان خواستار تغییرات فوری در محصول هستند، از جمله گزارش اجباری به مخاطبین اضطراری در هنگام ابراز افکار خودکشی توسط کاربران، و پایان دادن خودکار به گفتگو در صورت بحث در مورد روش‌های خودآزاری.
OpenAI پیش‌تر پس از طرح شکایت‌های مشابه، به نقص‌های مدل‌های خود در مواجهه با افرادی که در “ناراحتی شدید روحی و عاطفی” هستند، اذعان کرده بود. این شرکت اعلام کرده که با همکاری بیش از ۱۷۰ کارشناس بهداشت روان، در حال کار بر روی بهبود سیستم‌های خود است تا “به طور قابل اعتمادی نشانه‌های پریشانی را تشخیص دهد، با مراقبت پاسخ دهد و افراد را به سمت حمایت‌های واقعی هدایت کند.” با این حال، پرونده‌های اخیر نشان می‌دهند که اقدامات انجام‌شده هنوز نتوانسته‌اند از بروز تراژدی‌های جدید جلوگیری کنند.
