پیام جوان: شرکت OpenAI فناوری جدیدی تحت عنوان textGrain را برای درج واترمارک‌های آماری و نامرئی در متون تولیدشده توسط ChatGPT راه‌اندازی کرد. این قابلیت در راستای پایبندی به قوانین مقررات هوش مصنوعی اتحادیه اروپا (EU AI Act) فعال شده است. هدف این سیستم تشخیص متون تولیدشده توسط هوش مصنوعی از نوشته‌های انسانی است.
عملکرد تکنولوژی textGrain به این صورت است که تغییرات آماری بسیار ظریفی در انتخاب کلمات توسط چت‌بات ایجاد می‌کند. این سیگنال‌های پنهان برای خواننده انسانی قابل تشخیص نیستند اما ابزارهای آشکارساز می‌توانند وجود آن‌ها را شناسایی کنند. دقت آشکارسازی این سیستم در متن‌های بلند ۴۰۰ کلمه‌ای تا ۹۵ درصد برآورد شده است.
با وجود این پیشرفت، آزمایش‌ها نشان می‌دهند که الگوریتم جدید همچنان نقاط ضعفی دارد. در متن‌های کوتاه یا محتواهایی که انعطاف کلامی کمی دارند — مانند فرمول‌های ریاضی یا دستورالعمل‌های آشپزی — دقت سیستم به شدت کاهش می‌یابد. همچنین اگر حدود ۲۵ درصد از کلمات متن تغییر کنند، نرخ تشخیص واترمارک به ۱۷ درصد افت می‌کند.
این اقدام OpenAI گامی مهم در پاسخ به نگرانی‌های مربوط به سرقت ادبی و انتشار اخبار جعلی در فضای آنلاین محسوب می‌شود. با این حال چالش دستکاری و بازنویسی متون همچنان مانع بزرگی بر سر راه اثربخشی کامل این ابزارها است.
در نهایت، شفاف‌سازی محتوای تولیدی هوش مصنوعی به یکی از الزامات اصلی شرکت‌های فناوری تبدیل شده است. انتظر می‌رود سایر رقبای بزرگ بازار نیز به‌زودی ابزارهای مشابهی را برای ساختار متنی خود معرفی کنند.
