بر اساس تحلیل خبرگزاری رویترز، ابزار جدید شرکت متا برای شناسایی تصاویر ساختهشده با هوش مصنوعی، که به تازگی همراه با مدل تولید تصویر «میوز ایمیج» (Muse Image) معرفی شده است، در تشخیص تصاویر تولیدی خود پس از برش (کراپ) ناموفق بوده است. این یافتهها چالشهای جدی موجود در مسیر راستیآزمایی تصاویر دستکاریشده را برجسته میکند؛ محدودیتی که میتواند شناسایی تصاویر جعلی عمیق (دیپفیک) را در سالهای حساس انتخاباتی با دشواریهای زیادی روبهرو سازد.
رویترز در آزمایش خود روی ۴۰ تصویر تولیدشده توسط مدل میوز، دریافت که ابزار متا اگرچه تمامی تصاویر اصلی را به درستی شناسایی کرد، اما در مواجهه با تصاویری که به میزان یکسوم تا نصف اندازه اولیه برش خورده بودند، در ۵۵ درصد موارد شکست خورد. فناوری متا که با نام «کانتنت سیل» (Content Seal) شناخته میشود، یک سیستم نشانهگذاری نامرئی (واترمارک) است که برای تایید اصالت تصاویر طراحی شده است؛ با این حال، متا در واکنش به این گزارش اعلام کرد که این ابزار هنوز در مرحله پیشنمایش قرار دارد و سیگنالهای واترمارک ممکن است در اثر برش شدید از بین بروند.
این چالش تنها به شرکت متا محدود نمیشود و غولهای فناوری دیگری همچون گوگل و اوپنایآی نیز پیشتر هشدار دادهاند که ابزارهای تشخیصی آنها در برابر تغییرات و ویرایشهای تصویری کاملاً مصون نیستند. در همین راستا، هیئت نظارت متا پیش از این از این شرکت خواسته بود تا اقدامات جدیتری برای مقابله با گسترش محتوای فریبنده تولیدشده توسط هوش مصنوعی انجام دهد و بر روی توسعه ابزارهای شناسایی قویتر سرمایهگذاری کند.
کارشناسان حوزه امنیت سایبری و هوش مصنوعی معتقدند که روشهای مبتنی بر واترمارک اگرچه در صورت حفظ یکپارچگی تصویر بسیار مؤثر هستند، اما هرگونه تغییر مانند کاهش اندازه، فشردهسازی یا برش میتواند کارایی آنها را به شدت کاهش دهد. با این حال، پژوهشگران تاکید میکنند که حتی با وجود این نقاط ضعف، استفاده از این سیستمهای حفاظتی گامی رو به جلو است و شناسایی بخشی از محتوای جعلی بسیار بهتر از عدم برخورد با آنهاست.
