پیام جوان:
پژوهشگران انتروپیک (Anthropic) در پستی وبلاگی سه‌شنبه ۳ نوامبر ۲۰۲۶ از «FlashProve» رونمایی کردند؛ سامانه‌ای متن‌باز برای تأیید اینکه خروجی مشخصی را کدام مدل هوش مصنوعی تولید کرده است. هدف «استنتاج اثبات‌پذیر» است؛ اثبات رمزنگاری‌شده که خروجی از مدل مشخصی آمده تا کاربر بتواند تأیید کند پاسخ را از همان مدلی که فکر می‌کرد گرفته است. تک‌کرانچ آن را به امضاهای رمزنگاری ایمیل تشبیه می‌کند. این سامانه باید حتی وقتی جعل‌کننده خود آزمایشگاه سازنده و اداره‌کننده‌ی مدل باشد مقاوم بماند.
کاربردهای ذکرشده: شناسایی شرکتی که پنهانی مدل ارزان‌تر جایگزین می‌کند تا هزینه کم شود یا مدل گران‌تر برای بالا بردن نتایج عملکرد، و تأیید ادعای اشخاص ثالث؛ مثلاً توسعه‌دهنده‌ای که می‌گوید کتابخانه‌ی نرم‌افزاری او را مدل مرزی امنیتی برای آسیب‌پذیری اسکن کرده یا شرکتی که می‌گوید مدل مناسبی طرح کسب‌وکارش را تأیید کرده. پژوهشگران می‌پرسند: «کاربر چگونه می‌تواند این ادعاها را بررسی کند؟»
طبق گزارش، آزمایشگاه‌ها باید برای هر مدل منتشرشده یک «اثر انگشت» منتشر کنند و خروجی‌ها بعداً با آن تطبیق و به‌صورت رمزنگاری‌شده تأیید می‌شود. اثر انگشت‌ها وزن‌های مدل را، یعنی اعداد درونی تعیین‌کننده‌ی رفتار آن، فاش نمی‌کنند؛ پس سازندگان مدل‌های بسته مثل انتروپیک و OpenAI می‌توانند اثر انگشت را بدون واگذاری آن دارایی منتشر کنند. سامانه سبک طراحی شده تا تأیید روی دستگاه محلی انجام شود.
پژوهشگران مشخصات فنی و کد را با مجوز متن‌باز در GitHub (github.com/anthropics/FlashProve) منتشر کردند. تحقیق ادامه دارد و طبق گزارش برنامه‌ای برای اجرای FlashProve در انتروپیک یا آزمایشگاه دیگر نیست. پژوهشگران پست را «پیشرفت میانی» می‌نامند و امیدوارند دیگران روی آن بسازند.
گزارش روش‌های رمزنگاری و تحلیل امنیتی، معیارهای کارایی (سرعت تأیید، اندازه‌ی اثر انگشت و هزینه)، مدل‌هایی که اثر انگشت دارند یا آزموده شده‌اند، شیوه‌ی تولید و به‌روزرسانی اثر انگشت‌ها هنگام تغییر مدل، مجوز دقیق، پذیرش دیگر آزمایشگاه‌ها، زمان‌بندی و واکنش OpenAI را اعلام نکرده است. مثال‌های گزارش فرضی‌اند، نه موارد ثبت‌شده‌ی تعویض مدل.
منبع: تک‌کرانچ (TechCrunch)، گزارش ۳ نوامبر ۲۰۲۶ نوشته‌ی Russell Brandom؛ بر پایه‌ی پست وبلاگ انتروپیک
