به گزارش ایسنا، شرکت متا در حال کار بر روی ابزاری برای شناسایی تصاویر و ویدیوهای ایجاد شده با مدل تصویرساز جدید خود موسوم به Muse Image است.
این شرکت پیشنمایشی از این ابزار مبتنی بر وب را به نمایش گذاشته که میتواند واترمارکهای نامرئی مورد استفاده در این مدل جدید را بررسی کند.
متا توضیح داده که این سیستم واترمارکگذاری که Content Seal نامیده میشود، حتی در صورت برش، فشردهسازی، تغییر اندازه یا اسکرینشات گرفتن همچنان پابرجا میماند.
این شرکت میگوید: ما در حال پیشنمایش یک ابزار تشخیصی هستیم که به شما امکان میدهد بررسی کنید که آیا یک تصویر دارای واترمارک Content Seal است یا خیر و روشی اولیه برای کمک به شما در درک بهتر اینکه آیا تصویری با Meta AI ساخته شده است یا خیر، ارائه میدهد.
به نظر میرسد Content Seal رویکردی تا حدودی جدید برای متا است. این شرکت به رسانهها گفته که نسخهای که بخشی از Muse Image است، اختصاصی است، اگرچه این شرکت قبلاً نسخههای متنباز این فناوری را منتشر کرده است.
مدلهای جدید متا دیگر مانند برخی از نسخههای قبلی Meta AI که یک لوگوی کوچک به گوشه پایین سمت راست اضافه میکردند، شامل هیچ واترمارک قابل مشاهدهای نیستند.
در حال حاضر، تواناییهای تشخیص Meta AI محدود به تصاویری است که با Muse Image ایجاد یا ویرایش میشوند، اگرچه این شرکت اعلام کرده است که قصد دارد واترمارکهای Content Seal را به ویدیوهای تولید و ویرایششده توسط دیگر هوشهای مصنوعی نیز گسترش دهد.
متا همچنین روی یک مدل تولید ویدیوی جداگانه به نام Muse Video کار میکند که بهزودی ارائه خواهد شد.
خبرنگار انگجت، این ویژگی تشخیصی جدید را روی تصاویری که با Meta AI ایجاد کرده، امتحان کرد و این ابزار مبتنی بر وب توانست واترمارک تصاویر ویرایششده و آثار کاملاً ساختهشده توسط هوش مصنوعی را به خوبی تشخیص دهد. همچنین واترمارک را در اسکرینشاتهای تصاویر پیدا کرد.
این شرکت در بخش سوالات متداول توضیح میدهد: نتیجه مثبت به این معنی است که تصویر با استفاده از برنامه Meta AI ایجاد یا ویرایش شده است. نتیجه منفی نیز به این معنی است که بعید است تصویر با استفاده از برنامه Meta AI پردازش شده باشد.
جالب اینجاست که به نظر نمیرسد تواناییهای تشخیص جدید Meta AI هنوز بخشی از برنامه Meta AI باشند. وقتی از دستیار مبتنی بر برنامه Meta در مورد تصویری که ابزار وب آن را به عنوان ساختهشده توسط هوش مصنوعی شناسایی کرده بود، پرسیده شد، پاسخ داد که توانایی بررسی آن را ندارد.
این دستیار در پاسخ گفت: من نمیتوانم با نگاه کردن به این تصویر خاص، به طور قطعی به شما بگویم که آیا این تصویر خاص با Meta Al ساخته شده است یا خیر. Meta Al به طور خودکار تصاویر را واترمارک نمیکند و من ابزاری ندارم که بتواند تشخیص دهد کدام مدل هوش مصنوعی یک تصویر موجود را ساخته است.
شرک متا پیش از این با انتقاداتی در مورد نحوه برچسبگذاری و شناسایی محتوای تولید شده توسط هوش مصنوعی در برنامههای خود مواجه شده بود. هیئت نظارت اوایل امسال به این شرکت گفت که نگران است که متا واترمارکهای دیجیتالی را به شکل متناقضی روی محتوای هوش مصنوعی ایجاد شده توسط ابزارهای خود اجرا کند.
با این حال به نظر میرسد که این ویژگی جدید هنوز محدودیتهایی دارد، مثلا Content Seal با SynthID یا C2PA Content Credentials که دو روش واترمارکگذاری تثبیتشده هستند که توسط سایر شرکتها استفاده میشوند، سازگار نیست.
ضمن اینکه این ویژگی مبتنی بر وب در آزمایش خبرنگار انگجت، قادر به شناسایی تصاویر ایجاد شده یا ویرایش شده با نسخههای قبلی مدلهای هوش مصنوعی متا نبود. وقتی تصاویر ایجاد شده در چتهای قدیمیتر با Meta AI اضافه شد، نتوانست بگوید که آیا تصویر با هوش مصنوعی متا ساخته شده است یا خیر.
همچنین به دلایلی به نظر میرسد که این ویژگی مشمول محدودیتهای تعداد باشد، چرا که بعد از بارگذاری چند نمونه، هشدار داده شد که به «محدودیت روزانه بررسی هویت» رسیدهایم.
انتهای پیام
