عضویت

ردیابی ردپای هوش مصنوعی؛ ابزارهای تازه گوگل و OpenAI برای تشخیص تصاویر، ویدئوها و صداهای مصنوعی

با پیشرفت ابزارهای تولید تصویر، ویدئو و صدا، تشخیص محتوای واقعی از محتوای ساخته‌شده یا دست‌کاری‌شده با هوش مصنوعی دشوارتر شده است. در پاسخ به این چالش، شرکت‌های فناوری به‌جای تکیه بر نشانه‌های ظاهری، به سمت استفاده از واترمارک‌های نامرئی و اطلاعات ثبت‌شده درباره منشأ محتوا حرکت کرده‌اند.

گوگل دسترسی عمومی به SynthID Detector را گسترش داد

گوگل در ۷ اکتبر ۲۰۲۶ اعلام کرد ابزار SynthID Detector را برای استفاده عمومی در سراسر جهان، به زبان انگلیسی، گسترش می‌دهد. این ابزار می‌تواند تصاویر، ویدئوها و فایل‌های صوتی را بررسی کند تا مشخص شود آیا در آن‌ها واترمارک نامرئی SynthID وجود دارد یا نه.

این واترمارک هنگام تولید محتوا با ابزارهای هوش مصنوعی پشتیبانی‌شده، در خود محتوا جای‌گذاری می‌شود و برخلاف لوگو یا برچسب قابل‌مشاهده، معمولاً با چشم انسان قابل تشخیص نیست. گوگل می‌گوید ابزار جدید محتوای تولیدشده با فناوری‌های خود این شرکت و برخی شرکای آن، از جمله OpenAI، NVIDIA و Kakao را نیز بررسی می‌کند.

OpenAI هم ابزار بررسی منشأ محتوا را توسعه داده است

OpenAI نیز ابزار عمومی بررسی منشأ محتوا را توسعه داده است. این ابزار می‌تواند وجود واترمارک SynthID مربوط به محتوای پشتیبانی‌شده OpenAI را بررسی کند و در صورت وجود، اطلاعات مربوط به Content Credentials را نیز نمایش دهد.

Content Credentials را می‌توان نوعی شناسنامه دیجیتال برای فایل دانست که اطلاعاتی درباره منشأ، ترکیب و سابقه ویرایش محتوا در خود نگه می‌دارد. این اطلاعات بر پایه استانداردهایی مانند C2PA ثبت می‌شوند و می‌توانند به مخاطب کمک کنند مسیر تولید و تغییرات یک تصویر را بهتر بشناسد.

آیا این ابزارها می‌توانند هر محتوای جعلی را شناسایی کنند؟

خیر. نکته مهم این است که این ابزارها آشکارساز قطعی تمام تصاویر و ویدئوهای جعلی نیستند. برای مثال، اگر ابزاری واترمارک SynthID را پیدا نکند، فقط می‌توان گفت آن نشانه در فایل شناسایی نشده است؛ نه اینکه محتوا حتماً واقعی و بدون دست‌کاری باشد.

حتی ممکن است اطلاعات منشأ فایل در جریان ویرایش، فشرده‌سازی یا انتشار مجدد از بین برود. گوگل نیز توضیح داده است که شناسایی واترمارک در برخی موارد ممکن نیست یا نتیجه قطعی به دست نمی‌آید.

این تغییر چه اهمیتی برای کاربران و فعالان رسانه دارد؟

این ابزارها می‌توانند به خبرنگاران، مدیران رسانه‌ها، تولیدکنندگان محتوا و کاربران عادی کمک کنند پیش از بازنشر یک تصویر یا ویدئوی مشکوک، نشانه‌های مربوط به منشأ آن را بررسی کنند. بااین‌حال، نتیجه یک ابزار تشخیص نباید به‌تنهایی مبنای قضاوت قرار گیرد.

برای بررسی دقیق‌تر، بهتر است چند روش کنار هم استفاده شوند: بررسی منبع اولیه انتشار، جست‌وجوی معکوس تصویر، مشاهده اطلاعات فایل اصلی و استفاده از ابزارهای بررسی واترمارک و شناسنامه دیجیتال.

در نهایت، فناوری می‌تواند سرنخ‌های مهمی در اختیار ما بگذارد؛ اما تشخیص اعتبار یک محتوا همچنان به بررسی شواهد و شناخت زمینه انتشار آن نیاز دارد.

ارسال دیدگاه

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *