پیشرفت هوش مصنوعی مولد، امکانات تازهای برای تولید تصویر، صدا و ویدئو فراهم کرده است. این فناوری کاربردهای مثبت فراوانی در آموزش، پزشکی، هنر و تولید محتوا دارد؛ اما میتواند برای ساخت محتوای گمراهکننده نیز مورد سوءاستفاده قرار گیرد.
یکی از نمونههای شناختهشده، «دیپفیک» است. در این فناوری میتوان چهره یا صدای افراد را بهگونهای بازسازی یا دستکاری کرد که مخاطب تصور کند شخص واقعی سخنی گفته یا اقدامی انجام داده است.
البته همه محتوای تولیدشده با هوش مصنوعی جعلی یا فریبکارانه نیست. مشکل زمانی ایجاد میشود که محتوای مصنوعی بدون توضیح کافی، بهعنوان سند یک رویداد واقعی منتشر شود.
این نمونه نشان میدهد استفاده از تصاویر دستکاریشده برای تغییر برداشت مخاطبان پدیده تازهای نیست؛ با این تفاوت که فناوریهای امروزی تولید چنین محتواهایی را سریعتر و در دسترستر کردهاند.
در فضای مجازی امروز، ممکن است یک فایل صوتی با صدایی شبیه به صدای مدیر یک شرکت، مسئول یک سازمان یا یکی از اعضای خانواده منتشر شود.
اگر مخاطب تنها به شباهت صدا اعتماد کند، ممکن است بدون بررسی هویت واقعی گوینده، اطلاعات نادرست را بپذیرد یا حتی در معرض کلاهبرداری قرار گیرد.
برای مثال، فردی پیام صوتی دریافت میکند که ظاهراً از طرف یکی از آشنایان اوست و درخواست انتقال فوری پول دارد. صدای پیام بسیار شبیه فرد موردنظر است، اما این شباهت بهتنهایی هویت فرستنده را ثابت نمیکند.
در چنین شرایطی، تماس مستقیم با شمارهای که از قبل میشناسیم، میتواند از یک اشتباه پرهزینه جلوگیری کند.
چگونه آگاهانه عمل کنیم؟
1. تصویر و صدا را سند قطعی ندانیم: محتوای دیداری و شنیداری نیز ممکن است دستکاری شده باشد.
2. منبع انتشار را بررسی کنیم: مشخص کنیم ویدئو یا فایل صوتی نخستین بار از چه حساب یا رسانهای منتشر شده است.
3. به تأیید مستقل توجه کنیم: برای ادعاهای مهم، به دنبال گزارشها و شواهد معتبر دیگر باشیم.
4. در درخواستهای مالی هویت را جداگانه تأیید کنیم: از یک مسیر ارتباطی مطمئن با فرد موردنظر تماس بگیریم.
5. به ابزارهای تشخیص جعل اعتماد مطلق نکنیم: این ابزارها ممکن است خطا داشته باشند و نتیجه آنها باید در کنار شواهد دیگر بررسی شود.
در عصر هوش مصنوعی، دیدن و شنیدن همیشه به معنای اطمینان از وقوع یک اتفاق نیست. مهارت مهم امروز، بررسی منشأ و اعتبار محتوا پیش از اعتماد به آن است.


