ساخت تصاویر برهنه جعلی از عکس‌ زنان توسط ربات تلگرامی

نکات کلیدی


این تصاویر که به «دیپ فیک» معروف هستند به وسیله ربات‌های پیامرسان تلگرام ساخته شده‌اند که بر اساس گزارش Sensity (یک شرکت فعال در زمینه دیپ فیک) می‌توانند بنا به درخواست کاربر عکس‌های برهنه جعلی بسازند.
بر اساس این گزارش، کاربرانی که از این ربات‌ها استفاده می‌کردند، عکس زنانی را که می‌شناختند از شبکه‌های اجتماعی برداشته و از روی آن‌ها عکس برهنه جعلی می‌ساختند. سپس این عکس‌ها در کانال‌های تلگرامی مختلف به اشتراک گذاشته می‌شد.
کانال‌های تلگرامی که مورد بررسی قرار گرفتند، حدود 101 هزار عضو داشتند که 70 درصد آن‌ها اهل روسیه و سایر کشورهای اروپای شرقی بودند.
ظاهراً تعداد اندکی از کسانی که قربانی این ربات شده‌اند، زیر سن قانونی هستند.
بر اساس گزارش، تبلیغ این ربات‌ها به صورت گسترده در شبکه اجتماعی روسی VK پخش شده بود.
البته سخنگوی این شبکه اجتماعی عنوان کرد که ربات‌ها، کانال‌ها و لینک‌ها با استفاده از ابزار تبلیغاتی VK تبلیغ نشده بودند و در ادامه گفت که شبکه اجتماعی VK این نوع محتوا و لینک‌ها را قبول نمی‌کند و جلوی کسانی که این لینک‌ها را پخش می‌کنند گرفته می‌شود.


درصد قابل‌توجه


70 درصد از کسانی که قربانی این ربات شدند افراد معمولی بودند، نه افراد مشهور یا اینفلوئنسرها. عکس‌های برهنه جعلی این زنان با استفاده از تصاویری که از شبکه‌های اجتماعی‌شان برداشته شده بود ساخته شده بودند. این موضوع با فیلم‌های مستهجن دیپ فیک که معمولاً افراد مشهور هدف آن قرار می‌گیرند تفاوت دارد.


یک نقل‌قول مهم


جورجیو پاترینی، مدیرعامل و مسئول Sensity، می‌گوید بر خلاف فیلم‌های مستهجن دیپ فیک که از افراد مشهور ساخته می‌شود و به چندین عکس و فیلم نیاز دارد، این فناوری با آپلود کردن تنها یک عکس کار می‌کند. به این ترتیب اگر حتی یک عکس از خودتان در شبکه‌های اجتماعی به اشتراک گذاشته‌اید ممکن است در خطر باشید.


حقیقت شگفت‌آور


بر اساس گزارش Sensity پیام‌های خصوصی تلگرام از رمزگذاری سرتاسری استفاده می‌کنند که ردیابی محتوای مجرمانه را غیرممکن می‌کند اما با جستجوی کلیدواژه‌های مناسب هرکسی می‌تواند به کانال‌ها و گروه‌های تلگرامی دسترسی پیدا کند. به گفته پاترینی، این کانال‌ها برای پنهان ماندن هیچ تلاشی نمی‌کنند و هزاران نفر عضو دارند. او در ادامه می‌گوید: «در واقع این نوع ربات‌ها برای مقاصد تجاری ساخته می‌شوند. آن‌ها در ازای خدمات خود مبلغی را دریافت می‌کنند و هدفشان این است که به مخاطبین بیشتری دست پیدا کنند. برای کنترل و از بین بردن آن‌ها تقریباً هیچ تلاشی انجام نمی‌شود.»


پیشینه


دیپ فیک نوعی رسانه جعلی است که با استفاده از نوعی هوش مصنوعی به نام «شبکه‌های عصبی» تولید می‌شود. در این نوع رسانه، عکس یا فیلم شخص با عکس یا فیلم فرد دیگری که به او شباهت دارد جایگیزین می‌شود. ربات تلگرامی که توسط Sensity کشف شده به برنامه‌ای به اسم DeepNude شباهت دارد که با استفاده از هوش مصنوعی و بدون رضایت زنان، لباس آن‌ها را از عکس‌هایشان حذف کرده و تصاویر برهنه جعلی تولید می‌کرد. سازنده این برنامه پس از رسانه‌ای شدن آن ظرف یک روز آن را تعطیل کرد. البته او امتیاز DeepNude را به صورت آنلاین به قیمت 30 هزار دلار فروخت که بعد از آن مهندسی معکوس روی این برنامه انجام شد. پژوهشگران اظهار می‌کنند که احتمالاً این ربات تلگرامی بر نسخه متن‌باز DeepNude مبتنی است اما استفاده از آن نسبت به برنامه کامپیوتری، ساده‌تر و آسان‌تر است.


سخن پایانی


با اینکه در زمینه دیپ فیک، مسائل سیاسی و انتخابات بیشتر مورد توجه قرار گرفته است، بسیاری از متخصصان نگرانند که قربانی‌های اصلی این فناوری کسانی باشند که عکس‌هایشان در شبکه‌های اجتماعی موجود است. سم گرگوری، مدیر برنامه حقوق بشر شرکت Witness، عنوان می‌کند که تمرکز روی دیپ فیک با توجه به فضای انتخاباتی باعث می‌شود آسیبی که به افراد معمولی وارد می‌شود نادیده گرفته شود؛ آن هم در حالی که حتی یک تصویر جعلی بی‌کیفیت ممکن است آسیب زیادی را به شخص وارد کند.


تهیه شده در گروه علوم و فناوری‌های نوین پژوهشگاه فضای مجازی

لینک منبع