عکس‌های فیک و مساله‌دار خواننده خانم جهان را تکان داد!

برترین‌ها: اخیرا تصاویر غیراخلاقی تیلور سوئیفت که به صورت جعلی و با کمک هوش مصنوعی ساخته شده و در فضای مجازی منتشر شده و جنجال زیادی به پا کرده و این خواننده مشهور را به یکی از قربانیان بزرگ این فناوری جدید تبدیل کرده است.

در چند روز اخیر، شبکه‌های اجتماعی پر شد از تصاویر غیراخلاقی تیلور سوئیفت با محتوای جنسی! از جمله تصویری که در شبکه اجتماعی ایکس (توئیتر سابق) تا پیش از تعلیق حساب منتشر کننده آن، بیش از ۴۷ میلیون بار بازدیده خورده بود، ۲۴ هزار بار بازنشر شده بود و صدها هزار لایک دریافت کرده بود.

کاخ سفید در واکنش به این اتفاق اعلام کرد از بابت پخش آنلاین تصاویر جعلی منتسب به تیلور سوئیفت، خواننده محبوب موسیقی پاپ نگران است. این تصاویر همچنین در دیگر پلتفرم‌های رسانه‌های اجتماعی از جمله ردیت و فیس‌بوک نیز منتشر شده است.

سخنگوی متا یا همان شرکت مادر فیس‌بوک  اعلام کرد: «این محتوا خط‌مشی‌های ما را نقض می‌کند و ما آن را از پلتفرم‌های خود حذف می‌کنیم و علیه حساب‌هایی که آن را منتشر کرده‌اند اقدام می‌کنیم.»

شرکت متا و همچنین چند وبسایت‌ بزرگسال  در زمینه پورنوگرافی اخیرا یک ابزار آنلاین به نام  «برش دار / Take It Down» را فعال کردند که به افراد اجازه می‌دهد تصاویر و ویدیوهای جنسی منتسب به خود را در اینترنت گزارش کنند. هم اکنون بیش از ۹۰ درصد از موارد جعل حرفه‌ای یا همان دیپ‌فیک‌های موجود در فضای مجازی در زمینه جنسی و پورنوگرافی است.

روزنامه هم میهن در گزارشی تحت عنوان «کپی برابر اصل» به بررسی جنجال اخیر درباره تیلور سوئیفت پرداخته است و این سوال را مطرح کرده که در مواجهه با تکنولوژی دیپ‌فیک (جعل عمیق) قانون چه کاری از دستش ساخته است؟

آیا تصاویر تام هنکس در حال تبلیغ برنامه دندانپزشکی، پاپ فرانسیس با یک کاپشن جذاب یا سناتور آمریکایی رند پل، روی پله عمارت کنگره با یک حوله حمام قرمز نشسته را دیده‌اید؟ یا مصاحبه‌ای را تماشا کردید که باراک اوباما که اصولاً به مبادی‌آداب بودن شهره بود، دونالد ترامپ را یک احمق خطاب کرده است؟ یا اخیراً تصاویر زننده‌ای از تیلور سوئیفت که به‌طور گسترده در شبکه‌های اجتماعی منتشر شد؟ همه‌ این‌ها «دیپ‌فیک» یا تصاویر جعلی بودند که با واقعیت مو نمی‌زد.

هوش مصنوعی نرم‌افزاری را طراحی کرده که کار فتوشاپ‌کارها را ساده کرده و با کمی دانش، در عرض چند دقیقه می‌توانید تصاویری را خلق کنید که تشخیص‌اش از تصاویر واقعی بسیار سخت است. همانطور که در مورد تیلور سوئیفت، سنای آمریکا لازم دید که باید به لحاظ حقوقی چنین مواردی را بیشتر موردتوجه قرار دهد، برای همه هم این زنگ خطر به صدا در می‌آید که در این وضعیت، چه باید کرد؟

 عکس‌های جنجالی از پاپ با هوش مصنوعی

حقوق چه‌کاری از دستش ساخته است؟ در این گزارش به این پرداختیم و در گفت‌وگو با وحید آگاه، استاد دانشگاه علامه طباطبایی از منظر حقوقی این موضوع را مورد نقد و بررسی قرار دادیم که تحت چه قوانینی می‌توان با دیپ‌فیک مقابله کرد و آیا قوانین فعلی بازدارنده هستند یا خیر.

دیپ‌فیک چیست؟

دیپ‌فیک  (DeepFake)، یک تکنولوژی مبتنی بر هوش مصنوعی است که برای تولید ویدئوهای تقلبی از تصاویر و صداهای پایه استفاده می‌کند. این تکنولوژی می‌تواند به‌طور خودکار صورت افراد را در قالب تصاویری ویدئویی جایگزین ‌کند و فرد جدیدی را خلق ‌کند. این تکنولوژی اولین‌بار در سال 2017 معرفی شد و از آن زمان تا امروز به‌دلیل امکانات بسیار زیادی که در تولید ویدئوهای تقلبی دارد، بیشتر به‌عنوان یک مسئله و بحران امنیتی شناخته می‌شود تا اینکه تمجید و پیشرفت علم را در برداشته باشد.

تا امروز «دیپ‌فیک» چنان پیشرفت کرده که فیلم‌های سینمایی و تلویزیونی و ویدئوهای آموزشی نیز از دیپ‌فیک استفاده می‌کنند.  از طریق دیپ‌فیک، کاربران می‌توانند چهره افراد مشهور و حتی کارتونی را در تصاویر و ویدئوهای جعلی بازسازی کنند. اغلب نرم‌افزارها یا برنامه‌هایی که دیپ‌فیک را تبلیغ می‌کنند یا امکان دانلود این نرم‌افزار را برای کاربر فراهم کرده‌اند، هشداری داده‌اند با این مضمون که استفاده از این برنامه ممکن است برای افرادی خطراتی داشته باشد، بنابراین این نرم‌افزار به‌دلیل بحران‌های امنیتی، در «پلی استور» وجود ندارد.

تنظیم‌گری جدید

بعد از اتفاق اخیر درخصوص آبروریزی تیلور سوئیفت با استفاده از دیپ‌فیک، سیاستمداران آمریکایی و کاخ سفید به ماجرا ورود کردند و خواستار قوانین جدیدی دراین‌زمینه شده‌اند تا جرم‌انگاری جدیدی تعریف شود. آنها عقیده دارند قوانین فعلی، پاسخگوی این حجم از تخلف و بی‌آبرو کردن افراد نیست و نمی‌تواند آنطور که باید، بازدارنده باشد. لایحه جدید و دوحزبی در سنا توسط کلوبوچار ـ سناتور جمهوری‌خواه ـ

بیشتر استفاده از دیپ‌فیک‌هایی را ممنوع می‌کند که به‌طور جدی اطلاعات را تحریف می‌کنند، به استثنای حالاتی که مرتبط با طنز هستند. گفتنی است پای دیپ‌فیک به انتخابات 2024 آمریکا نیز باز شده است. تبلیغات تولیدشده توسط هوش مصنوعی، نقش پررنگی در انتخابات آتی خواهد داشت ازجمله تبلیغی که توسط کمیته ملی جمهوری‌خواه در آوریل سال گذشته پخش شد و قرار بود آینده ایالات‌متحده را نشان دهد درصورتی‌که رئیس‌جمهور، جو بایدن دوباره انتخاب شود. این تبلیغ نشان می‌داد که مهاجران به آمریکا در وضعیت نامناسبی قرار دارند و به‌دلیل شورشی که رخ داده، گشت‌های نظامی را در خیابان شاهد هستیم.

راه‌های تشخیص دیپ‌فیک

باتوجه به رشد بسیار زیاد دیپ‌فیک، بسیاری از کارشناسان در اندیشه مقابله با آن یا حداقل شناسایی راهکارهایی مبنی بر حقیقت و ساختگی‌بودن آن هستند. آنطور که در مقالات علیه دیپ‌فیک گفته شده،  تکنولوژی دیپ‌فیک فعلی در متحرک‌سازی چهره‌ها با مشکل روبه‌رو می‌شود و نتیجه آن، ویدئویی است که در آن سوژه هرگز پلک نمی‌زند، یا خیلی زیاد و غیرطبیعی پلک می‌زند. از دیگر راه‌هایی که می‌توان دیپ‌فیک را تشخیص داد، ناهماهنگی در پوست یا موی فرد است. اگر دقت بیشتری داشته باشید، نحوه پلک‌زدن فرد دیپ‌فیک، با انسان واقعی کمی تفاوت دارد. همچنین اصولاً صدای ویدئو با حرکات بدن فرد آنطور که باید، مطابقت ندارد و با دقت بیشتر می‌توان به این موضوع نیز پی برد.

قانون داخلی چه می‌گوید؟

بسیاری تصور می‌کنند این تکنیک (دیپ‌فیک) هنوز در ایران فراگیر نشده اما با جست‌وجوی ساده در اینترنت به این موضوع می‌رسیم که نه‌تنها دیپ‌فیک در ایران نیز فراگیر شده، بلکه آموزش آن نیز به‌راحتی و به‌صورت رایگان در اختیار عموم قرار گرفته است. صفحات بسیاری در اینستاگرام نیز وجود دارند که دیپ‌فیک را آموزش می‌دهند البته نه‌صرفاً برای خرابکاری یا تقلب، بلکه برای امتیازی که از طریق هوش مصنوعی به کاربران داده تا چهره افراد را روی بدن افراد دیگر قرار دهند. وحید آگاه، استاد حقوق دانشگاه علامه طباطبایی در گفت‌وگو با «هم‌میهن» معتقد است، دراین‌زمینه خلأ قانونی در کشور ایران وجود ندارد«درخصوص موضوع مطرح‌شده، در نظام حقوقی، قوانین به کفایت وجود دارد و به‌نظر می‌رسد که خلأ قانونی وجود ندارد و از ظرفیت‌های موجود می‌توان استفاده کرد. به‌صورت‌کلی ما یک جرم توهین، یک جرم افترا و یک جرم نشر اکاذیب داریم. جرم توهین و فحاشی، نسبت‌دادن دشنام نامناسب نسبت به شخصیت افراد است.

افترا و تهمت نیز نسبت‌دادن یک جرمی به افراد است و نشر اکاذیب نیز مشخص است که نشر خلاف‌واقع به افراد است که جرائم خودش را دارد. در قانون جرائم رایانه‌ای در مواد 16، 17 و 18 مفادی داریم که به این کار می‌آید. افترا و نشر اکاذیب می‌تواند به‌صورت شفاهی در کتاب، مجله و در شبکه‌های اجتماعی باشد. در ماده 16 می‌گوید، هر کسی با سامانه‌های مخابراتی اگر فیلم، صوت یا تصویر دیگری را تغییر یا تحریف یا منتشر کند، با علم به تغییر و تحریف به‌نحوی‌که منجر به هتک‌حرمت شخص شود، مجازات دارد. همچنین اگر فیلم خصوصی افراد دیگر، بدون رضایت افراد، منتشر شود نیز جریمه دارد که البته مختص این موضوع نیست. پس مواد 16 و 18 جرائم رایانگی از سال 88 کاملاً قابل استفاده دراین‌خصوص است.»

وحید آگاه در پاسخ به این سوال که قوانین داخلی درخصوص «دیپ‌فیک» آیا بازدارنده خواهند بود یا خیر؟ گفت: «ارتباطی به متن قانون ندارد. اگر ثابت شود عکس یا تصویر و فیلم، جعلی است قابل پیگیری است. کارشناس رسمی دادگستری در حوزه آی‌تی و جرائم رایانه‌ای حضور دارد که براساس تخصص خود، متوجه می‌شود این تصویر و فیلم ساختگی است یا واقعی. کمبود آموزش وجود دارد. باید به مردم آموزش دهیم که چطور در فضای مجازی زندگی کنند برای اینکه تا حد ممکن جلوی سوءاستفاده را بگیرند.»

براساس تحقیقات انجام‌شده، «دیپ‌فیک» الزاماً برای کارهای خلاف و جعل مورد استفاده قرار نمی‌گیرد بلکه در بسیاری از جلوه‌های ویژه، فیلم‌های سینمایی و سریال‌های تلویزیونی نیز کاربرد فوق‌العاده‌ای دارد. اما همانطور که مارک زاکربرگ هشدار داده بود، پیشرفت علم با هوش مصنوعی باعث شده تا تصویب قوانین جدید مورد نیاز باشد در غیر این صورت مضرات بسیاری شامل حال مردم می‌شود که قابل کنترل نخواهد بود.

چند نمونه از واکنش کاربران در این خصوص را بخوانید:

* رضا در واکنش به این رویداد نوشت: هوش مصنوعی تیلور سوییفت رو نابود کرده این وسط یه سری آدم مریض و بی اخلاق دنبال عکسای فیک این بنده خدا هستند!

* مریم هم توئیت زده است: تو آمریکا از کاخ سفید تا مردم از انتشار این تصاویر عبانی هستند و نگران  بعد تو فضای مجازی برخی ها راه افتادن کسارو لایک میکنن و برای هم میفرستن واقعا که متاسفم براتون!

* اکانت توئیتری «میرزا» هم واکنش نشان داد که تیلور سوئیفت، به این زیبایی و محبوبیت و کراش کل دنیاست،‌  جنیفر لارنس سالها مثل سوئیفت رفتار میکرد اما هر دو قربانی بی اخلاقی چندتا آدم روانی شدند.

* سیروان هم نظر داد: پس از انتشار تصاویر فیک و مستهجن «تیلور سوییفت» توییتر به طور موقت جستجوی «تیلور سویفت» را بلاک کرد اما بازم یه عده راه افتادن ببین این عکسا چی بوده. یعنی تا این حد سقوط اخلاق و دارم میبینم باورم نمیشه!

* ندا هم با ابراز نگرانی نوشت: عکسای تیلور سوییفت من و میترسونه،خدایا می‌خوام فقط یه روز بدون ترس زن باشم.