خشونت دیجیتال علیه زنان با هوش مصنوعی؛ قربانیان جهانی تصاویر جعلی برهنه

پیشرفت‌های اخیر در فناوری هوش مصنوعی، که قرار بود ابزاری برای بهبود زندگی بشر باشد، در مواردی به ابزاری برای آزار و سوءاستفاده تبدیل شده است. اپلیکیشن‌هایی مانند Clothoff، با قابلیت تولید تصاویر برهنه جعلی از افراد واقعی، به‌ویژه زنان و دختران جوان، موجی از خشونت جنسی سایبری را به راه انداخته‌ است که زندگی قربانیان را به شدت تحت تأثیر قرار داده است.

پیشرفت فناوریهای مرتبط بە حوزە هوش مصنوعی، دگرگونیهای فراوانی را در روابط و عملکردهای انسانی ایجاد کردە است. یکی از این اپلیکیشن‌ها با عنوان Clothoff کە قادر بە تولید تصاویر برهنە است، نه‌تنها به تخریب وجهه افراد منجر شده است، بلکه به تجارت پرسودی برای گردانندگان آن مبدل شدە است که با بی‌توجهی به پیامدهای اخلاقی و قانونی آن فعالیت می‌کنند.

مجله اشپیگل در ۱۰ ژوئن ۲۰۲۵ در یک گزارش تحقیقی به ابعاد مختلف این معضل و تجارت پر سود پرداخته است. این گزارش، با استناد به شواهد مستند، اظهارات یک افشاگر داخلی، و گزارش‌های رسانه‌های معتبر، به بررسی این پدیده و تأثیرات آن می‌پردازد.

فاجعه‌ای شخصی با ابعاد جهانی

گزارش با داستان دردناک میریام آل ادیب، پزشک زنان اسپانیایی، شروع می‌شود. در سپتامبر ۲۰۲۳، او متوجه می‌شود که تصاویر برهنه جعلی از دختر ۱۴ساله‌اش، که از یک عکس معمولی در واتس‌اپ او ساخته شده بود، در گروه‌های محلی شهر آلمندرالخو اسپانیا دست به دست می‌شود.

آل ادیب به اشپیگل می‌گوید: اگر نمی‌دانستم بدن دخترم چگونه است، فکر می‌کردم این تصاویر واقعی‌اند.» این تنها مورد او نبود؛ حداقل ۲۰ دختر ۱۱ تا ۱۷ساله از چهار مدرسه این شهر قربانی تصاویر جعلی می‌شوند که از عکس‌های اینستاگرام یا تصاویر مخفیانه در زمین والیبال ساخته شده بودند.

این تصاویر، که در گروه‌های واتس‌اپ منتشر می‌شوند، به آزار، تحقیر و حتی خودداری برخی دختران از رفتن به مدرسه منجر می‌شود. آل ادیب هشدار می‌دهد که این تصاویر می‌توانند آسیب‌های روانی عمیقی ایجاد کنند و حتی به خودکشی منجر شوند.

این مشکل صرفا به اسپانیا محدود نمی‌شود، تا جاییکە تا کنون هزاران زن در اقصی نقاط جهان آماج حملات مشابهی از این دست قرار گرفته‌اند.

در ژانویه ۲۰۲۵ روزنامه گاردین از مورد مشابهی در سیدنی استرالیا خبر داده بود، که در آن یک دانش‌آموز پسر با استفاده از هوش مصنوعی تصاویر جعلی از همکلاسی‌های دختر خود ساخته و آن‌ها را از طریق حساب‌های جعلی در شبکه‌های اجتماعی پخش کرده بود.

یک دانش‌آموز آمریکایی به نام الیستون بری که عکسی معمولی از خود را در اینستاگرام منتشر کرده بود، قربانی تصاویر پورنوگرافیک جعلی شد و تصاویر فیک او به مدت نه ماه در اسنپ‌چت دست به دست می‌شدند.

در کره جنوبی گروه‌های تلگرامی با بیش از ۲۲۰ هزار عضو تصاویر جعلی از دانش‌آموزان، معلمان و حتی اعضای خانواده را منتشر کردند.

حتی افراد مشهور مانند تیلور سوئیفت نیز از این سوءاستفاده در امان نماندند؛ در ژانویه ۲۰۲۴، تصاویر جعلی او در پلتفرم X بیش از ۴۵ میلیون بار دیده شد.

تجارت غیراخلاقی و سودهای کلان

اپلیکیشن Clothof یکی از پیشروترین اپلیکیشن‌های «digital undressing»، با تولید روزانه ۲۰۰ هزار تصویر جعلی و /۲۷ میلیون بازدید در نیمه اول ۲۰۲۴، به یکی از پرسودترین ابزارهای این حوزه تبدیل شده است.

افشاگری که با اشپیگل همکاری کرده، فاش کرده که این اپلیکیشن با بودجه سالانه ۳ میلیون یورو و شبکه‌ای از ۱۰ اپلیکیشن مشابه، به‌طور سیستماتیک فعالیت می‌کند.

گردانندگان آن، که عمدتاً در کشورهای بلوک شرق سابق مانند روسیه و بلاروس مستقرند، هویت خود را مخفی نگه می‌دارند.

گزارش گاردین در فوریه ۲۰۲۴ نیز با بررسی شش‌ماهه این اپلیکیشن، به شناسایی برخی افراد مرتبط با Clothoff در این کشورها اشاره کرد و از استفاده از هویت‌های جعلی، مانند تصویر ساختگی مدیرعامل خیالی «ایوان لیام تورس»، پرده برداشته بود.

این اپلیکیشن با تبلیغات در پلتفرم‌هایی مانند تلگرام و ردیت مردان ۱۶ تا ۳۵ساله را هدف قرار داده و حتی کمپین‌هایی برای تولید تصاویر جعلی از سلبریتی‌ها طراحی کرده است.

بی بی‌سی نیوز در آوریل ۲۰۲۳ گزارش کرده بود که وب‌سایت‌های میزبان محتوای جعلی به‌راحتی از طریق گوگل قابل دسترسی‌اند و از طریق پلتفرم‌هایی مانند دیسکورد تبلیغ می‌شوند.

این گزارش‌ها نشان می‌دهند که این اپلیکیشن‌ها با دور زدن قوانین فروشگاه‌های اپلیکیشن و استفاده از روش‌های مخفیانه، به فعالیت خود ادامه می‌دهند.

تولید و انتشار تصاویر جعلی پیش از توسعه چنین اپلیکیشن‌هایی نیز سابقه دارد. در سال ٢٠٢٠ تصاویر برهنه بیش از صد هزار زن در اقصی نقاط جهان با استفاده با بات‌های تلگرامی تولید و منتشر شده بودند.

در اسپانیا، عاملان تولید تصاویر جعلی در آلمندرالخو به یک سال حبس تعلیقی محکوم شدند، اما گردانندگان Clothoff همچنان از عواقب قانونی در امان مانده‌اند.

در اوت ۲۰۲۴، مقامات سان‌فرانسیسکو علیه ۱۶ وب‌سایت مشابه شکایت کردند، اما موفقیت محدودی داشتند. سی‌بی‌اس نیوز گزارش کرده که قانون «Take It Down Act» در آمریکا، که در دسامبر ۲۰۲۴ در سنا تصویب شد، پلتفرم‌ها را ملزم به حذف سریع محتوای جعلی می‌کند.

گاردین نیز به تلاش‌های قانونی در کالیفرنیا، از جمله قوانین SB 926 و SB 942، اشاره می‌کند که توزیع غیرمجاز تصاویر جعلی را جرم‌انگاری می‌کنند. بااین‌حال، پیشرفت کند قوانین در مقایسه با سرعت تکامل فناوری، همچنان یک چالش بزرگ است.