نیوزیلند گامی مهم در جهت مقابله با انتشار محتوای جنسی جعلی تولید شده توسط هوش مصنوعی برداشته است. این کشور در حال بازنگری در قوانین خود برای جرمانگاری تولید، اشتراکگذاری و فروش دیپفیکهای جنسی بدون رضایت طرفین است. این اقدام در پی افزایش نگرانکننده این نوع محتوا، از جمله استفاده از مدلهای هوش مصنوعی مانند Grok ایلان ماسک برای تولید تصاویر غیر اخلاقی، صورت گرفته است. این قانون جدید که با حمایت گسترده طیفهای سیاسی در پارلمان نیوزیلند روبرو شده، در مرحله اول خوانش خود قرار دارد و نشاندهنده رویکردی فعالانه برای محافظت از افراد، به ویژه زنان و دختران، در برابر آسیبهای دیجیتالی است.
در حالی که جرمانگاری گامی ضروری و همسو با تحولات جهانی در کشورهایی چون بریتانیا، استرالیا، کرهجنوبی و ایالات متحده محسوب میشود، اما کارشناسان معتقدند تنها از طریق قوانین کیفری نمیتوان با این پدیده مقابله کرد. توسعه سریع و دسترسی آسان به فناوریهای تولید دیپفیک، نیاز به رویکردهای جامعتری را ایجاب میکند. این رویکردها باید شامل مقرراتگذاری بر روی خود فناوری، شفافیت در مورد دادههای آموزشی هوش مصنوعی، و مسئولیتپذیری پلتفرمها و فروشگاههای اپلیکیشن باشد تا بتوان از گسترش روزافزون سوءاستفادههای جنسی مبتنی بر تصویر جلوگیری کرد.
دیپفیکها و هدف قرار گرفتن زنان
دیپفیکها، تصاویری، صوتی یا ویدئوهایی هستند که با استفاده از هوش مصنوعی ساخته میشوند و به گونهای طراحی شدهاند که واقعی به نظر برسند؛ گویی فردی در دنیای واقعی کاری را انجام داده یا حرفی را زده است که هرگز اتفاق نیفتاده است. در زمینه سوءاستفاده جنسی مبتنی بر تصویر، این فناوری معمولاً برای تولید محتوای جنسی ساختگی از افراد بدون رضایت آنها استفاده میشود.
گاهی اوقات، این تکنولوژی برای دستکاری عکسهای معمولی که از شبکههای اجتماعی برداشته شدهاند و تبدیل آنها به تصاویر صریح و جنسی به کار میرود. سیستمهای هوش مصنوعی دیگر نیز قادرند تنها با استفاده از یک دستور متنی، محتوای جنسی کاملاً ساختگی تولید کنند. تحقیقات نشان میدهد که حجم غالب این سوءاستفادهها متوجه زنان است. یک مطالعه معتبر نشان داده که ۹۸ درصد ویدئوهای دیپفیک منتشر شده در اینترنت ماهیت پورنوگرافیک داشته و عمدتاً زنان را هدف قرار دادهاند.
برای قربانیان این نوع آزارها، صرف نظر از اینکه تصویر از یک عکس واقعی ایجاد شده باشد یا کاملاً ساختگی، آسیبهای روانی و اجتماعی قابل توجهی به همراه دارد. افراد گزارشهایی از احساس تحقیر، ترس، اضطراب، از دست دادن کنترل و نقض استقلال جنسی خود را ارائه کردهاند. این تجربه میتواند تأثیرات مخربی بر سلامت روان و زندگی اجتماعی افراد داشته باشد.
شکافهای قانونی در نیوزیلند
لایحه جدید دیپفیک با هدف پر کردن خلاهای قانونی موجود در نیوزیلند تدوین شده است. در حال حاضر، این کشور فاقد یک جرم کیفری مشخص و مستقیم برای دیپفیکهای جنسی است. اگرچه قوانین موجود ممکن است در برخی موارد کاربرد داشته باشند، اما این قوانین برای مقابله با سوءاستفادههای نسل جدید مبتنی بر هوش مصنوعی طراحی نشدهاند.
قانون ارتباطات دیجیتال مضر سال ۲۰۱۵ (Harmful Digital Communications Act 2015) انتشار ارتباطات دیجیتال مضر را جرمانگاری میکند و حتی در یک پرونده مربوط به دیپفیک جنسی نیز مورد استفاده قرار گرفته است. با این حال، اثبات این جرم مستلزم اثبات این است که متهم قصد ایجاد پریشانی عاطفی شدید را داشته و این امر واقعاً رخ داده است. این الزامات میتواند موانع دشواری برای قربانیان سوءاستفاده جنسی مبتنی بر تصویر باشد.
یک جرم جدید که در سال ۲۰۲۲ به این قانون اضافه شد، تلاش کرد تا این مشکل را برای محتوای موسوم به «پو_رن انتقامی» (revenge porn) برطرف کند و اشتراکگذاری محتوای تصویری خصوصی بدون رضایت را جرم دانست. این قانون در کنار سایر جرایم موجود در قانون جزایی (Crimes Act) قرار گرفت. مفهوم «محتوای تصویری خصوصی» در اوایل دهه ۲۰۰۰ برای مقابله با فیلمبرداری مخفیانه با دوربینهای پنهان معرفی شد. در آن زمان، پارلمان به رفتارهایی مانند «upskirting» (فیلم گرفتن از زیر دامن افراد) و «downblousing» (فیلم گرفتن از شخص در حالی که لباس زیرش مشخص است) که عمدتاً زنان و دختران را در فضاهایی که انتظار حریم خصوصی داشتند، مانند سرویسهای بهداشتی یا اتاقهای تعویض لباس، هدف قرار میداد، واکنش نشان میداد.
بنابراین، قانون بر این مسئله متمرکز بود که آیا فردی به صورت مخفیانه فیلمبرداری شده است یا خیر. اما دیپفیکها این چارچوب را پیچیده میکنند، زیرا ممکن است هیچ فیلمبرداری واقعی رخ نداده باشد. این بدان معناست که قانون فعلی ممکن است در مواردی که تصویر خصوصی واقعی است، شفافتر از زمانی عمل کند که تصویر کاملاً ساختگی باشد.
فراتر از جرمانگاری
لایحه دیپفیک تلاش میکند تا با گسترش تعریف قانونی «محتوای تصویری خصوصی» شامل تصاویری که «ایجاد، ترکیب یا تغییر یافتهاند»، این ابهام را برطرف کند. اما این لایحه همچنین بازتابدهنده الگوی گستردهتری در رویکرد نیوزیلند به سوءاستفاده جنسی مبتنی بر تصویر است: قانون معمولاً تنها پس از آنکه فناوریهای جدید شکافهایی را در حفاظتهای موجود آشکار میکنند، تکامل مییابد.
ابتدا، دوربینهای مخفی و ضبطهای پنهانی بودند. سپس، «پو_رن انتقامی» مطرح شد. اکنون، هوش مصنوعی مولد (Generative AI) پدیدار شده است. قانون کیفری واکنشی عمل کرده و به اندازه کافی برای پوشش دادن آسیبهای جنسی تسهیلشده با فناوریهای جدید، آیندهنگر نیست. توسعه سریع فناوریهای جدید بدان معناست که صرف جرمانگاری به احتمال زیاد جلوی گسترش دیپفیکهای جنسی را نخواهد گرفت. ابزارهای ساخت دیپفیک ارزان، سریع و به طور فزایندهای در دسترس هستند. یک تحقیق اخیر دهها اپلیکیشن «nudify» (برهنه کننده) و face-swap (تغییر چهره) را در فروشگاههای اپل و گوگل شناسایی کرد. این برنامهها میتوانند در عرض چند ثانیه تصاویر جنسی را از عکسهای معمولی تولید کنند.
علیرغم سیاستهای فروشگاههای اپلیکیشن که محتوای صریح یا تحقیرآمیز جنسی را ممنوع میکنند، بسیاری از این ابزارها همچنان به راحتی در دسترس هستند و اغلب به عنوان برنامههای ویرایش عکس پنهان شدهاند. این موضوع نشاندهنده نیاز به نظارت دقیقتر بر روی این ابزارها و پلتفرمهای توزیع آنهاست.
تنظیم مقررات اپلیکیشنهای پرخطر
سیستمهای هوش مصنوعی مولد به مجموعههای عظیم داده متکی هستند که از اینترنت جمعآوری میشوند و اغلب شامل تصاویر زنان و دختران است که بدون اطلاع یا رضایت آنها استفاده شده است. در نتیجه، بدن زنان به طور فزایندهای به عنوان ماده خام برای سیستمهای هوش مصنوعی و هدف سوءاستفادههای تولید شده توسط آنها تبدیل میشود. به همین دلیل، نیوزیلند باید فراتر از قانون کیفری فکر کند و به سمت تنظیم مقررات گام بردارد.
استرالیا در حال ممنوعیت اپلیکیشنها و وبسایتهای «nudification» است. بریتانیا و اتحادیه اروپا نیز در این مسیر گام برداشتهاند. نیوزیلند نیز باید همین رویه را دنبال کند. به طور گستردهتر، نیوزیلند باید یک چارچوب نظارتی برای سیستمهای پرخطر هوش مصنوعی، به ویژه فناوریهایی که قادر به تولید محتوای جنسی بدون رضایت هستند، در نظر بگیرد. این چارچوب میتواند شامل الزامات ایمنی اجباری در سیستمهای تولید تصویر، تعهدات قویتر برای فروشگاههای اپلیکیشن و پلتفرمهای توزیع این ابزارها، و الزامات شفافیت در مورد دادههای آموزشی هوش مصنوعی باشد.
تحلیل تاثیر
لایحه دیپفیک دیجیتال و بهرهکشی یک گام مهم به جلو است و پارلمان باید آن را تصویب کند. با این حال، اگر نیوزیلند بخواهد به طور معناداری با سوءاستفاده جنسی مبتنی بر تصویر در عصر هوش مصنوعی مولد مقابله کند، قانون کیفری نمیتواند پایان این گفتگو باشد. این قانونگذاری، هرچند حیاتی، تنها بخشی از راهحل است و باید با مقرراتگذاری جامعتر فناوری و همکاری بینالمللی برای مقابله با یک چالش جهانی همراه شود.
