پیشنهاد اخیر کییر استارمر، نخستوزیر بریتانیا، مبنی بر الزام شرکتهای فناوری به نصب نرمافزارهای تشخیص محتوای جنسی مبتنی بر هوش مصنوعی بر روی دستگاههای هوشمند، با واکنشهای گستردهای روبرو شده است. این طرح که با هدف حفاظت از کودکان در برابر تصاویر جنحالی مطرح شده، در عمل به معنای جاسازی ابزارهای نظارتی در سطح سیستمعامل دستگاههایی نظیر iOS و اندروید خواهد بود که قابلیت پایش بیوقفه دوربین، خروجی صفحه، پخش زنده و فایلهای ذخیرهشده را برای تشخیص و مسدودسازی یا تار کردن تصاویر نامناسب خواهد داشت.
این رویکرد، در حالی که ظاهراً با نیت خیرخواهانه محافظت از آسیبپذیرترین قشر جامعه ارائه شده، موجی از نگرانیها را درباره حقوق مدنی اساسی و حریم خصوصی فردی برانگیخته است. منتقدان هشدار میدهند که چنین فناوریای میتواند به ابزاری برای نظارت گسترده دولتی تبدیل شود و راه را برای سوءاستفادههای احتمالی توسط هکرها و حتی دولتهای متخاصم باز کند. به علاوه، اثربخشی واقعی این تدابیر در برابر پیچیدگیهای معضل سوءاستفاده از کودکان نیز زیر سوال رفته است.
طرح جنجالی استارمر: حفاظت از کودکان یا نظارت همهجانبه؟
کییر استارمر در جریان «هفته فناوری لندن» (London Tech Week) بر این نکته تأکید کرد که این یک چالش غیرممکن نیست و شرکتهای پیشرو فناوری جهان قادر به حل آن هستند. وی اظهار داشت که اگر این شرکتها خود اقدام نکنند، دولت مداخله کرده و قانون را تغییر خواهد داد. این اظهارات، در ظاهر تلاشی برای مقابله با معضل رو به رشد سوءاستفاده از کودکان در فضای دیجیتال به نظر میرسد، اما از نظر فنی و حقوقی، پیامدهای عمیقی دارد.
در عمل، دولت از شرکتهایی مانند اپل و گوگل میخواهد که نرمافزار تشخیص برهنگی مبتنی بر هوش مصنوعی را در سطح سیستمعامل (iOS و اندروید) نصب کنند. این بدان معناست که دستگاهها بهطور مداوم منظرهیاب دوربین، خروجی صفحه، پخش زنده و فایلهای ذخیرهشده را اسکن کرده و محتوای نامناسب را در زمان واقعی مسدود یا تار خواهند کرد. این قابلیت، بهویژه در بریتانیا، میتواند به معنای تبدیل هر دستگاه هوشمند به یک ابزار نظارتی دائمی باشد.
ابعاد فنی و چالشهای حریم خصوصی
پیادهسازی چنین سیستمی نیازمند دسترسی عمیق به دادههای کاربر و قابلیتهای پردازشی دستگاه است. این امر نه تنها مصرف انرژی و منابع دستگاه را افزایش میدهد، بلکه مهمتر از آن، یک در پشتی بالقوه برای دسترسیهای غیرمجاز ایجاد میکند. کارشناسان امنیت سایبری هشدار میدهند که وجود چنین نرمافزاری در سطح سیستمعامل، دستگاهها را به هدف آسانتری برای هکرها و بازیگران مخرب تبدیل میکند و یک «مسیر حمله» کاملاً جدید را برای حملات سایبری و حتی جاسوسی توسط دولتهای خارجی باز میکند.
این نگرانیها کاملاً تئوریک نیستند. مقامات امنیتی و اطلاعاتی در سراسر جهان به دلایل موجهی دوربینهای دستگاههای خود را میپوشانند یا حذف میکنند. یک سیستم اسکن دائمی میتواند نقاط ضعف جدیدی را در زیرساختهای امنیتی ایجاد کند و به جای افزایش امنیت، کاربران را در برابر تهدیدات بیشتری آسیبپذیر سازد. این سیاست به طور بالقوه میتواند حریم خصوصی دیجیتال شهروندان را به خطر بیندازد و دادههای شخصی آنها را در معرض سوءاستفاده قرار دهد.
احراز هویت و خطرات نشت دادهها
وزارت کشور بریتانیا پیشنهاد کرده است که این اسکن بهطور پیشفرض در تمام دستگاههای iOS و اندروید فعال باشد و کاربران برای غیرفعال کردن آن نیاز به تأیید سن خود از طریق بیومتریک یا شناسایی داشته باشند. این شرط، خود نگرانیهای بیشتری را در مورد حریم خصوصی به وجود میآورد، زیرا به معنای ارائه اطلاعات حساس و اضافی، غالباً به یک شخص ثالث، است.
این تهدید صرفاً نظری نیست. اکتبر گذشته، هکرها یک شرکت ارائهدهنده خدمات پشتیبانی مشتری مورد استفاده دیسکورد را به خطر انداختند و حدود ۷۰ هزار تصویر شناسایی دولتی، از جمله گذرنامه و گواهینامه رانندگی، به همراه نام کاربران، آدرس ایمیل، آدرس IP و پیامهای پشتیبانی را به سرقت بردند. این دادهها سپس برای اخاذی از شرکت استفاده شد. همانطور که بنیاد Electronic Frontier (EFF) اشاره میکند: «سیستمهای تأیید سن، سیستمهای نظارتی هستند.»
چالشهای اجرایی و اثربخشی
تجربه عملی نشان میدهد که کودکان راههایی برای دور زدن سیستمهای تأیید سن پیدا خواهند کرد. ممنوعیت استفاده از شبکههای اجتماعی برای افراد زیر ۱۶ سال در استرالیا، که دسامبر سال گذشته اجرا شد، نشاندهنده این موضوع است. نظرسنجیها حاکی از آن است که اکثر کودکان زیر ۱۶ سال در استرالیا همچنان حسابهای فعال در شبکههای اجتماعی دارند و بسیاری معتقدند که دور زدن این ممنوعیت «آسان» بوده است. روشها از موارد ساده (استفاده از حساب والدین یا شناسه خواهر/برادر بزرگتر) تا روشهای خلاقانهتر متغیر بودهاند.
تحمیل اسکن برهنگی در دستگاهها نیز وضعیت بهتری نخواهد داشت؛ کودکی که به تلفن یک بزرگسال، یک VPN، یک دستگاه قدیمیتر یا یک گوشی خارجی دسترسی داشته باشد، بلافاصله از دامنه این ممنوعیت خارج میشود. این روشها نشان میدهد که راهکارهای صرفاً فنی ممکن است در برابر خلاقیت و هوش کاربران، بهویژه نوجوانان، چندان کارآمد نباشند و تنها به ایجاد یک حس کاذب از امنیت منجر شوند.
عادیسازی نظارت و سوءاستفادههای آتی
فراتر از نگرانیهای فنی، این پیشنهاد قدرت دولت را برای کنترل تصاویری که مجاز به مشاهده یا گرفتن آنها در دستگاه شخصی خود هستید، عادیسازی میکند. پیش از این نیز شاهد بودهایم که قانون ایمنی آنلاین بریتانیا، الهامبخش رژیمهای اقتدارگرا در سراسر جهان برای پیگیری اقدامات «کپیبرداری» و سختگیرانهتر شده است. این امر در نهایت میتواند به ضرر شهروندان بریتانیا تمام شود.
تصور اینکه در زمان بحران، درخواستهایی برای استفاده از این نوع فناوری برای جلوگیری از «سخنان نفرتانگیز» یا «اطلاعات نادرست» – در عمل، هر آنچه که سانسورچی دوست ندارد – مطرح شود، دشوار نیست. این سیاست میتواند یک سابقه خطرناک برای کنترل محتوای دیجیتال توسط دولتها ایجاد کند و مرزهای بین حفاظت از کودکان و نقض آزادیهای مدنی را محو نماید.
خطاهای هوش مصنوعی و هدفگذاری نادرست
یکی دیگر از مشکلات اساسی، احتمال بالای «مثبت کاذب» (false positives) در تشخیص هوش مصنوعی است. این به معنای آن است که سیستم ممکن است تصاویر پزشکی، هنری یا حتی تصاویر مربوط به شیردهی را به اشتباه به عنوان محتوای نامناسب تشخیص دهد و استفادههای کاملاً مشروع از دستگاهها را مسدود کند. کاربران در چنین مواردی، توانایی کمی برای اعتراض به نتیجهگیریهای هوش مصنوعی خواهند داشت.
دولت پیشتر این سیاست را بر اساس این آمار توجیه کرده بود که ۹۱ درصد از محتوای سوءاستفاده جنسی از کودکان آنلاین، توسط خود کودکانی که فریب خورده یا مورد سوءاستفاده قرار گرفتهاند، تولید میشود. این رقم، که از بنیاد Internet Watch (IWF) آمده است، دقیق اما گمراهکننده است. این آمار به درصدی از محتوای حذفشده اشاره دارد، نه اینکه ۹۱ درصد سوءاستفاده جنسی از کودکان آنلاین با افراد غریبه آغاز میشود.
تحلیل تأثیر
واقعیت از این هم ترسناکتر است و دلیل ناکارآمدی راهحلهای فنی اینچنینی را برجسته میکند: بخش عمدهای (بیش از ۹۰ درصد طبق NSPCC) از سوءاستفاده جنسی از کودکان توسط افرادی که کودک آنها را میشناسد، صورت میگیرد. راهحلهای در سطح دستگاه تنها میتوانند در کاهش باجخواهی جنسی از نوجوانان توسط افراد ناشناس از راه دور مؤثر باشند، اما جایگزینی برای کار طاقتفرسای حفاظت از کودکان در محیط واقعی نیستند.
این طرح، با نادیده گرفتن ریشههای اصلی مشکل و تمرکز بر راهحلهای فنی که پیامدهای گستردهای برای حریم خصوصی و آزادیهای مدنی دارند، ممکن است به جای حل مشکل، تنها به ایجاد مشکلات جدیدی منجر شود. تأثیر این سیاست میتواند فراتر از بریتانیا رفته و الهامبخش دولتهای دیگر برای پیادهسازی سیستمهای نظارتی مشابه شود، که در بلندمدت، آزادیهای دیجیتال را در سراسر جهان به خطر میاندازد.
