وزارت کشور آفریقای جنوبی (DHA) جدیدترین نهاد دولتی است که استفاده از هوش مصنوعی (AI) را در یکی از اسناد سیاستی خود کشف کرده است. این اتفاق منجر به تعلیق دو مقام مسئول این سند شده است. این حادثه، که در آن خطاهای ناشی از هوش مصنوعی موسوم به «توهمات هوش مصنوعی» در یک سند سیاستی شناسایی شد، نگرانیهایی را در مورد ادغام فناوریهای جدید در فرآیندهای دولتی برانگیخته است.
این وزارتخانه در روز پنجشنبه اعلام کرد که دو تن از مقامات مرتبط با یک سند کلیدی سیاستی که اخیراً مورد بازنگری قرار گرفته بود، به حالت تعلیق درآمدهاند. یکی از این افراد، مدیر کل واحد شهروندی و مهاجرت است و تعلیق مدیر مسئول تهیه این سند نیز در ابتدای هفته آینده اجرایی خواهد شد. وزارت کشور آفریقای جنوبی ضمن اذعان به «شرمندگی ناشی از این اتفاق»، بیان داشت که این حادثه را فرصتی برای مدرنسازی فرآیندهای خود تلقی خواهد کرد.
کشف توهمات هوش مصنوعی در سند سیاستی
بازنگری در اسناد سیاستی در راه است
اختلالات کشف شده توسط این وزارتخانه به فهرست منابع پیوست شده به سند سفید بازنگری شده در زمینه شهروندی، مهاجرت و حمایت از پناهندگان مربوط میشود. این منابع به عنوان «توهمات» شناسایی شدهاند؛ اصطلاحی که برای توصیف خروجیهای نادرست یا ساختگی مدلهای زبانی بزرگ به دلیل کمبود دادههای معتبر به کار میرود.
این منابع ظاهراً پس از نگارش متن اصلی سند، به آن اضافه شدهاند، زیرا در متن اصلی به آنها ارجاع داده نشده بود. وزارت کشور آفریقای جنوبی اعلام کرد: «علاوه بر اجرای تعلیقهای پیشگیرانه، این وزارتخانه دو شرکت حقوقی مستقل را برای مدیریت فرآیند انضباطی و بررسی تمامی اسناد سیاستی تهیه شده توسط این وزارتخانه از تاریخ ۳۰ نوامبر ۲۰۲۲ منصوب کرده است.»
تاریخ انتخاب شده برای بررسی، مصادف با دورهای است که اولین مدل زبانی بزرگ – ChatGPT – برای استفاده عمومی منتشر شد. این اقدام نشاندهنده تلاش وزارتخانه برای ارزیابی دقیق تأثیر فناوریهای نوظهور بر مستندات رسمی است.
سازگاری برای همراهی با تحولات
این تعلیقها تنها یک هفته پس از آن صورت میگیرد که وزارت ارتباطات و فناوری دیجیتال (DCDT) مجبور شد سند سیاستی خود در زمینه هوش مصنوعی را پس بگیرد. همانند وزارت کشور، در پیشنویس سیاست ملی هوش مصنوعی نیز منابع و استنادات ساختگی یافت شد.
وزیر مربوطه، سولی مالاتسی، در این باره اظهار داشت: «محتملترین توضیح این است که استنادات تولید شده توسط هوش مصنوعی بدون تأیید مناسب گنجانده شدهاند. این اتفاق نباید رخ میداد.» پیشنویس سیاست هوش مصنوعی قرار است بازنویسی شود و وزارت کشور نیز فهرست منابع پیوست به سند خود را پس گرفته است.
با این حال، وزارت کشور تأکید دارد که سیاست بازنگری شده در زمینه شهروندی، مهاجرت و پناهندگان «همچنان به طور دقیق موضع دولت را منعکس میکند» و به محتوای آن پایبند است. این وزارتخانه همچنین اذعان کرد که این اقدامات نتیجه یک فرآیند گسترده همکاری بینبخشی و مشاوره عمومی بوده و «توهمات ظاهری هوش مصنوعی» در لیست منابع مستقل، تأثیر مادی بر آن نداشته است.
وزارت کشور استفاده فزاینده هوش مصنوعی در جامعه را پذیرفته و بیان داشت که موسسات باید تلاش بیشتری برای بهرهبرداری صحیح از مزایای آن انجام دهند. این وزارتخانه در پایان افزود: «[هوش مصنوعی] یک فناوری تحولآفرین اما مختلکننده است که نحوه عملکرد سازمانها را در بخشهای خصوصی و دولتی تغییر میدهد. ما اکنون باید سازگار شویم تا با آن همراه شویم.»
تحلیل تأثیر
این حادثه نشاندهنده چالشهای پیش روی سازمانهای دولتی در پذیرش و ادغام فناوریهای نوین مانند هوش مصنوعی است. «توهمات هوش مصنوعی» میتواند منجر به انتشار اطلاعات نادرست و بیاعتمادی عمومی شود. برای جلوگیری از تکرار چنین اتفاقاتی، لازم است چارچوبهای قوی برای تأیید و اعتبارسنجی محتوای تولید شده توسط هوش مصنوعی در فرآیندهای دولتی ایجاد شود. همچنین، نیاز به آموزش مقامات و کارکنان در مورد قابلیتها و محدودیتهای هوش مصنوعی بیش از پیش احساس میشود تا بتوانند به طور مؤثر از این ابزارها در کنار نظارت انسانی استفاده کنند.
