تورنتو (AP) - نمایندگان شرکت OpenAI، سازنده ابزار هوش مصنوعی ChatGPT، پس از آنکه این شرکت اعلام کرد قصد داشته فعالیتهای فردی را که ماهها بعد یکی از بدترین تیراندازیهای مدارس تاریخ کانادا را رقم زد، زیر نظر داشته اما به پلیس کانادا اطلاع نداده است، به اتاوا احضار شدند.
لوان سولومون، وزیر نوآوری، علم و توسعه اقتصادی کانادا، روز دوشنبه اعلام کرد که انتظار دارد نمایندگان ارشد ایمنی این شرکت روز سهشنبه در دیداری با او، پروتکلهای خود و نحوه تصمیمگیری برای ارجاع موارد به مجریان قانون را توضیح دهند.
واکنش دولت کانادا به عدم اقدام OpenAI
جزئیات ماجرا و انتقادات وارده
دیوید ایبی، نخستوزیر بریتیش کلمبیا، روز سهشنبه اعلام کرد که به نظر میرسد OpenAI فرصت جلوگیری از تیراندازی اخیر در تامبلر ریج، بریتیش کلمبیا، که هشت کشته برجای گذاشت را داشته است. او با ابراز خشم خود گفت: «از بیرون، اینطور به نظر میرسد که OpenAI این فرصت را داشته که از این تراژدی، این فقدان وحشتناک جان، و از کشته شدن کودکان در بریتیش کلمبیا جلوگیری کند.»
شرکت OpenAI در ماه ژوئن گذشته اعلام کرده بود که حساب کاربری جسی ون روتسلار را از طریق تلاشهای تشخیص سوءاستفاده برای «پیشبرد فعالیتهای خشونتآمیز» شناسایی کرده است. این شرکت مستقر در سانفرانسیسکو افزود که در آن زمان در نظر گرفته بود که آیا این حساب را به نیروهای پلیس سلطنتی کانادا (RCMP) ارجاع دهد یا خیر، اما در آن مقطع زمانی تشخیص داد که فعالیت حساب کاربری، آستانه لازم برای ارجاع به مجریان قانون را برآورده نمیکند. OpenAI این حساب را در ماه ژوئن به دلیل نقض سیاست استفاده خود مسدود کرد.
[IMAGE_X]نارضایتی از رویکرد شرکت در قبال هشدارهای ایمنی
وان روتسلار، جوان ۱۸ ساله، در اوایل ماه جاری میلادی، ابتدا مادر و ناپدری خود را در خانه خانوادگی به قتل رساند و سپس به مدرسه مجاور حمله کرد. او از طریق شلیک گلوله به زندگی خود پایان داد. این حمله مرگبارترین حادثه در کانادا از سال ۲۰۲۰ محسوب میشود، زمانی که یک مهاجم در نوا اسکوشیا ۱۳ نفر را کشت و با آتشسوزی جان ۹ نفر دیگر را گرفت. انگیزه این تیراندازی هنوز نامشخص است.
سولومون در مصاحبهای گفت که بلافاصله پس از خواندن گزارشهایی مبنی بر عدم اقدام به موقع OpenAI در تماس با مجریان قانون، با این شرکت تماس گرفته است. او اظهار داشت: «من تیم ارشد ایمنی OpenAI را از ایالات متحده به اینجا، به اتاوا احضار کردهام. کاناداییها انتظار دارند که کودکانشان در امان باشند و این سازمانها به شیوهای مسئولانه عمل کنند.»
بررسی پروتکلهای ایمنی و نظارت بر هوش مصنوعی
سولومون افزود که برخی از نمایندگان او روز یکشنبه با مقامات OpenAI ملاقات کردهاند. او در مورد اینکه آیا دولت کانادا قصد دارد چتباتهای هوش مصنوعی مانند ChatGPT را تنظیم کند یا خیر، اظهار نظری نکرد، اما تأکید کرد که همه گزینهها روی میز است.
بر اساس گزارش وال استریت ژورنال، این شرکت در ابتدا برای ارجاع دادن حساب کاربری مذکور به پلیس سلطنتی کانادا، تردید داشته و این موضوع موجب بحث میان حدود دوازده کارمند شرکت شده بود. OpenAI مدعی شده است که آستانه ارجاع کاربر به مجریان قانون، وجود خطر جدی و قریبالوقوع آسیب جسمی به دیگران است و در آن زمان، چنین برنامهریزی معتبری شناسایی نشده بود. پس از اطلاع از حادثه تیراندازی، کارکنان OpenAI اطلاعات مربوط به فرد و استفاده او از ChatGPT را با پلیس سلطنتی کانادا به اشتراک گذاشتند.
تحلیل تأثیرات آینده
این رویداد بار دیگر نگرانیها در مورد مسئولیتپذیری شرکتهای فناوری در قبال محتوای تولید شده توسط هوش مصنوعی و نحوه مدیریت اطلاعات حساس را برجسته میکند. احضار نمایندگان OpenAI به اتاوا نشاندهنده عزم دولت کانادا برای بررسی دقیق نقش و پروتکلهای این شرکتها در تضمین ایمنی عمومی است. احتمال افزایش نظارت قانونی بر ابزارهای هوش مصنوعی و چتباتها در آینده قوت گرفته و شرکتهایی مانند OpenAI باید با دقت بیشتری به ارزیابی ریسکها و پیامدهای احتمالی اقدامات خود بپردازند.
