در اقدامی بیسابقه، وکلای حاضر در یک پرونده حقوقی فدرال در ایالت میسیسیپی آمریکا، به دلیل استفاده از ابزارهای هوش مصنوعی مولد در تهیه لوایح خود، با مجازاتهای قضایی روبرو شدند. قاضی پرونده با صدور دستوری شدیدالحن، این وکلا را به اتلاف وقت دادگاه و ارائه اطلاعات نادرست متهم کرد و این اتفاق را نمونهای بارز از خطرات استفاده بیرویه و بدون راستیآزمایی از هوش مصنوعی در حوزه حقوقی دانست.
این پرونده که به اختلاف قراردادی بین وکیل تام ویترز و شهر آبردین میسیسیپی بر سر پرداخت نشدن دستمزد وکالت مربوط میشد، شاهد نقض مشابهی از سوی وکلای هر دو طرف بود. قاضی شارون آیکاک، قاضی ارشد دادگاه منطقهای میسیسیپی شمالی، در حکم خود نوشت: «دادگاه با سناریوی غیرمعمولی روبرو است – وکلای هر دو طرف درگیر رفتارهای مشابهی شدهاند که مستلج تحریم است.» وی افزود: «این دادگاه بار دیگر «مجبور به رسیدگی به توهمات هوش مصنوعی در لوایح دادگاه» شده است.»
تکیه وکلای متخاصم به هوش مصنوعی مولد
دادگاه متوجه شد که هر دو طرف دعوا، به جای استناد به سوابق قضایی واقعی، به موارد قانونی ساختگی و غیرموجود که توسط ابزارهای هوش مصنوعی تولید شده بود، استناد کردهاند. این پدیده که به «توهمات هوش مصنوعی» (AI Hallucinations) معروف است، زمانی رخ میدهد که مدلهای زبانی بزرگ، اطلاعاتی را به عنوان واقعیت ارائه میکنند که وجود خارجی ندارند. در این مورد خاص، هر دو گروه وکلای مدافع، با ارائه مدارک و استدلالهای مبتنی بر این اطلاعات غلط، روند رسیدگی به پرونده را دچار اختلال جدی کرده و باعث اتلاف وقت قابل توجهی برای دستگاه قضایی شده بودند.
قاضی آیکاک پس از بررسی شواهد، با ابراز تأسف از این وضعیت، حکم به توقف روند دادرسی، لغو جلسه محاکمه و محرومیت هر چهار وکیل درگیر در این پرونده از ادامه فعالیت در پرونده صادر کرد. این قاضی تأکید کرد که در عصری که استفاده از هوش مصنوعی تأیید نشده در حوزه حقوقی رو به افزایش است، این پرونده نمونهای عینی از خطراتی است که وکلای مدافع با تبدیل شدن به «مهر تأیید» بدون بررسی خروجیهای هوش مصنوعی، با آن روبرو هستند. وی استفاده از ابزارهای هوش مصنوعی بدون راستیآزمایی دقیق خروجیها را زمینهساز این تخلفات دانست.
جزئیات مجازاتها و پیامدهای قانونی
بر اساس حکم قاضی آیکاک، دو نفر از وکلا به مدت دو سال از حضور در دادگاه منع شدند، در حالی که سایر وکلا نیز بسته به میزان دخالت و مسئولیتپذیریشان در قبال عدم تأیید خروجیهای هوش مصنوعی، جریمه نقدی بین ۱۰۰۰ تا ۳۵۰۰ دلار دریافت کردند. این جریمهها نه تنها جنبه تنبیهی دارند، بلکه هشداری جدی برای جامعه حقوقی در سراسر کشور محسوب میشوند که در حال حاضر با چالشهای فزایندهای ناشی از پذیرش و ادغام فناوریهای نوین، بهویژه هوش مصنوعی، در فرایندهای حقوقی مواجه هستند.
این اولین بار نیست که قضات با وکلایی که از هوش مصنوعی برای تهیه لوایح خود استفاده کرده و به موارد غیرواقعی استناد کردهاند، روبرو میشوند. در هفتههای اخیر، قضات متعددی در ایالت نیویورک نیز نسبت به این پدیده ابراز نگرانی کرده و با وکلای متخلف برخورد نمودهاند. این روند نشاندهنده افزایش حساسیت دستگاه قضایی به استفاده مسئولانه و اخلاقی از ابزارهای نوین فناوری در امور حقوقی است و بر لزوم دقت و راستیآزمایی پیش از ارائه هرگونه مدرک یا استدلالی به دادگاه تأکید دارد.
تحلیل تأثیرات گستردهتر
این حکم قضایی پیامی قاطع به جامعه حقوقی در مورد مسئولیتپذیری در استفاده از هوش مصنوعی است. استفاده از ابزارهای مولد هوش مصنوعی، گرچه میتواند به افزایش سرعت و کارایی کمک کند، اما بدون نظارت و بررسی دقیق انسانی، میتواند منجر به انتشار اطلاعات نادرست و خدشه وارد کردن به عدالت شود. دادگاهها به طور فزایندهای بر لزوم تأیید صحت و سقم تمامی اطلاعات ارائه شده، حتی آنهایی که توسط هوش مصنوعی تولید شدهاند، تأکید میکنند.
این پرونده همچنین نگرانیهای عمیقتری را در مورد آینده وکالت و نقش هوش مصنوعی در این حرفه برمیانگیزد. در حالی که برخی ابزارهای هوش مصنوعی میتوانند به وکلا در تحقیقات، تحلیل دادهها و پیشنویس اسناد کمک کنند، اتکای صرف به آنها بدون درک کامل محدودیتها و پتانسیل خطا، میتواند پیامدهای فاجعهباری داشته باشد. جامعه حقوقی باید راهبردهای مؤثری برای ادغام مسئولانه هوش مصنوعی در عمل خود تدوین کند تا ضمن بهرهمندی از مزایای آن، از بروز چنین تخلفاتی جلوگیری نماید.
