اخیراً شاهد یکی از آشکارترین موارد «کارِ ناشیانه» (workslop) با استفاده از هوش مصنوعی بودهایم که نه تنها به دلیل طنز تلخ خود، بلکه به خاطر نمایش شکافی کمتر مورد توجه قرار گرفته در نحوه عملکرد ابزارهای هوش مصنوعی مولد (Generative AI) برای صنایع مختلف، اهمیت یافته است. این حادثه، تلنگری جدی به جامعه حقوقی و سایر حوزههای تخصصی است که در حال بررسی پذیرش این فناوریهای نوظهور هستند.
هوش مصنوعی مولد، با قابلیتهای فزاینده خود، توانسته است در برخی صنایع مانند برنامهنویسی، بهرهوری قابل توجهی ایجاد کند. این امر عمدتاً به ماهیت «قطعی» (deterministic) کدنویسی بازمیگردد؛ جایی که خروجیها یا درست هستند یا نادرست. اما در بسیاری از مشاغل دفتری دیگر، مانند وکالت، نگارش متنهای تبلیغاتی، یا حتی طراحی، تصمیمگیریها در حوزههای خاکستری صورت میگیرد و نیازمند قضاوتهای ارزشی است. در این میان، اتکا به ابزارهای هوش مصنوعی بدون نظارت دقیق انسانی، میتواند منجر به پیامدهای ناخواسته و گاه فاجعهبار شود.
نقش هوش مصنوعی مولد در پرونده حقوقی
در روز شنبه، یک وکیل برجسته در یکی از معتبرترین موسسات حقوقی جهان، پس از ارائه یک دادخواست دادگاه که مملو از خطا بود و شامل استنادهای ساختگی تولید شده توسط هوش مصنوعی میشد، با ارسال نامهای به قاضی، عمیقاً عذرخواهی کرد. اندرو دیتدریچ، یکی از شرکای موسسه حقوقی «سالیوان اند کرومول» (Sullivan & Cromwell)، در نامهای به دادگاه اذعان داشت که هوش مصنوعی مورد استفاده، دچار «توهم» (hallucinations) شده و استنادهای قضایی ساختگی، نقلقولهای نادرست از منابع معتبر، یا منابع حقوقی ناموجود را تولید کرده است. این فهرست تصحیحی بیش از ۴۰ خطا را شامل میشد. نکته قابل توجه این است که دیتدریچ تنها پس از شناسایی این اشتباهات توسط وکلای طرف مقابل، از مشکلات مطلع شد.
این اتفاق، اولین مورد از برخورد وکلای حرفهای با حفرههای فناوری هوش مصنوعی نیست. با این حال، وقوع چنین خطایی از سوی موسسهای معتبر مانند «سالیوان اند کرومول»، که شرکای آن طبق گزارشها، ساعتی حدود ۲۰۰۰ دلار برای پروندههای ورشکستگی دریافت میکنند، بیش از پیش توجهات را به خود جلب کرده است. دیتدریچ در نامه خود بیان کرد که اگرچه موسسه دارای سیاستهای حفاظتی برای جلوگیری از چنین وضعیتی بوده، اما در تهیه این سند خاص، این سیاستها رعایت نشده است.
شکاف کاربردی هوش مصنوعی: علم در مقابل هنر
این حادثه، شکاف کاربردی هوش مصنوعی را برجسته میسازد. بیش از سه سال پس از آغاز هیجان پیرامون عرضه ChatGPT، آشکار شده است که هوش مصنوعی مولد میتواند برای گروه خاصی از کارکنان، بهویژه آنهایی که در حوزه برنامهنویسی فعالیت میکنند، بسیار مفید باشد. کدنویسی اساساً یک فرآیند قطعی است؛ یعنی دارای نتایج «بله/خیر» و «درست/نادرست» است. در مشاغل مرتبط با کدنویسی، نرمافزاری که ساخته میشود یا کار میکند یا نمیکند.
در مقابل، بسیاری از انواع دیگر کار اداری در مناطق خاکستری اتفاق میافتند: چگونه شعاری را تدوین کنیم که ارزشهای ما را منعکس کند؟ آیا کارفرمای من در این ارائهنامه، فونت سریف را به سان سریف ترجیح میدهد؟ کدام پرونده قضایی را باید برای حمایت از پرونده موکلم استناد کنم؟ در مشاغل غیر کدنویسی، درجهای از کارایی وجود دارد که بر اساس قضاوتهای ارزشی شکل میگیرد. در این موارد، اگرچه میتوان از چتباتها مشاوره گرفت یا از آنها به عنوان ابزار تبادل نظر استفاده کرد، اما پاسخ واحد و غیرقابل انکار واحدی برای اینگونه سوالات وجود ندارد.
سرمایهگذاریهای کلان و وعدههای دور از دسترس
این تمایز بین «علم» و «هنر» در کار، اهمیت بسزایی دارد، زیرا شرکتهای فناوری و سرمایهگذاران وال استریت، سرمایهگذاریهای عظیمی بر روی هوش مصنوعی انجام میدهند. با این حال، همانطور که پل کدروسکی، سرمایهگذار، اخیراً در پادکست «Plain English» اظهار داشت، این سرمایهگذاران اغلب برآوردهای خود از تقاضا را بر اساس تجربه پذیرندگان اولیه در حوزه فناوری بنا میکنند که «به شدت نماینده دنیای واقعی کار نیستند».
کار برنامهنویسان همچنین به طور منحصر به فرد «گسترده» (expansive) است. به عبارت دیگر، هرچه کد بیشتری بنویسید، به قدرت بیشتری نیاز دارید. اکثر برنامههای کاربردی دیگر هوش مصنوعی برای کارمندان دفتری «فشردهکننده» (compressive) هستند – مانند «من یک گزارش حجیم دارم، نمیخواهم آن را بخوانم، نکات کلیدی را به من بگو».
آینده هوش مصنوعی؛ کمککننده یا جایگزین؟
هیچکدام از این موارد به معنای آن نیست که هوش مصنوعی مفید نیست (و یا در آینده مفید نخواهد بود) برای وکلا، پژوهشگران، روزنامهنگاران، بازاریابان و امثال آنها. تنها نکته این است که انقلاب وعده داده شده هوش مصنوعی، از سوی افرادی مانند سم آلتمن، داریو آمودی و مارک زاکربرگ آغاز شد – افرادی که نه تنها در صورت استفاده همگانی از هوش مصنوعی، سود هنگفتی خواهند برد، بلکه با دنیای فناوری نیز کاملاً آشنا هستند.
و این موضوع زمانی اهمیت مییابد که بخواهیم میان «تب» (hype) و «وعده واقعی» تمایز قائل شویم. میتوان استدلال کرد که سه سال زمان کافی برای مدلهای زبان بزرگ (LLMs) نیست تا خود را به عنوان «ویرانگران جهان» که وعده داده شدهاند، اثبات کنند. با این حال، مدلهای زبان بزرگ تنها کاربرد هوش مصنوعی در جهان نیستند. به عنوان مثال، «رانندگی کامل خودران» تسلا، هنوز آنطور که به مشتریان وعده داده شده بود، عمل نمیکند، حتی یک دهه پس از پیشبینی ایلان ماسک مبنی بر اینکه این سیستم به زودی به صورت کاملاً خودران در سراسر کشور حرکت خواهد کرد.
این امر مانع از فروش سیستم توسط تسلا بر این اساس نشده است که «تا حدودی» کار میکند، گاهی اوقات یا اغلب، بسته به شرایط، با کمک یک انسان. این وضعیت بهتر از قبل است، اما هنوز آنقدر خوب نیست که بتواند جایگزین تمام رانندگان تاکسی شود. شاید این همان مسیری است که هوش مصنوعی در مقیاس کلی در پیش گرفته است. آیا میتواند یک «ویرانگر جهان» قریبالوقوع باشد؟ شاید. آیا میتواند صرفاً ابزاری باشد که کمک میکند، اما برای آینده قابل پیشبینی، همچنان به کمک انسان برای جلوگیری از فاجعه نیاز دارد؟
یا به طور مشخصتر، آیا مدلهای هوش مصنوعی میتوانند تمام متون حقوقی نوشته شده را هضم کرده و ثابت کنند که ما به وکلای انسانی یا پارالیگالهای کمتری نیاز خواهیم داشت؟ پاسخ، مانند بسیاری از پاسخها در دنیای مشاغل دفتری، «شاید!» است. با توجه به اشتباه فاحش «سالیوان اند کرومول»، منصفانه است که بگوییم مدلهای زبان بزرگ هنوز برای نمایندگی انسانها در دادگاه آماده نیستند.
تحلیل تاثیر
این واقعه نشان میدهد که علیرغم پیشرفتهای چشمگیر در هوش مصنوعی مولد، ابزارهای کنونی فاقد دقت و قابلیت اطمینان لازم برای کاربردهای حیاتی در حوزههایی مانند حقوق هستند. وابستگی بیش از حد به این فناوریها بدون نظارت دقیق انسانی، ریسک «خطاهای فاحش» را افزایش میدهد. این موضوع همچنین بر تفاوت میان کاربردهای «قطعی» و «قضاوتی» هوش مصنوعی تأکید میکند و نشان میدهد که سرمایهگذاریها و انتظارات در این حوزه باید با واقعبینی بیشتری همراه باشد. در حالی که هوش مصنوعی پتانسیل افزایش بهرهوری را دارد، اما در حال حاضر، نقش آن بیشتر در جهت «کمک» به متخصصان انسانی است تا «جایگزینی» کامل آنها، بهویژه در مشاغلی که نیازمند قضاوتهای پیچیده و ارزشی هستند.
