در دنیای امروز که هوش مصنوعی (AI) به سرعت در حال نفوذ به جنبههای مختلف زندگی روزمره ماست، شاهد تغییرات چشمگیری در نحوه تعامل انسانها با فناوری و حتی یکدیگر هستیم. از پیشنهاد غذا گرفته تا کمک در مکالمات، هوش مصنوعی به ابزاری فراگیر تبدیل شده است. اما این پیشرفتها چالشهای جدیدی را نیز به همراه آوردهاند، به خصوص در تعاملات انسانی و شغلی.
یکی از پیامدهای این رشد، افزایش اعتماد افراد به اطلاعات ارائه شده توسط هوش مصنوعی است، حتی اگر این اطلاعات با نظر کارشناسان انسانی در تضاد باشد. این پدیده به ویژه در مشاغل خدماتی که با مشتریان در ارتباط مستقیم هستند، خود را نشان میدهد و کارکنان را با موقعیتهای دشواری مواجه میکند که نیازمند درک عمیقتر از ماهیت و محدودیتهای هوش مصنوعی است.
چالشهای خدمات مشتری در عصر هوش مصنوعی
یکی از نمونههای اخیر این چالشها، تجربهای است که توسط یک کارمند اتوزون (AutoZone) در شبکههای اجتماعی به اشتراک گذاشته شده است. این ویدئو که در تیکتاک منتشر شد و بیش از ۱۸۲ هزار بازدید داشت، نشاندهنده موقعیتی است که در آن مشتری به اطلاعات ارائه شده توسط چتبات هوش مصنوعی، مانند ChatGPT، اعتماد بیشتری نسبت به کارمند فروش داشت. این موضوع سوالات مهمی را درباره آینده خدمات مشتری و نقش اطلاعات نادرست یا گمراهکننده تولید شده توسط هوش مصنوعی مطرح میکند.
کارمند اتوزون، مایا، در ویدئوی خود توضیح داد که ابتدا به مشتری اعلام کرده بود که محصول مورد نظر موجود نیست. اما چند دقیقه بعد، مشتری بازگشته و با استناد به اطلاعات ChatGPT اصرار داشت که محصول در انبار موجود است. این اتفاق باعث شد مایا با بیان جمله «ما نابود شدیم» (We are so cooked)، نگرانی خود را از این روند ابراز کند.
[IMAGE_X]این موضوع به خوبی نشان میدهد که چگونه اعتماد بیش از حد به هوش مصنوعی، حتی در مورد اطلاعات جزئی و دمدستی مانند موجودی انبار یک فروشگاه، میتواند منجر به سوءتفاهم و چالش برای کارکنان شود. مایا در ادامه اشاره کرد که ChatGPT عضوی از تیم اتوزون نیست و نمیتواند به اطلاعات لحظهای موجودی انبار دسترسی داشته باشد.
هالوسیناسیون هوش مصنوعی: وقتی AI اطلاعات نادرست تولید میکند
واقعیت این است که چتباتهای هوش مصنوعی مانند ChatGPT، برخلاف تصور عمومی، پایگاه دادهای زنده یا سیستم انبارداری را جستجو نمیکنند. آنها بر اساس الگوهای موجود در دادههای آموزشی خود، به پیشبینی و تولید پاسخهایی میپردازند که از نظر زبانی منطقی و محتمل به نظر میرسند. این فرآیند گاهی منجر به تولید اطلاعات صحیح میشود، اما در موارد دیگر، هوش مصنوعی با اطمینان کامل اطلاعاتی را «اختراع» میکند.
به این پدیده «هالوسیناسیون هوش مصنوعی» (AI hallucination) گفته میشود؛ زمانی که مدل هوش مصنوعی پاسخی را ارائه میدهد که کاملاً معقول به نظر میرسد، اما در واقعیت نادرست است. این مشکل در مقیاس بزرگ نیز رخ داده است. به عنوان مثال، مدل Bard گوگل زمانی به کاربران اطلاعات نادرستی در مورد تلسکوپ فضایی جیمز وب داده بود و مدل Galactica شرکت متا نیز پس از مدت کوتاهی به دلیل ارائه اطلاعات نادرست و گاهی مغرضانه، از دسترس خارج شد.
مشکل اصلی اینجاست که هوش مصنوعی قادر به تشخیص اشتباهات خود نیست و با همان لحن مطمئن، چه اطلاعات صحیح باشد و چه غلط، پاسخ خود را ارائه میدهد. این ویژگی، هوش مصنوعی را به منبعی نامناسب برای اطلاعاتی تبدیل میکند که نیازمند دقت در لحظه و دسترسی به دادههای واقعی است.
نگرانیها و انتظارات عمومی از هوش مصنوعی
با وجود گسترش روزافزون استفاده از هوش مصنوعی، میزان اعتماد عمومی به آن با چالشهای جدی روبروست. بر اساس گزارش مرکز تحقیقات پیو (Pew Research Center)، در حالی که حدود ۳۱ درصد از آمریکاییها حداقل چندین بار در روز با هوش مصنوعی تعامل دارند و آگاهی عمومی نسبت به آن به ۴۷ درصد رسیده است، تنها ۱۰ درصد از بزرگسالان آمریکایی اعلام کردهاند که از افزایش استفاده از هوش مصنوعی بیشتر هیجانزده هستند تا نگران. در مقابل، نیمی از آنها نگرانی خود را ابراز کردهاند.
این شکاف بین استفاده و اعتماد، نشاندهنده درک عمومی از محدودیتها و خطرات احتمالی هوش مصنوعی است. بسیاری معتقدند که این فناوری میتواند توانایی تفکر خلاقانه و روابط معنادار انسانی را تضعیف کند، در حالی که در برخی حوزههای خاص مانند پیشبینی آب و هوا، استقبال بیشتری از آن میشود.
تجربه مشابهی در بخش رنگفروشی نیز گزارش شده است؛ جایی که مشتریان نامهای رنگ و کد محصولات را بر اساس اطلاعات تولید شده توسط ChatGPT که وجود خارجی ندارند، سفارش میدهند. این نشان میدهد که مشکل اعتماد کورکورانه به هوش مصنوعی، محدود به یک صنعت خاص نیست و در حوزههای مختلفی در حال بروز است.
نقش تحلیلگر اقتصادی در درک تحولات هوش مصنوعی
به عنوان یک متخصص اقتصاد کلان و بازارهای مالی، تحلیل این پدیده از زاویهای استراتژیک اهمیت ویژهای دارد. شرکتهایی مانند اتوزون که در خط مقدم خدمات مشتری قرار دارند، باید راهبردهای جدیدی برای مدیریت انتظارات مشتریان و کارکنان خود در مواجهه با اطلاعات نادرست هوش مصنوعی اتخاذ کنند. این شامل آموزش کارکنان برای مقابله با چنین موقعیتهایی و همچنین اطلاعرسانی شفاف به مشتریان درباره محدودیتهای استفاده از ChatGPT به عنوان منبع اطلاعاتی است.
از دیدگاه بازار سرمایه، سهام شرکتهایی که بتوانند با موفقیت این چالشها را مدیریت کرده و نوآوریهایی در جهت ادغام مسئولانه هوش مصنوعی در فرآیندهای خود ارائه دهند، چشمانداز روشنتری خواهند داشت. درک این تحولات و پیشبینی تأثیر آنها بر مدلهای کسبوکار، برای سرمایهگذاران استراتژیک ضروری است.
