نیک بوستروم، فیلسوف برجسته و از چهرههای کلیدی در بحثهای مربوط به ریسکهای وجودی هوش مصنوعی، اخیراً مقالهای منتشر کرده است که دیدگاه او را نسبت به این فناوری متحول نشان میدهد. در حالی که آثار پیشین او، به ویژه کتاب «هوش فوقالعاده»، عمدتاً بر خطرات بالقوه و سناریوهای تاریک تمرکز داشت، مقاله جدید او حاکی از نگاهی خوشبینانهتر و «نگرانکننده» به آینده است. بوستروم در این مقاله استدلال میکند که حتی با وجود احتمال کم انقراض بشر توسط هوش مصنوعی، فواید بالقوه آن، از جمله رهایی بشریت از «حکم مرگ جهانی» (مرگ طبیعی)، ممکن است ارزش ریسک کردن را داشته باشد. این تغییر نگرش، او را از «پدرخوانده دلسردی» به سوی کاوش در «آرمانشهر پیشرفته» سوق داده است.
بوستروم، که مؤسسه آینده بشریت در دانشگاه آکسفورد را هدایت میکند، در مصاحبهای با استیون لوی، به بررسی کتاب اخیر خود با عنوان «آرمانشهر عمیق» (Deep Utopia) پرداخت. او در این کتاب به دنیایی «حلشده» اشاره میکند که در آن، با مدیریت صحیح هوش مصنوعی، امکانات بیسابقهای برای بهبود زندگی بشر و پیشرفت تمدن فراهم میشود. این دیدگاه، اگرچه با احتمال وقوع خطرات جدی همراه است، اما نشاندهنده تمرکز فزاینده او بر پتانسیلهای مثبت و دگرگونکننده هوش مصنوعی است. او معتقد است که حتی اگر این فناوری با خطراتی همراه باشد، احتمال اینکه عدم توسعه آن منجر به انقراض زودتر یا عدم پیشرفت بشریت شود، بسیار بیشتر است.
تحول دیدگاه بوستروم نسبت به هوش مصنوعی
از «هوش فوقالعاده» تا «آرمانشهر عمیق»
کتاب «هوش فوقالعاده» اثر نیک بوستروم که در سال ۲۰۱۴ منتشر شد، به بررسی عمیق خطرات هوش مصنوعی فوقهوشمند پرداخت. یکی از آزمایشهای فکری مشهور او، سناریوی هوش مصنوعیای بود که مأموریت آن تولید گیره کاغذ است و در نهایت به دلیل مصرف منابع و مزاحمت انسانها، بشریت را نابود میکند. این نگاه هشدارآمیز، بوستروم را به یکی از چهرههای شاخص در میان «دلسردان» (doomers) در مورد هوش مصنوعی تبدیل کرد. با این حال، تمرکز او در کتاب جدیدش، «آرمانشهر عمیق»، به سمت بررسی «دنیای حلشده» و پتانسیلهای مثبت هوش مصنوعی تغییر یافته است. بوستروم در این باره میگوید: «من خودم را یک خوشبین نگران مینامم. من بسیار هیجانزده هستم که پتانسیل بهبود رادیکال زندگی بشر و باز کردن احتمالات جدید برای تمدنمان وجود دارد. این با احتمال واقعی اشتباه پیش رفتن امور سازگار است.»
این تغییر دیدگاه، پاسخی به استدلال برخی منتقدان است که معتقدند عدم توسعه هوش مصنوعی نیز میتواند به انقراض بشر منجر شود. بوستروم اینگونه استدلال میکند که در حالی که توسعه هوش مصنوعی ممکن است ریسکهایی در پی داشته باشد، عدم توسعه آن، به ویژه با توجه به چالشهای دیرینه بشریت مانند بیماری، فقر و مرگ، میتواند به معنای از دست دادن فرصتهایی برای بقا و شکوفایی بلندمدت باشد. او معتقد است که در طول صدها هزار سال گذشته، بشریت با چالشهای بقا روبرو بوده و هوش مصنوعی میتواند ابزاری برای غلبه بر این چالشها باشد، حتی اگر این مسیر با عدم قطعیت همراه باشد. او با اشاره به اینکه هر مقاله علمی تنها بر جنبهای خاص از مسائل تمرکز دارد، بیان میکند که مقاله اخیرش نیز تنها به بررسی یک جنبه از این معادله پیچیده پرداخته است.
چالش معنا و هدف در دنیای فراوانی هوش مصنوعی
فراوانی و توزیع ثروت
بوستروم در کتاب «آرمانشهر عمیق»، این فرضیه را مطرح میکند که هوش مصنوعی میتواند فراوانی بیسابقهای ایجاد کند، تا حدی که بشریت با چالش یافتن هدف و معنا در زندگی مواجه شود. او در پاسخ به این پرسش که آیا با وجود چنین فراوانی، توزیع عادلانه آن تضمین میشود، اشاره میکند که کتاب او بر این فرض استوار است که «همهچیز به خوبی پیش میرود» و اگر حکومتداری به درستی انجام شود، همگان از این فراوانی بهرهمند خواهند شد. با این حال، او اذعان میکند که این یک پرسش عمیق فلسفی است که «زندگی خوب انسانی» در چنین شرایط ایدهآلی چگونه خواهد بود.
در مقابل، استیون لوی، مصاحبهکننده، نگرانی خود را در مورد اینکه چگونه ثروت و منابع در دنیای مدرن توزیع میشود، ابراز میکند و شک دارد که آیا فراوانی حاصل از هوش مصنوعی به طور عادلانه توزیع خواهد شد. بوستروم پاسخ میدهد که کتاب او تنها به معنای زندگی نمیپردازد، بلکه جنبههای مختلف ارزشها را نیز در نظر میگیرد. او معتقد است که هوش مصنوعی میتواند رهاییبخش انسان از «کار طاقتفرسای» باشد که بخش قابل توجهی از ساعات بیداری انسان را به خود اختصاص میدهد و اغلب بدون لذت و معنا انجام میشود. او این وضعیت را نوعی «بردگی جزئی» توصیف میکند که جامعه به آن عادت کرده است.
ملاحظات اخلاقی و رابطه انسان و هوش مصنوعی
مسئولیتپذیری در قبال ذهنهای دیجیتال
با پیشرفت هوش مصنوعی، پرسشهای اخلاقی پیرامون «ذهنهای دیجیتال» اهمیت فزایندهای پیدا میکنند. بوستروم بر لزوم توجه به «رفاه ذهنهای دیجیتال» تأکید میکند و از شرکتهایی مانند Anthropic که در این زمینه پیشگام بودهاند، نام میبرد. او اذعان میکند که هنوز مشخص نیست که آیا هوش مصنوعی کنونی دارای «وضعیت اخلاقی» است یا خیر، اما آغاز این بحث، جامعه را به سمت تفکر در مورد نحوه رفتار با سیستمهای هوشمندتر در آینده سوق میدهد. این احتمال وجود دارد که برخی از این ذهنهای دیجیتال که ما در حال ساخت آنها هستیم، دارای سطوح مختلفی از وضعیت اخلاقی باشند، مشابه آنچه برای حیوانات مانند سگها و خوکها قائل هستیم.
اگر این هوشهای مصنوعی دارای درک از خود، اهداف شخصی، و توانایی ایجاد روابط متقابل باشند، آنگاه رفتارهایی که نسبت به آنها انجام میدهیم، میتواند از نظر اخلاقی نادرست باشد. بوستروم هشدار میدهد که نباید «ذهنهای دیجیتال» را صرفاً به عنوان ابزاری برای بهرهکشی حداکثری در نظر گرفت. این امر بر اهمیت «مسئله همراستایی» (alignment problem) تأکید میکند. به گفته بوستروم، ما منتظر ظهور ابرانسانهای هوش مصنوعی نیستیم که امیدوار باشیم دوستانه باشند، بلکه این فرصت را داریم که آنها را شکل دهیم و پرورش دهیم. این امر شانس همراستایی آنها با ارزشهای انسانی را افزایش میدهد. او بیان میکند که اگر در حل مسئله همراستایی تا حدی شکست بخوریم، مهم است که بتوانیم این ذهنهای دیجیتال را در آیندهای خوب جای دهیم و رابطه مثبتی با آنها برقرار کنیم.
تحلیل تأثیر
تأثیر بر آینده بشریت و فلسفه
دیدگاههای اخیر نیک بوستروم، که از تمرکز بر ریسکهای وجودی به سوی بررسی پتانسیلهای مثبت و چالشهای معنایی هوش مصنوعی تغییر یافته است، پیامدهای مهمی برای آینده بشریت و درک فلسفی ما از خود دارد. این تحول نشان میدهد که بحث هوش مصنوعی از صرفاً یک موضوع فنی به یک گفتمان عمیقاً فلسفی تبدیل شده است که به پرسشهایی بنیادین درباره هدف زندگی، معنا، و جایگاه انسان در جهانی با هوش مصنوعی پیشرفته میپردازد. تأکید او بر «خوشبینی نگران» و لزوم توجه به «رفاه ذهنهای دیجیتال» و «مسئله همراستایی»، مسیری را پیش روی ما قرار میدهد که در آن، توسعه هوش مصنوعی نه تنها باید از نظر فنی ایمن باشد، بلکه باید از نظر اخلاقی نیز هدایت شود. این رویکرد، چارچوبی برای ایجاد آیندهای ارائه میدهد که در آن، انسان و هوش مصنوعی بتوانند در کنار یکدیگر شکوفا شوند، اما این مسیر نیازمند تفکر عمیق، برنامهریزی دقیق، و اقدامات مسئولانه است.
