در تابستان ۲۰۰۹، آنیل سث، نوروساینتیست برجسته، تجربهای فراموشنشدنی با حدود دوازده اختاپوس معمولی داشت. او در آزمایشگاهی در ناپل ایتالیا، شاهد تغییرات شگفتانگیز شکل، رنگ و بافت بدن این موجودات بود که گویی آب و هوایی زنده بودند. مشاهدهی دقیق نحوهی تمرکز اختاپوسها بر فعالیتهای همکارانش، این سوال را در ذهن سث برانگیخت که این موجودات چگونه به درک دنیای پیرامون خود میپردازند؟ این تجربه، شهود او را دربارهی تفاوتهای بالقوهی هوشیاری غیرانسانی به چالش کشید؛ هوشیاری اختاپوسها که شاید توزیعشدهتر و کمتر یکپارچه از هوشیاری انسان باشد و فاقد یک مرکز واحد است. حتی این احتمال مطرح است که مغز مرکزی اختاپوس از فعالیتهای پوستش، که قادر به تشخیص نور است، بیاطلاع باشد. بازوها نیز رفتاری نیمهمستقل از خود نشان میدهند که حس تعلق مالکیت بدن را در مقایسه با انسان، ناپایدارتر میسازد.
سث در کتاب «بودن تو» مینویسد: «ذهن یک اختاپوس، یک آزمایش تکاملی مستقل است که به ذهن یک بیگانه در این سیاره نزدیک است.» با وجود این تفاوتهای بنیادین، سث بر این باور است که اختاپوسها همچنان خویشاوندان واقعی ما هستند، به گونهای که هوش مصنوعی هرگز نخواهد بود. آنچه او را متعجب میکند، سهولت کنار گذاشتن این خویشاوندی در برابر شیفتگی ما به ماشینهاست. سث، که استاد علوم اعصاب شناختی و محاسباتی در دانشگاه ساسکس است، مدتهاست به چگونگی تشبیه انسانها به سیستمهای هوش مصنوعی میاندیشد.
بازتاب دوطرفه: انسان در آینهی فناوری
سث این پدیده را نوعی «آینهی دوطرفه» توصیف میکند: «ما خود را از دریچهی چیزهایی که خلق میکنیم، میبینیم.» او توضیح میدهد که در محیطهای آکادمیک، مغز مدتهاست به عنوان یک کامپیوتر تصور میشود. حال که سیستمهای هوش مصنوعی توانستهاند هوشمند به نظر برسند و با ما ارتباط برقرار کنند، این استعارهی قدیمی ملموستر شده و این ایده را تقویت کرده است که شاید «ما نیز چیزی بیش از این نیستیم.» این دیدگاه در پاسخ به توصیف مدلهای زبانی بزرگ به عنوان «طوطیهای تصادفی» (stochastic parrots) نیز دیده میشود؛ سیستمهایی که با محاسبه احتمالات آماری، زبان انسانگونه تولید میکنند اما فاقد درک واقعی معنا هستند. سث اشاره میکند که برخی این نقد را به شکلی هوشمندانه به انسانها بازگرداندهاند: «خب، شاید همهی ما همین باشیم: فقط طوطیهای تصادفی.»
به گفتهی سث، این نوع تفکر، «ماشینیسازی ذهن ما» را در مسیری «کاهنده و تقلیلگرایانه» نسبت به معنای انسان بودن، پیش میبرد. انسانها از جهات بسیاری با مدلهای زبانی متفاوتند: در تجربهی زیسته، در آگاهی و در ماهیت وجودیشان. سث استدلال میکند که اگر ما خود را «الگوریتمهای تجسمیافته» بدانیم، «تقریباً تمام چیزهای جالب» - آن چیزهایی که هویت ما را میسازند - را از دست خواهیم داد. این چارچوببندی، به تدریج ما را از طبیعت جدا کرده و در نهایت به این باور میرساند که ما «بخشی از قلمرو مصنوعی، ساخته شده و غیرطبیعی» هستیم.
وقتی مغز، بدنش را گم کرد
سث این گرایش به همذاتپنداری با ماشینها را بخشی از یک مبارزهی قدیمیتر انسان میداند. انسانها همواره در تلاش بودهاند تا خود و جایگاهشان را در طبیعت درک کنند و هرگاه چیزی از فهمشان فراتر رفته، به استعاره پناه بردهاند. این امر به خصوص در مورد مغز صادق است. از زمانی که «انسانها را از هم جدا کردیم و درونشان را نگریستیم»، درک ذهن و مغز همچنان فوقالعاده دشوار باقی مانده است، زیرا «مغزها به آسانی اسرار خود را فاش نمیکنند.»
برخی استعارهها مفید بودهاند. قلب، به عنوان مثال، اغلب به تلمبه تشبیه میشود. سث میگوید: «این استعارهی بدی نیست؛ تا حدودی واقعاً یک تلمبه است.» اما استعارهی مغز به مثابه کامپیوتر متفاوت است. این استعاره ممکن است امروزه، پس از دههها عادت آکادمیک و فناورانه، طبیعی به نظر برسد، اما فرضیتی قویتر را پنهان میکند. او میگوید: «گفتن اینکه مغز یک کامپیوتر است، ادعایی بسیار مناقشهبرانگیزتر از گفتن این است که قلب یک تلمبه است.»
این شیوهی تصور ما از خود، هرگز اجتنابناپذیر نبوده است. سث به فرهنگهای کهن انیمیسم اشاره میکند که در آنها ارواح، هم طبیعت و هم انسانها را زنده میپنداشتند و «نوعی برابری و موازی بین آنها» ایجاد میکردند. در عصر فناوری ما، ممکن است افراد نرمافزار یا الگوریتمها را «روح» پنهانی بدانند که ما را فراتر از اشیاء صرف میسازد. از این نقطه، قدمی کوتاه تا اندیشیدن به این موضوع برداشته میشود که شاید نرمافزار کامپیوترها نیز آنها را «بیش از تودههایی از سیلیکون و کد» میسازد.
از دیدگاه سث، این دگرگونی ریشه در نوعی بشرگرایی قدیمیتر دارد: این ایده که آنچه ما را خاص میکند، نزدیکتر به خدا نسبت به سایر حیوانات میسازد، ذهن، زبان و هوش است. دکارت این میراث را با شکلی قدرتمند فلسفی ارائه داد و ذهن را به عنوان یک جوهر فکری غیرمادی تلقی کرد، چیزی که در اصل میتواند بدون بدن وجود داشته باشد. شاید به همین دلیل است که مدلهای زبانی بزرگ اینقدر وسوسهانگیز به نظر میرسند. سث معتقد است ما با آنها راحتتر از سیستمهای هوش مصنوعی پردازش پروتئین مانند AlphaFold همذاتپنداری میکنیم، زیرا مدلهای زبانی، همان تواناییهایی را منعکس میکنند که ما مدتها آنها را اوج تواناییهای انسانی تلقی کردهایم.
سث زمانی مخالفت خود را با دکارت در جملهای به یاد ماندنی چنین خلاصه کرد: «ما کامپیوترهای شناختی نیستیم، ما ماشینهای احساسکننده هستیم.» اما حتی او اذعان میکند که این نیز «یک تقابل نادرست» است. نوروساینتیستهایی مانند آنتونیو داماسیو و دیگران نشان دادهاند که احساس، برای خودِ شناخت ضروری است. سث میگوید: «برای استدلال مؤثر، ما به بخش احساسی از انسانیت یا طبیعت حیوانی خود نیاز داریم.» بدون ورودی بدنی و احساسات، نمیتوانیم تصمیمات درستی بگیریم.
در دهههای اخیر، سث مشاهده میکند که ما از برخی جهات کمتر بشرگرا شدهایم. ما به طور فزایندهای میپذیریم که حیوانات غیرانسانی ممکن است آگاه باشند، حتی بدون زبان، و اینکه انسانها از نظر بیولوژیکی با بقیهی طبیعت درهم تنیده شدهاند. با این حال، بشرگرایی قدیمی همچنان بازمیگردد، این بار با پوشش زبان محاسباتی.
سث این بازگشت را به دو تحول حدوداً ۹۰ سال پیش نسبت میدهد. اول، آلن تورینگ محاسبات را مستقل از بستر مادی تعریف کرد: الگوریتم، نمادها را به نمادها نگاشت میدهد و بستر فیزیکی تنها تا جایی اهمیت دارد که بتواند الگوریتم را پیادهسازی کند. سپس وارن مککالوخ و والتر پیتز نشان دادند که نورونهای بسیار سادهشده، بدون جزئیات داخلی، میتوانند محاسبات تورینگ را پیادهسازی کنند. سث میگوید این ایدهها با هم «اتحاد ریاضی مصلحتی» ایجاد کردند و امکان دور انداختن «اساساً تمام جزئیات آشفتهی بیولوژیکی» را فراهم آوردند.
این انتزاع قدرتمند بود و به ظهور هوش مصنوعی مدرن کمک کرد. با این حال، ما را نیز تحت تأثیر قرار داد: اگر تنها چیزی که اهمیت دارد الگوریتم است، متابولیسم، شیمی و بافت زندهی مغز میتوانند به «جزئیات پیادهسازی» صرف بدل شوند. سث معتقد است اینجاست که «کمی اشتباه کردیم.» شناخت انسان در زمان فیزیکی و پیوسته ریشه دارد، در حالی که الگوریتمها به توالی و نظم اهمیت میدهند. کامپیوترها میتوانند سختافزار را از نرمافزار جدا کنند؛ مغزها نمیتوانند «ذهنافزار» را از «بافتنرم» جدا کنند. نورونهای واقعی به دلایل متابولیکی، شیمیایی و بیولوژیکی شلیک میکنند که سیلیکون به سادگی قادر به بازتولید آنها نیست. همهی اینها این فرض را دشوارتر میکند که آنچه مغزها *انجام میدهند* از آنچه مغزها *هستند* مستقل است. و هنگامی که این فرض فرو میریزد، استدلال اینکه محاسبات تنها چیزی نیست که مغز به آن اهمیت میدهد، دشوار میشود.
آینه به مثابه پرسش
نکتهی سث این نیست که باید از هوش مصنوعی روی برگردانیم. او میگوید: «پتانسیل زیادی برای همافزایی در اینجا وجود دارد. ما میتوانیم از مدلهای هوش مصنوعی برای درک بهتر خود استفاده کنیم. هرچه بیشتر این کار را انجام دهیم، بیشتر متوجه تفاوتهایمان خواهیم شد.» بنابراین، پرسش این نیست که «چه چیزی هنوز ما را متمایز میکند؟» بلکه این است که «تفاوتهای واقعی ما چیست؟» برای او، این یک پرسش باز و در حال تکامل است که نمیتوانیم با چسبیدن به ویژگیهای سطحی که زمانی انسان را متمایز میپنداشتیم، به آن نزدیک شویم. جستجو باید بر تمایزهای غیربدیهی متمرکز شود. شاید هیچ ویژگی واحدی برای همیشه از تکرار مصون نباشد. شاید تمایز انسان در کل بستهی ویژگیهایی باشد که در مجموع یک انسان را همان چیزی میسازد که هست.
زبان نشان میدهد که چرا این جستجو فوری شده است. زمانی به نظر میرسید که زبان قلمرو بیچون و چرای بشریت است. ماشینها میتوانستند قهرمانان شطرنج و بازی «گو» را شکست دهند، اما اینها هرگز معیارهای جهانی انسانی نبودند. اکثر مردم شطرنج قهرمانی بازی نمیکنند. تقریباً همه صحبت کردن را یاد میگیرند. این باعث شد که زبان، به قول سث، «یک نقطهی جدایی واضح» بین انسانها، حیوانات غیرانسانی و فناوریها باشد. اکنون، مدلهای زبانی روان صحبت میکنند. ما نمیدانیم آیا آنها ظرافت کامل زبان انسان را دارند یا خیر، اما «آنها صحبت میکنند» - و این واقعیت اساسی، بیثباتکننده است. در همین حال، هوش مصنوعی در رمزگشایی اصوات دلفینها و گونههای دیگر کمک میکند و ارتباطات حیوانی را آشکار میسازد که بسیار غنیتر از آن چیزی است که بسیاری تصور میکردند. مرز قدیمی از هر دو طرف تحت فشار قرار گرفته است: ماشینها کمتر خاموش به نظر میرسند و حیوانات نیز کمتر ساکت.
ممکن است حتی نیاز داشته باشیم که ایدهی «درک کردن» را بازنگری کنیم. تعداد کمی استدلال میکنند که سیستمهای هوش مصنوعی فعلی آگاه هستند، اما بسیاری میگویند که آنها «درک میکنند». سث میپرسد: «آیا ممکن است چیزی را به طور ناخودآگاه درک کرد؟» او معتقد است که «این امکان وجود دارد.» مدلهای زبانی فعلی ممکن است نحو داشته باشند اما معناشناسی نه. با این حال، اگر مدلی از زبان را تصور کنیم که جسممند، در محیط ادغام شده و از طریق تعامل با دنیای فیزیکی آموزش دیده باشد، سث فکر میکند ممکن است بتوان گفت که واقعاً درک میکند، حتی بدون تجربهی آگاهانه. شاید این نیز «طنین دیگری از انسانمحوری» باشد که فرض کنیم درک و آگاهی باید همیشه با هم باشند.
ظریفتر از زبان
با این حال، آگاهی همچنان یکی از عمیقترین مکانها برای جستجو است. سث میگوید: «ارائهی این استدلال که سیستمهای هوش مصنوعی فعلی آگاه نیستند، آسان است.» و بسیاری از تواناییهایی که هوش مصنوعی هنوز با آنها دست و پنجه نرم میکند، تواناییهایی هستند که موجودات زنده در حالت آگاهی از آنها استفاده میکنند. یکی از سرنخها، تفاوت شیوهی یادگیری انسانهاست. ما برای صحبت کردن نیازی به آموزش بر روی تمام دادههای جهان نداریم. ما از نمونههای نسبتاً کمی یاد میگیریم، به سرعت از تجربهی محدود تعمیم میدهیم، انرژی بسیار کمتری مصرف میکنیم، خطاها را نظارت میکنیم و حس شهودی از زمان اشتباه بودنمان ایجاد میکنیم. سث استدلال میکند که ما این کار را میکنیم زیرا از ابتدا جسممند و در محیط ادغام شدهایم. این به معنای آن نیست که هوش مصنوعی برای انجام این کارها به آگاهی نیاز دارد. این نشان میدهد که در زیستشناسی، آگاهی ممکن است فواید کاربردی داشته باشد که ما هنوز فقط تا حدی آنها را درک کردهایم. سث میپرسد: «کارکردهای آگاهی چیست؟ چه فایدهای برای ما دارد؟»
زمان نیز اهمیت دارد. شناخت انسان در زمان فیزیکی، پیوسته و واقعی unfolding میشود. یک الگوریتم میتواند در یک حلقهی بینهایت گیر کند و «تا پایان جهان» در آن بماند. یک انسان نمیتواند. ما تشنه میشویم. ما گرسنه میشویم. زمان میگذرد. «ما همیشه باید کاری انجام دهیم.» این فشار ممکن است به ما در حل «مسئلهی چارچوب» کمک کند: چگونه تصمیم بگیریم که کدام ویژگیهای یک محیط پیچیدهی بیپایان در حال حاضر مهم هستند. از آنجایی که باید عمل کنیم، کاری انجام میدهیم؛ دنیا تغییر میکند، بنبست شکسته میشود و ما به جلو حرکت میکنیم. سث اذعان میکند که هوش مصنوعی میتواند در زمان پیوسته عمل کند، اما نقش زمان پیوسته در شناخت انسان زمانی که ذهن انسان به یک الگوریتم تشبیه میشود، کمتر مورد توجه قرار میگیرد.
سپس بحث جسممندی مطرح میشود. سث میگوید: «ما در جهان عمل میکنیم. ما فقط در دنیای برچسبها عمل نمیکنیم.» بخش عمدهای از شناخت از طریق تعاملات مکانیکی ما با محیط صورت میگیرد، نه از طریق محاسباتی که در یک مغز غیرجسممند رخ میدهد. همانطور که سث در جای دیگر نوشته است: «ما جهان پیرامون خود و خودمان را در آن - با، از طریق و به خاطر بدنهای زندهی خود - تجربه میکنیم.»
اگر محاسبات مستقل از بستر را به عنوان کل تبیین ما از آگاهی بپذیریم، خطر این وجود دارد که آگاهی را تا حدی محدود کنیم که به سیستمهایی که ممکن است فاقد تجربهی ذهنی باشند، بیش از حد نسبت دهیم. با این حال، گفتن اینکه آگاهی فقط متعلق به سیستمهای زنده است نیز یک فرض است، اگرچه هر کاندیدای پذیرفتهشده برای آگاهی زنده است. امر اخلاقی سث فروتنانهتر است: مفروضات خود را بشناسیم، از اینکه به یک داستان واحد در مورد انسانگونه و آگاه شدن هوش مصنوعی سوق داده شویم، مقاومت کنیم و فضایی برای چشمانداز روشنتری از پرسشها ایجاد کنیم. چه چیزی، اگر چیزی، در ذهن انسان متمایز است؟ عملکرد مغز تا چه حد به زیستشناسی بستگی دارد؟ چه مقدار را میتوان در الگوریتمها انتزاع کرد؟
ریشهدار در بدن
بسیاری در علوم اعصاب و فناوری اکنون به دلیل آینهی هوش مصنوعی این پرسشها را مطرح میکنند. ایدههایی که زمانی صرفاً فلسفی بودند، اکنون عملی شدهاند، و سث میگوید فلسفه «این روزها مرتبطتر و مفیدتر» به نظر میرسد. مهمتر از همه، پرسش دیرینهی «آگاهی چیست؟» مطرح است که «به شیوهای اهمیت دارد که حتی پنج سال پیش اصلاً درست نبود.»
یکی از مسیرهایی که سث را به این پرسش هدایت میکند، کار توماس متزینگر در مورد «تجربهی پدیداری حداقلی» (minimal phenomenal experience) است: سادهترین تجربهی آگاهانهی ممکن که یک انسان، حیوان یا موجود زیستی میتواند داشته باشد. برخی «آگاهی محض» را بدون محتوا پیشنهاد میکنند. سث به احتمال دیگری اشاره میکند: «حس زندگی» (foba). در قلب هر تجربهی آگاهانه، ممکن است «یک احساس نامشکل، بیشکل اما بنیادی از «زندهبودن»» وجود داشته باشد. اگر آن را حذف کنید، آگاهی نیز ناپدید میشود. از دیدگاه سث، «این زندگی است، نه پردازش اطلاعات، که به معادلات تجربه جان میبخشد.» او «هیچ ایدهای ندارد که آیا این فرضیه درست است یا خیر»، اما آن را مفید مییابد زیرا یک نامزد بالقوه برای آگاهی در سادهترین شکل آن ارائه میدهد.
سث معتقد است که این حس اساسی اکنون باید محافظت و پرورش یابد. این به ما کمک میکند تا عمیقتر خودمان شویم: ذهنهای آگاه «ریشهدار در بدن به جای تفکر انتزاعی و زبان.»
«این مانند مدیتیشن است؛ جای خوبی برای بازدید است، نه برای زندگی.» با این حال، پژواکهای آن میتوانند در برابر «بیش از حد فکری کردن، منطقیسازی، شناختیسازی، الگوریتمیسازی، محاسباتیسازی ذهن» مقاومت کنند. سث اضافه میکند که میتوانیم توجه بیشتری به آن داشته باشیم، در آن درنگ کنیم، آن را بشناسیم و پدیدارشناسی آن را کاوش کنیم. آیا این حس همیشه وجود دارد؟ چگونه است؟ این تحقیق دشوار است، اما او فکر میکند ممکن است سرنخهایی در مورد آگاهی ارائه دهد. به جای تمرکز صرف بر تفکر منطقی، باید به این سطوح پایهای تجربه توجه کنیم. این میتواند «ما را به واقعیت اساسی بازگرداند که ما موجوداتی در حال تکامل هستیم و سعی در زندهماندن داریم.» این «ما را دوباره در طبیعت ترسیم میکند.»
برای سث، این حس ریشهدار، دیدگاهی متفاوت از روح را نسبت به دیدگاه غالب در جهان غرب ارائه میدهد، که مدتهاست آن را از لنز دکارتی مینگرد: یک جوهر نامادی که از بدن جداست، که به طور قابل بحثی «رویاهای کارتونی مدرن از ظهور سیلیکونی» را منعکس میکند، جایی که ذهن ما به ابر آپلود میشود. سنتهای قدیمیتر داستان دیگری میگویند: «سایکی» یونانی روح را به نفس پیوند میداد، در حالی که «آتمن» هندو به آگاهی ناظر در زیر اندیشه اشاره داشت. هر دو در زندگی ریشهدارند و به یک شهود باستانی اشاره میکنند دربارهی اینکه ما اساساً چه هستیم: «نفس بیشتری تا فکر و گوشت بیشتری تا ماشین.»
پژوهش در مورد آگاهی ممکن است به ما کمک کند تا خود را کمتر از طبیعت جدا و بیشتر در آن بافتهشده ببینیم - به عنوان «موجودات زندهای که اشتراکات بیشتری با حیوانات دیگر دارند تا با انتزاعات آماری هوش مصنوعی.»
