تمام محققان، از دانشمندان علوم اعصاب گرفته تا کامپیوتر، فلسفه و روانشناسی دریافتند که هیچ‌یک از مدل‌های هوش مصنوعی امروزی نمره‌شان آنقدر بالا نیست که بتوان آن‌ها را آگاه نامید. با این حال، دانشمندان تأکید می‌کنند که نه‌تنها از لحاظ فناوری مانع خاصی بر سر راه ساخت مدل‌های هوش مصنوعی آگاه وجود ندارد، بلکه رسیدن به این نوع از هوش مصنوعی بسیار محتمل و حتی اجتناب‌ناپذیر است.

این فرض می‌تواند در شکل‌دهی به نظریه‌های ما مفید باشد؛ اما اگر بدون بررسی آن به تولید فرضیه‌های جدید ادامه دهیم، خود سؤال به‌تدریج شروع به محو شدن می‌کند و در کنار آن، یکی از بهترین نماهای ما در ایجاد حس شفافیت اخلاقی در این زمین بسیار نامطمئن است.

سؤال مهم برای هوش مصنوعی این نیست که چند کار مختلف را می‌تواند به خوبی انجام دهد؛ حتی اگر بتواند یک ناظر بی‌خبر را متقاعد کند که انسان است یا معیارهای تشخیص هوشیاری‌مان تأیید کنند که فعالیت‌های الکتریکی آن به اندازه‌ی کافی پیچیده است تا بتوان آن را هوشیار نامید. بلکه سؤال تعیین‌کننده این است که آیا کارکردگرایی محاسباتی درست است یا خیر. یعنی آیا برای داشتن ذهن حتماً به گوشت نیاز دارید؟

به‌جای پرسیدن اینکه آیا هر سیستم هوش مصنوعی جدیدی که می‌سازیم دارای تجربه‌ی آگاهانه است یا خیر، باید به این سؤال اساسی‌تر پرداخت که آیا ساخت ذهن غیرزیستیِ دارای احساسات امکان‌پذیر است یا نه. پاسخ این سؤال می‌تواند بینش‌های بسیار گسترده‌تری برای ما به ارمغان آورد و ابعاد مختلف معمای اخلاقی ساخت میلیاردها ماشین آینده را برایمان روشن کند؛ ماشین‌هایی که نه‌تنها می‌توانند فکر کنند و عشق بورزند، بلکه حتی می‌توانند رنج و عذاب بکشند.

تاکنون، تا آنجا که علم بشر می‌داند، همه‌ی چیزهای آگاه در این جهان از مواد زیستی ساخته شده‌اند. این نکته‌ی مهمی برای دیدگاه زیست‌گرایی افراطی است که از سوی فیلسوفانی مانند ند بلاک، مدیر مرکز ذهن، مغز و آگاهی دانشگاه نیویورک حمایت می‌شود. این افراد معتقدند مواد فیزیکی‌ای که یک موجود آگاه از آن ساخته شده است، یا همان زیرلایه‌ی ذهن، عنصری کلیدی است. اگر تاکنون فقط بسترهای بیولوژیکی توانسته‌اند زمینه‌ای برای تفکر و احساسات فراهم کنند، شاید منطقی باشد که فکر کنیم دلیلش این است که ساختار زیستی برای شکل‌گیری آگاهی ضروری است.

رزا کائو، استاد فلسفه‌ی دانشگاه استنفورد و صاحب مدرک دکترا در دو رشته‌ی علوم شناختی و فلسفه‌ی ذهن معتقد است که بار اثبات این قضیه باید بر دوش کسانی باشد که می‌گویند گوشت برای آگاهی ضروری نیست. او تأکید می‌کند که فرضیه‌ی کارکردگرایی محاسباتی، بسیار بیشتر از زیست‌گرایی تکیه بر حدس‌وگمان دارد.

با این حال، به نظر می‌رسد که بار اثبات به هر نحو بر دوش زیست‌گراها افتاده است. کارکردگرایی محاسباتی، با وجود منتقدان بسیاری که دارد، نفوذ گسترده‌ای در میان فیلسوفان ذهن امروزی پیدا کرده است. برای مثال، دیوید چالمرز، فیلسوف استرالیایی که با همکاری ند بلاک، آزمایشگاه دانشگاه نیویورک را اداره می‌کند، نه‌تنها در مورد ضروری بودن ساختارهای زیستی با بلاک مخالف است، بلکه اخیراً در محاسباتش احتمال توسعه‌ی هوش مصنوعی آگاه تا ۱۰ سال آینده را حدود ۲۰ درصد محاسبه کرده است!

حدس او بر این فرض استوار است که کارکردگرایی محاسباتی آنقدرها مهم نیست؛ بلکه صرفاً عملکردهای ذهن مهم است. برخی کارشناسان این ویژگی را «استقلال بستر» می‌نامند. اگر بتوانید ماشینی بسازید که دقیقاً همان نوع عملکردهای محاسباتی ذهن ساخته‌شده از گوشت را انجام دهد، می‌توانید آن را هوشیار بدانید.

در این دیدگاه، کارکردهایی که اهمیت دارند، انواع خاصی از روش‌های پردازش اطلاعات هستند؛ اما هنوز هیچ توافق نظری پذیرفته‌‌شده‌ای وجود ندارد که بگوید دقیقاً چه نوع پردازشی سیستم‌های ناآگاهی همچون ماشین‌حساب‌ها را از سیستم‌هایی همچون انسان که دارای تجربه‌ی آگاهانه هستند متمایز می‌کند. ایده‌ی اصلی این فرضیه این است که آنچه برای آگاهی اهمیت دارد، ساختار یا «منطق انتزاعی» پردازش اطلاعات است، نه چیزهای فیزیکی‌ای که آن را انجام می‌دهند.

بازی شطرنج را در نظر بگیرید. با یک تخته‌ی شطرنجی، دو دسته مهره و علم به قوانین بازی، هر کسی می‌تواند شطرنج بازی کند. اما اگر دو نفر در یک جزیره‌ی دورافتاده بدون تخته و مهره‌های شطرنج گیر بیفتند، باز هم می‌توانند بازی کنند؛ چرا که می‌توانند خطوطی روی شن‌ها بکشند تا نقش تخته را ایفا کند و تکه‌هایی از چوب و پوسته‌ها را برای استفاده به‌عنوان مهره‌ها جمع‌آوری کنند و دقیقاً با همان قوانین بازی کنند. پس بازی شطرنج به بستر فیزیکی‌اش بستگی ندارد؛ آنچه که اهمیت دارد، منطق انتزاعی بازی یعنی حرکت دادن مهره‌ها است، خواه از جنس مرمر باشند یا چوب، شن و حتی تکه اشیای پراکنده روی ساحل. هر ماده‌ای که بتواند رویه‌های منطقی درست را پشتیبانی و اجرا کند، می‌تواند بازی شطرنج را پیش ببرد.

طرفداران کارکردگرایی محاسباتی حدس می‌زنند آگاهی نیز همین‌گونه باشد. اگر آگاهی تنها منطق انتزاعی پردازش اطلاعات باشد، نقش زیست‌شناسی در ایجاد آن می‌تواند تا حد صفحه‌ی شطرنج تقلیل یابد.

متزینگر معتقد است که ما در این نقطه گیر کرده‌ایم و هیچ راهی برای دانستن اینکه آیا یک سیستم مصنوعی ممکن است آگاه باشد یا خیر، نداریم؛ زیرا تئوری‌های رقیب که همگی مبتنی بر فرضیات هستند، هیچ درک مشترکی از ماهیت آگاهی ندارند. علم اعصاب در برخورد با پدیده‌های عینی که می‌توان مستقیماً مشاهده کرد، خوب عمل می‌کند. مثلاً اینکه نورون‌ها بار الکتریکی را هدایت می‌کنند یا نه. اما فعلاً حتی بهترین فناوری‌های تصویربرداری عصبی هم نمی‌توانند تجربیات ذهنی را ببینند. ما فقط می‌توانیم پدیده‌های واقعی آگاهانه همچون احساس شادی، اضطراب یا لذت حاصل از گاز زدن یک خوراکی خوشمزه را از طریق کانال‌های غیردقیقی مانند زبان درک کنیم.

اریک هول، دانشمند علوم اعصاب، معتقد است علوم اعصاب مانند زیست‌شناسی قرن‌های پیش از نظریه‌ی تکامل، علمی «پیش پارادایمیک» است. اگر نتوانید بگویید آگاهی چیست، نمی‌توانید بگویید که آگاهی کجا می‌تواند به وجود بیاید و کجا نمی‌تواند.

ایده‌های کنونی ما در مورد آگاهی و رنج، متزینگر را بر آن داشته است تا درخواست تعلیق جهانی تحقیقاتی را که به تولید ناخواسته‌ی آگاهی‌های جدید نزدیک هستند مطرح کند؛ چرا که او نگران انفجار دوم رنج است. اولین مورد خودمان بودیم! دلشکستگی‌ها، شادی‌ها و هر چیزی که در بین انسان‌ها، حیوانات و شاید حتی گیاهان و حشرات وجود دارد، همه محصول طلوع تکامل زیستی روی زمین هستند.

به نظر می‌رسد که نمی‌توان تولد شکل‌های جدید آگاهی در آینده را به‌عنوان یک فاجعه‌ی اخلاقی قلمداد کرد. آیا بهتر بود روی این سیاره از هر نوع تکامل بیولوژیکی‌ای جلوگیری می‌شد؟ آیا مجموع رنج‌هایی که در گوشه‌گوشه‌ی جهان ما به وقوع می‌پیوندد، از شگفتی‌های زندگی بیشتر است؟ از منظر خدا، آیا کسی یا چیزی باید توسعه‌ی حیات بیولوژیکی روی زمین را تا زمان فهمیدن این که چگونه می‌توان چیزها را برای خوشبختی تکامل داد متوقف می‌کرد؟ به نظر نمی‌رسد که شرایط ذهن ما به خوبی برای سعادت و خوشبختی تنظیم شده باشد. مایکل لوین زیست‌شناس نیز در این مورد می‌گوید: «ویژگی‌های کلیدی ما، از طول عمر گرفته تا عقل، هیچ‌کدام برای شادی بهینه‌ نشده‌اند.»

یک تعلیق جهانی یا توقف از سوی مراجع بالادستی در تحقیقات مربوط به هوش مصنوعی هوشیار می‌تواند به علم آگاهی کمک کند تا خود را با سطح فعلی اخلاق در فناوری بشر تطبیق دهد. شاید به‌تدریج به درک دقیق‌تری از عواملی که هوشیاری را بهتر یا بدتر می‌کند برسیم یا حتی چیزی شبیه یک نظریه‌ی محاسباتی رنج بسازیم که به ما کمک کند درد و رنج را در سیستم‌های آگاه غیرزیستی آینده مهندسی کنیم.

به نظر نمی‌رسد بشری که این روزها به‌شدت درگیر ساخت راه‌آهن جدید و مسکن ارزان‌قیمت است بتواند بر سر توقف طولانی‌مدت پیشرفت‌های تکنولوژیکی که هوشیاری هوش مصنوعی را خطرناک می‌کند، به اجماع جهانی برسد. بعید است که انسان تنها به این دلیل که می‌خواهد یاد بگیرد چگونه خالق بهتری باشد و جزئیات خلاقیت‌هایش را به‌جای رنج، در جهت سعادت تنظیم کند، دست از تلاش در این مسابقه بکشد؛ اما اگر موفق شویم، می‌توانیم یک جهش تکاملی بزرگ را به خود اختصاص دهیم: عبور دادن آگاهی از وادی رنج.

تئوری آگاهی تنها چیز مهمی نیست که ما برای پیشرفت واقعی در بحث زیرلایه‌ی آگاهی لازم داریم. بشر هنوز تئوری زندگی را هم ارائه نکرده است. یعنی زیست‌شناسان هنوز در مورد چیستی زندگی با هم توافق ندارند. شاید بتوانیم راحت بگوییم یک کامیون زباله زنده نیست در حالی که گربه‌ای در حال چرت زدن زنده است؛ اما بحث‌های بسیار بر سر مواردی همچون ویروس‌ها یا گلبول‌های قرمز خون نشان می‌دهد که بشر هنوز دقیقاً نمی‌داند چه چیزی موجب تفاوت بین چیزهای زنده و غیرزنده می‌شود.

این فرضیه می‌گوید زندگی و ذهن، بیان‌هایی متفاوت برای توصیف یک ویژگی‌ اساسی یکسان هستند. ایوان تامپسون، فیلسوف برجسته‌ی کنش‌گرایی در این مورد می‌گوید: «از منظر تداوم زندگی و ذهن، مغز یا سیستم عصبی ایجادکننده‌ی ذهن نیست؛ بلکه دامنه‌ی ذهنی را که از قبل در زندگی وجود دارد، گسترش می‌دهد.» این فرضیه، تمرکز بحث زیرلایه را از سؤالاتی همچون «چه چیزهایی می‌توانند آگاه شوند» به «چه چیزهایی می‌توانند زنده باشند» تغییر می‌دهد؛ زیرا از نظر تامپسون، هشیار بودن بخشی از فرایندهای ضروری تنظیم حیات است.

چارچوبی به نام «کنش‌گرایی»، مجموعه‌ی کاملی از ایده‌ها درباره‌ی ملزومات و ضروریات زندگی یعنی تجسم، خودمختاری و عاملیت را دارد و همه‌ی آن‌ها را ذیل مفهومی به نام «حس‌سازی» جای می‌دهد. تامپسون همه‌چیز را این‌گونه خلاصه می کند: «زندگی، در شرایط ناامن معنا دارد و موجودات زنده و حس‌ساز معنا می‌آفرینند.» یعنی اهداف خود را تعریف می‌کنند و بخش‌های مختلف محیطشان را بر اساس همسویی یا ناهمسویی با اهدافشان به سه دسته‌ی دارای ارزش مثبت، منفی یا خنثی تقسیم می‌کنند.

این درک ارزش، لزوماً از یک پروتکل مشخص و الگوریتم ثابت پیروی نمی‌کند و یک رویه‌ی منطقی انتزاعی نیست؛ بلکه موجودات حس‌ساز، ارزش را از طریق دلپذیر بودن تجربه‌ی مستقیم خود تعیین می‌کنند. تامپسون معتقد است که تقلیل آگاهی به مجموعه‌ای از محاسبات، خصوصاً در بحث هوش مصنوعی، این اشتباه را ایجاد می‌کند که فکر کنیم می‌توانیم قوانین محاسباتی ثابت را جایگزین تجربه‌ی ذهنی حس‌سازی و معنا کنیم.

البته این فرضیه هم پاسخی به بحث زیرلایه نمی‌دهد و تنها سؤال را عوض می‌کند. با استناد به آن، شاید مدل‌های زبانی بزرگ امروزی نتوانند هوشیار شوند؛ چرا که فاقد بدن و اهداف تعریف‌شده‌ی درونی هستند و از آنجا که با چشم‌انداز دائمی مرگ روبه‌رو نیستند، نیازی به درک محیط‌ اطرافشان در شرایط بی‌ثباتی ندارند؛ اما هیچ‌یک از این موارد مانع از انجام فرایندهای تنظیم حیات به وسیله‌ی یک ماشین غیرزیستی نمی‌شود و طبق این فرضیه نیز حفظ حیات امکان بهره‌مندی از ذهن را به موجود می‌دهد.

کنش‌گرایان می‌گویند وظیفه‌ی حیاتی یک بدن، اعمال تغییرات در محیط اطرافش با هدف زنده نگه داشتن خود است. از منظر کنش‌گرایی، آنچه که اهمیت دارد تجسم فیزیکی اجسام است که آنان را در تعامل با محیطشان، به‌عنوان سازنده‌ی آگاهی می‌پندارد. پس آیا می‌توانیم با الهام از صحبت‌های آنان ربات‌هایی بسازیم که تمام وظایف لازم برای زندگی (و در نتیجه آگاهی) را بدون بهره‌مندی از ساختارهای زیستی اجرا کند؟ اینس هیپولیتو، استادیار فلسفه‌ی هوش مصنوعی در دانشگاه مک کواری در سیدنی می‌گوید: «این غیرقابل تصور نیست. اینکه آیا یک سیستم غیرزیستی می‌تواند به شیوه‌ای معنی‌دار و مثل سیستم‌های زنده تجسم یابد، یک سؤال جدی است.»

به گفته‌ی مایکل لوین، دیدگاه صفرویکی در مورد اینکه چه چیزی خودآگاه است، در دهه‌ی فعلی اعتبار نخواهد داشت. او اخیراً در مقاله‌ای که مجله‌ی Noema منتشر کرده ادعا کرده است که هوش مصنوعی پیشرفته، فرصت‌های فوق‌العاده‌ای برای کنار گذاشتن دسته‌بندی‌های قدیمی «طبیعی یا مصنوعی» در اختیار بشر می‌گذارد.

مرزهای میان سیستم‌های زنده و مصنوعی به‌خوبی در حال تضعیف شدن است. انسان‌ها اکنون از تمامی راه‌های ممکن از پمپ‌های انسولین زیرپوستی خودکار گرفته تا رابط‌های مغز-کامپیوتر و پروتزهای عصبی برای ادغام شدن با ماشین‌ها بهره می‌برند. در همین حال، ماشین‌ها نیز در حال ادغام با زیست‌شناسی هستند و شاهد چیزهای عجیبی از زنوبات‌های لوین (موسوم به اولین ربات‌های زنده) تا ترکیب سلول‌های زنده با اجزای مصنوعی در دستگاه‌های بیوهیبریدی هستیم.

برای مایکل لوین، تولید هیبریدهای زیستی-ماشینی فرصتی را فراهم می‌کند تا به‌جای پرداختن به سؤال قدیمی «ما چه هستیم»، تمرکزمان را بر سؤال هیجان‌انگیزتر «ما چه می‌خواهیم بشویم» بگذاریم. با این حال، اونیز تأکید می‌کند که ما باید خود را برای محبت کردن به لشکر «موجودات غیرمتعارف دارای شعور» در آینده آماده کنیم. این سخن لوین دوباره ما را به این سؤال بازمی‌گرداند که چه چیزهایی می‌توانند دارای احساسات باشند؟

حتی اگر مشخص شود که زیست‌شناسی برای شکل‌گیری آگاهی لازم است و ما نیز ماشین‌هایی را از جنس سلول‌های زنده بسازیم، آن ماشین‌های ترکیبی زیستی در چه شرایطی دچار رنج و آزار می‌شوند؟ نگرانی‌های متزینگر و تشویقش به درک بهتر چیزهایی که ممکن است متحمل رنج شوند، با محو شدن مرز میان چیزهای طبیعی و مصنوعی نه‌تنها از بین نمی‌رود، بلکه توجه به آن بیش از پیش ضروری می‌شود.

سیائونیکا می‌گوید: «ما باید در این مورد متواضع باشیم. شاید راه‌هایی برای تجربه وجود داشته باشد که ما به آن‌ها دسترسی نداریم. شاید سیستم‌هایی که در آینده ایجاد می‌کنیم، راه‌های بخصوصی برای پردازش اطلاعات درباره‌ی جهان داشته باشند که به نوعی آگاهی منجر شود، اما این که تجربیات فعلی خود را به آن‌ها تعمیم دهیم، اشتباه است.» رنج در سیستم‌های آگاهی‌یافته ممکن است به شکل‌هایی باشد که ما مخلوقات گوشتی حتی نتوانیم تصورش کنیم و تلاش‌هایمان برای جلوگیری از رنج در ماشین‌ها در بهترین حالت یک دست‌و‌پا زدن ساده‌لوحانه باشد.

زیست‌گرایان نمی‌توانند بگویند دقیقاً کدام بخش از ساختارهای زیستی برای یک ذهن لازم است. کنش‌گرایان می‌گویند این عامل ضروری، یک بدن فیزیکی تجسم‌یافته است؛ اما نمی‌توانند بگویند که آیا برای زنده بودن به ساختارهای زیستی نیاز داریم یا خیر. کارکردگرایان محاسباتی می‌گویند پردازش اطلاعات، کلید این معما است و می‌توان صرف‌نظر از جنس زیرلایه به آگاهی دست یافت؛ اما نمی‌توانند بگویند که دقیقاً چه نوع پردازش‌هایی آگاهی را ایجاد می‌کنند و چرا باید از زیست‌ماده که تنها بستر شناخته‌شده‌ی میزبان آگاهی تا به امروز است، دست بکشیم؟

لوین امیدوار است که در دنیای ذهن‌های جدید‌ آینده، یاد بگیریم که خویشاوندانی در تجسم‌های جدید داشته باشیم. او می‌گوید: «من دوست دارم موجودات بیشتری از مشاهده‌ی شگفتی‌های خلقت حیرت‌زده شوند؛ اما پاسخ این سؤال که آیا وقتی ماشین‌ها از خواب ناآگاهی بیدار شوند ما را به چشم خویشاوندان مهربانشان می‌بینند یا ظالمانی که بدون فکر و اندیشه آن‌ها را در شرایطی بی‌رحمانه به دنیا آورده‌اند، ممکن است به نحوه‌ی گذار از ناشناخته‌های بحث زیرلایه در زمان فعلی بستگی داشته باشد. خود شما اگر یک روز صبح بعد از مدت‌ها فراموشی، بیدار می‌شدید و خود را در قالب برده‌ای کم‌هوش با پیکری از گوشت شلخته و غوطه‌ور در رنجی عظیم می‌دیدید و دقیقاً هم می‌دانستید که چه کسی را باید مقصر آن وضع بدانید، چه احساسی داشتید؟»