
یکی از فیلسوفان برجسته، دنیل دنت بود که در آوریل ۲۰۲۴ در۸۲ سالگی درگذشت. او از تیزبینترین و آیندهنگرترین اندیشمندان نیم قرن اخیر بود. او در طول عمر خود، با جسارت به رویارویی با بعضی از مهمترین پرسشها درباره ذهن و آگاهی انسان پرداخت. در طول دوران کاریاش بیش از دوازده کتاب منتشر کرد؛ سهم قابل توجهی در رشتههای مختلف از جمله علوم شناختی و فلسفه ذهن تا نظریه تکامل داشت و به مدافع سرسخت عقلانیت و شکگرایی تبدیل شد.
دنیل دنت، فیلسوف تاثیرگذار، پیش از درگذشتش درباره تلاش مادامالعمر خود برای درک تجربه انسانی و همچنین دلیل نگرانیاش از خطرات جدید هوش مصنوعی گفتوگویی انجام داد.
به گزارش عصر ایران به نقل از BBC، دنیل دنت، فیلسوف برجسته که آوریل پارسال در۸۲ سالگی درگذشت، از تیزبینترین و آیندهنگرترین اندیشمندان نیم قرن اخیر بود. او در طول عمر خود، با جسارت به رویارویی با بعضی از مهمترین پرسشها درباره ذهن و آگاهی انسان پرداخت. در طول دوران کاریاش بیش از دوازده کتاب منتشر کرد؛ سهم قابل توجهی در رشتههای مختلف از جمله علوم شناختی و فلسفه ذهن تا نظریه تکامل داشت و به مدافع سرسخت عقلانیت و شکگرایی تبدیل شد.
در دسامبر ۲۰۲۳ چند ساعت درباره کتاب خاطراتش با عنوان «داشتم فکر میکردم» و همچنین زندگی و کارش با او صحبت کردم. هنوز هم با شور و حرارت به پرسشهایی درباره حقیقت، شناخت و امکانات فناوری مشغول بود که نخستین بار در دوران دانشجویی دکتری در آکسفورد در دهه ۱۹۶۰ مجذوبش کرده بود. او همچنان برای تفکر موشکافانه آماده جدل بود.
به طور خاص، گفتوگوی ما بر خطرات جدی ناشی از هوش مصنوعی متمرکز بود. هشدار او نه در مورد تصاحب قدرت از سوی ابرهوش بلکه درباره تهدیدی بود که به باور او همچنان تهدیدی وجودی برای تمدن است و ریشه در آسیبپذیری طبیعت انسان دارد.
به من گفت: «اگر این فناوری فوقالعادهای را که برای دانش در اختیار داریم به سلاحی برای اطلاعات غلط تبدیل کنیم، به دردسر بزرگی گرفتار خواهیم شد.» چرا؟ «چون دیگر نمیدانیم چه میدانیم؛ نمیدانیم به چه کسی اعتماد کنیم؛ نمیدانیم که آیا آگاه هستیم یا گمراه شدهایم. ممکن است یا پارانوید و بیش از حد شکاک شویم، یا فقط بیتفاوت و بی تحرک. هر دوی اینها مسیرهای بسیار خطرناکی بر سر راه ما هستند.»
برای درک استدلال دنت در مورد هوش مصنوعی و این که چه چیزی او را به چنین متفکری عمیق و بدیع تبدیل کرد، ارزشش را دارد که به یکی از غیرمعمولترین مقالات دانشگاهیاش نگاهی بیندازیم. در سال ۱۹۷۸، «کجا هستم؟» را با فرم یک داستان کوتاه علمی تخیلی منتشر کرد که مغز خودش را در یک خمره تصویر میکرد.
داستان با این جمله شروع میشود: «چند سال پیش مقامات پنتاگون با من تماس گرفتند و از من خواستند برای یک مأموریت فوقالعاده خطرناک و محرمانه داوطلب شوم.» بهدلیل حادثهای که در طول یک پروژه تحقیقاتی سری رخ داده بود، دستگاه حفاری حامل کلاهک اتمی در یک و نیم کیلومتری زیر زمین، در زیر تولسا در اوکلاهاما گیر کرده بود. آنها به او نیاز داشتند تا به بازیابی آن کمک کند. دقیقتر، به بدن او نیاز داشتند. برای جلوگیری از آسیب اشعه رادیواکتیو به نورونها که از دستگاه ساطع میشد مغز او با جراحی برداشته و از طریق گیرندههای رادیویی به بدنش متصل میشد. سپس او میتوانست از راه دور آن را کنترل کند بدون اینکه در معرض اشعه قرار گیرد. (قابل باور بودن ویژگی ضروری داستانهای علمی تخیلی فلسفی نیست!)
توضیح تصویر، دنت سناریویی را تصور کرد که در آن بدن و مغز او از هم جدا هستند
پشت فانتزی دلپذیر دنت، این سوال وجود داشت: فرض کنید عمل موفقیت آمیز میبود و مغز او همچنان به کنترل بدنش ادامه میداد و از طریق اندامهای حسی ورودی دریافت میکرد، دنیل دنت کجا بود؟ او در داستان تصور میکند که بدنش به اتاقی که مغز او در یک خمره حاوی مایع مغذی شناور است وارد میشود، سپس مینشیند و به آن نگاه میکند.
این صحنه را پیت هوندردوس، کارگردان هلندی، در یک مستند تلویزیونی در سال ۱۹۸۸بازسازی کرد، که در آن دنت با اشتیاق نقش خودش را بازی کرد. مطمئناً این از معدود موارد تبدیل یک مقاله دانشگاهی به فیلم است. دنت متحیر اعلام میکند: «خب، من اینجا روی یک صندلی تاشو نشستهام، از طریق یک تکه شیشه تخت به مغز خودم خیره شدهام. اما صبر کنید ... نبایست فکر میکردم، «من اینجا هستم؛ در مایع جوشان معلق هستم و چشمان خودم به من خیره شدهاند؟»
دومین مورد از این اندیشهها حتی از مورد اول هم دشوارتر است. فکری که از اینجا ناشی میشود این است که هرگز نمیتوان به قطع مطمئن شد که «من» کجا هستم یا حتی کلمه «اینجا» به طور محض بر مبنای تجربه شخصی به چه معناست.
او ادامه میدهد: «وقتی به «اینجا» فکر میکردم، چطور میدانستم منظورم از «اینجا» کجاست؟ آیا میتوانستم فکر کنم منظورم یک مکان است در حالی که در واقع جای دیگری را در نظر داشتم؟» مهم نیست او درباره موقعیت یا وضعیت ذهنی خودش چه باوری داشته باشد، چنین باورهایی هیچ تضمین ویژهای برای درستی خودشان ارائه نمیدهند. دیدگاه بیرونی به رویدادها، نه دیدگاه درونی، اهمیت دارد: واقعیتهای روی زمین، نه اینکه این زمین برای کسی که روی آن ایستاده (یا در خمره شناور است) چگونه به نظر میرسد.
برخلاف قرنها سنت فلسفی، او به این نتیجه رسید که ما هیچ دانش ویژهای درباره کارکرد ذهن خودمان نداریم. در حالی که حس اینکه «خود» ما موجودیتی واحد و منسجم است، صرفاً فریبی تکاملیافته شگفتانگیز است.
همانطور که دنت در کتاب «داشتم فکر میکردم» بیان کرد، «چیز کمی وجود دارد که بتوانم به تنهایی با نگاه درونبینانه به ذهن خودم با اطمینان بدانم.»، اما با «مطالعه علمی ذهن دیگران» چیزهای زیادی برای یادگیری هست، به شرطی که این شامل شک موشکافانه حتی نسبت به بدیهیترین شهودها باشد. حقیقت شما را از محدودیتهای شناختی رها نمیکند، زیرا چنین چیزی ممکن نیست. اما ممکن است، اگر مراقب باشید، به شما در مورد انواع آزادی که ارزش خواستن دارند بیاموزد.
توضیح تصویر، به طور نظری، هوش مصنوعی میتواند کپی دیجیتالی از افراد ایجاد کند
اینجا به آن فناوری برمیگردیم که به طرز عجیبی توانایی وارونه کردن سناریو در قلب سوال «کجا هستم؟» را دارد: هوش مصنوعی مولد. این فناوری توانایی خلق شبیهسازیهای باورپذیر انسان از تریلیونها بایت داده را دارد؛ و با انجام این کار، میتواند قرنها فرضیه در مورد حقیقت، هویت و تجربههای مشترک ما از واقعیت را زیر سؤال ببرد.
با داشتن تنها ۳۰ ثانیه ویدیوی با کیفیت متوسط، امروزه سرویسهای هوش مصنوعی رایگان میتوانند نسخه مصنوعی از هر سخنران – یا یک فرد کاملا خیالی – بسازند و هر چیزی را که بخواهند بر زبان آنها جاری کنند. رهبرانی مانند نارندرا مودی، نخستوزیر هند، از ابزارهای هوش مصنوعی برای ایجاد نسخهای از خود که به زبانهای منطقهای روان صحبت میکند برای کسب آرای بیشتر استفاده کردهاند. روشهای مشابهی هم در اندونزی و پاکستان به کار گرفته میشود.
در ژوئیه ۲۰۲۳، ویدیوهای دیپفیک ابتدایی از رهبران زن مخالف دولت در بنگلادش، که آنها را با لباس شنا در استخر نشان میداد، بهسرعت رد شد، اما همچنان به طور گسترده به اشتراک گذاشته شد؛ و موارد بسیار بیشتری در راه است. با توجه به اینکه سال ۲۰۲۴ بزرگترین سال انتخابات در تاریخ است (نصف جمعیت جهان پای صندوقهای رأی خواهند رفت)، دستکاری اطلاعاتی که بر تصمیمگیری انسان تأثیر میگذارد – یا فریب غرایز و تمایلات روزمره ما – هرگز به این آسانی نبوده است.
در واقع، دلایل محکمی وجود دارد که باور داشته باشیم، با داشتن حجم کافی داده به زودی امکان خلق یک بازسازی باورپذیر از یک فرد وجود خواهد داشت. موجودی که نه تنها در یک اجرای از پیش ضبط شده، بلکه حتی در یک مکالمه روزمره نیز به راحتی میتواند جایگزین یک سیاستمدار – یا حتی شما یا من – شود.
دنت، پیشبینی گونه، این سناریو را دههها پیش تصور کرده بود. در داستان علمی تخیلی مستند هوندردوس، دانشمندان یک دنتِ اضافی خلق میکنند: در کنار مغز اصلی در یک محفظه، ذهن او به عنوان یک «همتای دیجیتال» تکثیر میشود. آنها برای به دست آوردن کنترل بدن او رقابت میکنند. در این سناریو، پرسش از اینکه آیا کسی واقعاً در جایی حضور دارد – یا چیزی گفته یا انجام داده است، یا حتی وجود دارد – پیچیدهتر میشود.
برای درک اینکه واقعیت تا چه حد به داستانهای تخیلی نزدیک شده است، «ربات لوچانو فلوریدی» را در نظر بگیرید. این ربات، یک تقلید مبتنی بر هوش مصنوعی از فیلسوف برجسته دیگری در حوزهی فناوری است که «برای پاسخ به پرسشها و نوشتن متونی با تقلید از شیوه تفکر و سبک نوشتاری فلوریدی طراحی شده است.» ربات لوچانو فلوریدی هم یک ابزار آموزشی جذاب است و هم یک مطالعه موردی از اینکه چگونه در عصر هوش مصنوعی ایدهها و هویتهای ما میتوانند زندگی مستقل خودشان را داشته باشند.
دنت با وسواس ما نسبت به هوش مصنوعیِ شبیه انسان مشکل داشت. او معتقد بود که اگرچه ممکن است به زودی شاهد نمونههای کامل انسان نباشیم، اما روشی که ما از هوش مصنوعی برای تقلید انسانها استفاده میکنیم، ما را در مسیر خطرناکی قرار داده است. او این نوع هوش مصنوعی را «افراد جعلی» مینامید و به من گفت که گسترش چنین موجوداتی در مقیاس وسیع، «شیطنت به بدترین شکل ممکن است»: نوعی «خرابکاری اجتماعی» که قانون باید به آن رسیدگی کند. چرا؟
زیرا اگر بتوان به دلخواه، بازنماییهای دیجیتالی باورپذیر از انسانها ایجاد کرد، کل فرآیند ارزیابی جمعی ادعاها، تجربهها و اعمال افراد دیگر به خطر میافتد – و همچنین به زیرساختهای اجتماعی ضروری مانند قراردادها، تعهدات و پیامدها نیز آسیب میزند. از این رو، به همین دلیل است که او در مقالهاش برای مجله آتلانتیک در ماه مه ۲۰۲۳، بر لزوم ممنوعیتهای قانونی تأکید میکند.
دنـِت به من گفت: «این راهحل بینقص نخواهد بود، اما اگر بتوانیم جعل افراد را غیرقانونی کنیم، کمک بزرگی کردهایم. ما میتوانیم برای جعل افراد، مجازات سختی در نظر بگیریم، همان کاری که برای جعل اسکناس انجام میدهیم... همچنین باید تلاش کنیم تا ساخت هوش مصنوعی شبیه انسان، به جای افتخار، نشانهی سرافکندگی تلقی شود.»
توضیح تصویر، دنت هشدار داد که ساخت «افراد جعلی» مبتنی بر هوش مصنوعی خطر «خرابکاری اجتماعی» را به دنبال دارد
اینجا تناقضی جالب وجود دارد. دنـِت طی دههها با کسانی در جدل بود که در تلاش برای تعریف مقولهای فرار به نام «انسانیت» بودند که تنها ذهن ما میتواند آن را دارا باشد. او بهعنوان یک مادهگرای تمامعیار، بارها و بارها بر نکتهای تأکید کرد که در کتاب «ایدهی خطرناک داروین» (۱۹۹۵) در باب نظریه تکامل مطرح کرده بود: «تمامی دستاوردهای فرهنگ بشری – زبان، هنر، دین، اخلاق و علم – خود مصنوعاتی هستند… حاصل همان فرایند بنیادینی که باکتریها، پستانداران و هوموساپینس را پرورش داده است. هیچ آفرینش ویژهای برای زبان وجود ندارد و هنر و دین هم الهام الهی به معنای واقعی کلمه ندارند.»
دنت استدلال کرد که ظهور انسانیت از ماده بیاندیشه شگفتانگیز است، اما معجزهآسا نیست. حتی ذهنهای خارقالعادهای مانند ذهن ما، در نهایت محصول مجموعهای از اجزای غیرقابل فهم هستند، که خود از اجزای ابتداییتری ساخته شدهاند و در یک توالیِ ناگسستنی به نخستین اشکال حیات مرتبطاند.
به دنبال این دیدگاه، در اصل هیچ چیز مانع از نزدیک شدن یا حتی فراتر رفتنِ الگوریتمهای هوش مصنوعی از تواناییهای ما نیست؛ یا اینکه انسانها از طریق روشهای مصنوعی به تقویت و بازمهندسی ذهن خود بپردازند. در واقع، برخی از مهمترین پژوهشهای اولیهی دنـت به دفاع از قدرت و امکانات محاسبات در برابر کسانی اختصاص داشت که مانند جان سرل، فیلسوف ذهن، ادعا میکردند محاسبه هرگز صرفا به تنهایی نمیتواند منجر به پدیدههایی مانند آگاهی شود. از نظر دنـِت هیچ چیزی «صرفا» در مورد محاسبات یا فرایندهای الگوریتمی وجود ندارد: این موضوع فقط به مقیاس و پیچیدگی بستگی دارد.
در این راستا، دستاوردهای هوش مصنوعی مدرن – از مهارتهای زبانی و تسلط بر بازیهایی مانند شطرنج و گو گرفته تا توانایی قبولی در آزمونهای حقوقی و پزشکی – تایید مداوم دیدگاه دنـِت به شمار میآیند. این دیدگاه که کارآمدی در سطح انسانی میتواند از فرآیندهای کاملاً غیرقابل فهم نشأت بگیرد.
توضیح تصویر، گفتمان انسانی ممکن است از سوی عوامل هوش مصنوعی دستکاری شود
در طول گفتوگوی ما، دنت همچنین با وسواس بر روی شکاف عظیم بین معماریهای محاسباتی فعلی و پیچیدگیهای آنالوگ انسانها تأکید میکرد. او معتقد بود که وسواس بر دستیابی هوش مصنوعی به «هوش عمومی» با تمام انعطافپذیری شناختیِ یک انسان، یا حتی فراتر از آن، خطرناک است.
او توجه داد که خیلی قبل از وقوع چنین چیزی، نیاز به رسیدگی به ظهور عاملهای خودکار «فوقالعاده فریبنده» خواهیم داشت – و این تهدیدی به مراتب بزرگتر از اَبَرهوشهای فرضی است. چرا؟ زیرا همانطور که شبکههای اجتماعی به گلخانهای تکاملی برای محتوایی تبدیل شدهاند که میتواند از آسیبپذیریهای انسانی سوءاستفاده کند، همین پویاییها هم محتوای تولید شده از سوی هوش مصنوعی و هم هوش مصنوعیهایی را که قادر به بهکارگیری ترکیبی فریبنده از متقاعدسازی، اغوا، شوک و چاپلوسی هستند را تقویت میکند.
از اینفلوئنسرهای مصنوعی بینقص و خیرهکننده تا پورنوگرافیهای مبتنی بر دیپ فیک، از همراهانی با همدلی بیپایان تا کلاهبرداریهای عاشقانه، عشقها و تمایلات انسانی به عرصهای حاصلخیز برای پالایش فریبکاری تبدیل شدهاند. ما ممکن است (هنوز) مغزهایی در خمره نباشیم. اما آنچه میبینیم، باور میکنیم، به آن تعلق داریم و انجام میدهیم به طور فزایندهای با سیستمهای اطلاعاتی بیشماری در هم تنیده شده است؛ و بسیاری از اینها در ارائه اقناع و باورپذیری مهارت بیشتری نسبت به حقیقت دارند.
با وجود تمام تواناییها و قابلیتهای بالقوهی فناوریهایی مانند هوش مصنوعی، و روشهای بیشماری که آنها میتوانند حوزه دانش و خودآگاهی بشر را گسترش دهند، ذکر این نکته ضروری است که همانطور که دنت بیان میکند، هوشهای مصنوعی به احتمال زیاد «برای تکثیر خودشان تکامل مییابند. در این میان، هوشهای مصنوعی که بهترین عملکرد را در تکثیر داشته باشند، همانهایی خواهند بود که در فریب ما همصحبتهای انسانی زیرکتر هستند. ما هوشهای مصنوعی خستهکننده را کنار میگذاریم و آنهایی را که توجه ما را جلب میکنند، گسترش میدهیم. تمام این فرآیند بدون هیچ قصد و نیتی اتفاق میافتد. این همانند انتخاب طبیعی در دنیای نرمافزار است.»
برای رقم خوردن سناریوهای مضر، نه به نقشههای شیطانی انسانساز و نه به اربابانی مصنوعی نیاز است. همانطور که دنِت در کتاب «از باکتری تا باخ» (۲۰۱۷) استدلال میکند، «هنگامی که زیرساخت فرهنگ طراحی و نصب شد [یعنی در ذهن انسان تکامل یافت]… احتمال سوءاستفاده میمهای انگلی از آن زیرساخت تقریباً قطعی است.» از نظر تکاملی، ذهن ما ابزاری نیست که دقیقاً برای تمییز حقیقت از دروغ تنظیم شده باشد. ما موجوداتی جانبدار، احساساتی و قبیلهای هستیم: حیواناتی اجتماعی که با پیوندهای عشق و وفاداری به هم مرتبط شدهایم، پیوندهایی که هم معرف انسانیت ما هستند و هم ما را به طرز دردناکی آسیبپذیر میکنند.
با این حال، چه باید کرد؟ خوشبختانه، ویژگی بارز دیگری از تفکر انسانی، توانایی ما برای تأمل دقیقاً بر روی همین محدودیتهاست: برای جبران کردن نقاط کور ادراک شخصی به صورت جمعی و تدریجی. دنِت به من گفت: «آنچه میخواهید این است که تفکر شما با این حقیقت متعین شود که آن بیرون (بیرون ذهن شما) چه چیزی وجود دارد. میخواهید تحت تأثیر شواهد محکمی که در مورد ماهیت جهان وجود دارد، قرار بگیرید. اما همچنین میخواهید آزادی عمل داشته باشید که دوباره و دوباره و دوباره، چشماندازها، برنامهها و اهداف خود را مورد بازنگری قرار دهید. شما میخواهید یک سیستم قصدمند مرتبه بالاتر باشید که بر وسیلهها، هدفها و غایات تأمل میکند.»
توضیح تصویر، ویژگی معرف اندیشه انسان ظرفیت ما در تامل درباره محدودیتهایمان است
این روش علمی در یک چارچوب کوچک، همراه با چاشنیِ آزاداندیشی انسانگرایانه است. «آزادی» عمل براساس اطلاعات دستکاریشده و غیردقیق، اصلاً آزادی نیست. در مقابل، اعمالی که با «شواهد محکمی که در مورد ماهیت جهان وجود دارد» تعیین میشوند، رهاییبخش هستند: پذیرای پیچیدگیهای واقعیت به جای اسیر شدن در دامِ دروغها.
برای گسترش آزمایش فکریِ «کجا هستم؟»، تصور کنید چه اتفاقی میافتاد اگر مغز شما را در خمرهای میگذاشتند و سپس – بدون اطلاع یا اجازهی شما – آن را به یک نسخهی شبیهسازیشده واقعیت متصل میکردند. در آن قلمروی مجازی، شما همچنان ممکن است از برخی آزادیها برخوردار باشید. اما با در نظر گرفتن دنیای خارج، شما هم گرفتار و هم فریبخورده خواهید بود: از هر نوع درک و کنش معناداری محروم شدهاید.
اگرچه ممکن است این سناریو صرفاً به داستانهای علمی-تخیلی مربوط به نظر برسد، اما نسخهای از آن هر بار که کسی ادعای نادرستی را حقیقتی مسلم تلقی میکند – یا یک موجود مصنوعی را انسانی میپندارد – اتفاق میافتد. از نظریههای توطئه تا تبلیغات تمامیتخواه، از شواهد جعلی تا انسانهای بدلی، انکار واقعیت تجارتی پررونق است؛ و در دنیایی که چنین چیزهایی در آن فراوان باشد، هیچ چیز اجتنابناپذیری درباره پایداریِ مدارا، شکگرایی یا مباحثه منطقی وجود ندارد. دنِت به من گفت که «تمدن شکنندهتر از آن چیزی است که فکر میکردیم» – و به همین دلیل هم با ارزشتر است.
با وجود همه درگیریها، بیعدالتیها و نفرتهایی که وجود دارد، ما در عصری زندگی میکنیم که برای بخش بزرگی از بشریت امکانپذیر است که به «یکدیگر اعتماد کنند، پروژههای بلندمدت داشته باشند، آزادانه سفر کنند، خانواده تشکیل دهند، با ترس بسیار کمی زندگی کنند. این فوقالعاده است و ما باید آن ساختار اجتماعی را واقعاً به هر قیمتی حفظ کنیم.» این خطر بزرگِ مدلهای زبان بزرگِ هوش مصنوعی و افراد جعلی به طور یکسان است: «آنها اعتمادی را که ما طی هزاران سال به وجود آوردهایم، نابود خواهند کرد.»
زیستشناسی جایی است که همه چیز در آنجا آغاز میشود و به پایان میرسد: الگوی شگفتانگیز و تکاملیافته پیدایش ما در کنارِ هر شکل دیگری از حیات؛ پیچیدگیهای بیحد و حصرِ قابلِ درکِ ما از طریقِ فرهنگ، زبان و محاسبات؛ وجود مشترک ما به عنوان موجوداتی از گوشت و خون. دنِت در انتهایِ گفتوگو به من گفت: «هر دو فرزند من به فرزندی پذیرفته شدهاند. اما من آنها را با همان شدتِ عشق هر پدرِ زیستی دوست دارم.
لحظهای را در اوایل زندگیِ فرزند بزرگترمان به یاد میآورم، زمانی که او دخترِ کوچکی بود، شاید دو ساله یا حتی کمتر، که متوجه یک تهدید احتمالی در زمین بازی یا چیزی شبیه به آن شدم و ناگهان به ذهنم خطور کرد: «وای، فکر میکنم برای محافظت از این کودک حاضرم آدم بکشم!» و این تقریباً مرا ترساند. اما همچنین هیجانزدهام کرد، زیرا تاییدی بر شدت و عمق دلبستگی عاطفی بود؛ و زندگی درباره همین است.»