هوش مصنوعی؛ ترس و هراس تلقینی
مسلم ناظمی
داستان‌های آمیخته با ترس و نسبت‌شان با فضای زیستی واقعی و ماشینی
با ظهور هوش مصنوعی و فراگیری شتابان آن در سال‌های اخیر، ترس نیرو گرفته است.
داستان‌ها، فیلم‌ها، سریال‌ها و نمایش‌نامه‌های بسیاری آفریده شده‌اند که در آنها ماشین‌های هوشمند انسان‌ها را با پاییدن رفتارشان، دزدیدن اطلاعات‌شان، دستکاری عادات‌شان یا حتی نبردی مستقیم به نفع گروهی که نماینده پلیدی هستند، به خاک سیاه می‌نشانند. از قرار، ترس این آسیب در ناخودآگاه جمعی بسیاری از انسان‌ها لانه کرده است. با ظهور هوش مصنوعی و فراگیری شتابان آن در سال‌های اخیر، ترس نیرو گرفته است.
داستان‌ها، فیلم‌ها، سریال‌ها و نمایش‌نامه‌های بسیاری آفریده شده‌اند که در آنها ماشین‌های هوشمند انسان‌ها را با پاییدن رفتارشان، دزدیدن اطلاعات‌شان، دستکاری عادات‌شان یا حتی نبردی مستقیم به نفع گروهی که نماینده پلیدی هستند، به خاک سیاه می‌نشانند. از قرار، ترس این آسیب در ناخودآگاه جمعی بسیاری از انسان‌ها لانه کرده است. با ظهور هوش مصنوعی و فراگیری شتابان آن در سال‌های اخیر، ترس نیرو گرفته است.
جهان‌گیری هوش مصنوعی ما را به یاد ماشین‌های قلدر و تکنولوژی وحشی و مهاجم در رمان‌هایی مثل دنیای قشنگ نو (آلدوس هاکسلی)، ۱۹۸۴ (جورج اورول)، فارنهایت ۴۵۱ (ری بردبری) و فیلم‌هایی مانند متروپلیس (فریتز لانگ)، اودیسه فضایی (استنلی کوبریک)، Her (اسپایک جونز)، فارنهایت ۴۵۱ (اقتباس سینمایی تروفو از رمان بردبری)، ترمیناتور (جیمز کامرون)، بلید رانر (ریدلی اسکات) و… می‌اندازد و احتمالا آنان را از دچارشدن به سرنوشتی شبیه به مردمانی که در این کتاب‌ها خوانده‌اند و در این فیلم‌ها دیده‌اند، به وحشت می‌اندازد.
ماشین‌هایی را که می‌توانند کارهای ذهن آدمی را با سرعت و دقت بیشتر و کاراتر انجام دهند، اَبَرهوش (superintelligence) می‌نامند. آن ماشین‌ها که در کتاب‌ها و فیلم‌های یادشده به شکل ترسناکی سرنوشت انسان را به دست می‌گیرند و به تباهی می‌کشانند هم از جنس همین اَبَرهوش هستند. اَبَرهوش مفهومی عام و گسترده است که در سال‌های اخیر در هوش مصنوعی تجلی یافته است. تمام نگرانی‌هایی که در یکی، دو سال گذشته درباره هوش مصنوعی مطرح شده‌اند، از همین دست هستند و در اینجا می‌توانیم مفهوم هوش مصنوعی را جایگزین مفهوم عام اَبَرهوش کنیم، بدون آنکه در کلیت داستان خللی پدید آید.
شاید به اشتباه گمان کنیم که افسانه‌پردازی درباره ترس انسان از اَبَرهوش، به مصنوعات بسیار پیشرفته‌ی امروزین از جنس رباتیک، اینترنت اشیا یا هر تکنولوژی بسیار مدرن دیگر بازمی‌گردد. اما ترس از این ماشین‌های مرموز و درازدست خیلی قدیمی‌تر از اینهاست. فیلم متروپلیس ساخته فریتز لانگ با ماشین دیکتاتور، دیوانه و کینه‌جویش در سال ۱۹۲۷ ساخته شده و اغلب آثار دیگر هم مربوط به پیش از دوران ابرهوش‌های دیجیتال هستند.
شاید شگفت‌آور باشد اگر بگوییم این داستان‌ها ریشه در دوران باستان دارند. در حماسه ایلیاد هومر که در ۸۰۰ سال پیش از زادن مسیح نوشته شده، می‌خوانیم که هفائیستوس، خدای یونانی، بردگانی از طلا داشت که نه پیری بر آنان کارگر بود نه خستگی می‌شناختند، نه می‌مردند و نه می‌فرسودند. چیزی شبیه ربات‌هایی که ما هنوز آینده‌نگرانه منتظر ظهورشان در خانه و کارگاه خود هستیم تا امورات ما را رفع و رجوع کنند.
در افسانه‌های یهودی هم به موجودی به نام گولم برمی‌خوریم که از گِل ساخته می‌شود و بعد با سحر و جادو جان می‌گیرد، کارهای شگفت می‌کند و اختیار از دست انسان می‌رباید. فقط سازنده آن می‌تواند جادوی خود را بازگیرد تا گِلِ جان‌یافته دوباره بی‌جان شود. اما داستان‌های امروزه یک گام از افسانه گولم پیش‌تر می‌روند و اَبَرهوش را تصور می‌کنند که حتی سازنده هم دیگر نمی‌تواند دوشاخه او را بکشد و دیو را به شیشه برگرداند.
اما آیا داستان‌های ترسناک از گولم گرفته تا مکس دیوانه، نسبتی با واقعیت پیش‌روی ما دارند؟ این داستان‌ها چقدر به ماهیت واقعی و فنی اَبَرهوش نزدیک‌اند؟ خانم ایزابلا هرمان (استاد دانشگاه برلین) در مقاله‌ای به سال ۲۰۲۳ این دو را چندان به هم مرتبط نمی‌داند. از نظر او خالقان این آثار، به‌ویژه در سینما، برای توصیف دنیایی که در اندیشه دارند، دست به دامن استعاره می‌شوند. البته که استعاره بی‌ربط به واقعیت نیست اما خودِ آن هم نیست. در این روایت‌ها، استعاره ماشین، ربات و در کل اَبَرهوش خودسر، مهاجم و غیرقابل مهار، بازیگر همیشگی هستند. اما این بدان معنا نیست که ماهیت تکنولوژی اَبَرهوش هم بر داستان‌های آنان مطابقت داشته باشد.
فیلم متروپلیس فریتز لانگ را باید در سنت سینمای اکپرسیونیست آلمان از یک سو دغدغه قدیمی کار و سرمایه از سوی دیگر فهمید. رمان ۱۹۸۴ سرشار از استعاره‌هایی از یک حکومت توتالیتر و سرکوبگر است و درواقع به نظام‌های کمونیستی نظر دارد که پس از پایان جنگ جهانی دوم در حال شکل‌گیری بودند. فیلم Her از منظری فمینیستی و نقد نگاه ابزارگونه و کنترل‌کننده به زن قابل تفسیر است و اودیسه فضایی داستان سفر بی‌پایان انسان در جست‌وجوی معرفت نایاب است. به‌این‌ترتیب حکایت بسیاری از این داستان‌ها درمورد تکنولوژی، ابزار و در حالت خاص آن نوعی اَبَرهوش خودمختار، حکایت انگشتی است که ماه را نشان می‌دهد و خیره‌ماندن بر سرانگشت، دلیل بر کودنی است.
- بیشتر بخوانیم
- اولویت‌های کلیدی تحول دیجیتال برای سال ۲۰۲۴
- تحول دیجیتال ۲۰۲۴: چگونه جلوتر از اختلال بعدی بمانیم
اما به قول میرفندرسکی خودمان «صورتی در زیر دارد، آنچه در بالاستی». نمی‌توان با نسبت‌دادن همه چیز به تشبیه و استعاره، نگرانی از سرشت تکنولوژی را انکار کرد و آن را به دنیای ذهنی هنرآفرینان حواله داد. به هر حال هنر و روایت در انتزاع محض شکل نمی‌گیرد. بسیاری از آنچه در سپهر هنر روایت می‌شود، بازتابی از دنیای روزمره و تجربه زیسته آدمیان است که در قالب فرم‌های هنری ریخته‌اند. پس می‌توان پرسید ترس از پدیده اَبَرهوش در روایت‌های انسان چگونه است؟ وقتی از این ترس سخن می‌گوییم درواقع داریم از چه می‌گوییم؟ از چه نگرانیم؟ و چرا؟
استیفن کِیو و کانتا دیهال دو استاد دانشگاه کمبریج -که هر دو چهره‌هایی نامدار در پژوهش‌های اَبَرهوش هستند- در مقاله‌ای که سال ۲۰۱۹ در مجله نیچر به چاپ رسید، کوشیده‌اند تا این سؤال را با واکاوی ۳۰۰ متن روایی (اعم از فیلم، داستان و…) پاسخ دهند. خلاصه کلام این است که وقتی پای اَبَرهوش به میان می‌آید، چهار امید در دل آدمیان جوانه می‌زند و در پی آن چهار بیم سر از تخم درمی‌آورند تا آن جوانه را بچرند و خشک کنند. حال این چهار امید و چهار بیم همزاد آنها، کدام‌اند؟
اولین امیدی که ابرهوش برای انسان ایجاد می‌کند، نامیرایی است. زندگی جاودانه اغلب آرزوی محال آدمیان است. چون آنان می‌دانند که این رؤیا نشدنی است، می‌کوشند تا آنجا که ممکن است از مرگ فاصله بگیرند. یعنی مرگ محتوم را چند سالی عقب برانند. اَبَرهوش با اسکن مداوم بدن، هشدار‌دادن بیماری‌ها از پیش، طراحی داروهای سفارشی، طراحی لوازم یدکی بدن و… این خدمت را به‌خوبی انجام می‌دهد و عمر آدمی را به درازا می‌کشاند. اما در عوض انسان را با ماشین ترکیب می‌کند و نوعی سایبورگ (انسان-ماشین) می‌سازد که غیرطبیعی، ناآشنا و ترسناک است. این سایبورگ‌ها در داستان‌ها و فیلم‌های علمی-تخیلی نقش چشمگیری دارند.
دومین آرزویی که انسان برای برآوردنش دست به دامان اَبَرهوش می‌شود، آسودگی است. کار طاقت‌فرسا برای ادامه‌‌دادن عمر، همیشه انسان را فرسوده و او را از علایق خود دور کرده است. اَبَرهوش به‌عنوان غلامی کاردان، وظایف روزمره زندگی را به عهده می‌گیرد تا اربابش بتواند در آسایش خاطر به کارهایی برسد که نه مجبور بلکه مایل به انجام آنهاست. این کارگر جدید نه خسته می‌شود نه می‌نالد نه مواجب اضافی می‌خواهد نه می‌تواند از زیر کار بگریزد. اما در برابر این در باغ سبز، بابی از جهنم گشوده است. ترس ازدستدادن کار و سپردن شغل و درآمد به یک ربات یا هوش مصنوعی هر روز در هر پیشه‌ای جدی‌تر می‌شود. مهم‌تر از آن، انسان می‌ترسد که با واگذاشتن تاج و تخت خود به ماشین‌ها، از محوریت جهان ساقط و به حاشیه رانده شود. متروک بماند و دیگر نتواند استعدادهای خود را بیابد، بپرورد و به کار گیرد. برای نمونه به انسان‌های عاطل و بی‌حاصل در انیمیشن Wall-E نگاه کنید.
سومین امید در بازار گرم اَبَرهوش، کامیابی و خوشبختی است به معنایی که امروزه می‌فهمیم. این تکنولوژی هم مانند هر تکنولوژی دیگر، رؤیاهای ناکام‌مانده آدمی را به واقعیت نزدیک می‌کند. روزی انسان خواب پرواز می‌دید و امروز جت‌‌ها از هر پرنده‌ای بلندتر می‌پرند. پرنده که سهل است. ماه هم به زیر پای آدمی آمده و اکنون چشم به کهکشان‌های دورتر از حد خیال دارد. تکنولوژی دیجیتال، حتی رؤیاهای خیلی دست‌نایافتنی‌تر را قابل تجربه کرده است. ما می‌توانیم هر روز در این دنیا به ستاره فوتبال، راننده فرمول یک یا حتی قاتلی بی‌رحم تبدیل شویم و از تجربه «دیگری‌بودن» دیجیتال لذت ببریم.
داشتن امکان زیاد برای زیستن، اگر خودِ کامیابی و خوشبختی نباشد، خویش یا همسایه اوست اما در برابر این امکانات، زندگی از شکل شخصی و خودخواسته خارج می‌شود. هوش مصنوعی اطلاعات شخصی را می‌دزدد و به بازرگانان توجه ما می‌فروشد. از سویی چون ما را به‌خوبی می‌شناسد، توجه ما را به هر زرق و فریبی که شده به جایی جلب می‌کند که خود می‌خواهد. در نهایت انسان را به یک ابژه مصرف‌کننده، دنباله‌رو، بی‌فکر و بی‌رنگ و بو تبدیل می‌کنند که تمام سلیقه و اختیارش را از جای دیگر برایش چیده‌اند. همان اعتراض قدیمی به انسان‌زدایی از بنی‌آدم که از زمان مارکس بلند است تا متفکران فرانکفورتی و پست‌مدرن‌ها و هرکه فکرش را بکنی.
چهارمین و آخرین مسئله، رابطه انسان و تکنولوژی است. انسان خوش دارد تا همیشه رابطه اربات و نوکری را با تکنولوژی حفظ کند. همان‌طور که زمانی اربابان یونانی، رومی و البته شرقی این مناسبات را با انسان‌های دیگری که به بردگی درآورده بودند داشتند اما اندیشه ارباب از ترس نافرمانی برده پُر است. اگر برده‌های رومیان گاهی به یاد می‌آوردند که انسان هستند و علیه اربابان از دماغ فیل افتاده خود می‌شوریدند، چرا درون ماشین‌های هوشمند، هزاران اسپارتاکوس نهفته نباشد؟
الگوریتم‌های یادگیری ماشینی و یادگیری عمیق که به ماشین اجازه می‌دهد نسلی هوشمندتر از خود بسازد، ترس ازدستدادن کنترل و باختن قافیه سرنوشت به ماشین را در انسان بیدار می‌کند. حتی ممکن است روزی محاسبه‌ای از زیر دست کسی در برود و دیگر کسی نتواند دکمه خاموش‌باش ماشین هوشمند را بزند. از قضا همین بیم نوع چهارم است که این روزها درباره هوش مصنوعی بر سر زبان‌ها افتاده است. نامه‌ای که جمعی از کارآفرینان، سیاست‌مداران و کارگزاران عرصه تکنولوژی درباره خطرات هوش مصنوعی نوشته‌اند بر همین ترس و نگرانی اخیر تأکید دارد. البته بماند که متخصصان هوش مصنوعی کمتر در میان هشداردهندگان دیده می‌شوند و همیشه می‌کوشند اطمینان دهند که رابطه انسان و این تکنولوژیِ در حال تاختن، همیشه به صورت رابطه خواجه و خدمتکار باقی خواهد ماند.
خلاصه اینکه ماهیت واقعی تکنولوژی و نقشی که بناست در زندگی روزمره ما ایفا کند و تصویر آن در ناخودآگاه جمعی و فرهنگی ما نه کاملا بر هم منطبق هستند نه مطلقا مجزا و نامربوط. محصولات فرهنگی، در انتزاع محض آفریده نمی‌شوند و نمی‌توانند با واقعیت بیرونی به کل بیگانه باشند. اما این آش با آتش خیال و استعاره پخته می‌شود و زمانی که جنبه‌ای از تکنولوژی به کمک روایتگر می‌آید، ممکن است اصل روایت نکته‌ای در سیاست، جامعه، جنسیت یا هر چیز دیگر باشد که راوی برای بیان آن ناچار شده آن را به یک مصنوع تکنولوژیک (از جمله اَبَرهوش) تشبیه کند.
تا به حال چنین بوده که توسعه‌دهندگان تکنولوژی، در تعاملی بی‌پایان در بازار به راه خود می‌رفته‌اند و اصحاب روایت هم داستان‌های خود را پرداخته‌اند و از این پس نیز چنین خواهد بود. ما یاد می‌گیریم که چگونه با هوش مصنوعی هم‌خانه شویم و زندگی دیگر به دوران پیش از آن بازنمی‌گردد. اما آن رویِ متعالی ما هم همیشه می‌گوید که آرزوی چگونه زیستنی در دل دارد و چه چیز او را از آن سبک زیست بازمی‌دارد. این اندیشه، همان است که در روایت‌ها، به پوست هیولاهای ترسناک فرو می‌رود و هر بار نام جدیدی به خود می‌گیرد. این بار نوبت هوش مصنوعی فرارسیده است، تا ترس‌ها فردا قسمت کدام تکنولوژی نوپدید باشد.
منبع: شرق
- هوش مصنوعی و هراس تلقینی
