نشست تخصصی «فرهنگ عمومی، اخلاق و هوش مصنوعی»

آخرین به روز رسانی: ۲ بهمن ۱۴۰۱

۰ 68 خواندن این مطلب 8 دقیقه زمان میبرد

در نشست تخصصی «فرهنگ عمومی، اخلاق و هوش مصنوعی» موارد مختلفی در حوزه هوش مصنوعی مطرح شد؛ از جمله تلاش‌های جهانی برای تصویب سندهایی در حوزه هوش مصنوعی. همچنین چالش‌های این حوزه نیز بیان شد و متخصصان حاضر در نشست تاکید کردند که ایران باید اهمیتی ذاتی برای هوش مصنوعی قائل باشد.

نشست تخصصی «فرهنگ عمومی، اخلاق و هوش مصنوعی» با حضور احمد پاکتچی نماینده جمهوری اسلامی ایران در سازمان علمی فرهنگی یونسکو، محمدحسینی مقدم عضو هیئت علمی گروه مطالعات آینده‌نگر موسسه مطالعات فرهنگی و اجتماعی و سیدعلی حسینی دارای دکترای هوش مصنوعی از دانشگاه لندن؛ ۱۶ آبان برگزار شد.

پاکتچی به عنوان اولین سخنران، موضوع بحثش را درباره سند جهانی اخلاق در هوش مصنوعی آغاز کرد. وی گفت: مسئله اخلاق در هوش مصنوعی و اینکه به عنوان یک فناوری نوین، پدیده‌ای در حال توسعه است بسیاری از کشورهای جهان و خیلی از اندیشمندان را به این سمت سوق داده است که از الان، و قبل از اینکه برای بشریت فاجعه‌ای رخ بدهد، فکری در این باره کرده و تدبیری بیاندیشند.

“فناوری هوشمند” رسانه تخصصی انقلاب صنعتی چهارم

پاکتچی ادامه داد: به‌صورت خاص از سال ۲۰۱۹ تا الان که ۲۰۲۲ هست، موضوع داشتن یک سلسله ابزارهای کنترلی بر روی هوش مصنوعی مورد توجه دولت‌ها و سازمان‌های بین‌المللی قرار گرفته است. به طور طبیعی توجه به این مسئله بیشتر در کشورهای توسعه‌یافته اتفاق افتاده است. از سال ۲۰۱۹ دومینوی سریعی اتفاق افتاد که بسیار معنادار بود.

وی گفت: در ژانویه ۲۰۲۰ در آمریکا، یک سندی تحت عنوان «راهنمای تنظیمات کاربست‌های هوش مصنوعی» به تصویب می‌رسد. این راهنما که به دنبال نظم‌بخشی است بیشتر متمرکز بوده بر روی اینکه کاربرد هوش مصنوعی را در یک چارچوبی قرار بدهد. ما با سندی از جنس آیین‌نامه‌ها مواجه هستیم.

پاکتچی ادامه داد: در سال ۲۰۱۹ اتحادیه اروپا سند دیگری را تصویب کرده بود که تحت عنوان توصیه‌های سرمایه‌گذاری برای هوش مصنوعی قابل اعتماد بود. اما با اینحال نگرانی‌ای وجود دارد از اینکه با هوش مصنوعی لجام‌گسیخته رو به رو باشیم. این سند به دنبال این هست که برای حرکت به سمت هوش مصنوعی قابل اعتماد توصیه‌هایی داشته باشد.
وی اضافه کرد: در همان سال ۲۰۱۹ اتحادیه اروپا در ۸ آوریل یک سند دیگری را تنظیم می‌کند که درباره همان هوش مصنوعی قابل اعتماد است اما این بار از منظر اخلاقی. در این سند یک راهنما و خطوط راهنمای اخلاقی برای قابل اعتمادسازی هوش مصنوعی ارائه می‌شود. در اتحادیه اروپا، ۲ سال و چندماه پیش از تصویب سند یونسکو، موضوع اخلاق مورد توجه قانون‌گذاران و حتی مدیران و اندیشمندان قرار گرفته است.

بیشتر از فناوری در هنر:

پاکتچی بیان کرد: دو سند دیگر هم هست که می‌خواهم درباره‌شان صحبت کنم. سندهایی که با فاصله دو ماه و یک ماه از سند یونسکو به تصویب رسیده‌اند. در ۲۷ سپتامبر ۲۰۲۱ ما شاهد تصویب یک سند ملی در چین هستیم با عنوان «هنجارهای اخلاقی برای نسل جدید هوش مصنوعی»؛ سندی بسیار همسو با سند یونسکو که کاملا به عنوان یک سند ملی شناخته می‌شود و نشان می‌دهد که چقدر این موضوع برای کشوری مانند چین که پیشرفته است مهم به شمار می‌رود.

وی گفت: بعد از آمریکا، چین بیشترین اقتدار را در زمینه هوش مصنوعی برخوردار است. سال گذشته که در حال گفتگو در یونسکو بودیم؛ درست روزهایی که داشت سند را بررسی می‌کرد، با سفیر چین صحبت می‌کردیم. ایشان می‌گفتند که اخیرا سند را تصویب کرده‌ایم. دقیقا یک ماه بعد از تصویب سند اخلاق هوش مصنوعی در چین، ما در فدراسیون روسیه نیز شاهد اقدام مشابهی هستیم. در این کشور در سال ۲۰۲۱ سندی تحت عنوان «منشور اخلاقی هوش مصنوعی» تصویب می‌شود.

پاکتچی گفت: در نوامبر ۲۰۲۱ شاهد تصویب توصیه‌نامه‌ای در سازمان یونسکو هستیم تحت عنوان «توصیه‌نامه‌ای درباره اخلاق هوش مصنوعی» که به ۶ زبان مختلف نوشته می‌شود. این توصیه نامه در جلسه ۴۱ ام کنفرانس یونسکو به تصویب رسیده است. در ایران نیز تصویب توصیه‌نامه‌ها بازتاب‌هایی داشته است. یک سال و اندی فرآیند تهیه متن طول کشید و متخصصینی از کشورهای مختلف در این فرآیند حضور داشتند. ایران نیز در این ماجرا مشارکت داشت. کارشناسان ما نیز هم فنی و هم دیپلمات؛ چیزی حدود ۲۰۰ ملاحظه درباره این متن داشته است. نهایتا بخشی از خواسته‌ها گنجانده شد و بعضی از خواسته‌ها نیز گنجانده نشد.

” اقتصادالکترونیکی“ آخرین و به روزترین محتوی در اقتصاددیجیتال

وی بیان کرد: مسئله هوش مصنوعی مرز نمی‌شناسد و نمی‌توان دیوار کشید و حساب کشور خود را از سایر کشورهای جهان جدا کرد. ما باید هم سندی برای خودمان داشته باشیم و هم بتوانیم سیاست‌گذاری‌های مناسبی در ارتباط با سندهای جهانی داشته باشیم. هرگز نباید تصور کنیم که با پرونده‌ای بسته شده روبه‌رو هستیم.

پاکتچی به ۵ حوزه مورد مطالعه یونسکو اشاره کرد و گفت: آموزش، علوم دقیقه، علوم انسانی و اجتماعی، فرهنگ و اطلاعات و ارتباطات ۵ شاخه فعالیت‌های یونسکو هست که ارتباط مستقیمی با سندهایی که در حوزه هوش مصنوعی تصویب شده دارد. هوش مصنوعی به جهت‌های مختلفی با فرهنگ مرتبط است؛ اینطور که باید فرهنگ‌های مختلف را به رسمیت بشناسد. هوش مصنوعی باید طوری توسعه پیدا کند که به فرهنگ‌های مختلف صدمه نزند و اجازه بدهد هرکدام به کار خودشان ادامه دهند.

هراس از نفوذ نادرست هوش مصنوعی

حسینی مقدم دیگر سخنران این نشست بود. وی بیان کرد: بحث هوش مصنوعی دغدغه‌ای بوده که طی مطالعات تخصصی خودم در حوزه آینده‌پژوهی علم در ایران به آن رسیده‌ام. این موضوع مورد تاکید متخصصین چه دولتی و چه غیردولتی و سایر نهادهای مدنی قرار دارد. این تاکید از چند جهت صورت می‌گیرد. یکی از آن‌ها هراس از نفوذ هوش مصنوعی است. از طرف دیگر دلربایی و شیفتگی خاصی نیز به این تکنولوژی شکل گرفته است. صرف نظر از اینکه این رویکردها، یک اجماع نظر جهانی است و در دستور کار کنوانسیون‌های بین‌المللی قرار گرفته است.
وی افزود: شاید به همین علت است که انقلاب صنعتی چهارم، تداعی‌کننده دومینو وار حرکت‌های جامعه جهانی است که متاثر از این پیشرفت، تغییراتی را تجربه می‌کند. ما باید توجه داشته باشیم که اگر هوش مصنوعی به این سیاق توسعه پیدا کند چه تغییراتی در نهاد علم صورت می‌گیرد. همانطور که در نهاد علم با یک سری کنش‌گری‌ها مواجه هستیم همانگونه نیز به جهت انحصاری که به وجود می‌آید، نگرانی‌هایی نیز پدیدار می‌شوند.
حسینی مقدم بیان کرد: اندرو ان جی می‌گوید «همانگونه که الکتریسیته جهان را به‌طور ناگهانی و انقلابی تغییر نداد، هوش مصنوعی هم به تدریج جهان را متحول خواهد ساخت». مشخصا تصور دنیایی بدون الکتریسیته، ناممکن است و به نظر می‌رسد همین رویه را در مقابل هوش مصنوعی نیز داشته باشیم. این تغییرات ما را به سمت نظم نوین جهانی می‌برد.
وی افزود: وقتی نظم نوین شکل می‌گیرد، سیاست، اقتصاد، فرهنگ، هنر و علم و علم‌ورزی نیز دستخوش تغییر می‌شود. هوش مصنوعی حتی این قابلیت را دارد که ورزش را نیز متحول کند. مفهوم نظم نوین جهانی یک مفهوم مهم است. از سیاست تا اقتصاد و تکنولوژی؛ همه دستخوش تغییر هستند. می‌شود اینگونه گفت که ما در مسیر تحولی هستیم که از پیش محقق شده است.
حسینی مقدم گفت: ۷۷ درصد مردم جهان از قابلیت‌های هوش مصنوعی استفاده می‌کنند و تنها ۳۳ درصد از مردم از بکارگیری سامانه‌های AI آگاهی دارند. همچنین استفاده از هوش مصنوعی در محل کار، از ۱۰ درصد در سال ۲۰۱۵ به ۳۷درصد در سال ۲۰۲۱ رسیده است. یکی دیگر از موضوعاتی که به عنوان نقطه عطف تاثیرگذاری AI مطرح می‌شود، کروناست؛ که به شکل‌های مختلف فهمیدیم که پلتفرم ساختن چقدر ضروری است.
وی بیان کرد: هوش مصنوعی یکی از سریع‌ترین فناوری‌های در حال رشد در جهان است. به طوریکه تا سال ۲۰۲۷ به حجم بازاری بالغ بر 270 میلیارد دلار خواهد رسید. و تا سال ۲۰۳۰ سهم AI در اقتصاد جهان به حدود ۱۶ تریلیون دلار خواهد رسید. هوش مصنوعی به شکل‌های متفاوتی مورد استفاده قرار می‌گیرد. بعد از کسب و کار، امنیت بیشترین درصد را به خودش اختصاص داده است.
حسینی مقدم گفت: ما چه باید بکنیم که تصویری از آینده جذاب بسازیم که قابلیت دارد برای دانشگاه و کسب و کار قابل درک باشد. نمی‌شود تنها با نوشتن یک سندملی دردها را دوا کرد. مانند همان سندهایی که برای نانو، بایو و آی‌تی نوشته‌ایم. باید تلاش بشود که تصویر درستی ارائه بدهیم. ما باید بلوغ دیجیتال را طی کنیم. از طرفی همکاری‌های بین‌المللی نیز اجتناب‌ناپذیر است. ما باید نخبگان را جذب کنیم و نگذاریم مهاجرت کنند.

هوش مصنوعی یک مسئله میان‌رشته‌ای است

سیدعلی حسینی آخرین سخنران این نشست بود. وی بیان کرد: بیش از ۱۲ سال است که در این حوزه فعالیت می‌کنم و بیش از ۴ سال است به عنوان متخصص هوش مصنوعی فعالیت می‌کنم. امروزه هوش مصنوعی نمودهای فراوانی دارد از جمله در منزل‌های هوشمند، حمل و نقل و کارخانه‌ها و همچنین انرژی. یکی از چیزهایی که برای من قابل اهمیت بود این بود که این حوزه حوزه‌ای است که تاثیر زیادی از رشته‌های مختلف می‌گیرد؛ از جمله فلسفه و زبان‌شناسی و جامعه‌شناسی و بحث‌های اقتصادی که یکی از پررنگ‌ترین زیرشاخه‌های AI است.

وی افزود: خیلی از مفاهیم و مشکلاتی که روی آن تمرکز کردیم ابتدا از اقتصاد آمده است. این یکی از چیزهای جالب برای من بود. به هم رسیدن رشته‌های مختلف در یک جا به میان‌رشته‌ای بودن هوش مصنوعی کمک کرده است. باید نگاهی داشته باشیم به مسائلی که در حوزه اخلاق و هوش مصنوعی مطرح است. مسئله رعایت انصاف در آموزش الگوریتم‌ها نیز موضوع مهمی است.

حسینی گفت: مطلب بعدی کاربرد هوش مصنوعی در امور نظامی است. مثل ماشین‌هایی که به‌صورت مستقل و خودکار عمل می‌کنند. باید توجه داشته باشیم که AI تا چه حد باید نقش داشته باشد. آیا باید اجازه داشته باشند فعالیت‌هایی بکنند که منجر به مرگ می‌شود؟ یا اینکه نه باید در حد توصیه باشد؟ آیا در آخر کار به جایی می‌رسیم که باید انسان را ناظر بر فعالیت این ابزار و ماشین‌ها بدانیم؟

حسینی به مسئولیت‌پذیری در هوش مصنوعی اشاره کرد و گفت: مثلا اگر یک ماشین خودران به کسی صدمه زد چه کسی را باید مسئول آن بدانیم؟ شرکت‌های بیمه چگونه باید وارد شوند و همکاری میان بیمه و سازندگان به چه شکل باید باشد؟ همچنین درباره جایگزین شدن ربات‌ها به جای انسان‌ها نیز موارد متعددی وجود دارد. اکثر کسانی که شغلشان را از دست می‌دهند شغل‌های سطح پایین مانند کارگری و باغبانی و … هستند. این‌ها اولین هدف شرکت‌ها برای جایگزین کردن با ربات‌ها هستند.

وی افزود: رشد تصاعدی بهره‌گیری از ربات‌ها به جای انسان، باعث می‌شود لرزه‌ای در اجتماع پدید آید. یعنی مواجه می‌شویم با افراد زیادی که بیکار شده‌اند. حال چطور باید خود را با این شرایط وفق بدهیم؟ برای مثال شاید یکی از راهکارها این باشد که به نوعی از افراد بیکار شده حمایت‌های مالی صورت بگیرد.

حسینی بیان کرد: مسئله دیگری نیز وجود دارد تحت عنوان عدالت اجتماعی. سیستم‌های تصویر پرداز در خیلی از موارد دچار تبعیض نژادی و جنسیتی شدند. برای نمونه می‌شود به سیستم‌هایی اشاره کرد که ارزش‌یابی استخدامی انجام می‌دادند و همین باعث بیکار شدن افرادی در منابع انسانی شده بود. شرکت‌ها ممکن است هر کدام روش خاص خودشان را در مواجهه با AI داشته باشند.

وی افزود: ما باید ببینیم در ایران چه مسائلی برایمان مهم است و ربطش به AI را متوجه شویم و متوجه شویم که هوش مصنوعی چه کارهایی می‌تواند برایمان انجام دهد؟ در عمل چیزی که می‌بینیم این است که اهمیتی ذاتی برای این موضوع قائل نیستیم.