نیازمند هوش مصنوعی ایمن و اخلاقی برای سلامتی انسان هستیم

سازمان بهداشت جهانی (WHO) خواستار احتیاط در استفاده از ابزارهای مدل زبانی بزرگ (LLM) تولید شده توسط هوش مصنوعی (AI) برای محافظت و ارتقای رفاه، ایمنی و استقلال انسان و حفظ سلامتی عمومی است. مدل‌‌‌های زبانی بزرگ سال ۲۰۱۸ ظاهر شدند و در گستره وسیعی از وظایف، عملکرد بالایی دارند.

مدل‌های زبانی بزرگ شامل برخی از پلتفرم‌های به سرعت در حال گسترش مانند ChatGPT، Bard، Bert  و بسیاری دیگر هستند که درک، پردازش و تولید ارتباطات انسانی را تقلید می‌کنند. انتشار عمومی سریع و استفاده آزمایشی رو به رشد آنها برای مقاصد مرتبط با سلامتی انسان‌ها، هیجان قابل‌توجهی را در مورد پتانسیل این ابزارها در حمایت از نیازهای بهداشتی مردم ایجاد می‌کند. به زبان ساده، LLM  یک پایگاه داده عظیم از داده‌های متنی است که می‌تواند برای ایجاد پاسخ‌های انسان‌مانند به درخواست‌های شما ارجاع داده شود.

به گفته سازمان بهداشت جهانی ضروری است که هنگام استفاده از فناوری هوش مصنوعی در جهت بهبود دسترسی به اطلاعات بهداشتی، به عنوان یک ابزار پشتیبانی تصمیم‌گیری، یا حتی برای افزایش ظرفیت تشخیصی در محیط‌‌‌های کم‌منابع برای محافظت از سلامت مردم و کاهش نابرابری، خطرات بالقوه آن نیز به دقت بررسی شوند. در حالی که WHO مشتاق استفاده مناسب از فناوری‌‌‌ها، از جمله مدل‌‌‌های زبانی بزرگ، برای حمایت از متخصصان مراقبت‌‌‌های بهداشتی، بیماران، محققان و دانشمندان است، اما این نگرانی وجود دارد که احتیاط‌‌‌هایی که معمولا برای هر فناوری جدید اعمال می‌شود، به طور مداوم در مورد LLM  اعمال نشود. این تمهیدات شامل پایبندی گسترده به ارزش‌های کلیدی، شفافیت، مشارکت عمومی، نظارت متخصصان و ارزیابی دقیق است.

“فناوری هوشمندFanahoosh” آخرین به روزترین محتوی فناوری در سلامت و پزشکی

پذیرش سریع سیستم‌های آزمایش‌‌‌نشده می‌تواند منجر به اشتباهات کارکنان و فعالان بخش مراقبت‌‌‌های بهداشتی، آسیب رساندن به بیماران، کاهش اعتماد به هوش مصنوعی و در نتیجه تضعیف یا تاخیر در مزایای بالقوه بلندمدت استفاده از چنین فناوری‌‌‌هایی در سراسر جهان شود. نگرانی‌هایی که مستلزم نظارت دقیق موردنیاز برای استفاده از فناوری‌ها به روش‌های ایمن، موثر و اخلاقی هستند به شرح زیر هستند:

• داده‌‌‌های مورد استفاده برای آموزش هوش مصنوعی ممکن است مغرضانه باشند و اطلاعات گمراه‌‌‌کننده یا نادرستی ایجاد کنند که می‌تواند خطراتی برای سلامتی، برابری و فراگیر بودن ایجاد کند.

• مدل‌‌‌های زبانی بزرگ پاسخ‌هایی را تولید می‌کنند که می‌توانند برای کاربر نهایی معتبر و قابل قبول به نظر برسند. با این حال، این پاسخ‌ها ممکن است کاملا نادرست باشند یا حاوی خطاهای جدی باشند، به‌ویژه برای پاسخ‌های مرتبط با سلامت انسان‌ها که می‌تواند تاثیرات جبران‌ناپذیری را ایجاد کند.

• ممکن است هوش مصنوعی در مورد داده‌‌‌هایی آموزش ببیند که قبلا برای چنین استفاده‌‌‌هایی رضایتمند نبوده است و ‌LLMها ممکن است از داده‌‌‌های حساس پزشکی از جمله داده‌‌‌های مربوط به سلامت افراد که کاربر برای ایجاد پاسخ در اختیار یک برنامه کاربردی قرار می‌دهد، محافظت نکنند و آنها را در اختیار عموم قرار دهند.

• از هوش مصنوعی می‌توان برای تولید و انتشار اطلاعات نادرست اما بسیار قانع‌کننده در قالب محتوای متنی، صوتی یا ویدئویی استفاده نادرست کرد که تشخیص آن برای عموم از محتوای سالم و صحیح قابل اعتماد دشوار است.

• در حالی که سازمان بهداشت جهانی متعهد به استفاده از فناوری‌‌‌های جدید، از جمله هوش مصنوعی و سلامت دیجیتال برای بهبود سلامت انسان است، توصیه می‌کند که سیاستگذاران این حوزه از ایمنی و محافظت از اطلاعات بیمار اطمینان حاصل کنند، این در حالی است که شرکت‌های فناوری برای تجاری‌‌‌سازی ‌LLM‌ها تلاش می‌کنند.

سازمان بهداشت جهانی پیشنهاد می‌کند که هرچه سریع‌تر به این نگرانی‌ها رسیدگی شود و شواهد واضحی از منافع قبل از استفاده گسترده از آنها در مراقبت‌‌‌های بهداشتی و پزشکی معمول، چه توسط افراد، چه ارائه‌‌‌دهندگان مراقبت‌‌‌های سلامتی یا مدیران سیستم سلامت و سیاستگذاران این بخش، ارائه شود. همچنین WHO بر اهمیت به کارگیری اصول اخلاقی و نظارت مناسب، همان‌طور که در خط‌مشی WHO در مورد اخلاق و نظارت بر هوش مصنوعی برای سلامت، در هنگام طراحی، توسعه و استقرار این فناوری برای سلامت برشمرده شده است، تاکید می‌کند.

شش اصل اساسی شناسایی‌شده توسط سازمان بهداشت جهانی عبارتند از حفاظت از خودمختاری؛  ارتقای رفاه انسان، ایمنی انسان و منافع عمومی؛ شفافیت، توضیح‌پذیری و  تضمین قابل فهم بودن، تقویت مسوولیت‌پذیری و اطمینان از فراگیری و برابری این فناوری و ارتقای یک هوش مصنوعی پاسخگو و پایدار. از طرف دیگر وقتی صحبت از نجات جان انسان‌ها می‌شود، بسیاری از سازمان‌ها و مراکز مراقبت‌های پزشکی به هوش مصنوعی اعتماد می‌کنند. مثال‌های بسیاری وجود دارد که نشان می‌دهد هوش مصنوعی در مراقبت‌های بهداشتی به بیماران در سراسر جهان کمک کرده است.

به عنوان مثال سازمانی به نام Cambio Health Care یک سیستم پشتیبانی از تصمیم‌گیری بالینی برای پیشگیری از سکته مغزی ایجاد کرده است که می‌تواند در صورتی که تشخیص دهد بیمار در معرض خطر سکته قلبی قرار دارد، به او اخطار دهد. مثال دیگر آن، کوالا لایف، شرکت تولیدکننده نوعی دستگاه‌های دیجیتال است که این قابلیت را دارد که بیماری‌های قلبی را رصد کند. به طور مشابه، شرکت Aifloo در حال توسعه سیستمی برای پیگیری نحوه کار مردم در خانه‌های سالمندان، مراقبت در منزل و چنین مواردی است. بهترین نکته در خصوص هوش مصنوعی در حوزه مراقبت‌های بهداشتی این است که شما حتی نیازی به تهیه داروی جدید ندارید. فقط با استفاده از داروی موجود به روش صحیح، می‌توانید جان انسان‌ها را نجات دهید.

منبع: دنیای اقتصاد

   ” اقتصادالکترونیکی” آخرین و به روزترین محتوی در اقتصاددیجیتال