کرم هوش مصنوعی جدید، جاسوس پنهانی در ایمیل شما

پژوهشگران یک کرم هوش مصنوعی ساخته‌اند که می‌تواند بدون نیاز به کلیک شما، به ایمیل‌هایتان نفوذ کرده و به اطلاعات دسترسی پیدا کند.

این کرم با فریب مدل‌های هوش مصنوعی مانند چت‌گپت و جمینی ، بدافزار را گسترش داده و به طور بالقوه باعث سرقت اطلاعات می‌شود.

تیمی از محققان آمریکایی و اسرائیلی این کرم را به طور عمدی به عنوان یک زنگ خطر ساخته‌اند تا از ظهور چنین کرم‌هایی در مدل‌های هوش مصنوعی مولد (Generative AI) جلوگیری شود.

کرم رایانه‌ای می‌تواند خود را تکثیر کند و با آلوده کردن سایر دستگاه‌ها گسترش یابد. برخلاف کرم‌های دیگر، این کرم برای دریافت بدافزار نیازی به کلیک یا باز کردن ایمیل ندارد، بلکه به محض دریافت ایمیل آلوده، این کار به طور خودکار انجام می‌شود.

آن‌ها این کرم را موریس دو نامیدند که برگرفته از نام اولین کرم رایانه‌ای توسعه یافته در سال ۱۹۸۸ است.

محتوی مرتبط:
معرفی PaLM2: نسل بعدی مدل‌ زبانی گوگل

چطور این کرم هوش مصنوعی کار می‌کند؟

محققان یک سیستم ایمیل ایجاد کردند که می‌توانست با استفاده از هوش مصنوعی مولد(Generative AI) به پیام‌ها پاسخ دهد و سپس به مدل‌های چت‌گپت، جمینی و LLaVA متصل شود.

موریس دو علیه دستیارهای ایمیل مبتنی بر هوش مصنوعی مولد به کار گرفته شد و می‌توانست اطلاعات شخصی را سرقت کند و کمپین‌های اسپم را راه‌اندازی کند.

محققان نوشتند: «این مطالعه نشان می‌دهد که مهاجمان می‌توانند چنین پیام‌هایی را در ورودی‌هایی وارد کنند که هنگام پردازش توسط مدل‌های هوش مصنوعی مولد، مدل را وادار به تکرار ورودی به عنوان خروجی (تکثیر) و انجام فعالیت‌های مخرب (بسته مخرب) می‌کند.»

این پیام که می‌تواند هر سوالی یا دستوری باشد که از مدل هوش مصنوعی پرسیده می‌شود، مدل هوش مصنوعی را مجبور می‌کند با پیام دیگری پاسخ دهد. این پیام دیگر می‌تواند دستیار هوش مصنوعی را آلوده کند تا سپس اطلاعات حساس را بیرون بکشد.

کرم چطور گسترش پیدا می‌کند و چرا نگران‌کننده است؟

این کرم می‌تواند با “سوءاستفاده از اتصال درون اکوسیستم هوش مصنوعی مولد” به دیگر مخاطبین در شبکه آنلاین شما فرستاده شود.

محققان هشدار می‌دهند که در حالی که هنوز هیچ کرم هوش مصنوعی مشاهده نشده است، اما ظهور آن‌ها فقط مسأله زمان است.

بن ناسی، محقق دانشگاه کرنل و طراح این کرم رایانه‌ای، در مصاحبه‌ای با نشریه Wired گفت: «اساسا به این معنی است که اکنون شما توانایی انجام یک نوع جدید از حمله سایبری را دارید که قبلا دیده نشده است.»

این مطالعه با توجه به نفوذ دستیارهای هوش مصنوعی به دستگاه‌های هوشمند و حتی خودروها و توانایی آن‌ها در ارسال ایمیل یا رزرو قرار ملاقات به نیابت از کاربر، نگران‌کننده است.

در مقاله دیگری که ماه گذشته منتشر شد، محققان از سنگاپور و چین نشان دادند که می‌توانند به راحتی دسترسی روت (دسترسی کامل) به سیستم عامل یک مدل زبان بزرگ (LLM) پیدا کنند.

منبع: یورونیوز