تهدید Adversarial Octopus برای سیستم‌‌های مبتنی بر هوش مصنوعی

حمله سایبری Adversarial Octopus می‌تواند سیستم‌های تشخیص چهره مبتنی بر هوش مصنوعی را دور بزند.

حمله سایبری جدید به سیستم‌های تشخیص چهره مبتنی بر هوش مصنوعی
حمله سایبری Adversarial Octopus می‌تواند سیستم‌های تشخیص چهره مبتنی بر هوش مصنوعی را دور بزند.

به گزارش افتانا (پایگاه خبری امنیت فناوری اطلاعات)، محققان شرکت ادورسا Adversa نوعی حمله سایبری به نام Adversarial Octopus ایجاد کرده‌اند که می‌تواند حمله‌ای هدفمند به سیستم‌های تشخیص چهره انجام دهد. این ابزار بر روی چندین ابزار شناسایی چهره مبتنی بر هوش مصنوعی تأثیرگذار بوده و می‌تواند آن‌ها را در معرض حملات شدید قرار دهد.

دانلود و مشاهده عناوین ماهنامه ” اقتصاد دیجیتال” شماره ۹، خرداد ماه ۱۴۰۰

محققان این حمله جدید را به صورتی بر روی سیستم‌های تشخیص چهره مبتنی بر هوش مصنوعی ایجاد کردند که می‌تواند عکس‌ها را به‌گونه‌ای تغییر دهد که یک سیستم هوش مصنوعی فرد دیگری یا هر فرد موردنظر را تشخیص دهد.

ویژگی اصلی این حمله این است که می‌تواند سیستم‌های مختلف هوش مصنوعی مانند دستگاه‌های فیزیکی و API‌های آنلاین را هدف قرار دهد و خود را با محیط هدف حمله سازگار کند.

این نوع حمله ممکن است از طریق گول زدن الگوریتم‌های دید رایانه یا ایجاد دیپ فیک های تدریجی (تغییر یک تصویر و جایگزین کردن تصویری دیگر به‌جای آن) منجر به عواقب جدی شود.

همچنین این حمله می‌تواند سرویس‌ها، برنامه‌ها و API های شناسایی چهره را دور بزند. علاوه بر این می‌تواند پیشرفته‌ترین موتور جستجوی آنلاین شناسایی چهره معروف به PimEyes را هم تأثیر قرار دهد.

جهت دانلود و مشاهده عناوین ماهنامه ” اقتصاد دیجیتال” اینجا کلیک نمایید.

حمله به موتور جستجوی PimEyes با استفاده از تکنیک‌های زیر انجام شده است:
– برای قابلیت انتقال بهتر، این حمله در مدل‌های تشخیص چهره مختلفی همراه با تیرگی‌ها و صداهای تصادفی ایجاد شده است.

– برای دقت بهتر، این سیستم تغییرات خصمانه در هر لایه از یک شبکه عصبی را محاسبه می‌کند و از یک چهارچوب تشخیص چهره تصادفی استفاده می‌کند.

– برای دیده نشدن بهتر، این سیستم برای تغییرات جزئی در هر پیکسل بهینه‌شده است و از عملکردهای ویژه‌ای برای صاف کردن صداهای مزاحم استفاده می‌کند.

درنتیجه این حمله نشان می‌دهد که جبهه امنیتی سیستم‌های هوش مصنوعی نیاز به توجه بیشتری دارد و چنین روش‌های جدید حمله، به افزایش آگاهی کمک می‌کند. این امر به شرکت‌ها کمک خواهد کرد تا با مشکلاتی که در سیستم‌های یادگیری ماشینی وجود دارد، کنار بیایند.

علاوه بر این، محققان در حال همکاری با شرکت‌ها هستند تا از برنامه‌های مبتنی بر هوش مصنوعی آن‌ها در برابر این حمله حفاظت کنند.

منبع: سایبربان

بیشتر از امنیت اطلاعات در اقتصادالکترونیکی:
محققان امنیتی سیستم تایید هویت «ویندوز هلو» را فریب دادند
کریپتوجکینگ (رمزارزربایی) چیست؟ + راه‌های تشخیص و جلوگیری
انجام حملات باج افزاری بر مبنای سوابق خلافکاری قربانیان
کریپتوجکینگ (رمزارزربایی) چیست؟
دیدار مقامات آمریکا و روسیه در خصوص حملات باج افزاری
چگونه یک کلاهبرداری ایردراپ را تشخیص دهیم و از آن دوری کنیم؟