براساس گزارش رسمی گروه تحلیل تهدیدات گوگل (GTIG)، این شرکت برای نخستینبار موفق به شناسایی یک اکسپلویت روز صفر شده که فرایند توسعه و ساخت آن توسط هوش مصنوعی انجام شده است. آسیبپذیریهای روز صفر به دلیل ناشناختهبودن برای توسعهدهندگان نرمافزار، هیچ فرصتی را برای دفاع پیشگیرانه باقی نمیگذارند و از خطرناکترین حفرههای امنیتی محسوب میشوند.
یافتههای گوگل حاکی از آن است که مهاجمان قصد داشتند از این اکسپلویت برای هک تعداد انبوهی از کاربران استفاده کنند، اما شناسایی بهموقع و پیشگیرانه توسط تیمهای امنیتی گوگل مانع از وقوع این فاجعه شد.
اگرچه گوگل با اطمینان اعلام کرده است که مدلهای اختصاصی خودش مانند جمینای در این حمله نقشی نداشتهاند، اما تحلیلگران این شرکت با ضریب اطمینان بالا معتقدند که یک مدل پیشرفته هوش مصنوعی در شناسایی نقاط ضعف سیستم و تبدیل آن به یک سلاح سایبری کاربردی دخالت داشته است. در پی این ماجرا، گوگل شرکت هدف را که نامش اعلامنشده مطلع کرد و آنها بلافاصله اقدام به عرضه وصله امنیتی برای رفع مشکل کردند. با وجود اینکه هویت دقیق هکرها اعلام نشده، اما گوگل به گروههای مرتبط با کشورهای چین و کره شمالی اشاره کرده است که پیشتر تمایل زیادی برای بهکارگیری هوش مصنوعی در حملات سایبری نشان داده بودند.
سرعت خیرهکننده تکامل مدلهای هوش مصنوعی باعث شده است که استفاده ابزاری از آنها در فعالیتهای مخرب دور از انتظار نباشد. «جان هالتکویست» (John Hultquist)، تحلیلگر ارشد گروه تهدیدات گوگل، در گفتگو با رسانهها این رویداد را فقط نوک کوه یخ و پیشدرآمدی بر حملات پیچیدهتر آینده توصیف کرده و معتقد است این مورد اولین سند ملموس از تغییر ماهیت تهدیدات دیجیتال است.
بااینحال، گزارش گوگل تأکید میکند که هوش مصنوعی بهرغم خطراتش، میتواند به عنوان یک ابزار دفاعی قدرتمند نیز عمل کند. درحالحاضر شرکتهای بزرگ فناوری درحال تجهیز سنگرهای دفاعی خود با هوش مصنوعی هستند؛ برای مثال شرکت آنتروپیک نیز اخیراً پروژه گلسوینگ را کلید زده است تا با استفاده از مدل Claude Mythos Preview، آسیبپذیریها را پیش از سوءاستفاده هکرها شناسایی و مسدود کند.
همچنین بهتازگی OpenAI از رقیب گلسوینگ با نام Daybreak رونمایی کرد که برای تقویت امنیت نرمافزارها کاربرد دارد.
