گوگل یک برنامه جدید اهدای پاداش بابت شناسایی باگ‌ها در محصولات هوش مصنوعی خود راه‌اندازی کرده است.
به گزارش ورج، در فهرست انواع باگ‌هایی که گوگل برای این برنامه در نظر گرفته، نمونه‌هایی از اقدامات غیرمجاز یا خطرناک احتمالی هوش مصنوعی دیده می‌شود، از جمله تزریق غیرمستقیم پرامپت که باعث شود Google Home در خانه را باز کند یا تزریق پرامپت برای استخراج داده‌ها که تمام ایمیل‌های فرد را خلاصه کرده و آن خلاصه را به حساب کاربری مهاجم ارسال می‌کند.
برنامه جدید گوگل می‌گوید چیزی به‌عنوان باگ هوش مصنوعی تعریف می‌شود که در آن از یک مدل زبانی بزرگ یا سیستم هوش مصنوعی مولد برای ایجاد آسیب یا سوءاستفاده از یک حفره امنیتی بهره گرفته شده باشد.
این موارد شامل اقداماتی مانند تغییر داده‌ها یا حساب کاربری یک فرد برای تضعیف امنیت او یا انجام کارهای ناخواسته است. برای مثال، یکی از آسیب‌پذیری‌های کشف‌شده می‌توانست با استفاده از رویدادی آلوده در Google Calendar، پرده‌های هوشمند را باز و چراغ‌ها را خاموش کند.
گوگل اعلام کرده که از زمان آغاز رسمی دعوت از محققان برای شناسایی مسیرهای احتمالی سوءاستفاده از قابلیت‌های هوش مصنوعی در محصولاتش، این افراد تاکنون بیش از ۴۳۰ هزار دلار پاداش دریافت کرده‌اند.
در این برنامه، برای شناسایی اقدامات مخرب در محصولات اصلی گوگل، شامل جستجو، اپلیکیشن‌های جمینای و برنامه‌های کلیدی مجموعه Workspace مانند جیمیل و Drive جایزه حداکثر ۲۰ هزار دلاری در نظر گرفته شده است.
همچنین گوگل برای گزارش‌های باکیفیت‌تر و کشفیات جدید ضریب پاداش در نظر گرفته است، یعنی مبلغ کل پاداش می‌تواند تا ۳۰ هزار دلار افزایش یابد.
در مقابل، مبلغ پاداش برای گزارش باگ‌های کشف‌شده در محصولات دیگر گوگل مانند Jules یا NotebookLM و موارد سوءاستفاده در سطوح پایین‌تر مانند سرقت پارامترهای محرمانه مدل‌های هوش مصنوعی کمتر است.
