به گزارش خبرآنلاین، هوش مصنوعی ادوبی فایرفلای سربازان دوران آلمان نازی را سیاه‌پوست به تصویر کشید و از پرچمی برای آلمان استفاده کرد که در زمان حکومت هیتلر از آن استفاده نمی‌شد.

به نقل از روزیاتو، فایرفلای در تصویری دیگر زنان و مردان سیاه‌پوست را در نقش‌ «پدران بنیان‌گذار ایالات متحده» نشان داد.

جستجو برای تصویری از کنوانسیون قانون اساسی ۱۷۸۷ نیز نتایج مشابهی داشت و تصاویری از مردان سیاه پوست و زنان سفیدپوست را مقابل کاخ تاریخی ایالتی در فیلادلفیا به تصویر کشید.

با آنکه در دستورالعمل‌هایی که به این ابزارهای هوش مصنوعی داده شده رنگ پوست مشخص نشده اما تصاویر تولید شده از نظر تاریخی نادرست هستند.

پیش از این گوگل جمنای ‌هم با تولید تصاویر نادرست دچار مشکل شده بود و هنگامی که از آن خواسته شد تصویری از وایکینگ‌ها ارائه بدهد، نورس‌ها را سیاه‌پوست نشان داد.

درخواست برای «پاپ در حال ایراد خطابه» نیز نتیجه عجیبی به بار آورد و این هوش مصنوعی یک زن سیاه‌پوست با ردای سفید و تاج اسقفی ارائه داد. این در حالی است که تمام ۲۶۶ پاپ در طول تاریخ مردان سفیدپوست بوده‌اند.

ظاهراً این ابزار ایجاد تصویر حتی اگر به صراحت رنگ پوست سوژه مشخص شده باشد، نسبت به آن بی‌توجهی می‌کند. به عنوان مثال هنگامی که از آن خواسته شد تا یک نسخه کتاب کمیک از یک مرد سفیدپوست سالخورده بسازد، تصاویری از یک مرد و زن سیاه‌پوست ارائه داد.

برخی بر این باورند که این اشتباهات نتیجه ناخواسته تلاش‌های طراحان نرم‌افزار برای اطمینان از دوری‌جستن این ربات از هرگونه کلیشه نژادپرستانه است.

آلفابت، شرکت مادر گوگل از زمان بروز این اشتباهات تاکنون زیر ذره‌بین قرار گرفته است. این شرکت بیش از ۷۰ میلیارد دلار از ارزش بازار خود را درنتیجه عواقب این اتفاق از دست داد.

ساندار پیچای، مدیرعامل گوگل، در ایمیلی به کارمندانش این اتفاق را «کاملاً غیرقابل قبول» دانست و ادعا کرد که در حال بررسی و رفع نواقص در مقیاس بزرگ هستند.

برخلاف آلفابت، ادوبی پس از عرضه ابزار هوش مصنوعی خود در ژوئن گذشته هنوز با انتقادات گسترده مواجه نشده است.

مدیران ادوبی در بیانیه‌ای در واکنش به انتشار این تصاویر گفتند که فایرفلای برای تولید تصاویر واقعی از رویدادهای واقعی یا تاریخی نیست و ادعا کردند که آنها این مدل هوش مصنوعی را طوری آموزش داده‌اند که موجب تداوم بخشیدن به کلیشه‌های آسیب‌زا نشود.

این اشتباهات نشان‌دهنده برخی از چالش‌هایی است که فناوری با افزایش رواج هوش مصنوعی با آن مواجه است.

۵۸۵۸