جمنای؛ خطرناک برای کودکان

دنیای اقتصاد یکشنبه 16 شهریور 1404 - 00:07
دنیای اقتصاد: در ارزیابی جدید موسسه‌ Common Sense Media محصولات مبتنی بر هوش مصنوعی گوگل جمنای برای کودکان زیر ۱۳ سال و نوجوانان به‌عنوان «خطر بالا» ارزیابی شده‌اند.

 الگوریتم‌های تجربه کودکان (Under۱۳) و تجربه نوجوانان (Teen Experience) در حقیقت همان نسخه‌ بزرگسالانه جمینای هستند که تنها با چند ویژگی حفاظتی افزوده شده‌اند.

Common Sense Media هشدار می‌دهد که این نسخه‌ها همچنان ممکن است مطالب «نامناسب یا ناایمن» مانند محتوا درباره‌ی جنسیت، مواد مخدر، الکل یا مشاوره‌های خطرناک سلامت روانی را در اختیار جوانان قرار دهند. آنها می‌گویند برای ایمن بودن واقعی، یک محصول هوش مصنوعی باید از پایه برای کودکان طراحی شود نه اینکه نسخه بزرگسالانه با تعدادی فیلتر ساده باشد.

به گزارش تک‌کرانچ، در سمت دیگر گوگل مدعی است که لایه‌هایی از سیاست‌ها و محافظت‌ها را برای کاربران زیر ۱۸ سال در نظر گرفته است. آنها می‌گویند مدل را بازبینی کرده، با متخصصان بیرونی مشورت کرده‌اند و کنترل‌هایی برای جلوگیری از ایجاد رابطه‌ شبه‌دوستانه توسط هوش مصنوعی در نظر گرفته‌اند. همچنین اشاره کرده‌اند که Common Sense ممکن است از ویژگی‌هایی که برای کاربران زیر ۱۸ در دسترس نیست استفاده کرده باشد و به‌ علاوه از آنها خواستند تا پرسش‌های استفاده‌ شده در تست را ارائه دهند تا در نهایت اطمینان حاصل شود.

منبع خبر "دنیای اقتصاد" است و موتور جستجوگر خبر تیترآنلاین در قبال محتوای آن هیچ مسئولیتی ندارد. (ادامه)
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت تیترآنلاین مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویری است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هرگونه محتوای خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.