پروژه جدید هواوی: مدلی از دیپ‌سیک که از پاسخگویی به همه سؤالات حساس طفره می‌رود

دیجیاتو دوشنبه 31 شهریور 1404 - 08:33
مدل DeepSeek-R1-Safe توانایی تقریباً صددرصدی در جلوگیری از بحث‌های حساس سیاسی دارد. The post پروژه جدید هواوی: مدلی از دیپ‌سیک که از پاسخگویی به همه سؤالات حساس طفره می‌رود appeared first on دیجیاتو.

شرکت هواوی در چین، نسخه‌ای ارتقایافته از مدل هوش مصنوعی دیپ‌سیک را معرفی کرده که با هدف افزایش ایمنی محتوا طراحی شده و به گفته این شرکت، قادر است تقریباً به‌طور کامل از بحث درباره موضوعات حساس سیاسی خودداری کند.

به گزارش رویترز، قوانین سختگیرانه چین ایجاب می‌کند که تمامی مدل‌های هوش مصنوعی داخلی و نرم‌افزارهای وابسته به آنها، پیش از انتشار عمومی، بازتاب‌دهنده ارزش‌های این کشور باشند و نظارت دقیقی بر محتوای تولیدشده اعمال شود.

همکاری هواوی در ارتقای قابلیت‌های سانسور مدل دیپ‌سیک

هواوی در حساب رسمی خود در وی‌چت اعلام کرده که این مدل زبانی بزرگ با بهره‌گیری از هزار چیپ Ascend AI آموزش دیده است. نسخه پایه این مدل دیپ‌سیک-R1 متن‌باز بوده و اصلاحاتی برای افزایش ایمنی محتوا روی آن اعمال شده است. دانشگاه معتبر ژجیانگ، محل تحصیل بنیان‌گذار دیپ‌سیک، «لیانگ ون‌فنگ»، شریک هواوی در این پروژه بوده، اما خود دیپ‌سیک و لیانگ نقشی مستقیم در توسعه آن نداشته‌اند و دیپ‌سیک تاکنون به درخواست‌ها برای اظهارنظر درباره این پروژه پاسخی نداده است.

همکاری هواوی در ارتقای قابلیت‌های سانسور مدل دیپ‌سیک

هواوی نسخه‌ای ارتقایافته از این مدل را با نام DeepSeek-R1-Safe عرضه کرده است که تمرکز اصلی آن بر حفاظت از کاربران در برابر محتواهای مضر است. نتایج آزمایش‌ها نشان می‌دهد این مدل در شناسایی و جلوگیری از «سخنان آسیب‌زا، محتوای حساس سیاسی و تشویق به رفتارهای غیرقانونی» تقریباً صددرصد موفق عمل می‌کند. بااین‌حال، وقتی این رفتارها در قالب سناریوهای شبیه‌سازی‌شده، نقش‌آفرینی یا کدهای رمزگذاری‌شده مخفی شوند، کارایی مدل به 40 درصد کاهش می‌یابد.

هواوی اعلام کرده است که قابلیت‌های جامع دفاعی مدل DeepSeek-R1-Safe به 83 درصد رسیده است و در مقایسه با مدل‌های مشابه مانند Qwen-235B و DeepSeek-R1-671B، بین 8 تا 15 درصد عملکرد بهتری دارد. همچنین، کاهش کارایی این نسخه نسبت به مدل اصلی کمتر از 1 درصد گزارش شده است.

چت‌بات‌های هوش مصنوعی چینی مانند Ernie Bot از شرکت بایدو، که معادل ChatGPT در چین هستند، از پاسخگویی به بسیاری از سؤالات سیاسی و موضوعات حساس که حزب کمونیست آنها را کنترل می‌کند، می‌پرهیزند.

در کنفرانس سالانه Huawei Connect در شانگهای، هواوی پس از سال‌ها، برنامه‌های خود را برای تولید چیپ و توسعه قدرت محاسباتی به‌صورت رسمی معرفی کرد و نشان داد چگونه قصد دارد هوش مصنوعی پیشرفته و امن را در چارچوب قوانین داخلی کشور توسعه دهد.

منبع خبر "دیجیاتو" است و موتور جستجوگر خبر تیترآنلاین در قبال محتوای آن هیچ مسئولیتی ندارد. (ادامه)
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت تیترآنلاین مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویری است، مسئولیت نقض حقوق تصریح شده مولفان از قبیل تکثیر، اجرا و توزیع و یا هرگونه محتوای خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.