«آنتونیو گوترش»، دبیرکل سازمان ملل متحد، با انتقاد شدید از سرعت توسعه هوش مصنوعی، خواستار ایجاد یک سیستم نظارت جهانی برای کنترل این فناوری شد. او هشدار میدهد که بشریت نباید اجازه دهد ابزارهای هوش مصنوعی آینده ما را بدون نظارت شکل دهند.
گوترش در اولین نشست «گفتوگوی جهانی درباره حاکمیت هوش مصنوعی» که با حضور دولتها، شرکتهای فناوری و نهادهای مدنی در شهر ژنو برگزار شد، گفت سیستمهای هوش مصنوعی دیگر صرفاً ابزارهایی منتظر دستور نیستند. این سیستمها اکنون درحال کدنویسی، فعالیت مستقل در فضای آنلاین و تصمیمگیری با کمترین میزان نظارت انسانی هستند.
دبیرکل سازمان ملل با اشاره به اصطلاح کدنویسی حسی (Vibe-coding) که به معنای استفاده از هوش مصنوعی برای برنامهنویسی با توصیف خواستهها بهجای کدنویسی دستی است، اذعان کرد که این فناوری میتواند شگفتیساز باشد. بااینحال، او اعلام کرد که ما نمیتوانیم حقیقت یا آینده بشریت را با این روش به دست هوش مصنوعی بسپاریم. نهادهای فعلی ما برای مدیریت مدلهایی که از دستورات پیروی میکنند ساخته شدهاند و برای کنترل توسط سیستمهایی که خودشان تصمیم میگیرند، آماده نیستند.
به گزارش رویترز، یکی دیگر از خطرات مهمی که در این نشست به آن اشاره شد، تمرکز قدرت در دست تعداد انگشتشماری از شرکتهای فناوری و چند کشور خاص است. به گفته گوترش، بیشتر کشورهای جهان هیچ نقشی در تصمیمگیریهایی که آینده آنها را شکل میدهد، نداشتهاند و اکنون بر سر یک دوراهی بزرگ قرار دارند: انتخاب بین نظارت هدفمند بر فناوری یا رهاکردن آن به حال خود.
برای جلوگیری از شکاف بزرگ در حوزه هوش مصنوعی، گوترش اعلام کرد که از مجمع عمومی سازمان ملل درخواست خواهد کرد تا یک «صندوق جهانی برای هوش مصنوعی» تأسیس کند. هدف از این صندوق، توسعه مهارتها، تأمین دادهها و فراهمکردن قدرت پردازشی مقرونبهصرفه برای تمام کشورهای درحال توسعه است.
نخستین اولویتی که گوترش بر آن تأکید کرد، تضمین ایمنی و سلامت روان کودکان است. او با یادآوری اینکه هیچ دارویی قبل از تأیید ایمنی به کودکان داده نمیشود و تمام اسباببازیها با دقت آزمایش میشوند، بیان کرد که هوش مصنوعی نیز نباید بدون کنترل در دسترس آنها قرار گیرد. سازمان ملل از شرکتها میخواهد تا با امضای یک تعهدنامه، ثابت کنند که سیستمهای آنها برای کودکان ایمن است. همچنین این سیستمها باید به گونهای طراحی شوند که در صورت مشاهده علائم پریشانی در کودک، او را به یک پشتیبان انسانی متصل کنند.
دومین اولویت مهم، کاهش اثرات مخرب زیستمحیطی است. توسعهدهندگان هوش مصنوعی باید ردپای کربنی خود را بهطور کامل شفافسازی کنند و متعهد شوند که تا سال ۲۰۳۰، انرژی تمام دیتاسنترهای خود را از منابع تجدیدپذیر تأمین خواهند کرد.
بزرگترین نگرانی سازمان ملل درحالحاضر، ورود بدون چارچوب هوش مصنوعی به عرصههای نظامی و به ویژه توسعه سیستمهای تسلیحاتی خودمختار و مرگبار است. دبیرکل سازمان ملل این تجهیزات را «رباتهای قاتل» نامید و گفت انتخاب هدف و گرفتن جان انسانها توسط ماشینها، بدون کنترل و قضاوت انسان، از نظر اخلاقی زننده است و باید هرچه سریعتر توسط قوانین بینالمللی ممنوع شود.
گوترش در پایان سخنان خود با یادآوری ضرورت وضع قوانین بازدارنده، هشدار داد که ما احتمالاً آخرین نسلی هستیم که میتوانیم شرایط همزیستی میان انسان و ماشین را تعیین کنیم و درهای این فرصت مهم برای مدت طولانی باز نخواهند ماند. گوترش اذعان کرد که اینترنت ۱۵ سال زمان نیاز داشت تا به یک میلیارد کاربر برسد، اما هوش مصنوعی این مسیر را تنها در دو سال طی کرده است.
