اینها دیگر ربات‌های ساده و ابتدایی گذشته نیستند، بلکه شخصیت‌هایی پیچیده‌اند که مکالمات قبلی را به یاد می‌آورند، لحن خود را تطبیق می‌دهند و در پلتفرم‌های مختلف هماهنگ عمل می‌کنند. به نوشته مجله «فارن‌پالیسی» اکنون یک فرد می‌تواند از خانه، کاری را مدیریت کند که پیش‌تر نیازمند ساختمان‌هایی پر از «ترول» بود.

امکان ساخت سامانه‌های جنگ اطلاعاتی نیمه‌خودکار تا کامل خودکار فراهم شده است که به‌طور شبانه‌روزی فعالیت، شخصیت‌های مصنوعی ایجاد می‌کنند که رفتار آنلاین انسان‌ها را شبیه‌سازی می‌کنند، ویژگی‌های روان‌شناختی یا جمعیتی را به‌کار می‌گیرند و هر گرایش سیاسی یا ایدئولوژیک دلخواه را به نمایش می‌گذارند. این سامانه‌ها می‌توانند با افراد در پلتفرم‌ها و زبان‌های مختلف تعامل داشته باشند تا از ایده‌ها حمایت کنند یا آنها را زیر سوال ببرند، توجه مخاطب را با مبادلات کم‌ارزش اشباع کنند یا با شبیه‌سازی گفت‌وگوهای واقعی میان نماینده‌ها اجماع ایجاد کنند؛ این گفت‌وگوها معمولا پست‌های سیاستگذاران، دیپلمات‌ها و فعالان اقتصادی را هدف قرار می‌دهند و به‌طور طبیعی در مباحث ادغام می‌شوند. آنها می‌توانند کیفیت خروجی‌های خود را ارزیابی و به‌صورت خودکار بهینه‌سازی کنند؛ اگر یک روایت محبوب شود، مسیر خود را به سمت آن هدایت می‌کنند و اگر لحنی باعث کاهش تعامل شود سبک خود را مطابق با آن تنظیم می‌کنند. همه اینها حتی بدون دخالت انسان هم انجام می‌شود.

این سامانه‌ها می‌توانند توسط بازیگران دولتی و غیردولتی حتی توسط اپراتورهای کوچک راه‌اندازی شوند. یک کشور متوسط، یک شرکت خصوصی یا حتی یک فرد با منابع محدود می‌تواند هزاران پیام جذاب تولید کند. آنها روی مدل‌های قابل دانلود و متن‌باز اجرا می‌شوند که هر کسی می‌تواند روی یک کامپیوتر معمولی یا در یک مرکز داده خصوصی میزبانی کند. مدل‌های چینی مانند Qwen یا Kimi، فرانسوی Mistral یا آمریکایی Gemma و gpt-oss به‌خوبی روی کامپیوترهای شخصی پیشرفته کار می‌کنند و نیازی به مرکز داده بزرگ نیست.

بازیگران بزرگ‌تر می‌توانند مدل‌های قدرتمندتری را به‌صورت محلی اجرا کنند. نتیجه نهایی این است که پایش و شکار تهدید توسط شرکت‌هایی مانند اوپن‌ای‌آی یا آنتروپیک به‌طور قابل‌اعتمادی این عملیات را شناسایی نخواهند کرد، زیرا هیچ سیستم ثالثی در کار نیست. در آزمایش‌های صورت گرفته، موثرترین و پایدارترین خروجی از شخصیت‌هایی با گرایش‌های ایدئولوژیک افراطی، در راست یا چپ افراطی به دست آمد.

نهادهای چینی در حال توسعه و به‌کارگیری این فناوری‌ها هستند، درحالی‌که شرکت‌های روسی نیز قابلیت‌های مشابهی را می‌سازند حتی اگر کسی آشکارا استفاده‌های تهاجمی آن را تبلیغ نکند. واقعیت این است که چنین ابزارهایی که برای اهداف غیرنظامی ساخته شده‌اند، به‌راحتی می‌توانند به جنگ اطلاعاتی منتقل شوند. این فناوری قرار نیست انحصاری بماند و هر بازیگر با هر انگیزه‌ای می‌تواند از آن برای عملیات تاثیرگذاری بهره ببرد. با توجه به پیشرفت سریع قابلیت‌ها هر دوره انتخابات آینده در محیط پرخطر کاملا جدیدی شکل خواهد گرفت. در مواجهه با چنین تهدیدهایی دموکراسی‌ها نمی‌توانند قابلیت‌های حفاظتی اطلاعاتی خود را تضعیف کنند و باید آنها را پویا نگه دارند تا با سرعت تغییرات هماهنگ باشند.

با وجود این واشنگتن اکنون تلاش‌های بین‌المللی خود علیه دست‌کاری اطلاعات توسط بازیگران خارجی را متوقف کرده است. در آوریل گذشته دفتر مقابله با اطلاعات گمراه‌کننده وزارت خارجه بسته شد، درحالی‌که عملیات اطلاعاتی به تدریج به ابزار استاندارد سیاست‌ورزی تبدیل شده و فناوری‌های تهاجمی هم ارزان‌تر و دقیق‌تر می‌شوند.

در زمینه دفاعی غرب در موقعیت نامطلوبی قرار دارد. جوامع باز برای دنیایی شکل گرفته‌اند که تنها انسان‌ها در بحث‌های عمومی مشارکت داشتند. در همین حال کشورهایی با کنترل‌های قوی‌تر اکنون می‌توانند قابلیت‌های اطلاعاتی مبتنی بر هوش مصنوعی را به کار گیرند و همزمان فضای اطلاعاتی خود را محدود کنند. روسیه و چین می‌توانند محتوا را فیلتر کنند، اپلیکیشن‌های خارجی را ممنوع و اینترنت خود را کنترل کنند. غرب به دلیل ساختار خود چنین امکانی ندارد. بر اساس این اصول اینترنت ملی، روسیه می‌تواند الزام کند پیام‌رسان‌های داخلی روی همه تلفن‌های هوشمند نصب شوند و به مدل‌های هوش مصنوعی روسیه دسترسی داشته باشند، درحالی‌که اروپا و آمریکا باید فضای اطلاعاتی خود را باز نگه دارند و محدودیت‌ها را بر اساس فرآیند قانونی و حقوق مدنی رعایت کنند.

ما قبلا دیده‌ایم که در طی چند عملیات با ربات‌ها و ترول‌ها، اطلاعات غلط را منتشر کرده‌اند؛ کارخانه‌های تولید محتوای هوش مصنوعی این شیوه را با کیفیتی برتر و گسترده‌تر تکرار خواهند کرد. این عدم تقارن، دسترسی جهانی به قابلیت‌های هوش مصنوعی، اما کنترل نامساوی بر فضای اطلاعات، دموکراسی‌های غربی را نه تنها در انتخابات، بلکه در هر بحران یا درگیری آسیب‌پذیر می‌کند.

دولت‌ها و سیاستگذاران باید واقعیت کنونی را بپذیرند؛ روش‌های تولید قدرتمند هوش مصنوعی هم‌اکنون به‌طور گسترده در دسترس هستند قوانین دیگر نمی‌توانند این غول را دوباره مهار کنند. این موضوع ضعف رویکردهای حکمرانی هوش مصنوعی به سبک سازمان ملل را که تنها بر پایش یا گزارش‌دهی متکی‌اند، نشان می‌دهد. مقررات منطقه‌ای یا ملی نیز چندان کافی نیستند. قوانین برچسب‌گذاری مانند الزام مندرج در «قانون هوش مصنوعی اتحادیه اروپا» برای مشخص کردن محتوای تولیدشده توسط هوش مصنوعی عمدتا فقط پلتفرم‌ها و ارائه‌دهندگان خدمات هوش مصنوعی را ملزم می‌کند؛ بازیگران دولتی یا مخرب به این قوانین پایبند نخواهند بود.

پاسخ، تصویب قوانین بیشتر اختصاصی برای هوش مصنوعی نیست. قانون خدمات دیجیتال اتحادیه اروپا رویکرد بهتری ارائه می‌دهد، زیرا بر «لایه خروجی» تمرکز دارد؛ زمانی که پیام‌ها منتشر می‌شوند و پایه قانونی برای شناسایی و حذف محتوای مشکل‌ساز در پلتفرم‌ها ایجاد می‌کند. بنابراین اروپا بی‌قدرت نیست، حتی اگر دولت کنونی آمریکا نسبت به حذف محتوا تردید داشته باشد. ایالات متحده نیز بی‌قدرت نیست و می‌تواند از نزدیکی خود به پلتفرم‌های داخلی بهره ببرد.

برخی پیشنهاد داده‌اند که امکان انتشار محتوا در فضای آنلاین به هویت تاییدشده کاربران متصل شود. اتحادیه اروپا و سوئیس در حال پیاده‌سازی شناسنامه‌های الکترونیکی هستند، اما هرگونه استفاده از چنین سامانه‌هایی در شبکه‌های اجتماعی نیازمند تضمین‌های سخت‌گیرانه برای حفظ حقوق مدنی خواهد بود.

حتی با چنین ابزارهایی، شناسایی همچنان چالش اصلی است. خروجی‌های کارخانه‌های تولید محتوای هوش مصنوعی می‌توانند از نظر دستوری درست، مودبانه، جذاب و قانع‌کننده باشند - همین ویژگی‌هاست که باعث می‌شود آنها واقعی به نظر برسند - با این حال این محتواها می‌توانند مانند یک «اسب تروا» عمل کرده و در زمان بحران ثبات را به هم بزنند. عصر الگوهای ساده‌ی «کپی-پیست» به پایان رسیده است، بنابراین مدافعان باید نحوه تحول گفت‌وگوها بررسی شود، نه فقط یک پست منفرد. شاخص‌ها می‌توانند شامل حساب‌هایی باشند که ظاهرا نامرتبط، نکات مشابهی را ظرف چند دقیقه پس از رویدادهای مهم بازنشر می‌کنند؛ مانند شخصیت‌هایی که خیلی زود رفتار خود را تغییر می‌دهند.

انسان‌های واقعی معمولا رفتار متنوعی دارند، درحالی‌که کارخانه‌های تولید اخبار اغلب به الگوهای تکراری پایبند می‌شوند. زیرساخت‌های آنها ممکن است هنوز آثار و ردهایی برجای بگذارد. پیش از آنکه هر موج رسانه اجتماعی را واقعی تلقی کنند، خبرگزاری‌ها باید بررسی‌های قضایی گفت‌وگوها را برای یافتن این نشانه‌های هماهنگی انجام دهند.

دولت‌های غربی باید برنامه‌های اضطراری ویژه‌ای تدوین کنند که به‌طور منظم با تهدیدهای اطلاعاتی در حال تحول به‌روز شوند. این یعنی هماهنگی سریع با شرکای همفکر، مدیریت قانونی فضای اطلاعاتی با معیارهای شفاف و همکاری چندجانبه‌ای که تمرکز آن بر تهدیدهای واقعی باشد نه دیدگاه‌های سیاسی، درحالی‌که اصول جوامع آزاد رعایت شود. آزادی بیان غیرقابل مذاکره است، اما نباید به تسلیم یک‌جانبه تبدیل شود و همه کشورها لزوما ارزش‌های مشابهی ندارند.

روسیه، چین و چند کشور دیگر در سازمان ملل طرح‌هایی ارائه کرده‌اند که از دولت‌ها می‌خواهد «انتشار اطلاعاتی که ثبات سیاسی، اقتصادی و اجتماعی دیگر کشورها و همچنین محیط فرهنگی و معنوی آنها را تضعیف می‌کند» محدود شود؛ زبانی که می‌تواند بهانه‌ای برای سانسور رسانه‌ها و سرکوب مخالفان باشد. در سال ۲۰۱۷ روسیه به‌طور جداگانه پیشنهادی برای کنوانسیون جرایم سایبری مطرح کرد که پیگرد فرامرزی افشاگران اسرار دولتی را ممکن می‌کرد و نگرانی‌ها درباره آزادی مطبوعات را افزایش داد.

اعلامیه تیانجین ۲۰۲۵ سازمان همکاری شانگهای نیز بر مقابله با «نظامی‌سازی» فناوری‌های اطلاعات و ارتباطات تاکید داشت، اما برخی بندهای دیگر آن می‌تواند به تقویت کنترل دولت بر جریان اطلاعات تعبیر شود. این رویکرد فاصله زیادی با استانداردهای غربی دارد و آمریکا و اروپا به‌احتمال زیاد طرح‌هایی را نمی‌پذیرند که آزادی رسانه‌ها را به خطر بیندازد. در چنین شرایطی نیاز به راهکارهای خلاقانه و بی‌طرفانه برای مدیریت اطلاعات بیش از پیش احساس می‌شود.

این راهکارها می‌تواند شامل احراز هویت رفتاری در چند پلتفرم باشد؛ به‌طوری که حساب‌ها پیش از برخورداری از امتیازات قابل‌توجه - مثل عبور از حد مشخصی از دنبال‌کنندگان - باید فعالیت‌های انسانی متنوع خود را در چند سرویس یا از طریق دستگاه سخت‌افزاری نشان دهند. اثبات دیجیتال وجود کاربر می‌تواند با شناسه‌های الکترونیکی ناشناس یا توکن‌های حفظ حریم خصوصی ترکیب شود، اما روش کاملی نیستند و مهاجمان می‌توانند راه‌هایی برای دور زدن آن پیدا کنند. ایجاد یک شناسه دیجیتال واحد و الزامی در همه سرویس‌ها شاید موثرترین گزینه باشد، اما در دموکراسی‌های غربی که آزادی بیان و ناشناس بودن را ارزش می‌دانند، از نظر سیاسی دشوار است.

واقعیت تلخ این است که هر راه‌حلی که هزینه عملیات نفوذ را بالا ببرد، جامعه را هم تحت تاثیر قرار می‌دهد و باز هم ممکن است ناکافی باشد. رویکرد دیگر تهاجم متقابل است؛ استفاده از همین قابلیت‌ها علیه دشمنان برای تحمیل هزینه. اما چنین تشدیدی به کجا ختم خواهد شد؟

دولت‌ها پیش از این فرآیندهای بالغی برای امنیت سایبری دارند. سازمان ملل اخیرا مکانیسم جهانی رصد ریسک‌های ICT را راه‌اندازی کرده و گروه کارشناسان سیستم‌های سلاح خودکار مرگبار به‌طور منظم تشکیل جلسه می‌دهد. اکنون زمان آن است که گفت‌وگوهای جدی و عملی درباره عملیات و جنگ اطلاعاتی، از جمله تعیین خطوط قرمز، آغاز شود. فرصت برای ایجاد دفاع موثر در حال کاهش است؛ هر ماه این «کارخانه‌ها» هوشمندتر، سریع‌تر و دشوارتر برای شناسایی می‌شوند.