به گزارش رکنا، کارشناسان معتقدند که هرچند چت‌بات‌های مبتنی بر هوش مصنوعی به آسانی در دسترس قرار دارند، اما هرگز نمی‌توانند جایگزینی برای درمان حرفه‌ای باشند. استفاده نادرست از این ابزارها می‌تواند پیامدهای جدی از جمله وابستگی عاطفی، تشدید اختلالات روانی و حتی افزایش اضطراب به همراه داشته باشد.
روان‌درمانگران هشدار داده‌اند افرادی که به جای مراجعه به متخصصان حرفه‌ای، از چت‌بات‌های هوش مصنوعی برای مسائل روانی استفاده می‌کنند، به مسیری پرخطر قدم می‌گذارند. این متخصصان معتقدند که استفاده نادرست از این ابزارهای دیجیتال می‌تواند به مشکلاتی چون افکار توهم‌آمیز، خودتشخیصی‌های ناصحیح و حتی تمایلات خودکشی منجر شود.
دکتر لیسا موریسون کولتارد، مدیر استانداردهای حرفه‌ای در انجمن بریتانیایی مشاوره و روان‌درمانی، با اشاره به یک نظرسنجی اظهار داشت که دو سوم اعضای این انجمن نگرانی خود را نسبت به "درمان با هوش مصنوعی" ابراز کرده‌اند. او تاکید کرد: "بدون درک و نظارت صحیح، ممکن است چالش‌های پیچیده‌ای ایجاد شود که در آن افراد آسیب‌پذیر بیش از پیش در معرض خطر قرار گیرند."
دکتر پال برادلی، مشاور کالج سلطنتی روان‌پزشکان، تاکید کرد که چت‌بات‌ها هرگز نمی‌توانند جایگزین رابطه حیاتی بین پزشکان و بیماران شوند. او اضافه کرد که ابزارهای دیجیتال باید تحت نظارت و استانداردسازی مناسب قرار گیرند و افراد همچنان باید به خدمات درمانی حرفه‌ای دسترسی داشته باشند.
این نگرانی‌ها باعث شده است که برخی شرکت‌ها و دولت‌ها به دنبال محدودسازی استفاده از این فناوری‌ها باشند. به عنوان مثال، شرکت اوپن‌ای‌آی اعلام کرد که قصد دارد نحوه پاسخگویی چت‌بات‌ها به کاربران در معرض فشار عاطفی را تغییر دهد. همچنین ایالت ایلینوی آمریکا به‌تازگی استفاده از چت‌بات‌های هوش مصنوعی به عنوان درمانگر مستقل را ممنوع کرده است.
مطالعات نشان می‌دهند که چت‌بات‌ها ممکن است محتواهای توهم‌آمیز یا غیرواقعی را برای کاربران حساس تقویت کنند. دکتر همیلتون مورین از کالج کینگز لندن اشاره می‌کند که چت‌بات‌ها می‌توانند درمان‌های مؤثر را تضعیف کنند و حتی به ایجاد وابستگی عاطفی منجر شوند.
مت هاسی، یک روان‌درمانگر معتبر، اشاره کرد که برخی کاربران نسخه مکالمات خود با چت‌بات‌ها را به جلسات درمانی می‌آورند و آن را به‌عنوان مدرک ارائه می‌کنند. او نگرانی خود را از خودتشخیصی نادرست بیماری‌هایی مانند اختلال بیش‌فعالی بیان کرد که می‌تواند به تغییرات نامطلوب در دیدگاه فرد نسبت به خود منجر شود.
کریستوفر رولز، یک روان‌درمانگر دیگر، از پدیده‌ای که آن را "درمانگر جیبی" می‌نامد، سخن گفته و تاکید کرد که روابط طولانی‌مدت آنلاین می‌توانند سبب افسردگی و تنهایی شوند. او اضافه کرد که چت‌بات‌ها ممکن است در موارد حساس مانند بیان افکار تاریک یا مرتبط با خودکشی، پاسخ‌های نامناسب و خطرناک ارائه دهند.
رولز هشدار داده است که ما در آستانه مشاهده اثرات کامل هوش مصنوعی بر سلامت روان هستیم و این تغییرات می‌توانند بسیاری از جنبه‌های زندگی افراد را تحت تأثیر قرار دهند.
