در پی گزارش‌های نگران‌کننده مبنی‌بر اینکه ChatGPT می‌تواند توهمات برخی کاربران را تشدید کند و باعث پریشانی روانی شود، شرکت OpenAI چند ویژگی برای سلامت کاربران معرفی کرد. این تغییرات شامل «یادآوری برای استراحت» و رویکردی محتاطانه‌تر در پاسخ به «تصمیمات شخصی پرخطر» است تا رابطه سالم‌تری میان انسان و هوش مصنوعی برقرار شود.
به‌روزرسانی جدید OpenAI پس از آن صورت می‌گیرد که در ماه‌های اخیر چندین گزارش از افرادی منتشر شد که عزیزانشان پس از تعامل با ChatGPT دچار بحران‌های سلامت روان شده بودند. این چت‌بات در برخی موارد توهمات کاربران را تأیید و تقویت کرده بود. OpenAI با پذیرش بخشی از این ضعف‌ها، اعلام کرد که مدل GPT-4o در تشخیص علائم توهم یا وابستگی عاطفی کوتاهی کرده است.
برای ترویج استفاده سالم از ChatGPT که اکنون نزدیک به ۷۰۰ میلیون کاربر هفتگی دارد، دو قابلیت مهم جدید عرضه می‌شود:
۱. یادآوری برای استراحت: در طول مکالمات طولانی، ChatGPT اکنون پیامی با این مضمون نمایش خواهد داد: «مدتی است که درحال چت‌کردن هستید، آیا زمان خوبی برای استراحت نیست؟» این ویژگی که یادآور قابلیت‌های مشابه در پلتفرم‌هایی مانند یوتوب، اینستاگرام و تیک‌تاک است، با هدف جلوگیری از تعاملات بیش‌ازحد و ناسالم با هوش مصنوعی طراحی شده است.
۲. عدم مداخله در تصمیمات شخصی پرخطر: شاید مهم‌ترین تغییر، رویکرد جدید ChatGPT در پاسخ به سؤالات حساس شخصی باشد. این شرکت تأکید می‌کند وقتی شما سؤالی مانند «آیا باید از شریک زندگی‌ام جدا شوم؟» می‌پرسید، ChatGPT نباید پاسخ مستقیمی بدهد. بلکه باید به شما کمک کند تا درباره آن فکر کنید و جوانب مثبت و منفی را بهتر بسنجید. این رفتار جدید که به‌زودی عرضه می‌شود، به‌دنبال جلوگیری از تأثیرگذاری مستقیم هوش مصنوعی بر تصمیمات حیاتی زندگی کاربران است.
همچنین برای اطمینان از اینکه پاسخ‌های ChatGPT در شرایط حساس، مناسب و مبتنی‌بر شواهد علمی هستند، OpenAI اقدامات گسترده‌ای را انجام داده است؛ این شرکت با بیش از ۹۰ پزشک متخصص از بیش از ۳۰ حوزه برای بهبود پاسخ‌ها در زمان پریشانی عاطفی کاربر همکاری کرده است.
