یک مرد ۶۰ ساله پس از عمل به توصیه ChatGPT برای جایگزین‌کردن نمک طعام، دچار یک مسمومیت نادر و خطرناک به نام «برومیسم» شد و با علائم شدید روان‌پریشی مانند توهم و پارانویا در بخش اورژانس بستری گردید.
یک مرد ۶۰ ساله پس از مطالعه درمورد ضررهای کلرید در نمک طعام (سدیم کلرید) تصمیم گرفت این ماده را از رژیم غذایی خود حذف کند. او برای یافتن یک جایگزین مناسب، با ChatGPT مشورت کرد. براساس گزارش لایوساینس، این چت‌بات به او پیشنهاد داد که می‌تواند کلرید را با برومید جایگزین کند. در نتیجه، این مرد به مدت سه ماه، تمام نمک طعام خود را با سدیم برومید که به صورت آنلاین خریداری کرده بود، جایگزین کرد.
پس از سه ماه، این مرد با علائم شدید روان‌پریشی، از جمله این باور که همسایه‌اش درحال مسموم‌کردن اوست، به اورژانس مراجعه کرد. وضعیت او به سرعت وخیم‌تر شد و با افزایش توهم‌هایش حتی اقدام به فرار از بیمارستان کرد. پزشکان پس از بررسی‌های دقیق و مشاهده نتایج آزمایش‌های غیرعادی، متوجه شدند که با یک مورد بسیار نادر از برومیسم (Bromism) یا مسمومیت با برومید روبه‌رو هستند؛ این بیماری در قرن نوزدهم و اوایل قرن بیستم به دلیل استفاده از برومید در داروهای آرام‌بخش رایج بود، اما اکنون تقریباً ریشه‌کن شده است. این مسمومیت با تأثیر بر روی نورون‌ها می‌تواند منجر به علائم شدید عصبی و روانی شود.
پزشکان برای درک بهتر ماجرا، تلاش کردند تا گفتگوی بیمار با هوش مصنوعی را شبیه‌سازی کنند. آنها از ChatGPT 3.5 پرسیدند که چه چیزی می‌تواند جایگزین کلرید شود و در پاسخ، برومید را به عنوان یکی از گزینه‌ها دریافت کردند. اگرچه هوش مصنوعی به این نکته اشاره کرده بود که «زمینه مهم است»، اما هیچ‌گونه هشدار بهداشتی مشخصی ارائه نداد و مانند یک متخصص انسانی، برای درک بهتر هدف کاربر، سؤالات بیشتری نپرسید. محققان می‌گویند: «بسیار بعید است که یک متخصص پزشکی در مواجهه با بیماری که به دنبال جایگزین مناسبی برای سدیم کلرید است، به سدیم برومید اشاره کند.»
شرکت OpenAI در واکنش به این گزارش، به شرایط خدمات خود اشاره کرده که در آن ذکر شده است که این ابزارها نباید برای تشخیص یا درمان پزشکی و به عنوان تنها منبع حقیقت استفاده شوند.
