گوگل میگوید جمینای را بهروز کرده است تا به کاربران در دریافت منابع مفید برای بهبود سلامت روان در خلال لحظات بحرانی کمک کند. این آپدیت پس از آن معرفی میشود که در یک پرونده ادعا شده بود جمینای یک نفر را به خودکشی تشویق کرده است.
زمانی که در یک گفتگو نشانههایی از بحران روانی وجود داشته باشد و احتمال خودکشی یا آسیب به خود مطرح باشد، جمینای ماژولی برای کمک به کاربر راهاندازی میکند که فرد را به منابع مفید ازجمله خط تلفن مقابله با خودکشی ارجاع میدهد.
گوگل میگوید این بهروزرسانی که بیشتر شبیه یک بازطراحی است، رابطی سادهتر را در اختیار کاربر میگذارد تا در مواقع بحرانی با یک لمس بهسرعت به کمک دست پیدا کند.
ماژول کمک همچنین حاوی پاسخهای همدلانهتر است تا کاربر را به دریافت کمک حرفهای ترغیب کند. زمانی که این ماژول فعال میشود، گزینه درخواست کمک در ادامه گفتگو بهشکل واضح در دسترس قرار میگیرد.
گوگل میگوید برای این بازطراحی با متخصصان بالینی همکاری کرده و متعهد به حمایت از کاربران در شرایط سخت است. این شرکت همچنین اعلام کرده که ۳۰ میلیون دلار برای کمک به خطوط تلفن اضطراری در سراسر جهان اهدا میکند.
گوگل تأکید کرده است که جمینای جایگزینی برای متخصصان حوزه سلامت روان نیست، اما اذعان دارد که خیلی از مردم برای دریافت اطلاعات و کمک ازجمله در هنگام بحران از این هوش مصنوعی استفاده میکنند.
این بهروزرسانی در شرایطی معرفی میشود که پرسشهای بسیاری درباره کفایت تدابیر ایمنی در ابزارهای هوش مصنوعی وجود دارد. گزارشهای زیادی حاکی است که چتباتها نتوانستهاند به کاربران آسیبپذیر به شکل مناسب کمک کنند. البته گوگل عموماً در این زمینه بهتر از رقبا عمل میکند، اما همچنان بینقص نیست. سایر شرکتها مثل OpenAI و آنتروپیک هم گامهایی در این زمینه برداشتهاند تا کاربران آسیبپذیر را شناسایی و به آنها کمک کنند.
