گوگل جمینای را برای حمایت از سلامت روان و ارجاع به منابع کمک به‌روزرسانی کرد

معرفی به‌روزرسانی جدید جمینای برای سلامت روان

گوگل در پی نگرانی‌های فزاینده درباره ایمنی ابزارهای هوش مصنوعی و پس از ادعاهایی مبنی بر تشویق یک کاربر به خودکشی توسط جمینای، این پلتفرم را به‌روزرسانی کرده است. هدف از این به‌روزرسانی، ارائه منابع مفید و حمایت از کاربران در لحظات بحرانی سلامت روان است.

ماژول کمک‌رسان در بحران‌های روانی

زمانی که در یک مکالمه با جمینای، نشانه‌هایی از بحران روانی، احتمال خودکشی یا آسیب به خود مشاهده شود، یک ماژول جدید فعال می‌شود. این ماژول کاربر را به منابع معتبر و مفید، از جمله خطوط تلفن مقابله با خودکشی، ارجاع می‌دهد. این اقدام به منظور ارائه حمایت فوری و تخصصی به افراد آسیب‌پذیر طراحی شده است.

رابط کاربری ساده و دسترسی سریع

گوگل اعلام کرده که این به‌روزرسانی، که بیشتر شبیه یک بازطراحی است، یک رابط کاربری ساده‌تر را در اختیار کاربران قرار می‌دهد. این سادگی تضمین می‌کند که در مواقع بحرانی، فرد بتواند تنها با یک لمس، به‌سرعت به کمک‌های مورد نیاز دسترسی پیدا کند.

ماژول کمک همچنین حاوی پاسخ‌های همدلانه‌تر است تا کاربر را به دریافت کمک حرفه‌ای ترغیب کند. زمانی که این ماژول فعال می‌شود، گزینه درخواست کمک در ادامه گفتگو به‌شکل واضح در دسترس قرار می‌گیرد.

همکاری با متخصصان و تعهد گوگل

گوگل برای اطمینان از اثربخشی این ماژول، با متخصصان بالینی همکاری کرده است. این شرکت بر تعهد خود برای حمایت از کاربران در شرایط سخت تأکید می‌کند و در همین راستا، مبلغ ۳۰ میلیون دلار را برای کمک به خطوط تلفن اضطراری در سراسر جهان اهدا کرده است.

جمینای، نه جایگزین متخصصان

گوگل به صراحت اعلام کرده است که جمینای جایگزینی برای متخصصان حوزه سلامت روان نیست. با این حال، اذعان دارد که بسیاری از مردم برای دریافت اطلاعات و کمک، از جمله در هنگام بحران، از این هوش مصنوعی استفاده می‌کنند. این به‌روزرسانی تلاشی برای ایمن‌تر کردن این تعاملات است.

چالش‌های ایمنی هوش مصنوعی

این به‌روزرسانی در شرایطی معرفی می‌شود که پرسش‌های متعددی درباره کفایت تدابیر ایمنی در ابزارهای هوش مصنوعی مطرح است. گزارش‌های متعددی نشان می‌دهد که چت‌بات‌ها همیشه نتوانسته‌اند به کاربران آسیب‌پذیر به شکل مناسب کمک کنند. اگرچه گوگل در این زمینه عموماً بهتر از رقبای خود عمل کرده، اما هنوز بی‌نقص نیست. شرکت‌های دیگری مانند OpenAI و آنتروپیک نیز گام‌هایی برای شناسایی و کمک به کاربران آسیب‌پذیر برداشته‌اند.