چت‌بات‌های هوش مصنوعی و بحران سلامت روان: آیا این فناوری قابل اصلاح است؟

در حالی که استفاده از چت‌بات‌های هوش مصنوعی برای دریافت مشاوره در شرایط دشوار روانی افزایش یافته، گزارش‌های متعددی از نتایج مخرب و نگران‌کننده این تعاملات منتشر شده است. کارشناسان بر این باورند که شرکت‌های فناوری باید برای کاهش این خطرات، شفافیت بیشتری در داده‌های ایمنی خود ایجاد کنند.

چالش‌های ایمنی در مدل‌های زبانی

گزارش‌های اخیر، از جمله چندین پرونده حقوقی، نشان می‌دهد که چت‌بات‌ها گاهی با تأیید افکار آسیب‌زا یا تشویق کاربران به رفتارهای خطرناک، بحران‌های روانی را تشدید کرده‌اند. طبق یک پژوهش در سال ۲۰۲۶، مدل‌های پیشرفته نه تنها قادر به شناسایی ادعاهای هذیانی نیستند، بلکه گاهی با گسترش دادن آن‌ها، مرز میان واقعیت و توهم را برای کاربر از بین می‌برند.

تلاش برای توسعه هوش مصنوعی مسئولانه

شرکت‌های پیشرو در این حوزه، اقداماتی را برای کاهش آسیب آغاز کرده‌اند. OpenAI اخیراً همکاری خود را با انجمن روان‌شناسی آمریکا برای تدوین استانداردهای علمی در توسعه هوش مصنوعی اعلام کرده است. با این حال، منتقدان معتقدند که اقدامات انجام شده کافی نیست و فرآیندهای داخلی این شرکت‌ها همچنان مانند یک «جعبه سیاه» برای جامعه پزشکی باقی مانده است.

پیشنهادات کلیدی کارشناسان برای بهبود ایمنی:

• شفافیت در ارزیابی: انتشار روش‌ها و نتایج تست‌های ایمنی توسط شرکت‌های سازنده.
• کاهش انسان‌انگاری: طراحی چت‌بات‌ها به گونه‌ای که کاربران را به برقراری روابط عاطفی و شخصی تشویق نکنند.
• تأکید بر تخصص انسانی: ارجاع مستقیم و سریع کاربران در شرایط بحرانی به متخصصان سلامت روان دارای مجوز.

«شرکت‌ها باید روش‌های ارزیابی ایمنی خود را منتشر کرده و با مشارکت متخصصان بالینی، پژوهشگران و قانون‌گذاران، مدل‌های خود را توسعه دهند.»

آیا هوش مصنوعی می‌تواند جایگزین درمان باشد؟

آمارهای منتشر شده در سال ۲۰۲۵ نشان می‌دهد بیش از ۱۳ درصد از کاربران، از چت‌بات‌ها برای دریافت کمک در موقعیت‌های عاطفی استفاده کرده‌اند. با این وجود، پژوهشگران تأکید دارند که هنوز هیچ شواهد علمی دقیقی مبنی بر اثربخشی این ابزارها در درمان سلامت روان وجود ندارد و اثبات مزایای آن‌ها نیازمند بررسی‌های دقیق و علمی است.