توصیه مرگبار هوش مصنوعی: مردی به دلیل مشاوره ChatGPT تا آستانه مرگ رفت

خطرات اعتماد به هوش مصنوعی در پزشکی

در حالی که مدل‌های هوش مصنوعی در زمینه‌هایی مانند پیشنهاد رستوران یا نگارش ایمیل کارایی خود را اثبات کرده‌اند، اما در ارائه مشاوره‌های پزشکی، همچنان با کاستی‌ها و محدودیت‌های آشکاری مواجه هستند. این حادثه نمونه بارزی از این محدودیت‌هاست.

ماجرا از آنجا آغاز شد که یک بیمار تصمیم گرفت برای بهبود وضعیت سلامت خود، مصرف نمک (کلرید سدیم) را کاهش دهد. او برای یافتن جایگزین، به سراغ ChatGPT رفت و از آن مشاوره خواست.

چت‌بات شرکت OpenAI در پاسخ، سدیم برومید را به عنوان جایگزین پیشنهاد کرد. بیمار نیز این ماده را به صورت آنلاین سفارش داده و آن را در رژیم غذایی خود گنجاند. اگرچه از نظر شیمیایی سدیم برومید می‌تواند جایگزینی برای کلرید سدیم باشد، اما کاربرد اصلی آن در ضدعفونی یا پاک‌سازی جکوزی است، نه بهبود طعم غذا. هوش مصنوعی این نکته حیاتی و زمینه‌ساز را به طور کامل نادیده گرفته بود.

پیامدهای فاجعه‌بار: مسمومیت و بستری شدن

سه ماه پس از آغاز مصرف سدیم برومید، بیمار با توهمات پارانوئید به بخش اورژانس مراجعه کرد. پزشکان گزارش دادند که در ۲۴ ساعت نخست بستری، بیمار دچار تشدید بدبینی و توهمات شنوایی و بینایی شد که پس از تلاش برای فرار از بیمارستان، به مراقبت اجباری روان‌پزشکی منجر گردید.

پس از آرام شدن وضعیت روانی بیمار با داروهای ضدروان‌پریشی، او توانست رژیم غذایی خود را که بر اساس توصیه‌های هوش مصنوعی تنظیم کرده بود، توضیح دهد. این اطلاعات به همراه نتایج آزمایش‌ها، تیم پزشکی را قادر ساخت تا تشخیص قطعی «برومیسم» یا مسمومیت ناشی از تجمع برومید را برای او صادر کنند.

سطح برومید در بدن بیمار

برومیسم در اوایل قرن بیستم نسبتاً شایع بود و تخمین زده می‌شود که در مقطعی تا حدود ۸ درصد از بستری‌های روان‌پزشکی به این مسمومیت مرتبط بوده است. با این حال، از دهه‌های ۱۹۷۰ و ۱۹۸۰ میلادی، با حذف تدریجی داروهای حاوی برومید، بروز این بیماری به شدت کاهش یافت.

بیمار پس از تشخیص، طی یک دوره سه‌هفته‌ای تحت درمان قرار گرفت و در نهایت بدون مشکل جدی از بیمارستان مرخص شد.

نتیجه‌گیری: لزوم احتیاط در استفاده از هوش مصنوعی

«باید در نظر داشت که ChatGPT و سایر سامانه‌های هوش مصنوعی ممکن است اطلاعات علمی نادرست تولید کنند، توانایی بررسی انتقادی نتایج را نداشته باشند و در نهایت باعث گسترش اطلاعات غلط شوند.»

این گزارش موردی نشان می‌دهد که فناوری نوظهور هوش مصنوعی هنوز فاصله قابل‌توجهی با جایگزین‌کردن تخصص انسانی در امور حیاتی مانند توصیه‌های پزشکی دارد. محققان تأکید می‌کنند که به سختی می‌توان تصور کرد یک پزشک متخصص، در مواجهه با بیماری که به دنبال جایگزینی ایمن برای کلرید سدیم است، نام سدیم برومید را مطرح کند.

این پژوهش در مجله «Annals of Internal Medicine: Clinical Cases» منتشر شده است.