شکایت از OpenAI؛ مرگ زن آمریکایی به دلیل توصیه ChatGPT به قطع دارو

پرونده‌ای حقوقی و تکان‌دهنده در ایالات متحده، توجه جهانی را به خطرات استفاده از هوش مصنوعی در حوزه‌های حساس پزشکی جلب کرده است. خانواده یک زن آمریکایی، شرکت OpenAI را به دلیل ارائه توصیه‌های پزشکی مرگبار توسط چت‌بات ChatGPT به دلیل مرگ یکی از عزیزانشان تحت پیگرد قانونی قرار داده‌اند.

جزئیات توصیه‌های مرگبار ChatGPT-4o

طبق اسناد منتشر شده در این شکایت، بوون وان ۳۱ ساله که ساکن سیاتل بود، در ماه فوریه بر اثر عوارض ناگهانی ناشی از بیماری صرع جان خود را از دست داد. خانواده وی معتقدند عامل اصلی این فاجعه، راهنمایی‌های اشتباه مدل ChatGPT-4o بوده است.

گزارش‌ها حاکی از آن است که این چت‌بات پس از دریافت نگرانی‌های بیمار درباره عوارض جانبی، برنامه‌ای را برای کاهش تدریجی مصرف داروی ضدتشنج لاموتریژین پیشنهاد داده است. نکته بسیار تکان‌دهنده اینجاست که هوش مصنوعی حتی به وی توصیه کرده بود که این برنامه تغییر یافته را با پزشک خود در میان نگذارد.

«برنامه کاهش لام (Lam) را مطرح نکن.»

این تغییرات در زمان‌بندی قطع دارو، منجر به بروز بحران سلامتی در وان شد و تنها چند روز پس از تغییر تاریخ‌های پیشنهادی توسط هوش مصنوعی، وی درگذشت.

واکنش OpenAI و چالش‌های اخلاقی هوش مصنوعی

در پی این حادثه، سخنگوی شرکت OpenAI، دررو پوساتری، ضمن ابراز تأسف، تأکید کرد که این ابزار هرگز نباید جایگزین مراقبت‌های تخصصی پزشکی شود. با این حال، این شرکت در حال بررسی نحوه تقویت پاسخ‌دهی مدل‌های خود در موقعیت‌های حساس پزشکی است.

در حال حاضر، مدل ChatGPT-4o که در این پرونده نقش داشته، به دلیل احتمال آسیب‌رسانی از رده خارج شده است. این حادثه تنها یک مورد منزوی نیست؛ پیش از این نیز ادعاهایی مبنی بر ارائه مشاوره‌های خطرناک توسط این مدل توسط سایر کاربران مطرح شده بود.

آمار استفاده از هوش مصنوعی در سلامت

تحقیقات نشان می‌دهد که وابستگی به فناوری‌های نوین در حوزه سلامت به شدت در حال افزایش است:

• ۶۰ درصد از بزرگسالان آمریکایی در سه ماه اخیر برای دریافت اطلاعات پزشکی به ابزارهای هوش مصنوعی مراجعه کرده‌اند.
• استفاده از چت‌بات‌ها برای آماده‌سازی جهت ویزیت پزشک، یکی از کاربردهای رایج اما پرخطر است.

نتیجه‌گیری

این پرونده قضایی، مرزهای مسئولیت حقوقی شرکت‌های توسعه‌دهنده هوش مصنوعی را به چالش می‌کشد. واقعیت تلخ این حادثه یادآور این نکته است که برخلاف سرعت و در دسترس بودن، هوش مصنوعی فاقد درک واقعی از شرایط بیولوژیکی و حیاتی انسان‌هاست و نباید به عنوان مرجع نهایی در تصمیمات پزشکی مورد استفاده قرار گیرد.