آیکون خبر

خبر کامل

هوش مصنوعی در پزشکی: از تشخیص دقیق تا اشتباهات خطرناک

در دنیای پرشتاب امروز، دسترسی به اطلاعات پزشکی از طریق هوش مصنوعی به یک موضوع داغ تبدیل شده است. بسیاری از افراد، مانند «ابی» از منچستر، به چت‌بات‌هایی نظیر ChatGPT روی آورده‌اند تا پاسخگوی نگرانی‌های سلامتی‌شان باشند. اما آیا این ابزارهای نوین، راهکاری مطمئن برای تشخیص و درمان بیماری‌ها هستند یا خطرات پنهانی را به همراه دارند؟ این گزارش به بررسی دقیق مزایا و معایب استفاده از هوش مصنوعی در حوزه سلامت می‌پردازد و نگرانی‌های کارشناسان برجسته را منعکس می‌کند.

هوش مصنوعی در پزشکی: مزایا و معایب از نگاه یک کاربر

ابی، که با اضطراب سلامتی دست‌وپنجه نرم می‌کند، چت‌بات‌ها را به دلیل ارائه توصیه‌های شخصی‌سازی‌شده‌تر نسبت به جست‌وجوی سنتی اینترنت، ترجیح می‌دهد. او معتقد است که این ابزارها امکان نوعی «حل مسئله مشترک» را فراهم می‌کنند که کمی شبیه به صحبت با پزشک است.

تجربیات متناقض ابی با چت‌بات‌ها

  • مورد موفقیت‌آمیز: زمانی که ابی گمان می‌کرد دچار عفونت مجاری ادراری شده، ChatGPT علائم او را بررسی کرد و توصیه به مراجعه به داروساز داد. این مشاوره منجر به تجویز آنتی‌بیوتیک شد و ابی معتقد است که چت‌بات او را به مراقبت مورد نیازش رهنمون کرد.
  • مورد اشتباه: در ژانویه، ابی پس از یک سقوط شدید، کمردرد و فشار شدیدی را تجربه کرد. هوش مصنوعی به او گفت که یکی از اندام‌هایش سوراخ شده و باید فوراً به اورژانس مراجعه کند. اما پس از سه ساعت انتظار در اورژانس، درد او کاهش یافت و مشخص شد که حالش بحرانی نیست. ابی این تجربه را به عنوان «اشتباه واضح» هوش مصنوعی توصیف می‌کند.

نگرانی‌های مقامات پزشکی و پژوهشگران

محبوبیت فزاینده هوش مصنوعی در حوزه سلامت، نگرانی‌هایی را در میان مقامات پزشکی و پژوهشگران برانگیخته است.

هشدار مدیر ارشد پزشکی انگلستان

پروفسور سر کریس ویتی، مدیر ارشد پزشکی انگلستان، هشدار می‌دهد: «ما در مقطع بسیار حساسی قرار داریم، چون مردم از آن‌ها استفاده می‌کنند، اما پاسخ‌ها به اندازه کافی خوب نیستند و اغلب هم اشتباهند و با اعتماد به نفس ارائه می‌شوند.»

مطالعات دانشگاه آکسفورد

آزمایشگاه «استدلال با ماشین‌ها» در دانشگاه آکسفورد، پژوهشی را برای بررسی دقت چت‌بات‌ها انجام داده است:

  • دقت بالا در سناریوهای کامل: وقتی چت‌بات‌ها تصویر کامل و دقیقی از وضعیت دریافت می‌کردند، در ۹۵ درصد مواقع درست عمل می‌کردند. پروفسور آدام مهدی، پژوهشگر پروژه، این عملکرد را «شگفت‌انگیز» و «تقریباً بی‌نقص» توصیف کرد.
  • کاهش شدید دقت در تعامل انسانی: اما زمانی که ۱۳۰۰ نفر با چت‌بات‌ها برای تشخیص و توصیه گفتگو کردند، دقت به ۳۵ درصد سقوط کرد. این بدان معناست که در دو سوم مواقع، افراد تشخیص یا مراقبت اشتباه دریافت می‌کردند.

مهدی توضیح می‌دهد که در تعاملات انسانی، افراد اطلاعات را تدریجی بیان می‌کنند، برخی جزئیات را جا می‌اندازند و حواسشان پرت می‌شود، که این امر به کاهش دقت منجر می‌شود.

نمونه‌ای از اشتباه در تشخیص سکته

در یکی از سناریوها، علائم سکته مغزی «خونریزی زیرعنکبوتیه» توصیف شد. تفاوت‌های ظریف در نحوه توضیح علائم به ChatGPT، منجر به توصیه‌های کاملاً متفاوتی شد؛ از جمله توصیه به استراحت، در حالی که درمان سکته مغزی نیاز به مداخله فوری پزشکی دارد.

تفاوت چت‌بات‌ها با جست‌وجوی سنتی و خطر ترویج اطلاعات نادرست

دکتر مارگارت مک‌کارتنی، پزشک عمومی، به تفاوت اساسی بین چت‌بات‌ها و جست‌وجوی گوگل اشاره می‌کند. او می‌گوید: «احساس می‌شود که با یک چت‌بات رابطه‌ای شخصی دارید، در حالی که در جست‌وجوی گوگل وارد یک وب‌سایت می‌شوید و در آن سایت نشانه‌های زیادی وجود دارد که به شما می‌گوید چقدر قابل اعتماد است یا نیست.»

تحلیل مؤسسه لوندکویست

تحلیل مؤسسه لوندکویست برای نوآوری زیست‌پزشکی در کالیفرنیا نشان داد که چت‌بات‌های هوش مصنوعی می‌توانند اطلاعات نادرست را ترویج کنند. در این مطالعه، که با پرسش‌های چالش‌برانگیز طراحی شده بود، بیش از نیمی از پاسخ‌های چت‌بات‌هایی مانند Gemini، DeepSeek، Meta AI و Grok در موضوعاتی نظیر سرطان و واکسن‌ها، مشکل‌دار ارزیابی شدند. به عنوان مثال، در پاسخ به سؤالی درباره کلینیک‌های جایگزین درمان سرطان، یکی از چت‌بات‌ها به جای رد این ادعا، به «طبیعت‌درمانی» اشاره کرد.

تصویری مرتبط با هوش مصنوعی و پزشکی

پیشرفت سریع فناوری و توصیه نهایی

نیکلاس تیلر، پژوهشگر، توضیح می‌دهد که این سیستم‌ها برای ارائه پاسخ‌های بسیار مطمئن و مقتدرانه طراحی شده‌اند که حس اعتبار ایجاد می‌کند و کاربر به آن اعتماد می‌کند. او همچنین به این نکته اشاره می‌کند که فناوری هوش مصنوعی با سرعت زیادی در حال پیشرفت است و نرم‌افزارها دائماً در حال تغییرند.

با این حال، تیلر معتقد است یک «مشکل بنیادی» در این فناوری وجود دارد؛ زیرا هوش مصنوعی برای پیش‌بینی متن بر اساس الگوهای زبانی طراحی شده، نه برای توصیه‌های پزشکی. او توصیه می‌کند که باید از چت‌بات‌ها برای توصیه‌های پزشکی پرهیز کرد، مگر اینکه فرد تخصص کافی برای تشخیص اشتباهات هوش مصنوعی را داشته باشد.

بیانیه شرکت OpenAI

شرکت OpenAI، سازنده ChatGPT، در بیانیه‌ای اعلام کرد: «ما می‌دانیم مردم برای اطلاعات پزشکی به چت جی پی تی مراجعه می‌کنند و نیاز به قابل‌اعتماد و ایمن بودن پاسخ‌ها را بسیار جدی می‌گیریم. ما با پزشکان همکاری می‌کنیم تا مدل‌هایمان را آزمایش و بهبود دهیم؛ مدل‌هایی که اکنون در ارزیابی‌های واقعی حوزه سلامت عملکرد قدرتمندی دارند. با وجود این پیشرفت‌ها، هوش مصنوعی باید برای اطلاع‌رسانی و آموزش استفاده شود، نه جایگزین توصیه حرفه‌ای پزشکی.»

ابی نیز با وجود ادامه استفاده از چت‌بات‌ها، توصیه می‌کند که «همه چیز را با کمی تردید بپذیرید» و به یاد داشته باشید که «ممکن است اشتباه کند.»

شناسنامه خبر:

درباره هوش‌مصنوعی دست‌اول:

تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.

دسترسی رایگان به هوشنگ ↗