خبر کامل
هوش مصنوعی به جای پزشک؛ آیا توصیه‌های پزشکی چت‌بات‌ها قابل اعتمادند؟
در دنیای پرشتاب امروز، دسترسی سریع به اطلاعات پزشکی از اهمیت بالایی برخوردار است. با ظهور چت‌بات‌های هوش مصنوعی، بسیاری از افراد به دنبال راهی نوین برای مدیریت سلامت خود هستند. اما آیا می‌توان به این ابزارهای هوشمند اعتماد کرد؟ این مقاله به بررسی نقاط قوت و ضعف استفاده از چت‌بات‌ها برای توصیه‌های پزشکی می‌پردازد و خطرات احتمالی را گوشزد می‌کند.
تجربه ابی: از درمان موفق تا تشخیص اشتباه
«ابی» از منچستر، که با اضطراب بیماری دست‌وپنجه نرم می‌کند، سال گذشته بارها برای مدیریت سلامت خود به چت‌جی‌پی‌تی مراجعه کرده است. او معتقد است که این ابزار نسبت به جست‌وجوی سنتی اینترنتی، توصیه‌های شخصی‌سازی‌شده‌تری ارائه می‌دهد و حس گفت‌وگو با پزشک را تداعی می‌کند.
- موفقیت در تشخیص عفونت ادراری: هنگامی که ابی به عفونت مجاری ادراری مشکوک شد، چت‌جی‌پی‌تی علائم او را بررسی کرد و پیشنهاد مراجعه به داروساز را داد. پس از مشورت، آنتی‌بیوتیک تجویز شد و ابی احساس کرد که بدون اشغال وقت نظام بهداشت و درمان، مراقبت لازم را دریافت کرده است.
- اشتباه خطرناک در مورد آسیب‌دیدگی: در ژانویه، ابی پس از یک سقوط شدید و احساس درد وحشتناک در کمر و شکم، از هوش مصنوعی کمک خواست. چت‌جی‌پی‌تی به او توصیه کرد که فوراً به اورژانس مراجعه کند، زیرا یکی از اندام‌های داخلی‌اش سوراخ شده است. با این حال، پس از سه ساعت انتظار در اورژانس، درد فروکش کرد و مشخص شد که وضعیت او وخیم نیست؛ هوش مصنوعی «آشکارا اشتباه کرده بود.»
نگرانی‌های متخصصان پزشکی
محبوبیت فزاینده چت‌بات‌ها برای توصیه‌های بهداشتی، نگرانی‌هایی را در میان متخصصان پزشکی برانگیخته است. پروفسور کریس ویتی، مدیر ارشد پزشکی انگلستان، هشدار داده است که پاسخ‌های هوش مصنوعی «به‌اندازه کافی خوب نیستند» و اغلب «در عین قاطعیت، اشتباه‌اند.»
پژوهش دانشگاه آکسفورد: کاهش دقت با تعامل انسانی
آزمایشگاه «استدلال با ماشین» دانشگاه آکسفورد، پژوهشی را برای بررسی دقت چت‌بات‌ها انجام داده است:
- دقت ۹۵ درصدی با اطلاعات کامل: وقتی تصویر کاملی از وضعیت پزشکی در اختیار چت‌بات‌ها قرار گرفت، دقت آن‌ها به ۹۵ درصد رسید که «شگفت‌انگیز و تقریباً بی‌نقص» توصیف شد.
- سقوط دقت به ۳۵ درصد در تعامل انسانی: اما وقتی ۱۳۰۰ نفر با چت‌بات‌ها برای دریافت تشخیص و توصیه پزشکی گفت‌وگو کردند، میزان دقت به ۳۵ درصد سقوط کرد. این بدان معناست که در دو‌سوم موارد، مردم تشخیص یا توصیه اشتباهی دریافت می‌کردند.
آدام مهدی، پژوهشگر این طرح، می‌گوید: «وقتی آدم‌ها حرف می‌زنند، اطلاعات را به تدریج به اشتراک می‌گذارند، برخی موارد را از قلم می‌اندازند و حواسشان پرت می‌شود.»
به عنوان مثال، در یکی از سناریوها که علائم خونریزی مغزی (خونریزی زیر عنکبوتیه) را توصیف می‌کرد، تفاوت‌های جزئی در نحوه بیان علائم به چت‌جی‌پی‌تی، منجر به توصیه «استراحت در خانه» شد، در حالی که این وضعیت اورژانسی به درمان فوری بیمارستانی نیاز دارد.
تفاوت با جست‌وجوی سنتی اینترنت
مارگارت مک‌کارتنی، پزشک عمومی در گلاسگو، بر تفاوت‌های اساسی میان چت‌بات‌ها و جست‌وجوی مستقیم اطلاعات تأکید می‌کند. او می‌گوید: «در جست‌وجوی گوگل، وارد یک وب‌سایت می‌شوید و در آنجا نشانه‌های زیادی وجود دارد که به شما می‌گوید این مطلب تا چه حد قابل اعتماد است.» اما در ارتباط با چت‌بات، «این‌طور به نظر می‌رسد که شما در حال دریافت یک توصیه حمایتی هستید که برای شما آماده شده است و همین موضوع احتمالا نحوه تفسیر ما را از آنچه به ما گفته می‌شود، تغییر می‌دهد.»
ترویج اطلاعات نادرست توسط هوش مصنوعی
یک تحلیل جداگانه از موسسه لاندکویست برای نوآوری‌های زیست‌پزشکی در کالیفرنیا نشان داد که چت‌بات‌های هوش مصنوعی می‌توانند اطلاعات نادرست را نیز ترویج کنند. در این پژوهش، مدل‌های جمنای، دی‌پ‌سیک، متا، چت‌جی‌پی‌تی و گروک در زمینه‌های مختلف پزشکی مورد آزمایش قرار گرفتند و بیش از نیمی از پاسخ‌ها «مشکل‌دار» بودند.
دکتر نیکولاس تیلر، سرپرست این پژوهش، می‌گوید: «این ابزارها به‌گونه‌ای طراحی شده‌اند که پاسخ‌هایی بسیار قاطع و مقتدرانه بدهند و همین موضوع حس معتبر بودن را منتقل می‌کند؛ در نتیجه کاربر تصور می‌کند که سیستم حتماً می‌داند درباره چه حرف می‌زند.»
او هشدار می‌دهد که مردم در حال حاضر از سیستمی که برای پیش‌بینی متن بر اساس الگوهای زبانی طراحی شده، توصیه‌های بهداشتی می‌گیرند و باید از چت‌بات‌ها برای مشاوره پزشکی دوری کرد، مگر اینکه تخصص کافی برای تشخیص اشتباهات هوش مصنوعی را داشته باشید.
پاسخ اوپن‌ای‌آی و توصیه نهایی
شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، در بیانیه‌ای اعلام کرده است که ضرورت ارائه پاسخ‌های مطمئن‌تر و ایمن‌تر را کاملاً جدی می‌گیرد و برای آزمایش و بهبود مدل‌های خود با پزشکان همکاری می‌کند. با این حال، تأکید کرده است که چت‌جی‌پی‌تی باید برای کسب اطلاعات و آموزش استفاده شود، نه به عنوان جایگزینی برای توصیه‌های پزشکی تخصصی.
ابی نیز که همچنان از چت‌بات‌ها استفاده می‌کند، توصیه می‌کند که باید «به همه چیز با دیده شک و تردید نگاه کرد» و به خاطر داشت «که این ابزار ممکن است اشتباه کند.» او می‌گوید: «به هیچ‌کدام از حرف‌های آن به عنوان یک حقیقت مطلق اعتماد نمی‌کنم.»
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۲۳:۲۴ - ۱۴۰۵/۰۲/۰۵