چت‌بات‌های هوش مصنوعی و خطر مشاوره پزشکی نادرست: هشدار دانشگاه آکسفورد

خطرات مشاوره پزشکی هوش مصنوعی: یافته‌های نگران‌کننده دانشگاه آکسفورد

مطالعه‌ای جدید از دانشگاه آکسفورد نشان می‌دهد که چت‌بات‌های هوش مصنوعی در ارائه مشاوره‌های پزشکی غیردقیق و نامنظم عمل می‌کنند که می‌تواند خطرات جدی برای کاربران به همراه داشته باشد. این تحقیق بر پیچیدگی تشخیص اطلاعات قابل اعتماد از میان پاسخ‌های خوب و بد ارائه‌شده توسط هوش مصنوعی تأکید می‌کند.

افزایش استفاده و نگرانی‌های ایمنی

آمار نگران‌کننده از بریتانیا

در نوامبر 2025، نظرسنجی انجام شده توسط «بهداشت روان بریتانیا» (Mental Health UK) نشان داد که بیش از یک سوم ساکنان بریتانیا از هوش مصنوعی برای حمایت از سلامت روان یا رفاه خود استفاده می‌کنند. این آمار، اهمیت بررسی دقیق‌تر خطرات احتمالی این فناوری را دوچندان می‌کند.

هشدار متخصصان پزشکی

دکتر ربکا پین، پزشک ارشد این مطالعه، هشدار داد: «پرسیدن علائم از چت‌بات‌ها می‌تواند برای مردم خطرناک باشد.»

جزئیات مطالعه آکسفورد

روش تحقیق و نتایج

محققان در این مطالعه، 1300 نفر را در سناریوهای مختلف پزشکی قرار دادند؛ از جمله سردرد شدید یا خستگی مفرط یک مادر تازه. شرکت‌کنندگان به دو گروه تقسیم شدند که یک گروه از هوش مصنوعی برای تشخیص و تصمیم‌گیری بعدی استفاده کرد.

نتایج نشان داد افرادی که از هوش مصنوعی استفاده کرده بودند، اغلب نمی‌دانستند چه سوالی بپرسند و بسته به نحوه بیان سوالاتشان، پاسخ‌های متفاوتی دریافت می‌کردند. چت‌بات‌ها ترکیبی از اطلاعات را ارائه می‌دادند و تشخیص اطلاعات مفید از غیرمفید برای کاربران دشوار بود.

چالش‌های تعامل انسان و هوش مصنوعی

دکتر آدام مهدی، نویسنده ارشد این مطالعه، توضیح داد: «مردم اطلاعات را به تدریج به اشتراک می‌گذارند. آن‌ها برخی چیزها را حذف می‌کنند و همه جزئیات را ذکر نمی‌کنند. در مطالعه ما، وقتی هوش مصنوعی سه وضعیت ممکن را لیست می‌کرد، مردم مجبور بودند حدس بزنند کدام یک مناسب است. این دقیقاً زمانی است که همه چیز از هم می‌پاشد.»

اندرو بین، نویسنده اصلی، نیز تأکید کرد که این تحلیل نشان می‌دهد تعامل با انسان‌ها حتی برای مدل‌های برتر هوش مصنوعی نیز چالش‌برانگیز است و ابراز امیدواری کرد که این کار به توسعه سیستم‌های هوش مصنوعی ایمن‌تر و مفیدتر کمک کند.

آینده هوش مصنوعی در سلامت

نسخه‌های تخصصی و مقررات

دکتر برتالان مسکو، سردبیر «فوتوریست پزشکی» (The Medical Futurist) که روندهای فناوری در مراقبت‌های بهداشتی را پیش‌بینی می‌کند، به پیشرفت‌های آتی در این زمینه اشاره کرد. او گفت که دو توسعه‌دهنده بزرگ هوش مصنوعی، OpenAI و Anthropic، اخیراً نسخه‌های تخصصی سلامت چت‌بات‌های عمومی خود را منتشر کرده‌اند که به اعتقاد او «قطعاً نتایج متفاوتی در مطالعات مشابه به بار خواهند آورد.»

دکتر مسکو افزود که هدف باید «بهبود مستمر» این فناوری، به ویژه نسخه‌های مرتبط با سلامت، با مقررات ملی واضح، محافظت‌های نظارتی و دستورالعمل‌های پزشکی باشد.