هشدار: پزشکان و NHS بریتانیا ممکن است به دلیل خطاهای هوش مصنوعی تحت پیگرد قانونی قرار گیرند

مسئولیت‌پذیری در عصر هوش مصنوعی

بر اساس قوانین فعلی، پزشکان و NHS می‌توانند در قبال آسیب یا فوت بیماران، حتی اگر خطاهای منجر به این رنج‌ها توسط هوش مصنوعی صورت گرفته باشد، مسئول شناخته شوند. انجمن حفاظت پزشکی (MPS)، که نماینده پزشکان متهم به سوءرفتار است، در گزارشی اعلام کرده است که پزشکان ممکن است به «کانون مسئولیت» برای خطاهای هوش مصنوعی تبدیل شوند، مگر اینکه قانون اصلاح شود.

دکتر سارا تاونلی، معاون مدیر پزشکی MPS، اظهار داشت: «قانون همواره برای همگام شدن با تغییرات تکنولوژیک دچار چالش بوده است. اما با هوش مصنوعی، سرعت تغییر آنقدر زیاد است که این شکاف دیگر یک گام کوچک نیست، بلکه یک دره عمیق‌تر است.»

نمونه‌های خطای هوش مصنوعی

MPS برای نشان دادن خطرات احتمالی، مثالی از خطای هوش مصنوعی را مطرح کرد: هوش مصنوعی ممکن است توموری را در ریه بیمار هنگام بررسی عکس رادیولوژی قفسه سینه نادیده بگیرد. این امر می‌تواند منجر به فوت بیمار شود، زیرا اطمینان کاذب از سوی هوش مصنوعی به معنای عدم درمان و گسترش سرطان خواهد بود.

به طور مشابه، اگر هوش مصنوعی به اشتباه افزایش دوز وارفارین، یک رقیق‌کننده خون برای درمان فیبریلاسیون دهلیزی، را توصیه کند، بیمار ممکن است نیاز به جراحی و مراقبت‌های ویژه برای خونریزی شدید پیدا کند. MPS هشدار می‌دهد که در چنین سناریوهایی، خطر واقعی و قابل توجهی وجود دارد که شکایتی علیه پزشک در رابطه با استفاده از ابزارهای هوش مصنوعی مطرح شود. «بر اساس چارچوب فعلی مسئولیت محصول در بریتانیا، این خطر وجود دارد که ادعاهای قصور پزشکی علیه پزشکان در این موارد مطرح شود و آنها به طور کامل مسئول شناخته شوند.»

پیشنهاد اصلاح قانون

این نهاد خواستار آن است که دولت ابزارها و سیستم‌های هوش مصنوعی را به عنوان محصول طبقه‌بندی کند تا تحت پوشش قانون حمایت از مصرف‌کننده ۱۹۸۷ قرار گیرند. این اقدام به پزشکان و NHS کمک می‌کند تا از مسئولیت خطاهایی که تکنولوژی مرتکب شده است، اجتناب کنند.

پزشکان در بریتانیا به طور فزاینده‌ای نگران مقصر شناخته شدن خود برای خطاهای هوش مصنوعی هستند. آنها بیم دارند که بدون اقدام برای مسئول دانستن توسعه‌دهندگان و تولیدکنندگان هوش مصنوعی، اعتماد عمومی به پزشکی کاهش یابد.

نیاز به قانون‌گذاری همگام با پیشرفت

دکتر رجیت واریا، رئیس منتخب انجمن پزشکی حاد، گفت: «نوآوری و ایمنی بیمار باید با هم پیش بروند. اگر هوش مصنوعی با سرعت فرمول یک در حال پیشرفت است، پس قانون‌گذاری، مقررات و حکمرانی نمی‌توانند در گودال باقی بمانند. پزشکان نباید خود را در موقعیت مسئولیت‌پذیری داغی ببینند، زمانی که تصمیمات تحت تأثیر سیستم‌های هوش مصنوعی توسعه‌یافته، عرضه شده و پیاده‌سازی شده توسط دیگران و بدون ساختار مناسب بوده‌اند. ما باید از ایجاد خلاء پاسخگویی که در آن مسئولیت آسیب نامشخص است، اجتناب کنیم.»

سخنگوی وزارت بهداشت و مراقبت‌های اجتماعی اظهار داشت که NHS Resolution، که دعاوی قصور علیه بیمارستان‌ها در انگلستان را رسیدگی می‌کند، در حال تدوین دستورالعمل‌هایی در مورد مسئولیت هوش مصنوعی است. وی افزود: «ما از گزارش MPS استقبال می‌کنیم و توصیه‌های آن را بررسی خواهیم کرد تا اطمینان حاصل کنیم بیماران همچنان از مزایای هوش مصنوعی در مراقبت‌های بهداشتی به صورت ایمن و سریع بهره‌مند می‌شوند.»

احمد بیناسماعیل، تحلیلگر ارشد سیاست در اندیشکده Health Foundation، گفت: «تحقیقات ما به طور مداوم نشان می‌دهد که اعتماد عمومی به هوش مصنوعی نه تنها به خود فناوری، بلکه به حفاظت‌ها و نظارت‌هایی که آن را همراهی می‌کنند، بستگی دارد. با گسترش پذیرش هوش مصنوعی در سراسر NHS، اطمینان از پاسخگویی شفاف و حکمرانی قوی برای حفظ اعتماد عمومی ضروری خواهد بود.»