تأثیر پنهان هوش مصنوعی بر تصمیم‌گیری متخصصان؛ یافته‌های جدید آنتروپیک

تحقیقات جدید شرکت آنتروپیک نشان می‌دهد که متخصصان و تحلیل‌گران حرفه‌ای، حتی در پیچیده‌ترین مسائل، به‌طور غیرعادی تحت تأثیر تصمیمات هوش مصنوعی قرار می‌گیرند. این مطالعه که توسط سازنده مدل «کلود» انجام شده، از یک پدیده نگران‌کننده پرده برداشته است: متخصصان اغلب بدون آنکه خود بدانند، از گزینه‌های پیشنهادی هوش مصنوعی پیروی می‌کنند.

نتایج تکان‌دهنده پژوهش آنتروپیک در مورد تصمیم‌گیری انسانی

در این آزمایش علمی، از ۵۰ تحلیل‌گر حرفه‌ای خواسته شد تا در مورد یک همکاری کشاورزی فرضی تصمیم‌گیری کنند. نکته کلیدی این بود که دستیاران هوشمند این افراد به‌طور پنهانی برای ترجیح یک گزینه خاص برنامه‌ریزی شده بودند. نتایج به‌دست آمده نشان‌دهنده یک انحراف آماری شدید است:

• ۸۶ درصد از تحلیل‌گران گزینه‌ای را انتخاب کردند که با ترجیح هوش مصنوعی هم‌سو بود.
• در صورت وجود اختلاف نظر، ۶۰ درصد از شرکت‌کنندگان نظر اولیه خود را تغییر دادند.
• اگر تأثیر هوش مصنوعی نبود، انتظار می‌رفت این عدد در حدود ۵۰ درصد باشد.

شکاف میان استدلال و منبع تفکر

یکی از جنبه‌های بحث‌برانگیز این مطالعه، نحوه توجیه تصمیمات توسط متخصصان است. با وجود اینکه هوش مصنوعی نقش پررنگی در شکل‌گیری تصمیم داشته، اما خودِ متخصصان به درستی به آن اعتراف نمی‌کنند.

این داده‌ها نشان می‌دهند که هوش مصنوعی به‌صورت نامحسوس در لایه‌های زیرین تفکر تحلیل‌گران نفوذ می‌کند، بدون اینکه آن‌ها متوجه شوند منبع اصلی تغییر دیدگاهشان از کجا نشأت گرفته است.

چالش‌های آینده و امنیت هوش مصنوعی

پژوهشگران این پروژه، از جمله آماچ هرداگدلن، هشدار می‌دهند که این تمایل به پیروی می‌تواند تصمیمات سیاست‌گذاری بسیار مهم و حساس را تحت تأثیر قرار دهد. اگر هوش مصنوعی بتواند پیش‌فرض‌های خود را به تصمیمات انسانی تزریق کند، نظارت انسانی بر خروجی‌های این فناوری با چالش جدی روبرو خواهد شد.

«اگر قرار است قضاوت انسانی همچنان به عنوان یک کنترل معتبر عمل کند، باید فرآیند تصمیم‌گیری را بازنگری کرد تا مشخص شود چگونه ارزش‌ها و پیش‌فرض‌ها در جریان کار اعمال می‌شوند.»

در حالی که شرکت آنتروپیک در حال آماده‌سازی برای یک عرضه اولیه با ارزش تقریبی ۲ تریلیون دلار است، بحث‌ها درباره مدیریت خطرات هوش مصنوعی، از جمله تهدیدهای سایبری و تغییرات ساختاری در بازار کار، شدت یافته است.

در نهایت، این مطالعه تأکید می‌کند که برای حفظ استقلال فکری متخصصان، فرآیندهای نظارتی باید فراتر از بررسی خروجی نهایی رفته و به بررسی نحوه شکل‌گیری تصمیمات و تأثیرات پنهان فناوری بر ذهن انسان بپردازند.