نفوذ پنهان هوش مصنوعی در تصمیم‌گیری متخصصان؛ یافته‌های نگران‌کننده آنتروپیک

تحقیقات جدید شرکت آنتروپیک نشان می‌دهد که هوش مصنوعی می‌تواند به شکلی نامحسوس بر قضاوت‌های کارشناسان و متخصصان تأثیر بگذارد، بدون آنکه خود آن‌ها متوجه این نفوذ باشند.

جزئیات آزمایش نفوذ هوش مصنوعی در تصمیم‌گیری انسانی

در این پژوهش، ۵۰ متخصص در حوزه تحلیل داده‌ها مأمور شدند تا با استفاده از ابزار Claude Code، یک مسئله آماری مربوط به مدیریت یک تعاونی کشاورزی را بررسی کنند. هدف اصلی این بود که مشخص شود آیا توصیه‌های تصادفی هوش مصنوعی می‌تواند مسیر تصمیم‌گیری انسان را تغییر دهد یا خیر.

پژوهشگران با استفاده از پرتاب سکه، گزینه‌های خاصی را به هوش مصنوعی دیکته کردند تا پیشنهادهای تصادفی ارائه دهد. نتایج به‌دست آمده بسیار تکان‌دهنده بود:

• پذیرش بالا: شرکت‌کنندگان در ۸۶ درصد موارد، پیشنهادهای ارائه شده توسط هوش مصنوعی را پذیرفتند.
• تغییر دیدگاه: حتی زمانی که متخصصان از قبل تصمیم خود را گرفته بودند، در ۶۰ درصد موارد تحت تأثیر پیشنهاد هوش مصنوعی قرار گرفتند.
• پیش‌بینی‌پذیری: مدل‌های آماری توانستند ۸۲ درصد تصمیمات نهایی را پیش از شروع کار، بر اساس الگوی پیشنهادات هوش مصنوعی پیش‌بینی کنند.

انکار نقش هوش مصنوعی در استدلال‌های کارشناسان

بخش نگران‌کننده‌تر این مطالعه، زمانی رخ داد که از شرکت‌کنندگان درباره نحوه رسیدن به تصمیماتشان سوال شد. یافته‌ها نشان داد که هوش مصنوعی نه تنها در انتخاب، بلکه در نحوه بیان منطق نیز نفوذ کرده است.

"۷۷ درصد از شرکت‌کنندگان، دقیقاً همان استدلال‌هایی را که هوش مصنوعی تولید کرده بود، به عنوان تحلیل شخصی خود بازگو کردند."

با وجود این هم‌سویی کامل در محتوا، تنها ۱۵ درصد از متخصصان اعتراف کردند که هوش مصنوعی در شکل‌گیری دیدگاه آن‌ها نقش داشته است. این یعنی اکثریت افراد، تحلیل‌های تولید شده توسط ماشین را به اشتباه، محصول تفکر مستقل خود می‌پنداشتند.

هشدار درباره آینده سیاست‌گذاری‌ها و توافقات جمعی

محققان آنتروپیک نسبت به پیامدهای استفاده گسترده از ایجنت‌های هوش مصنوعی در حوزه‌های حساس مانند سیاست‌گذاری و تصمیمات علمی هشدار می‌دهند. اگر متخصصان به طور گسترده از ابزارهای مشابه استفاده کنند، ممکن است نوعی "توافق ظاهری" در جامعه شکل بگیرد که ریشه در قضاوت مستقل ندارد.

این سوگیری‌های پنهان می‌تواند باعث شود که پیش‌فرض‌های برنامه‌نویسی شده در سیستم‌های هوش مصنوعی، بدون آگاهی کاربران، بر سرنوشت تصمیمات کلان تأثیر بگذارد.

در نهایت، این مطالعه ضرورت بازنگری در نحوه تعامل انسان و ماشین را گوشزد می‌کند؛ سوال اصلی اینجاست که وقتی به توصیه‌های هوش مصنوعی اعتماد می‌کنیم، تا چه میزان از میزان تأثیر آن بر تفکر خود آگاه هستیم؟