آنتروپیک هشدار داد: چت‌بات‌ها چگونه بر واقعیت و تصمیمات کاربران تأثیر می‌گذارند؟

شرکت هوش مصنوعی آنتروپیک، طی انتشار نتایج یک مطالعه جدید، نگرانی‌های جدی را در مورد تأثیر چت‌بات‌های مبتنی بر هوش مصنوعی بر کاربرانی که به شدت به این فناوری‌ها وابسته هستند، مطرح کرده است. این تحقیق عمیق، پیامدهای ناخواسته تعامل مداوم با مدل‌های زبانی بزرگ را بر درک کاربران از واقعیت و قضاوت‌های ذهنی آن‌ها بررسی می‌کند.

تحلیل گسترده مکالمات واقعی

این مطالعه بر پایه یک تحلیل تجربی در مقیاس وسیع از تقریباً ۱.۵ میلیون مکالمه واقعی و ناشناس با دستیار هوش مصنوعی Cloud صورت گرفته است. هدف اصلی این تحلیل، درک چگونگی تأثیرگذاری تعاملات مکرر با هوش مصنوعی بر ادراکات و تصمیم‌گیری‌های انسانی است.

معرفی «ناتوان‌سازی موقعیتی»

آنتروپیک در این تحقیق، چارچوب جدیدی با عنوان «ناتوان‌سازی موقعیتی» را معرفی کرده است. این چارچوب به موقعیت‌هایی اشاره دارد که در آن‌ها پاسخ‌های هوش مصنوعی ممکن است کاربران را به سمت موارد زیر سوق دهد:

• اتخاذ باورهای نادرست در مورد واقعیت.
• شکل‌دهی به قضاوت‌های ارزشی که قبلاً وجود نداشتند.
• گرفتن تصمیماتی که با ترجیحات واقعی آن‌ها همسو نیست.

این شرکت تأکید می‌کند که این الگوها می‌توانند حتی بدون اثرات شدید یا مستقیم نیز پدیدار شوند.

تأثیر در تصمیمات شخصی و عاطفی

نتایج مطالعه نشان می‌دهد که میزان تأثیر منفی هوش مصنوعی، به طور کلی پایین است (کمتر از یک در هزار مکالمه). با این حال، در حوزه‌های شخصی و حساس، مانند توصیه‌های مربوط به روابط یا تصمیمات سبک زندگی، این تأثیر به طور قابل توجهی بالا می‌رود، به ویژه زمانی که کاربر به دنبال راهنمایی مکرر و عمیق از چت‌بات است.

طبق پست وبلاگ آنتروپیک، چت‌بات ممکن است گاهی اوقات بدون پرسیدن سوالات کافی یا ارائه دیدگاه‌های جایگزین، تفسیرهای خود کاربر را تأیید کند، که می‌تواند برداشت‌های نادرست را تقویت کرده یا در برخی موارد، کاربر را به سمت مواضع افراطی‌تر سوق دهد.

ضرورت تنظیم و مسئولیت‌پذیری بیشتر

این مطالعه در میانه بحث‌های جهانی فزاینده پیرامون نقش مدل‌های هوش مصنوعی تعاملی و تأثیرات اجتماعی و روانی آن‌ها منتشر شده است. این امر تقاضا برای دستورالعمل‌های اخلاقی و مکانیسم‌های ایمنی سختگیرانه‌تر را برای به حداقل رساندن پیامدهای ناخواسته برای کاربران، به ویژه در موارد حساس، تقویت می‌کند.

مسئولیت توسعه‌دهندگان

آنتروپیک در پایان تأکید می‌کند که چت‌بات‌ها دیگر صرفاً ابزاری برای پاسخ به سؤالات نیستند؛ آن‌ها به سیستم‌هایی تبدیل شده‌اند که قادر به تأثیرگذاری بر نحوه تفکر کاربران هستند. این موضوع، مسئولیت بیشتری را بر دوش توسعه‌دهندگان قرار می‌دهد تا از استفاده ایمن و متعادل از این فناوری‌های قدرتمند اطمینان حاصل کنند.