هوش مصنوعی و خطر ایجاد خاطرات جعلی در ذهن انسان؛ هشدار محققان MIT

پژوهش‌های جدید نشان می‌دهند که قدرت هوش مصنوعی فراتر از تولید محتوای ساده است و می‌تواند با ایجاد تصاویر و متون فریبنده، خاطرات جعلی در ذهن انسان‌ها جایگزین کند. این پدیده نه تنها باعث فراموشی واقعیت می‌شود، بلکه می‌تواند فرآیند تصمیم‌گیری و قضاوت افراد را نیز به شدت مختل کند.

آزمایشگاه حافظه؛ چگونه تصاویر هوش مصنوعی ما را فریب می‌دهند؟

محققان دانشگاه MIT در یک مطالعه دقیق، تأثیر محتوای تولیدشده توسط هوش مصنوعی را بر حافظه بررسی کردند. در این آزمایش، ۲۰۰ شرکت‌کننده با ۲۴ تصویر مختلف از صحنه‌هایی نظیر مراسم عروسی و خیابان‌های شهری مواجه شدند. تفاوت اصلی در این بود که گروه دوم تصاویر را در حالی مشاهده می‌کردند که توسط هوش مصنوعی دستکاری شده بودند.

در این تصاویر دستکاری‌شده، تغییرات ظریفی اعمال شده بود، از جمله:

• تغییر در حالت چهره و احساسات افراد حاضر در صحنه
• اضافه شدن عناصر ناخواسته مانند نیروهای نظامی به محیط
• تغییر در شرایط جوی و آب‌وهوای تصاویر اصلی

نتایج حاصل از این تست نشان داد افرادی که با تصاویر دستکاری‌شده مواجه شده بودند، به‌طور قابل‌توجهی بیشتر دچار خاطرات نادرست شدند و برخلاف انتظار، با اطمینان بسیار بالایی به رویدادهایی اشاره می‌کردند که هرگز رخ نداده بود.

خطر توهمات هوش مصنوعی و فرسایش حقیقت

حافظه انسان ذاتاً خطاپذیر است و همواره تحت تأثیر محرک‌های بیرونی قرار دارد. اما ورود هوش مصنوعی مولد، این آسیب‌پذیری را به سطحی جدید رسانده است. مسئله تنها محدود به فریب‌های عمدی نیست؛ بلکه پدیده‌ای به نام «توهم هوش مصنوعی» می‌تواند اطلاعات کاملاً غلط را با چنان ظرافتی ارائه دهد که کاربر قادر به تشخیص آن‌ها نباشد.

«شکل‌گیری حافظه تنها ذخیره‌سازی نیست، بلکه فرآیندی پیچیده شامل توجه و بازیابی است که هوش مصنوعی می‌تواند با حذف بخش‌های حیاتی، آن را مختل کند.»

این موضوع حتی برای متخصصان نیز خطرساز است. اگر یک کارشناس به خروجی‌های سیستم‌های هوشمند اعتماد بیش از حد داشته باشد، ممکن است حتی در صورت تضاد با دانش خود، تحت تأثیر اطلاعات نادرست قرار گرفته و در قضاوت‌های نهایی دچار اشتباه فاحش شود.

نتیجه‌گیری

ظهور فناوری‌های پیشرفته نیازمند تقویت تفکر انتقادی است. با توجه به توانایی هوش مصنوعی در بازسازی واقعیت‌های کاذب، محافظت از سلامت حافظه و دقت در قضاوت‌های انسانی به یکی از چالش‌های اصلی عصر دیجیتال تبدیل شده است.