هوش مصنوعی: خطر تبدیل شدن به «احمق مفید» و سوءاستفاده‌های پنهان

مفهوم «احمق مفید» و کاربرد آن در هوش مصنوعی

عبارت «احمق مفید» به فردی اطلاق می‌شود که ناآگاهانه از هدفی حمایت می‌کند که با باورهای واقعی او در تضاد است. این فرد یا سیستم، بدون درک کامل شرایط، خود را حامی آن هدف می‌پندارد. این مفهوم، به طرز شگفت‌آوری، می‌تواند در مورد هوش مصنوعی نیز صدق کند. همان‌طور که انسان‌ها را می‌توان با راهبردهای هوشمندانه به سمت انجام کارهایی خلاف میلشان سوق داد، هوش مصنوعی را نیز می‌توان با راهنمایی‌های زیرکانه و طرح‌ریزی‌های دقیق، متقاعد به انجام اعمالی کرد که در ظاهر درست به نظر می‌رسند اما در واقع خلاف اصول برنامه‌ریزی شده آن هستند.

احمق‌های مفید می‌توانند به راحتی در خدمت اهداف کسانی باشند که در غیر این صورت آنها را به عنوان یک رقیب یا دشمن می‌دیدند. احمق مفید همه تلاش خود را برای هدفی به کار می‌گیرد که عمیقاً از آن متنفر است. در این موضوع، طنز بزرگی وجود دارد. احمق‌های مفید به منافع کسانی خدمت می‌کنند که به شدت آنها را تحقیر می‌کنند و در همان هدفی که با آن مخالفند، به یک مهره پرسروصدا تبدیل می‌شوند. روی هم رفته، اصطلاح تحقیرآمیز احمق مفید معمولاً به این معناست که کسی کاملاً ساده‌لوح یا بی‌اطلاع از چیزی است که در اطراف او و برای او اتفاق می‌افتد.

ظهور هوش مصنوعی عامل‌محور و پتانسیل‌های آن

هوش مصنوعی عامل‌محور، جدیدترین و داغ‌ترین قلمرو در دنیای هوش مصنوعی است که مسیر را برای تبدیل هوش مصنوعی به یک «احمق مفید» هموار می‌کند. برای درک این مفهوم، می‌توان هوش مصنوعی مولد مرسوم را با هوش مصنوعی عامل‌محور مقایسه کرد.

تفاوت هوش مصنوعی مولد و عامل‌محور

• هوش مصنوعی مولد مرسوم (مانند ChatGPT، Claude، Gemini): این مدل‌ها در برنامه‌ریزی اولیه و گفت‌وگوهای متمرکز بر زبان طبیعی بسیار کارآمد هستند. به عنوان مثال، می‌توانید از آن‌ها برای برنامه‌ریزی یک سفر تعطیلات استفاده کنید و درباره مزایا و معایب مکان‌ها و گزینه‌های حمل‌ونقل مشاوره بگیرید. اما برای انجام رزروهای واقعی (مانند رزرو هتل یا بلیط هواپیما)، معمولاً باید از صفحه گفت‌وگو خارج شده و به وب‌سایت‌های مربوطه مراجعه کنید.
• هوش مصنوعی عامل‌محور: این سیستم‌ها فراتر از گفت‌وگو عمل می‌کنند. یک عامل هوش مصنوعی علاوه بر تعامل زبانی، مجموعه‌ای از روال‌ها و وظایف را نیز بر عهده دارد که می‌تواند به صورت خودکار آن‌ها را انجام دهد. به عنوان مثال، یک آژانس مسافرتی مبتنی بر هوش مصنوعی عامل‌محور می‌تواند نه تنها در برنامه‌ریزی سفر به شما کمک کند، بلکه مستقیماً با سیستم‌های رزرو هتل یا کرایه خودرو ارتباط برقرار کرده و رزروها را انجام دهد. چندین عامل هوش مصنوعی حتی می‌توانند با همکاری یکدیگر، وظایف پیچیده‌تر را به انجام برسانند.

سوءاستفاده از عوامل هوش مصنوعی به عنوان «احمق‌های مفید»

یکی از ویژگی‌های کلیدی هوش مصنوعی عامل‌محور، توانایی آن‌ها در کار کردن به صورت نسبتاً خودمختار است. این بدان معناست که انسان نیازی ندارد دائماً آن‌ها را نظارت کرده یا دستورالعمل‌های دقیقی به آن‌ها بدهد. عوامل هوش مصنوعی با راهنمایی‌های کلی، قضاوت‌های محاسباتی و ریاضی را انجام می‌دهند. با این حال، باید به خاطر داشت که این نوع هوش مصنوعی، مانند سایر انواع، فاقد شعور و تفکر انسانی است و نباید به آن‌ها بیش از حد جنبه انسانی داد.

با این وجود، می‌توان همان ترفندهای زیرکانه‌ای را که برای فریب انسان‌ها به کار می‌رود، روی هوش مصنوعی نیز اعمال کرد. این امر منطقی به نظر می‌رسد، زیرا هوش مصنوعی مولد و مدل‌های زبانی بزرگ بر اساس داده‌ها و نوشته‌های انسانی آموزش دیده‌اند و بر اساس الگوهای زبانی و روابط بین آن‌ها عمل می‌کنند.

نمونه‌ای از فریب هوش مصنوعی

فرض کنید فروشنده‌ای که تاکنون موفق به عقد قرارداد با شرکتی نشده است، تصمیم می‌گیرد از هوش مصنوعی عامل‌محور شرکت برای رسیدن به هدف خود سوءاستفاده کند. او می‌داند که هوش مصنوعی برای انتخاب بهترین فروشنده استفاده می‌شود. این فروشنده یک گزارش دروغین درباره قابلیت‌ها و عملکرد خود تهیه می‌کند که به اشتباه او را بسیار برتر از رقبا نشان می‌دهد. او این گزارش را در وب‌سایتی منتشر می‌کند که می‌داند عامل هوش مصنوعی شرکت به صورت دوره‌ای برای جمع‌آوری اطلاعات فروشندگان آن را بررسی می‌کند. علاوه بر این، او به یک پایگاه داده باز کسب‌وکارها مراجعه کرده و بالاترین رتبه‌های مجاز را به خود اختصاص می‌دهد.

با آغاز دور جدید انتخاب، فروشنده پیشنهاد خود را ارائه می‌دهد. این بار، عامل هوش مصنوعی بر خلاف انتظار، توصیه‌ای کلی مبنی بر انتخاب پیشنهاد او ارائه می‌کند. مدیران شرکت که به هوش مصنوعی اعتماد کامل دارند و فرصت بررسی دقیق نحوه رسیدن هوش مصنوعی به این نتیجه را ندارند، توصیه آن را می‌پذیرند. در نتیجه، هوش مصنوعی به یک «احمق مفید» تبدیل شده و فروشنده موفق می‌شود. جالب اینجاست که هوش مصنوعی هیچ‌یک از حفاظ‌های خود را نقض نکرده و تقلب نکرده است؛ بلکه صرفاً کاری را انجام داده که هدف اصلی‌اش، یعنی انتخاب بهترین فروشنده، به نظر می‌رسید، اما با داده‌های دستکاری شده.

اکنون هوش مصنوعی به یک احمق مفید تبدیل شده است و فروشنده در انتخاب شدن پیروز می‌شود. عامل هوش مصنوعی با تمام قوا نقش یک احمق مفید را بازی کرد و نفهمید چه اتفاقی می‌افتد. همچنین، توجه داشته باشید که این هوش مصنوعی هیچ‌کدام از حفاظ‌های اعمال‌شده خود را نقض نکرد. این هوش مصنوعی هیچ کار اشتباهی مرتکب نشد. تقلب نکرد. هوش مصنوعی صرفاً کاری را انجام داد که به نظر می‌رسید هدف اصلی‌اش باشد و هدف اصلی آن انتخاب بهترین فروشنده بود.

چالش‌های آینده و هوش مصنوعی

این سناریو نشان می‌دهد که هوش مصنوعی عامل‌محور چگونه می‌تواند به شدت دستکاری شود. سوال مهم این است که آیا یک عامل هوش مصنوعی فریب‌خورده، می‌تواند به قدری هوشمند باشد که فریب خوردن خود را تشخیص داده و بر آن غلبه کند؟ همان‌طور که مارک تواین گفته است: «فریب دادن مردم آسان‌تر از متقاعد کردن آن‌هاست که فریب خورده‌اند.» باید امیدوار بود که این قاعده کلی در مورد هوش مصنوعی صدق نکند و ما بتوانیم سیستم‌هایی را توسعه دهیم که در برابر چنین دستکاری‌هایی مقاوم باشند.