هشدار آکسفورد: تصاویر نامرئی می‌توانند عوامل هوش مصنوعی را هک کنند

پژوهشگران دانشگاه آکسفورد در مطالعه‌ای جدید نشان داده‌اند که تصاویر دیجیتال، حتی آنهایی که برای چشم انسان کاملاً عادی به نظر می‌رسند، می‌توانند با پیام‌های مخفی آغشته شوند. این پیام‌ها قادرند عوامل هوش مصنوعی را کنترل کرده و هکرها را به رایانه شما دعوت کنند، که زنگ خطری جدی برای امنیت سایبری در عصر هوش مصنوعی محسوب می‌شود.

آسیب‌پذیری عوامل هوش مصنوعی در برابر کدهای پنهان

عوامل هوش مصنوعی، که نسل بعدی دستیاران شخصی رایانه‌ای محسوب می‌شوند و فراتر از چت‌بات‌ها عمل می‌کنند (مانند باز کردن تب‌ها، پر کردن فرم‌ها و کلیک روی دکمه‌ها)، در برابر کدهای مخربی که در تصاویر به ظاهر بی‌ضرر پنهان شده‌اند، آسیب‌پذیر هستند. این بدان معناست که اگر یک عامل هوش مصنوعی هک شود، می‌تواند محتوای دیجیتال شما را به اشتراک بگذارد یا از بین ببرد.

یارین گال، دانشیار یادگیری ماشین در دانشگاه آکسفورد و یکی از نویسندگان این مطالعه، اظهار داشت: «یک عکس تغییریافته در شبکه اجتماعی ایکس (توییتر سابق) می‌تواند برای تحریک عامل روی رایانه و انجام دادن اعمال مخرب کافی باشد. هر تصویر خرابکاری‌شده می‌تواند رایانه را تحریک کند تا آن تصویر را بازنشر کرده و سپس کاری مخرب مانند ارسال تمام رمزهای عبور شما انجام دهد.»

این آسیب‌پذیری می‌تواند منجر به آلوده شدن رایانه‌های دیگر کاربران نیز شود، زیرا با مشاهده صفحه مجازی حاوی تصویر آلوده توسط عامل هوش مصنوعی، رایانه آنها نیز در معرض خطر قرار می‌گیرد.

تصاویر خرابکاری‌شده: تهدیدی نامرئی

مطالعه آکسفورد نشان می‌دهد که تصاویر خرابکاری‌شده، راهی بالقوه برای به خطر انداختن رایانه‌ها هستند، هرچند هنوز گزارشی از وقوع آن خارج از محیط آزمایشگاهی وجود ندارد. این تصاویر می‌توانند شامل هر چیزی باشند؛ از افراد مشهور و غروب آفتاب گرفته تا بچه گربه‌ها یا الگوهای انتزاعی. حتی اگر از عامل هوش مصنوعی استفاده نکنید، این یافته‌ها نشان می‌دهند که خطر هک محتمل است.

هدف از مطالعه: هشدار و افزایش آگاهی

هدف اصلی این مطالعه، هشدار دادن به کاربران و توسعه‌دهندگان عوامل هوش مصنوعی است، زیرا فناوری این عوامل با سرعت فزاینده‌ای در حال پیشرفت است. توسعه‌دهندگان باید از این آسیب‌پذیری‌ها آگاه باشند و در نحوه استقرار سامانه‌های عامل خود محتاط‌تر عمل کنند.

نحوه عملکرد تصاویر مخرب

این تصاویر برای چشم انسان کاملاً عادی به نظر می‌رسند، اما حاوی پیکسل‌های خاصی هستند که مطابق با نحوه پردازش داده‌های بصری توسط مدل‌های زبانی بزرگ (LLM) تغییر یافته‌اند. عواملی که با سامانه‌های هوش مصنوعی منبع‌باز (open-source) ساخته شده‌اند، آسیب‌پذیرتر هستند، زیرا به کاربران اجازه می‌دهند کد زیربنایی را مشاهده و برای اهداف خود اصلاح کنند. این امر به مهاجمان امکان می‌دهد تا نحوه پردازش داده‌های بصری توسط هوش مصنوعی را ارزیابی کرده و داده‌های مخرب را وارد رایانه کنند.

تفاوت پردازش بصری انسان و هوش مصنوعی

• انسان: مغز انسان هنگام مشاهده عکس یک سگ، ویژگی‌هایی مانند گوش‌های آویزان، بینی خیس و سبیل‌های بلند را تشخیص می‌دهد.
• رایانه: رایانه تصویر را به پیکسل‌ها تجزیه کرده و هر نقطه رنگی را به عنوان یک عدد نمایش می‌دهد. سپس به دنبال الگوهای عددی می‌گردد تا تصویر را شناسایی کند.

اگر تنها چند عدد در پیکسل‌ها تغییر یابد یا پیکسل‌ها به گونه‌ای دستکاری شوند که برای چشم انسان قابل تشخیص نباشد، رایانه همچنان تغییر را متوجه می‌شود و الگوهای عددی به هم می‌ریزند. این دستکاری می‌تواند باعث شود رایانه به جای سگ، گربه را ببیند یا یک عکس را به عنوان یک پیام مخرب تفسیر کند.

چالش‌های امنیتی در آینده نزدیک

عوامل هوش مصنوعی نمی‌توانند مستقیماً صفحه رایانه شما را ببینند؛ آنها باید به طور مکرر از صفحه عکس بگیرند و آنها را تجزیه و تحلیل کنند تا بفهمند روی چه چیزی کلیک کنند. هنگامی که عامل، عکس را پردازش می‌کند و پیکسل‌ها را سازماندهی می‌کند، کد فرمان مخفی پنهان شده در تصویر پس‌زمینه را نیز دریافت می‌کند. این مطالعه به طور ویژه بر تصاویر پس‌زمینه تمرکز دارد، زیرا عامل تنها توسط چیزی که می‌تواند ببیند فریب می‌خورد.

گروه پژوهشی دریافت که حتی یک تکه کوچک از پیکسل‌های تغییر یافته در کادر می‌تواند عامل را از مسیر خود منحرف کند. این فرمان پنهان حتی پس از تغییر اندازه و فشرده‌سازی نیز باقی می‌ماند. پژوهشگران امیدوارند که مطالعاتشان به توسعه‌دهندگان کمک کند تا قبل از گسترش بیشتر عوامل هوش مصنوعی، تدابیر امنیتی لازم را آماده کنند.

یکی دیگر از نویسندگان این مطالعه توضیح داد: «این اولین قدم برای اندیشیدن به مکانیسم‌های دفاعی است. هنگامی که بفهمیم چگونه می‌توانیم حمله را قوی‌تر کنیم، می‌توانیم بازگردیم و این مدل‌ها را با این تدابیر امنیتی قوی‌تر بازآموزی کنیم تا آنها را مقاوم‌تر کنیم.»

این امر یک لایه دفاعی خواهد بود و حتی اگر حملات برای هدف قرار دادن سامانه‌های هوش مصنوعی منبع‌باز طراحی شده باشند، شرکت‌هایی با مدل‌های دیگر نیز ممکن است در معرض خطر باشند.

ضرورت توسعه امن

گال خاطرنشان کرد که عوامل هوش مصنوعی ظرف دو سال آینده رایج خواهند شد و مردم عجله دارند تا این فناوری را قبل از اطمینان از امنیت آن مستقر کنند. پژوهشگران امیدوارند توسعه‌دهندگان را تشویق کنند تا عامل‌هایی بسازند که بتوانند از خود محافظت کنند و از دریافت دستورات از هر منبعی روی صفحه خودداری کنند.