خبر کامل
هشدار OpenAI: تهدید تزریق پرامپت در مرورگرهای هوش مصنوعی دائمی است
شرکت OpenAI در یک هشدار امنیتی مهم اعلام کرد که مرورگرهای مبتنی بر هوش مصنوعی، از جمله ChatGPT Atlas، همواره در معرض حملات پیچیده «تزریق پرامپت» (Prompt Injection) قرار دارند و تلاش‌ها برای رفع کامل این آسیب‌پذیری، مانند مقابله با کلاهبرداری‌های اینترنتی، بعید است به نتیجه برسد. این تهدید، استفاده ایمن از عامل‌های هوش مصنوعی در محیط باز وب را با چالش‌های جدی مواجه کرده است.
ماهیت تهدید تزریق پرامپت و چالش‌های امنیتی
حمله تزریق پرامپت شامل دستکاری عامل‌های هوش مصنوعی برای اجرای دستورالعمل‌های مخرب است که معمولاً به‌صورت پنهان در صفحات وب یا ایمیل‌ها جاسازی می‌شوند. این حملات نشان می‌دهند که فعال‌کردن حالت Agent Mode در مرورگرهایی مانند ChatGPT Atlas، سطح تهدیدات امنیتی را به‌طور قابل‌توجهی افزایش می‌دهد.
در پست وبلاگی OpenAI تأکید شده است که «تزریق پرامپت مانند کلاهبرداری‌ها و مهندسی اجتماعی در وب، احتمالاً هرگز به‌طور کامل برطرف نمی‌شود».
این نگرانی‌ها بلافاصله پس از عرضه مرورگر ChatGPT Atlas در اکتبر مطرح شد. محققان امنیتی به‌سرعت نشان دادند که حتی محتوای ساده‌ای مانند چند کلمه نوشته شده در گوگل داکس می‌تواند رفتار مرورگر را تغییر دهد. در همان زمان، شرکت‌های دیگر مانند Brave نیز هشدار دادند که تزریق پرامپت غیرمستقیم یک مشکل سیستماتیک برای تمام مرورگرهای هوش مصنوعی عامل‌محور، نظیر Perplexity Comet، است.
مرکز امنیت سایبری بریتانیا نیز با تأیید این موضوع اعلام کرده است که این حملات ممکن است هرگز به‌طور کامل مهار نشوند و وب‌سایت‌ها را در معرض نشت داده قرار دهند. از این رو، توصیه شده است که به‌جای تمرکز بر توقف کامل حملات، تمرکز بر کاهش اثرات و مدیریت ریسک‌ها باشد.
استراتژی OpenAI برای تقویت سیستم‌های دفاعی
OpenAI این مسئله را یک چالش امنیتی پایدار می‌داند و تقویت مداوم سیستم‌های دفاعی را ضروری می‌شمارد. راهکار این شرکت شامل یک چرخه پاسخ سریع و پیشگیرانه است که هدف آن شناسایی استراتژی‌های جدید حملات سایبری پیش از وقوع در محیط واقعی است.
یکی از ابزارهای اصلی در این استراتژی، «مهاجم خودکار مبتنی بر LLM» است. این ابزار با استفاده از یادگیری تقویتی آموزش دیده و نقش هکری را ایفا می‌کند که سعی دارد دستورالعمل‌های مخرب را به عامل هوش مصنوعی هدف منتقل کند. نحوه عملکرد این ابزار به شرح زیر است:
- آزمایش حمله در محیط شبیه‌سازی‌شده.
- بررسی واکنش عامل هدف به دستورالعمل‌های مخرب.
- اصلاح حمله و اجرای مجدد آن برای یافتن سریع‌تر نقاط ضعف نسبت به مهاجمان واقعی.
توصیه‌های امنیتی و محدودیت‌های عامل‌های هوش مصنوعی
علاوه‌براین تلاش‌های فنی، OpenAI توصیه‌هایی را نیز برای کاربران مطرح کرده است. کاربران باید به عامل‌های هوش مصنوعی دستورات روشن و مشخص بدهند و دسترسی کامل به داده‌های حساس مانند ایمیل‌ها را محدود کنند. دلیل این امر آن است که آزادی عمل زیاد، حتی با وجود مکانیزم‌های امنیتی پیشرفته، می‌تواند ایجنت را تحت‌تأثیر محتوای مخرب قرار دهد.
تحلیلگران امنیتی هشدار می‌دهند که در حال حاضر، مرورگرهای عامل‌محور ارزش کافی برای توجیه ریسک دسترسی به داده‌های حساس را ارائه نمی‌کنند. در نتیجه، حفظ تعادل میان مزایای استفاده از این فناوری‌ها و معایب امنیتی آن‌ها همچنان یک چالش واقعی برای کاربران و توسعه‌دهندگان است.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
