هشدار امنیتی مایکروسافت: ابزار هوش مصنوعی جدید ویندوز ۱۱ حریم خصوصی را تهدید می‌کند

شرکت مایکروسافت اخیراً نگرانی‌های امنیتی و حریم خصوصی جدی را در مورد قابلیت‌های جدید «Agentic OS» که قرار است به زودی برای برخی از اعضای برنامه Windows Insiders منتشر شوند، مطرح کرده است. این ابزارهای مبتنی بر هوش مصنوعی می‌توانند کاربران را با خطرات جدی امنیتی مواجه کرده و حریم خصوصی آن‌ها را به خطر اندازند.

نگرانی اصلی به نحوه دسترسی این ویژگی‌ها به فایل‌های کاربران مربوط می‌شود که می‌تواند منجر به خطرات تزریق متقابل فرآیند (XPIA) شود. این مسئله پتانسیل سوءاستفاده و دسترسی غیرمجاز به اطلاعات شخصی را افزایش می‌دهد و کاربران را در معرض حملات سایبری قرار می‌دهد.

سازوکار تهدید: دسترسی عامل‌های هوش مصنوعی

مایکروسافت هشدار می‌دهد که محتوای مخرب تعبیه‌شده در عناصر رابط کاربری یا اسناد می‌تواند به‌راحتی دستورالعمل‌های عامل هوش مصنوعی را دور بزند. این امر می‌تواند به عواقب ناخواسته‌ای نظیر خروج داده‌ها یا نصب بدافزار از طریق برنامه‌های هوش مصنوعی منجر شود.

دلیل این آسیب‌پذیری در نحوه عملکرد حساب‌های عامل هوش مصنوعی (Agentic accounts) نهفته است. این حساب‌ها دسترسی محدودی به فهرست پروفایل کاربر در مسیر Maindrive > Users > Username دارند. با این حال، اگر عاملی به فایل‌ها نیاز داشته باشد، ویندوز به آن عامل، دسترسی خواندن و نوشتن کامل به هر چیزی در آن فهرست را اعطا می‌کند.

علاوه بر این، هنگامی که از فضای کار عامل استفاده می‌شود، برنامه هوش مصنوعی به برنامه‌هایی که به‌صورت پیش‌فرض برای همه کاربران در دسترس هستند، دسترسی پیدا می‌کند. این دسترسی می‌تواند به برنامه هوش مصنوعی اجازه دهد تا نرم‌افزار را بدون اطلاع یا تأیید کاربر، نصب یا تغییر دهد.

Agent Workspace: فضای کار جدید هوش مصنوعی

قابلیت آزمایشی مورد بحث، با نام «Agent Workspace» یا فضای کار عامل، در حال حاضر به‌صورت پیش‌نمایش خصوصی برای توسعه‌دهندگان Windows Insiders در دسترس قرار گرفته است.

در حالی که هنوز هیچ برنامه‌ای از این قابلیت جدید پشتیبانی نمی‌کند، دستیار هوش مصنوعی کوپایلوت به‌زودی به فضاهای کار عامل دسترسی پیدا خواهد کرد.

فضاهای کار عامل، فضاهای جداگانه و محصور هستند که در آن‌ها به برنامه‌ها یا عامل‌های هوش مصنوعی اجازه داده می‌شود تا در پس‌زمینه به فایل‌ها دسترسی داشته باشند، در حالی که کاربر به استفاده روزمره خود از دستگاه ادامه می‌دهد.

مایکروسافت این رویکرد را «مجوزدهی محدود» و «جداسازی زمان اجرا» می‌نامد و ادعا می‌کند که کنترل کامل را به کاربر می‌دهد. این قابلیت‌ها در وهله اول با هدف جمع‌آوری بازخورد و تقویت امنیت پایه‌ای سیستم، در اختیار توسعه‌دهندگان قرار گرفته‌اند.