آیکون خبر

خبر کامل

هوش مصنوعی شخصی؛ چالش امنیتی جدید و پنهان برای سازمان‌ها

استفاده از هوش مصنوعی شخصی توسط کارکنان در محیط‌های کاری، اگرچه با هدف افزایش بهره‌وری صورت می‌گیرد، اما با ایجاد حفره‌های امنیتی جدید، مدیریت فناوری در سازمان‌ها را با چالش‌های پیش‌بینی‌نشده‌ای روبرو کرده است.

اتصال دستیاران هوشمند به ایمیل‌ها و فایل‌های سازمانی، فراتر از چارچوب‌های سنتی مدیریت داده عمل می‌کند و می‌تواند منجر به نشت اطلاعات محرمانه شود.

چالش‌های ناشی از دستیاران هوشمند و عامل‌محور

دستیاران نسل جدید مانند ابزارهای شرکت‌های بزرگ، برخلاف نرم‌افزارهای سنتی که فرآیندهای از پیش تعیین‌شده دارند، قادرند بر اساس دستورات کلی، ابزارها و مراحل بعدی را خودشان انتخاب کنند. این ماهیت عامل‌محور باعث می‌شود که یک دستور ساده، پیامدهای گسترده‌ای داشته باشد.

برای مثال، اگر کارمندی از هوش مصنوعی بخواهد گزارشی از مکاتبات تهیه کند، این ابزار ممکن است به هزاران ایمیل دیگر و بحث‌های داخلی حساس دسترسی پیدا کند. خطر اصلی زمانی رخ می‌دهد که هوش مصنوعی اطلاعات محرمانه، مانند تغییرات قیمتی اعلام‌نشده، را به اشتباه در پاسخ به یک مشتری ارسال کند.

«رفتار هوش مصنوعی می‌تواند بدون اینکه تخلف صریحی از سطوح دسترسی رخ دهد، اطلاعات حساس را به اشتباه منتشر کند.»

آمار و نرخ پذیرش فناوری در محیط کار

گزارش‌ها نشان‌دهنده رشد بسیار سریع این فناوری است. در ادامه، آماری از وضعیت فعلی کاربران ارائه شده است:

شاخص مقدار/جزئیات
تعداد کاربران Muse متا بیش از ۱۰ میلیون نفر (در ۶ هفته)
میزان اعتماد کاربران در آمریکا ۳۲ درصد (اجرای بدون تأیید نهایی)

راهکارهای مدیریت امن هوش مصنوعی شخصی

برای مهار ریسک‌های ناشی از ورود این ابزارها به سازمان‌ها، کارشناسان امنیت سایبری پنج استراتژی کلیدی را پیشنهاد می‌کنند:

  • تفکیک هویت: متمایز کردن اقدامات انجام شده توسط انسان از اقدامات هوش مصنوعی در گزارش‌های سیستمی.
  • ارزیابی اتصالات: بررسی دقیق نحوه مدیریت داده‌ها و اعتبارسنجی توسط ارائه‌دهندگان سرویس.
  • محدودسازی دسترسی: تعیین دقیق مأموریت‌ها و تفکیک مجوزهای «خواندن» از «ارسال داده».
  • تأیید انسانی: الزام به بازبینی توسط کاربر برای تصمیمات حساس و ارسال فایل‌های خارجی.
  • کلید قطع فوری: ایجاد امکان لغو دسترسی هوش مصنوعی توسط تیم‌های امنیتی بدون مسدود کردن حساب کاربری.

در نهایت، مدیران باید به‌جای ممنوعیت مطلق، به دنبال ایجاد مسیرهای کنترل‌شده باشند. تجربه نشان داده است که تمایل کارکنان به استفاده از ابزارهای شخصی، همواره سریع‌تر از سیاست‌گذاری‌های رسمی سازمان‌ها حرکت می‌کند.

شناسنامه خبر:

درباره هوش‌مصنوعی دست‌اول:

تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.

دسترسی رایگان به هوشنگ ↗