آیکون خبر

خبر کامل

هوش مصنوعی Big Sleep گوگل ۲۰ آسیب‌پذیری امنیتی جدید را کشف کرد

هوش مصنوعی Big Sleep گوگل ۲۰ آسیب‌پذیری امنیتی جدید را کشف کرد

در یک پیشرفت چشمگیر در حوزه امنیت سایبری، گوگل اعلام کرده است که ابزار هوش مصنوعی خود، «Big Sleep»، موفق به کشف و گزارش ۲۰ آسیب‌پذیری امنیتی جدید شده است. این دستاورد که حاصل همکاری تیم هوش مصنوعی DeepMind و تیم امنیتی Project Zero گوگل است، نشان‌دهنده پتانسیل بالای هوش مصنوعی در شناسایی خودکار نقاط ضعف نرم‌افزاری است.

کشف ۲۰ آسیب‌پذیری توسط هوش مصنوعی Big Sleep

ابزار پیشرفته Big Sleep، که توسط تیم هوش مصنوعی DeepMind و تیم هکرهای خبره Project Zero گوگل توسعه یافته، برای نخستین بار این نقص‌ها را در نرم‌افزارهای متن‌باز پرکاربرد مانند کتابخانه صوتی و تصویری FFmpeg و نرم‌افزار ویرایش تصویر ImageMagick شناسایی کرده است.

«هدر آدکینز»، معاون بخش امنیت گوگل، اعلام کرده که جزئیات دقیق درباره شدت و تأثیر این آسیب‌پذیری‌ها تا زمان رفع کامل مشکلات منتشر نخواهد شد. این رویکرد مطابق با سیاست‌های استاندارد امنیتی است که بر اصلاح نقص‌ها پیش از افشای عمومی تأکید دارد. با این حال، کشف این ۲۰ آسیب‌پذیری توسط Big Sleep، توانمندی چشمگیر ابزارهای مبتنی بر هوش مصنوعی را در حوزه امنیت سایبری به اثبات می‌رساند.

تصویری از هوش مصنوعی Big Sleep گوگل

نقش حیاتی نظارت انسانی در تأیید یافته‌های هوش مصنوعی

«کیمبری سامرا»، سخنگوی گوگل، تأکید کرد که اگرچه عامل هوش مصنوعی بدون دخالت انسانی این آسیب‌پذیری‌ها را شناسایی و بازتولید کرده است، اما پیش از گزارش نهایی، یک متخصص انسانی نتایج را با دقت بررسی و تأیید کرده است. این فرآیند تضمین می‌کند که کیفیت و صحت گزارش‌ها در بالاترین سطح حفظ شود.

«رویال هانسن»، معاون مهندسی گوگل، در شبکه اجتماعی ایکس (توئیتر سابق) این یافته‌ها را نشانه‌ای از آغاز دوره‌ای جدید در کشف خودکار آسیب‌پذیری‌ها دانست. وی اشاره کرد که ابزارهای مشابهی نظیر RunSybil و XBOW نیز با بهره‌گیری از مدل‌های بزرگ زبانی (LLM) در حال شناسایی آسیب‌پذیری‌ها هستند و به موفقیت‌هایی دست یافته‌اند.

این موضوع نشان می‌دهد که برای اطمینان از صحت و واقعی‌بودن گزارش‌های هوش مصنوعی، حضور و بررسی انسانی همچنان ضروری است؛ رویکردی که در پروژه Big Sleep نیز به کار گرفته شده است.

چالش‌های گزارش‌های نادرست هوش مصنوعی

«ولاد ایونسکو»، مدیر فناوری شرکت RunSybil، در مصاحبه‌ای با TechCrunch، اعتبار پروژه Big Sleep را ستود. او دلیل این اعتبار را دانش بالا و تجربه کافی تیم توسعه‌دهنده در زمینه کشف آسیب‌پذیری‌ها و همچنین حمایت فنی و منابع قدرتمند DeepMind دانست.

«مشکل اصلی این است که گزارش‌هایی دریافت می‌کنیم که در ظاهر ارزشمند به‌نظر می‌رسند اما در واقع فاقد اعتبار هستند.»

با این حال، برخی توسعه‌دهندگان نرم‌افزار از وجود گزارش‌های اشتباهی که ناشی از «توهمات» هوش مصنوعی هستند، گلایه دارند. ایونسکو این گزارش‌ها را معادل اطلاعات بی‌ارزش و نادرست می‌داند. این چالش نشان می‌دهد که با وجود پیشرفت‌های چشمگیر هوش مصنوعی در کشف آسیب‌پذیری‌ها، نیاز به بررسی دقیق و اعتبارسنجی نتایج برای اطمینان از صحت و کیفیت آنها همچنان حیاتی است.

شناسنامه خبر:

درباره هوش‌مصنوعی دست‌اول:

تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.

دسترسی رایگان به هوشنگ ↗