هوش مصنوعی: شمشیر دولبه در دستان هکرها و آینده امنیت سایبری

در دنیای امروز که فناوری با سرعت سرسام‌آوری در حال پیشرفت است، هوش مصنوعی مولد (Generative AI) نه تنها زندگی روزمره ما را دگرگون کرده، بلکه ابعاد جدیدی به تهدیدات سایبری بخشیده است. بدافزارهای نوین، با بهره‌گیری از مدل‌های زبان بزرگ (LLMs)، قادرند به صورت خودکار و بدون دخالت انسانی، کدهای مخرب تولید کرده، اطلاعات حساس را شناسایی و حتی یادداشت‌های باج‌افزاری شخصی‌سازی شده تهیه کنند. این قابلیت‌ها، چشم‌انداز امنیت سایبری را به کلی تغییر داده و چالش‌های بی‌سابقه‌ای را پیش روی سازمان‌ها و کاربران قرار داده است.

پرامپت‌لاک: نقطه عطفی در بدافزارهای هوش مصنوعی

کشف پرامپت‌لاک (PromptLock) توسط چرپانوف و استریچک، نشان‌دهنده یک نقطه عطف در سوءاستفاده از هوش مصنوعی مولد برای حملات بدافزاری است. این بدافزار با استفاده از LLMها، در هر مرحله از حمله، از جمله خلق کد سفارشی، نقشه‌برداری از کامپیوتر برای شناسایی اطلاعات حساس و تهیه یادداشت‌های باج‌افزارانه شخصی‌سازی شده، عمل می‌کند. اگرچه این پروژه در ابتدا به عنوان یک حمله تمام‌عیار تلقی نشد و تیم تحقیقاتی دانشگاه نیویورک مسئولیت آن را پذیرفت، اما هدف اصلی آن اثبات امکان‌پذیری خودکارسازی تمامی مراحل یک کارزار باج‌افزاری بود که به گفته محققان، این امر محقق شده است.

لورنزو کاوالارو، پرفسور علوم کامپیوتری در کالج لندن، تأکید می‌کند: «این امر محتمل که حمله‌کنندگان سایبری روزبه‌روز بهتر و موثرتر عمل می‌کنند، دیگر یک امر دور و بعید نیست و یک واقعیت محض است.»

افزایش کلاهبرداری‌ها و حملات فیشینگ با هوش مصنوعی

از زمان آغاز به کار چت‌جی‌پی‌تی در اواخر سال ۲۰۲۲، مهاجمان به سرعت هوش مصنوعی مولد را به عنوان ابزاری برای اهداف مخرب خود پذیرفته‌اند. این روند با تولید انبوه اسپم آغاز شد و به سرعت به کلاهبرداری‌های پیچیده‌تر و حملات فیشینگ گسترش یافت. مایکروسافت در گزارشی اعلام کرد که از انتهای سال ۲۰۲۴ تا آوریل ۲۰۲۵، حدود ۴ میلیارد دلار تراکنش متقلبانه را متوقف کرده است.

• تولید اسپم: بر اساس تحقیقات دانشگاه‌های کلمبیا و شیکاگو، حداقل نیمی از ایمیل‌های حاوی اسپم هم‌اکنون توسط مدل‌های زبان بزرگ تولید می‌شوند.
• افزایش حملات فیشینگ: تا آوریل ۲۰۲۵، حداقل ۱۴ درصد از حملات فیشینگ که با جعل هویت فردی معتمد انجام شده‌اند، با کمک LLMها صورت گرفته‌اند که نسبت به سال ۲۰۲۴، ۷.۶ درصد افزایش یافته است.
• دیپ‌فیک و جعل هویت: فناوری‌های دیپ‌فیک (Deepfake) به مجرمان امکان می‌دهند تا با تولید عکس‌ها، ویدئوها و صداهای واقع‌گرایانه، هویت افراد را جعل کرده و کلاهبرداری‌های متقاعدکننده‌تری انجام دهند.

نقش مدل‌های هوش مصنوعی متن‌باز در حملات

اشلی جس، کارشناس سابق وزارت دادگستری آمریکا، پیش‌بینی می‌کند که مجرمان سایبری بیش از پیش از مدل‌های هوش مصنوعی متن‌باز (Open Source) استفاده خواهند کرد. دلیل این امر، سهولت بیشتر در دور زدن حفاظ‌های امنیتی این مدل‌ها و آموزش آنها برای انجام اقدامات مخرب است. تیم دانشگاه نیویورک‌سیتی نیز برای آزمایش پرامپت‌لاک از دو مدل متن‌باز اوپن‌ای‌آی استفاده کرد و دریافت که حتی نیازی به تکنیک‌های «جیل‌بریکینگ» برای بهره‌برداری از آنها نیست و این مدل‌ها حملات را بسیار آسان‌تر کرده‌اند.

میت اوداشی، دانشجوی دکترای دانشگاه نیویورک، خاطرنشان می‌کند: «این مدل‌های زبان بزرگ، مدعی‌اند که با مسائل اخلاقی هم‌تراز شده‌اند؛ پس ما می‌توانیم از آنها در جهت این نوع از خواسته‌ها سوءاستفاده کنیم؟»

آینده بدافزارهای هوش مصنوعی و چالش‌های امنیتی

گزارش گوگل در نوامبر ۲۰۲۵ نشان داد که بازیگران مخرب از ابزارهای هوش مصنوعی، از جمله جمنای گوگل، برای تغییر دینامیک رفتار بدافزارها استفاده می‌کنند. این بدافزارها قادرند با خوداصلاح‌گری، ردپای خود را پاک کنند. اگرچه این فعالیت‌ها در فاز اولیه خود قرار دارند، اما نشان‌دهنده آغاز فاز عملیاتی جدیدی از سوءاستفاده از هوش مصنوعی است.

آنتروپیک نیز در نوامبر گذشته از خنثی کردن یک حمله سایبری در مقیاس بزرگ خبر داد که در آن هکرهای تحت حمایت دولت چین توانسته بودند تا ۹۰ درصد از یک کارزار جاسوسی پیچیده را با استفاده از کدهای کلاد خودکار کنند. جیکوب کلاین، رئیس تهدیدهای هوش مصنوعی، هشدار می‌دهد که استفاده از هوش مصنوعی در تمامی مراحل حملات، فرآیند را از کاری پرزحمت به کاری آسان تبدیل می‌کند و سرعت حملات بیش از تصور سازمان‌ها خواهد بود.

با این حال، کارشناسانی مانند کوین بیومانت، نویسنده امنیت سایبری، اشاره می‌کنند که بدافزارهای مورد بررسی (از جمله پرامپت‌لاک) شامل کدهایی بودند که به راحتی قابل ردیابی و بدون آسیب جدی بودند. این موضوع نشان می‌دهد که هرچند تهدید جدی است، اما هنوز در مراحل اولیه خود قرار دارد و نیاز به هوشیاری و برنامه‌ریزی دفاعی مستمر دارد.

بیلی لنارد، رهبر گروه تحلیل تهدید گوگل، معتقد است که شفافیت در انتشار این گزارش‌ها برای عموم مردم و عوامل امنیت سایبری ضروری است تا بتوانند دیوار دفاعی خود را در برابر این نوع حملات طراحی کنند.