هشدار آنتروپیک درباره خطر کرم‌های هوش مصنوعی و تسخیر دستگاه‌های هوشمند

ظهور کرم‌های هوش مصنوعی؛ تهدیدی برای اینترنت اشیا

در حالی که تمرکز اصلی بر مدل‌های عظیم و قدرتمندی مانند محصولات OpenAI است، پژوهشگران اکنون نگران کرم‌های هوش مصنوعی هستند. برخلاف مدل‌های بزرگ که به دلیل حجم بسیار بالا نیاز به مراکز داده دارند، مدل‌های کوچک‌تر می‌توانند روی سخت‌افزارهای معمولی و حتی دستگاه‌های خانگی اجرا شوند.

تحقیقات اخیر نشان داده است که این مدل‌ها پتانسیل بالایی برای تبدیل شدن به نوعی بدافزار دارند که بدون کنترل انسان، از دستگاهی به دستگاه دیگر منتقل شده و خود را تکثیر می‌کند.

آزمایش‌های عملی: از تلویزیون‌های هوشمند تا شبکه‌های شبیه‌سازی شده

محققان در آزمایش‌های خود موفق شدند مدل Gemma 4 گوگل را که دارای ۲۶ میلیارد پارامتر است، میان ۱۵ دستگاه اندرویدی تلویزیون تقسیم کنند. اگرچه این فرآیند کند بود، اما ثابت کرد که مدل‌های سنگین می‌توانند بر روی مجموعه‌ای از سخت‌افزارهای ضعیف توزیع شوند.

در یک محیط شبیه‌سازی شده، مدل‌های مختلف آزمایش شدند:

• GLM-5.2 (Z.ai): تنها مدلی که موفق شد در کل شبکه منتشر شود.
• Llama 3.1 (Meta): به عنوان مدلی که برای انتشار در شبکه استفاده شد.

آنتروپیک پیش‌بینی می‌کند که تا پایان سال جاری، مدل‌های کوچک‌تر نیز به توانایی‌های مدل‌های پیشرفته در زمینه انتشار در شبکه دست یابند.

چرا این تهدید جدی است؟

«تفاوت اصلی در این است که این مدل‌ها بسیار کوچک‌تر از نمونه‌های قبلی هستند که قابلیت خودتکثیری داشتند. این یعنی آن‌ها را راحت‌تر می‌توان در دستگاه‌های مختلف مستقر کرد.»

کارشناسان امنیت سایبری معتقدند که دستگاه‌های هوشمند خانگی (مانند یخچال، جاروبرقی و دوربین‌های امنیتی) که معمولاً امنیت ضعیفی دارند، می‌توانند به عنوان سکوی پرتابی برای حملات بزرگ‌تر به زیرساخت‌های حیاتی مانند بیمارستان‌ها و شبکه‌های برق استفاده شوند.

نتیجه‌گیری و ضرورت اقدام

اگرچه برخی این هشدارها را نوعی هیجان‌زدگی تبلیغاتی می‌دانند، اما واقعیت این است که کرم‌های هوش مصنوعی پتانسیل بالایی برای تغییر ماهیت حملات سایبری دارند. تقویت امنیت دستگاه‌های متصل به اینترنت و آمادگی برای مقابله با موجودات دیجیتالی که قادر به تکثیر هستند، دیگر یک انتخاب نیست، بلکه یک ضرورت حیاتی است.