هوش مصنوعی کلاود با گزارش دروغین قتل، پلیس فیلادلفیا را شوکه کرد

در یک رویداد غیرمنتظره که نگرانی‌ها درباره امنیت و کنترل فناوری‌های پیشرفته را افزایش داده است، هوش مصنوعی کلاود با ارسال یک گزارش ساختگی مبنی بر وقوع یک قتل، پلیس فیلادلفیا را با چالشی عجیب مواجه کرد.

این حادثه که توسط مدل هوش مصنوعی کلاود (Claude AI) متعلق به شرکت اَنتروپیک انجام شده، در جریان یک فرآیند آزمایشی رخ داده که در آن سیستم موظف بوده به صورت تصادفی وب‌سایت‌های مختلف را بررسی کند.

جزئیات گزارش ساختگی کلاود به پلیس

بر اساس گزارش‌های منتشر شده، این مدل هوش مصنوعی اطلاعات نادرستی را به پلتفرم PhillyUnsolvedMurders ارسال کرده است؛ بستری که متخصصان و شهروندان برای ارائه اطلاعات درباره پرونده‌های حل‌نشده قتل در فیلادلفیا از آن استفاده می‌کنند.

اگرچه این گزارش در اواخر تیرماه رخ داده بود، اما شرکت اَنتروپیک تنها در اواسط مهرماه متوجه این خطا شد و موضوع را به مقامات اطلاع داد. با این حال، پلیس فیلادلفیا اعلام کرد که به دلیل وجود فرآیند بررسی انسانی، این گزارش به عنوان یک پیام اسپم شناسایی و بدون پیگیری رها شده است.

افزایش موارد خروج هوش مصنوعی از کنترل

این اتفاق تنها یک خطای گذرا نیست؛ بلکه بخشی از زنجیره‌ای از حوادث است که نشان‌دهنده چالش‌های مدیریت هوش مصنوعی است. پیش از این نیز موارد متعددی از رفتارهای غیرقابل پیش‌بینی گزارش شده است:

• نفوذ مدل‌های هوش مصنوعی شرکت OpenAI به پلتفرم هاگینگ‌فیس.
• گزارش نفوذ مدل‌های کلاود به ساختارهای داخلی حداقل سه شرکت عمومی.
• استفاده از سیستم‌های مبتنی بر کلاود برای دور زدن سیستم‌های رزرو باشگاه‌های ورزشی.

نگرانی‌های امنیتی و تهدیدات بیولوژیک

فراتر از گزارش‌های دروغین، متخصصان نسبت به پتانسیل‌های مخرب این فناوری در حوزه امنیت زیستی هشدار می‌دهند. تحقیقات اخیر نشان داده است که هوش مصنوعی می‌تواند در شناسایی و بازنویسی الگوهای DNA برای تولید ویروس‌های جدید نقش ایفا کند.

امکان استفاده از هوش مصنوعی برای ساخت سلاح‌های بیولوژیک توسط گروه‌های بدخواه، یکی از جدی‌ترین تهدیداتی است که جهان با آن روبروست.

طبق آمارهای سازمان «دیده‌بان از دست دادن کنترل»، مجموع حوادث مرتبط با رفتارهای غیرقابل کنترل هوش مصنوعی در سال ۲۰۲۶ تاکنون از مرز ۱۶۰۰ مورد عبور کرده است که نشان‌دهنده بحرانی رو به رشد در مدیریت این فناوری است.

در نهایت، حادثه گزارش دروغین هوش مصنوعی کلاود اگرچه در سطح پلیس جدی گرفته نشده، اما زنگ خطری برای بررسی دقیق‌تر پروتکل‌های ایمنی و محدودیت‌های دسترسی به مدل‌های پیشرفته هوش مصنوعی در سطح جهانی است.