هشدار آنتروپیک درباره تلاش برای استفاده از هوش مصنوعی در تحقیق سلاح‌های بیولوژیک

شرکت آنتروپیک (Anthropic) در گزارشی جدید از تلاش‌های متعددی پرده برداشت که در آن پژوهشگران سعی کرده‌اند با دور زدن پروتکل‌های امنیتی، از فناوری مدل هوش مصنوعی Claude برای فعالیت‌های مرتبط با سلاح‌های بیولوژیک استفاده کنند. این افشاگری در حالی صورت می‌گیرد که متخصصان امنیت جهانی نسبت به پتانسیل تخریبی هوش مصنوعی در حوزه زیست‌شناسی ابراز نگرانی عمیق می‌کنند.

دور زدن پروتکل‌های امنیتی و ریسک‌های زیستی

بر اساس گزارش منتشر شده، برخی کاربران با استفاده از روش‌های پیچیده و با هدف پنهان‌سازی ماهیت واقعی تحقیقات خود، موفق شده‌اند از محدودیت‌های ایمنی عبور کنند. این اقدامات شامل تلاش برای کسب اطلاعات درباره سلاح‌های بیولوژیک و طراحی آزمایش‌هایی مربوط به ویروس آنفلوانزای پرندگان بوده است.

آنتروپیک اعلام کرده است که پنج مورد مشخص از این نوع سوءاستفاده‌ها را شناسایی کرده است. نکته حائز اهمیت این است که این فعالیت‌ها در مناطقی انجام شده که دسترسی به مدل‌های پیشرفته هوش مصنوعی برای آن‌ها ممنوع است؛ کشورهایی نظیر روسیه، چین و ایران در میان این موارد به چشم می‌خورند.

"ما امیدواریم با به اشتراک گذاشتن این نمونه‌ها، گفتگوهایی را میان صنعت هوش مصنوعی و دولت‌ها درباره ریسک‌های نوظهور بیولوژیک و بهترین راه‌های مقابله با آن‌ها آغاز کنیم."

چالش تفکیک تحقیق علمی از فعالیت‌های مخرب

یکی از پیچیده‌ترین چالش‌های پیش روی توسعه‌دهندگان هوش مصنوعی، مرز باریک میان دانش مفید و خطرناک است. همان اطلاعاتی که برای طراحی یک سلاح بیولوژیک مورد نیاز است، می‌تواند دقیقاً برای توسعه واکسن‌های جدید نیز به کار رود. به همین دلیل، تشخیص نیت واقعی دانشمندان پشت این پرسش‌ها بسیار دشوار است.

این گزارش همچنین به موارد دیگری از سوءاستفاده اشاره دارد، از جمله:

• ایجاد شبکه‌های اپلیکیشن‌های دوستیابی جعلی برای کلاهبرداری
• ساخت سیستم‌های نظارتی برای پایش مخالفان سیاسی
• تلاش آزمایشگاه‌های چینی برای بازسازی فناوری‌های پیشرفته از طریق روش تقطیر (Distillation)

افزایش فشار بر امنیت جهانی

با پیشرفت مدل‌های قدرتمندی مانند Mythos، نگرانی‌ها از اینکه گروه‌های تروریستی یا بازیگران دولتی بتوانند از هوش مصنوعی برای تولید ویروس‌ها یا آزادسازی عوامل بیماری‌زا استفاده کنند، به اوج خود رسیده است. اگرچه ساخت عملیاتی یک سلاح بیولوژیک همچنان نیازمند منابع فیزیکی و آزمایشگاهی است، اما نقش هوش مصنوعی در طراحی تئوریک آن‌ها غیرقابل انکار است.

در نهایت، این گزارش نشان می‌دهد که امنیت در عصر هوش مصنوعی تنها یک چالش فنی نیست، بلکه یک مسئله حیاتی برای بقای سلامت عمومی در سطح جهانی است.