مقاومت Anthropic در برابر پنتاگون: رد خواسته‌های حذف حفاظ‌های هوش مصنوعی

مقاومت Anthropic در برابر پنتاگون: حفظ اصول اخلاقی در برابر تقاضاهای نظامی

شرکت هوش مصنوعی Anthropic با قاطعیت اعلام کرده است که در برابر خواسته‌های وزارت دفاع ایالات متحده (DoD) برای حذف تدابیر حفاظتی از فناوری هوش مصنوعی خود کوتاه نخواهد آمد. این تصمیم، بحث‌های گسترده‌ای را در مورد اخلاقیات و کاربردهای نظامی هوش مصنوعی برانگیخته است.

مخالفت با نظارت گسترده و تسلیحات خودکار

داریو آمودی، مدیرعامل Anthropic، روز پنجشنبه اظهار داشت که شرکتش ترجیح می‌دهد با پنتاگون همکاری نکند تا اینکه با استفاده‌هایی از فناوری خود موافقت کند که ممکن است «به جای دفاع از ارزش‌های دموکراتیک، آنها را تضعیف کند.» این اظهارات دو روز پس از جلسه‌ای با پیت هگست، وزیر دفاع آمریکا، مطرح شد که در آن پنتاگون خواستار پذیرش «هرگونه استفاده قانونی» از ابزارهای Anthropic شده بود. این جلسه با تهدید به حذف Anthropic از زنجیره تامین وزارت دفاع به پایان رسید.

«این تهدیدات موضع ما را تغییر نمی‌دهد: ما با وجدانی آسوده نمی‌توانیم با درخواست آنها موافقت کنیم.»

مسئله اصلی برای Anthropic، استفاده بالقوه از ابزارهای هوش مصنوعی مانند «کلود» برای دو هدف است: «نظارت گسترده داخلی» و «تسلیحات کاملاً خودکار».

آمودی تاکید کرد که «چنین کاربردهایی هرگز در قراردادهای ما با وزارت جنگ (نام ثانویه وزارت دفاع تحت فرمان اجرایی دونالد ترامپ) گنجانده نشده است و ما معتقدیم که اکنون نیز نباید گنجانده شوند.»

تهدیدات پنتاگون و پاسخ Anthropic

وزیر دفاع، هگست، تهدید کرده است که در صورت عدم تمکین Anthropic، قانون تولید دفاعی را علیه این شرکت اعمال خواهد کرد. این قانون به رئیس‌جمهور آمریکا اختیار می‌دهد تا یک شرکت یا محصول آن را برای نیازهای دفاعی کشور حیاتی تشخیص داده و آن را ملزم به همکاری کند. هگست همچنین تهدید کرده است که Anthropic را به عنوان «خطر زنجیره تامین» معرفی خواهد کرد، به این معنی که شرکت برای استفاده دولتی به اندازه کافی امن تلقی نخواهد شد.

یک مقام سابق وزارت دفاع که نخواست نامش فاش شود، روز پنجشنبه به بی‌بی‌سی گفت که دلایل هگست برای هر دو اقدام «بسیار سست» است.

دیدگاه Anthropic درباره هوش مصنوعی و اخلاق

آمودی در یک پست وبلاگی شرکت توضیح داد که چگونه هوش مصنوعی می‌تواند برای «جمع‌آوری داده‌های پراکنده و بی‌ضرر به صورت خودکار و در مقیاس وسیع، برای ایجاد تصویری جامع از زندگی هر فرد» استفاده شود.

«ما از استفاده از هوش مصنوعی برای ماموریت‌های قانونی اطلاعات خارجی و ضد اطلاعاتی حمایت می‌کنیم. اما استفاده از این سیستم‌ها برای نظارت گسترده داخلی با ارزش‌های دموکراتیک ناسازگار است.»

در مورد استفاده از هوش مصنوعی در تسلیحات، آمودی گفت که حتی پیشرفته‌ترین سیستم‌های هوش مصنوعی امروزی «به سادگی به اندازه کافی قابل اعتماد نیستند که بتوانند تسلیحات کاملاً خودکار را تامین کنند.»

«ما آگاهانه محصولی را ارائه نخواهیم داد که جان سربازان و غیرنظامیان آمریکا را به خطر بیندازد. بدون نظارت مناسب، نمی‌توان به تسلیحات کاملاً خودکار برای اعمال قضاوت حیاتی که نیروهای حرفه‌ای و آموزش‌دیده ما هر روز از خود نشان می‌دهند، اعتماد کرد. آنها باید با تدابیر حفاظتی مناسب مستقر شوند که امروز وجود ندارند.»

وی افزود که Anthropic «پیشنهاد همکاری مستقیم با وزارت جنگ در زمینه تحقیق و توسعه برای بهبود قابلیت اطمینان این سیستم‌ها را داده است، اما آنها این پیشنهاد را نپذیرفته‌اند.»