آیکون خبر

خبر کامل

قرارداد OpenAI و وزارت دفاع آمریکا: استقرار هوش مصنوعی با رعایت اصول ایمنی

قرارداد OpenAI و وزارت دفاع آمریکا: استقرار هوش مصنوعی با رعایت اصول ایمنی

شرکت پیشرو OpenAI و وزارت دفاع ایالات متحده آمریکا قراردادی مهم برای استقرار مدل‌های هوش مصنوعی پیشرفته در شبکه این وزارتخانه به امضا رسانده‌اند. این توافق در حالی صورت می‌گیرد که پیش از این، دولت آمریکا با شرکت Anthropic بر سر رعایت اصول ایمنی هوش مصنوعی به اختلاف خورده بود و این موضوع بر اهمیت قرارداد جدید می‌افافزاید.

اصول کلیدی و تعهدات OpenAI

سام آلتمن، مدیرعامل OpenAI، با اعلام این خبر در شبکه اجتماعی X، بر پایبندی قاطع شرکتش به دو اصل بنیادین تاکید کرد: منع نظارت انبوه داخلی و مسئولیت‌پذیری انسانی در استفاده از نیرو. این اصول، به‌ویژه در زمینه سیستم‌های تسلیحاتی خودران، در توافقنامه با وزارت دفاع گنجانده شده و وزارتخانه نیز با رعایت آن‌ها موافقت کرده است.

سام آلتمن، مدیرعامل OpenAI، وزارت دفاع را «وزارت جنگ» نامید و بر تعهد شرکتش به اصول اخلاقی هوش مصنوعی تاکید کرد.

چالش با Anthropic و موفقیت OpenAI

این قرارداد مهم، اندکی پس از دستور دونالد ترامپ مبنی بر توقف استفاده تمامی سازمان‌های دولتی از خدمات Anthropic و مدل Claude به وقوع پیوست. پیشتر، پیت هگست، وزیر دفاع آمریکا، شرکت Anthropic را تهدید کرده بود که در صورت عدم حذف گاردریل‌های ایمنی هوش مصنوعی خود که مانع از استفاده برای نظارت انبوه و تسلیحات کاملاً خودران می‌شود، آن را «ریسک زنجیره تامین» معرفی خواهد کرد.

جرمی لوین، معاون ارشد وزیر در امور کمک‌های خارجی و آزادی مذهبی، در پستی در X توضیح داد که وزارت دفاع در قراردادهای خود «به برخی اختیارات قانونی موجود اشاره می‌کند و شامل مکانیسم‌های ایمنی متفق‌القولی است.» وی افزود که OpenAI و xAI (که پیش از این مدل Grok را در سیستم‌های طبقه‌بندی شده وزارت دفاع مستقر کرده بود) این شرایط را پذیرفته‌اند. این همان «مصالحه‌ای بود که به Anthropic پیشنهاد شد و آن‌ها رد کردند.» Anthropic نیز اندکی قبل از اعلام خبر OpenAI، موضع خود را مجدداً تکرار کرده و تاکید کرده بود که هیچ میزان تهدیدی موضع آن‌ها را در مورد نظارت انبوه و تسلیحات خودران تغییر نخواهد داد.

تضمین ایمنی و همکاری‌های فنی

آلتمن همچنین اظهار داشت که OpenAI برای اطمینان از عملکرد صحیح و ایمن مدل‌هایش، محافظت‌های فنی لازم را ایجاد خواهد کرد. مهندسانی از این شرکت به منظور تضمین ایمنی مدل‌ها، با وزارت دفاع همکاری نزدیکی خواهند داشت و استقرار هوش مصنوعی تنها در شبکه‌های ابری انجام خواهد شد.

OpenAI به تازگی مشارکت خود با آمازون را برای اجرای مدل‌هایش بر روی سرویس‌های وب آمازون (AWS) برای مشتریان سازمانی اعلام کرده است. این همکاری می‌تواند به استقرار هرچه ایمن‌تر و کارآمدتر مدل‌های هوش مصنوعی در شبکه‌های دولتی ابری آمازون کمک شایانی کند.

شناسنامه خبر:

درباره هوش‌مصنوعی دست‌اول:

تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.

دسترسی رایگان به هوشنگ ↗