آیکون خبر

خبر کامل

گزارش‌های امنیتی آمازون؛ عامل اصلی محدودیت‌های کاخ سفید علیه مدل‌های هوش مصنوعی آنتروپیک

گزارش‌های امنیتی آمازون؛ عامل اصلی محدودیت‌های کاخ سفید علیه مدل‌های هوش مصنوعی آنتروپیک

نقش پژوهش‌های آمازون در محدودیت‌های جدید علیه آنتروپیک

گزارش‌های تازه حاکی از آن است که دستورالعمل‌های کنترل صادرات که منجر به مسدودسازی دسترسی به مدل‌های هوش مصنوعی Fable 5 و Mythos 5 شد، تا حد زیادی تحت تأثیر یافته‌های امنیتی شرکت آمازون و تعاملات مستقیم مدیرعامل آن با دولت ایالات متحده بوده است.

جزئیات گزارش امنیتی

بر اساس اطلاعات منتشر شده، آمازون در جریان تحقیقات خود مدعی شده است که با استفاده از مجموعه‌ای از دستورات (Prompts)، توانسته است مدل Fable 5 را وادار به ارائه اطلاعاتی کند که پتانسیل استفاده در حملات سایبری را دارند. اندی جسی، مدیرعامل آمازون، بلافاصله پس از نهایی شدن این یافته‌ها، آن‌ها را با مقامات دولتی در میان گذاشت که این اقدام، مسیر را برای اعمال محدودیت‌های سخت‌گیرانه هموار کرد.

پیامدهای عملیاتی برای آنتروپیک

در پی این اقدام، دسترسی به این مدل‌ها برای اتباع خارجی محدود شد. این مسئله چالش بزرگی برای آنتروپیک ایجاد کرده است، چرا که بخش قابل‌توجهی از محققان این شرکت، اتباع خارجی هستند و اکنون عملاً از دسترسی به ابزارهای توسعه‌یافته توسط خودشان منع شده‌اند.

موضع آنتروپیک و جامعه امنیتی

آنتروپیک در بیانیه‌ای رسمی، توصیف دولت از این آسیب‌پذیری‌ها به عنوان «jailbreak» را رد کرده و تأکید دارد که مدل‌های عمومی دیگر مانند GPT 5.5 نیز دارای ریسک‌های مشابهی هستند.

برخی از کارشناسان امنیتی نیز با این دیدگاه همسو هستند. برای نمونه، کیتی موسوری، مدیرعامل LutaSecurity، پس از بررسی اسناد اعلام کرد که یافته‌های آمازون به معنای واقعی کلمه یک «jailbreak» محسوب نمی‌شود.

زمینه سیاسی تنش‌ها

این محدودیت‌ها در حالی اعمال می‌شود که روابط آنتروپیک و دولت ترامپ در ماه‌های اخیر به دلیل امتناع این شرکت از همکاری در پروژه‌های نظارت جمعی و توسعه سلاح‌های خودمختار مرگبار، به سردی گراییده است. در ماه فوریه، دولت دستور توقف استفاده از هوش مصنوعی آنتروپیک را در تمامی نهادهای فدرال صادر کرده بود.

شناسنامه خبر:

درباره هوش‌مصنوعی دست‌اول:

تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.

دسترسی رایگان به هوشنگ ↗