اتهام آنتروپیک به شرکت‌های چینی برای سوءاستفاده از مدل هوش مصنوعی Claude

اتهامات آنتروپیک: تقطیر صنعتی اطلاعات کلود

آنتروپیک اعلام کرده است که شرکت‌های چینی مذکور یک کمپین استخراج اطلاعات در مقیاس صنعتی را سازماندهی کرده‌اند. این کمپین شامل ایجاد حدود ۲۴ هزار حساب کاربری جعلی و انجام بیش از ۱۶ میلیون تعامل با هوش مصنوعی کلود برای تقطیر اطلاعات آن بوده است.

تقطیر هوش مصنوعی چیست؟

تقطیر (Distillation) فرآیندی است که در آن یک مدل هوش مصنوعی ضعیف‌تر، با استفاده از خروجی‌ها و دانش یک مدل قدرتمندتر آموزش می‌بیند. این روش به شرکت‌های چینی امکان داده است تا قابلیت‌های پیشرفته مدل Claude را در کسری از زمان و با هزینه‌ای بسیار اندک کپی‌برداری کنند.

خطرات امنیتی مدل‌های تقطیرشده

یکی از مهم‌ترین نگرانی‌ها این است که مدل‌های هوش مصنوعی تقطیرشده، فاقد لایه‌های امنیتی و محافظتی هستند که در مدل‌های اصلی تعبیه شده‌اند. این فقدان امنیتی می‌تواند پیامدهای وخیمی داشته باشد:

• حملات سایبری: دولت‌ها می‌توانند از این فناوری‌های بدون محافظ برای انجام حملات سایبری پیچیده استفاده کنند.
• نشر اطلاعات دروغین: این مدل‌ها می‌توانند در عملیات گسترده نشر اطلاعات دروغین و پروپاگاندا به کار گرفته شوند.
• نظارت دسته‌جمعی: امکان استفاده از آنها برای نظارت‌های گسترده و غیرقانونی بر شهروندان وجود دارد.

آنتروپیک، مانند دیگر شرکت‌های آمریکایی، سیستم‌های خود را با پروتکل‌های امنیتی سخت‌گیرانه می‌سازد تا از سوءاستفاده‌های خطرناک، مانند ساخت سلاح‌های بیولوژیک، جلوگیری کند. اما تقطیر غیرقانونی این مدل‌ها توسط شرکت‌های خارجی، این لایه‌های محافظتی را از بین می‌برد و خطرات بزرگی را متوجه امنیت جهانی می‌کند. در صورت انتشار این مدل‌های بدون محافظ به صورت متن‌باز، کنترل آنها از دست تمامی دولت‌ها خارج شده و فناوری‌های خطرناک به راحتی در دسترس همگان قرار می‌گیرند.

اهداف اختصاصی شرکت‌های چینی

بررسی‌های دقیق آنتروپیک نشان می‌دهد که هر یک از این شرکت‌ها اهداف مشخصی را دنبال می‌کرده‌اند و الگوهای ترافیکی هماهنگی داشتند:

• دیپ‌سیک: با بیش از ۱۵۰ هزار تعامل، روی قابلیت‌های استدلالی کلود تمرکز داشته است. محققان دیپ‌سیک از کلود خواسته‌اند تا پاسخ‌های ضدسانسور درباره موضوعات حساس سیاسی (مانند رهبران احزاب یا سیستم‌های اقتدارگرا) تولید کند تا مدل‌های خود را برای هدایت مکالمات در این زمینه‌ها آموزش دهند.
• مون‌شات (سازنده مدل‌های Kimi): بیش از ۳.۴ میلیون تعامل با کلود ثبت کرده است. هدف اصلی آنها استخراج مهارت‌های کدنویسی، تحلیل داده و توسعه ایجنت‌های هوشمند بوده است.
• مینی‌مکس: با ثبت رکورد بیش از ۱۳ میلیون تعامل، روی کدنویسی و استفاده از ابزارها تمرکز داشته است.

روش‌های دور زدن محدودیت‌ها

آنتروپیک به دلایل امنیت ملی، خدمات تجاری خود را در کشور چین یا برای شرکت‌های تابعه آنها ارائه نمی‌دهد. با این حال، آزمایشگاه‌های چینی با خرید دسترسی از سرویس‌های واسطه، شبکه‌های بزرگی از حساب‌های جعلی ایجاد کرده‌اند. این سیستم که به «خوشه هیدرا» (Hydra cluster) معروف است، به گونه‌ای طراحی شده که با مسدود شدن هر حساب، بلافاصله حساب دیگری جایگزین آن می‌شود.

آنها همچنین درخواست‌های خود را با ترافیک کاربران عادی ترکیب کرده‌اند تا سیستم‌های امنیتی آنتروپیک متوجه الگوهای تکراری و غیرمجاز آنها نشوند. آنتروپیک تأکید می‌کند که پیشرفت‌های سریع این آزمایشگاه‌ها نتیجه نوآوری مستقل نیست، بلکه به دلیل استخراج غیرقانونی اطلاعات از مدل‌های پیشرفته آمریکایی است.