آیکون خبر

خبر کامل

افشای ردیاب مخفی در ابزار Claude Code؛ واکنش تند علی‌بابا و نگرانی‌های حریم خصوصی

افشای ردیاب مخفی در ابزار Claude Code؛ واکنش تند علی‌بابا و نگرانی‌های حریم خصوصی

افشای ردیاب مخفی در ابزار توسعه‌دهندگان Anthropic

شرکت Anthropic در پی افشای وجود یک کد ردیاب مخفی در ابزار Claude Code که به‌طور خاص کاربران چینی را هدف قرار می‌داد، ناچار به حذف فوری آن شد. این اقدام پس از آن صورت گرفت که یک محقق امنیتی با نام مستعار «Thereallo» کشف کرد این شرکت از تکنیکی موسوم به «استگانوگرافی پرامپت» برای پنهان کردن کدهای نظارتی در ظاهر یک ابزار برنامه‌نویسی استفاده کرده است.

هدف از ردیابی: مقابله با استخراج مدل

مهندسان Anthropic تأیید کردند که این کد به‌عنوان یک «آزمایش» در ماه مارس اضافه شده بود تا از سوءاستفاده‌های احتمالی جلوگیری کند. طبق اعلام رسمی، هدف اصلی این ردیاب شناسایی حساب‌های غیرمجاز و به‌ویژه مقابله با حملات استخراج مدل (Distillation) توسط آزمایشگاه‌های هوش مصنوعی چینی بوده است. در ماه‌های اخیر، رقابت میان مدل‌های آمریکایی و چینی به شدت افزایش یافته و شرکت‌های آمریکایی نگران کپی‌برداری از قابلیت‌های مدل‌های پیشرفته خود هستند.

واکنش‌ها و پیامدهای امنیتی

این ردیاب، نشان‌دهنده تمایل شرکت به عبور از خطوط قرمز برای نظارت بر کاربران است که با مواضع پیشین این شرکت در قبال حریم خصوصی در تضاد است.

این افشاگری واکنش‌های منفی گسترده‌ای را در پی داشت. علاوه بر انتقادات فعالان حریم خصوصی، شرکت علی‌بابا نیز در واکنش به این رخداد، استفاده از Claude Code را برای تمامی کارکنان خود ممنوع اعلام کرد و آن را در لیست نرم‌افزارهای «پرخطر» قرار داد.

جدول مقایسه وضعیت امنیتی

موضوعشرح وضعیت
نوع ردیابیاستفاده از شگردهای مخفی در پرامپت
هدفشناسایی کاربران چینی و جلوگیری از استخراج مدل
واکنش علی‌باباممنوعیت کامل استفاده برای کارکنان
توجیه Anthropicآزمایش امنیتی برای مقابله با سوءاستفاده

در حالی که Anthropic ادعا می‌کند این اقدامات برای حفظ امنیت ملی و استانداردهای هوش مصنوعی ضروری است، منتقدان معتقدند که پنهان‌کاری در چنین ابزارهایی، اعتماد کاربران به هوش مصنوعی را به شدت خدشه‌دار می‌کند.

شناسنامه خبر:

درباره هوش‌مصنوعی دست‌اول:

تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.

دسترسی رایگان به هوشنگ ↗