خبر کامل
نشت گسترده در زنجیره تأمین هوش مصنوعی؛ ۲ میلیون داده حساس در معرض سرقت

یک تحقیق امنیتی جدید نشان میدهد که زنجیره تأمین هوش مصنوعی به دلیل ضعفهای ساختاری، مانند یک الک عمل کرده و اطلاعات بسیار حساس کاربران را به بیرون درز میدهد. این پژوهش که با استفاده از استراتژی «قناریهای دیجیتال» انجام شده، ابعاد هولناکی از نشت داده، سرقت دستورات (Prompts) و نقض حریم خصوصی را در میان واسطههای هوش مصنوعی فاش کرده است.
آزمایش قناریهای دیجیتال؛ چگونه نشت دادهها کشف شد؟
محقق امنیتی، اچ.دی. مور، برای سنجش میزان امنیت در شبکه گسترده سرویسهای هوش مصنوعی، ۲ میلیون داده حساس شامل کلیدهای دسترسی AWS، رمزهای عبور SSH و لینکهای خصوصی گیتهاب را در قالب دستورات (Prompts) به سیستمها تزریق کرد. این دادهها که به عنوان قناری دیجیتال شناخته میشوند، به محقق اجازه دادند تا دقیقاً مشخص کنند کدام حلقه از زنجیره تأمین مسئول نشت اطلاعات است.
بسیاری از برنامههای هوش مصنوعی امروزی از سرویسهایی مانند OpenRouter یا Vercel استفاده میکنند که نقش واسطه یا «روتر هوش مصنوعی» را ایفا میکنند. این واسطهها دستورات کاربران را دریافت کرده و برای یافتن ارزانترین یا مناسبترین مدل، آنها را به شبکهای از تأمینکنندگان مختلف ارسال میکنند. در این مسیر، دادهها در هر مرحله رمزگشایی میشوند که این موضوع ریسک امنیتی را به شدت افزایش میدهد.
یافتههای تکاندهنده: از سرقت کلیدها تا جاسوسی از کاربران
نتایج این تحقیق نشاندهنده چندین بحران امنیتی جدی در زنجیره تأمین هوش مصنوعی است که در ادامه به مهمترین آنها اشاره میشود:
- نفوذ مستقیم به میزبانها: هکرها موفق شدند به سه شرکت میزبانی بزرگ نفوذ کرده و صدها کلید دسترسی AWS را سرقت کنند. این مهاجمان حتی دستوراتی را که باید پیش از اجرا رد میشدند، از «درِ ورودی» سرویس سرقت کردند.
- بیاعتباری تنظیمات حریم خصوصی: بسیاری از ارائهدهندگان، تنظیمات کاربر مبنی بر «عدم ذخیره داده» (Zero Data Retention) را نادیده گرفته و همچنان اطلاعات را ذخیره یا لاگ میکنند.
- سرقت توسط واسطهها: برخی از فروشندگان واسطه در بازار استنتاج، برای جذب مشتری قیمتهای پایین ارائه میدهند اما در ازای آن، تمام دستورات کاربران را ثبت و به اشخاص ثالث میفروشند.
یکی از موارد نگرانکننده، فعالیت یک آزمایشگاه هوش مصنوعی چینی بود که بیش از نیمی از لینکهای حساس موجود در دستورات را استخراج (Scrape) میکرد؛ حتی زمانی که کاربران صراحتاً درخواست عدم جمعآوری داده داده بودند.
راهکارهای مقابله با بحران امنیتی در عصر هوش مصنوعی
با توجه به وضعیت فعلی که به نوعی «غرب وحشی» در حوزه فناوری تشبیه شده است، محققان توصیههای زیر را برای محافظت از دادههای حساس ارائه میدهند:
| سطح امنیت | روش پیشنهادی | میزان هزینه/پیچیدگی |
|---|---|---|
| بسیار بالا | میزبانی مدلها در سرورهای داخلی (On-premises) | بسیار بالا |
| متوسط | استفاده مستقیم از تأمینکنندگان سطح اول (First-tier) | متوسط |
| کم | استفاده از مجموعههای پیشفرض واسطهها و فروشندگان | پایین |
به طور خلاصه، اگر سازمانها نمیتوانند از زیرساختهای شخصی استفاده کنند، باید از انتخاب خودکار مدلها توسط واسطهها خودداری کرده و مستقیماً با تأمینکنندگان اصلی قرارداد ببندند تا ریسک نشت اطلاعات در زنجیره تأمین هوش مصنوعی به حداقل برسد.
در نهایت، این پژوهش هشدار میدهد که امنیت در دنیای هوش مصنوعی بسیار شکننده است و کاربران نباید به راحتی اطلاعات حساس خود را در اختیار مدلهای واسطهای قرار دهند.
درباره هوشمصنوعی دستاول:
تمامی اخبار دستاول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحتسنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با دادههای جدید آموزش داده میشود و با نظارت دقیق انسانی و سردبیری دستاول در حال بهتر شدن است.
شما میتوانید از چتبات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۱۷:۲۹ - ۱۴۰۵/۰۸/۲۹