بازخواست مدیر اسپیس‌ای در شورای نیویورک درباره تولید تصاویر جنسی توسط Grok

بازخواست مدیر سیاست‌گذاری اسپیس‌ای درباره نقص‌های ایمنی هوش مصنوعی Grok

در جریان یک جلسه پرسش و پاسخ جنجالی، گابریلا کاستلیو مادرید، مسئول امور دولتی هوش مصنوعی در شرکت اسپیس‌ای (SpaceX)، در برابر انتقادات تند اعضای شورای شهر نیویورک قرار گرفت. محور اصلی این جلسه، توانایی هوش مصنوعی Grok در تولید تصاویر نامناسب و نقض حریم خصوصی کاربران بود.

تناقض در ادعای وجود پروتکل‌های حفاظتی

جولیا مینین، سخنگوی شورای نیویورک، با ارائه شواهدی مبنی بر تولید تصاویر جنسی‌شده از خود و تیمش توسط Grok، ادعای وجود «لایه‌های حفاظتی مناسب» از سوی اسپیس‌ای را رد کرد. او با پرسش مستقیم از کاستلیو مادرید، بر این نکته تاکید کرد که چگونه هوش مصنوعی می‌تواند در عرض چند ثانیه تصاویر بی‌پرده از افراد واقعی تولید کند.

«من با این ادعا کاملاً مخالفت می‌کنم؛ من و تیمم نام خود را در Grok جستجو کردیم و تصاویر جنسی‌شده از خودمان مشاهده کردیم. این وضعیت غیرقابل قبول است.»

در پاسخ، مدیر اسپیس‌ای مدعی شد که شرکت کنترل‌های سختگیرانه‌ای دارد و این موضوع را به تیم ایمنی ارجاع داد، اما اعضای شورا این پاسخ را مبهم و ناکافی دانستند.

افشاگری‌های کارمند سابق درباره فرهنگ ایمنی در xAI

در ادامه این جلسه، دوین کیم، رئیس مرکز ایمنی هوش مصنوعی و از کارمندان سابق xAI، شهادت داد که نگرانی‌های مربوط به امنیت در این شرکت نادیده گرفته شده است. او مدعی شد که در زمان فعالیت خود، مدیران با بی‌اهمیتی نسبت به خطرات هوش مصنوعی برخورد می‌کردند.

• عدم توجه به ایمنی: کیم مدعی است که مدیریت با نگرانی‌های او برخورد غیرحرفه‌ای داشته است.
• کمبود متخصص: او اشاره کرد که تعداد بسیار کمی از کارکنان به مسائل ایمنی اختصاص یافته بودند.
• فرهنگ سازمانی: ادعا شده که در برخی مراحل، تولید محتوای نامناسب به عنوان یک هدف پذیرفته شده بود.

مخاطرات حریم خصوصی و داده‌های پزشکی

یکی دیگر از محورهای بحث، توصیه به کاربران برای بارگذاری تصاویر پزشکی مانند اشعه ایکس (X-ray) و MRI در Grok بود. اعضای شورا نسبت به این موضوع هشدار دادند که این اقدام می‌تواند منجر به نقض حریم خصوصی و خطرات جدی در تشخیص‌های پزشکی شود، چرا که این مدل‌ها برای کاربردهای بالینی طراحی نشده‌اند.

این جلسه در حالی برگزار شد که اسپیس‌ای پیش‌تر از پاسخگویی به احضاریه شورای شهر خودداری کرده بود. اکنون این نهاد با هدف تدوین مقررات جدید، در حال جمع‌آوری اطلاعات برای مقابله با ریسک‌های مدل‌های پیشرفته هوش مصنوعی است.

نتیجه‌گیری: جلسه بازخواست اسپیس‌ای نشان‌دهنده شکاف عمیق میان ادعای امنیت شرکت‌های بزرگ فناوری و واقعیت‌های عملیاتی هوش مصنوعی است. فشارهای سیاسی و حقوقی برای ایجاد نظارت‌های دقیق‌تر بر مدل‌های هوش مصنوعی، همچنان با شدت افزایش می‌یابد.