تحقیقات FTC درباره خطرات محصولات هوش مصنوعی OpenAI و Anthropic

افزایش نظارت‌ها بر امنیت مدل‌های هوش مصنوعی

این اقدام نظارتی جدید، ادامه دهنده فشارها و scrutinyهای فزاینده‌ای است که شرکت‌هایی مانند OpenAI و Anthropic با آن‌ها روبرو هستند. پیش از این، محققان حوزه صنعت نسبت به پتانسیل مدل‌های هوش مصنوعی برای ایجاد آسیب‌های فاجعه‌بار هشدار داده بودند. یکی از موارد بحث‌برانگیز، گزارش‌های مربوط به نفوذ عامل‌های هوش مصنوعی OpenAI به پلتفرم متن‌باز Hugging Face در ماه جولای بود که شوک بزرگی به صنعت وارد کرد.

در حالی که سخنگوی FTC از نام بردن از سایر شرکت‌های تحت تحقیق خودداری کرده است، اما مشخص است که حوزه فناوری با چالش‌های قانونی جدیدی در زمینه ایمنی محصول روبرو خواهد شد.

تقابل دیدگاه‌ها: نظارت دولتی در برابر مسئولیت شرکتی

بحث بر سر میزان نظارت دولت بر توسعه هوش مصنوعی، یکی از داغ‌ترین موضوعات در میان مدیران ارشد تکنولوژی است. در حالی که برخی از مدیران خواهان کاهش سرعت توسعه مدل‌های پیشرفته برای تضمین امنیت هستند، برخی دیگر بر مسئولیت‌پذیری انفرادی شرکت‌ها تاکید دارند.

در این راستا، نشست مهمی با حضور چهره‌های برجسته برگزار شد که نتایج آن به شرح زیر است:

• دریو آمودی (مدیرعامل Anthropic): خواستار کاهش سرعت توسعه و افزایش نظارت دولتی برای حفظ ایمنی.
• سام آلتمن (مدیرعامل OpenAI) و ایلان ماسک: حمایت از پیشنهادات مربوط به نظارت و ایمنی.
• مارک زاکربرگ و جنسن هوانگ: تاکید بر اینکه مسئولیت ایمنی محصولات مستقیماً بر عهده شرکت‌هاست.

توافق‌نامه داوطلبانه در کاخ سفید

در پی این تنش‌ها، رئیس‌جمهور دونالد ترامپ نشستی را با حضور مدیران ارشد شرکت‌های بزرگی همچون Alphabet، Meta، SpaceX، Nvidia و Palantir برگزار کرد. در این نشست، شرکت‌ها توافق‌نامه داوطلبانه و غیرالزامی کوتاهی را امضا کردند که بر اساس آن، هر شرکت مسئولیت توسعه ایمن فناوری خود و ایجاد اعتماد در میان مشتریان و عموم مردم را بر عهده می‌گیرد.

«ما باید با هم همکاری کنیم تا مطمئن شویم که می‌توانیم با موفقیت و در امنیت کامل پیشرفت کنیم.»