پیشنهاد ایجاد کلید قطع اضطراری برای هوش مصنوعی توسط فرماندار کالیفرنیا

گاوین نیوسوم، فرماندار کالیفرنیا، با صدور یک فرمان اجرایی جدید، تلاش خود را برای ایجاد ساختاری نظارتی بر فناوری‌های پیشرفته آغاز کرده است. این اقدام که با هدف کنترل ریسک‌های احتمالی هوش مصنوعی صورت می‌گیرد، شامل پیشنهاد ایجاد یک «کلید قطع اضطراری» برای مدل‌های هوش مصنوعی پیشرو است.

پیشگامی کالیفرنیا در مدیریت ریسک‌های هوش مصنوعی

در حالی که فرآیند قانون‌گذاری در کنگره ایالات متحده به دلیل انتخابات میان‌دوره‌ای و تعطیلات پارلمان با کندی مواجه شده است، کالیفرنیا تصمیم گرفته نقش پیشرو را در تنظیم مقررات ایفا کند. فرمان جدید نیوسوم بر تقویت امنیت در قوانین ایالتی تمرکز دارد.

این فرمان شامل دستور تشکیل یک کارگروه متشکل از متخصصان است که وظیفه دارند ظرف مدت دو ماه، توصیه‌هایی را برای تقویت اقدامات ایمنی ارائه دهند. محورهای اصلی این توصیه‌ها عبارتند از:

• استقرار گروه‌های تأییدکننده مستقل در محل شرکت‌های فناوری برای انجام حسابرسی‌های دوره‌ای.
• الزام به شفاف‌سازی گزارش‌های ریسک و بازرسی آن‌ها توسط حسابرسان مستقل.
• ایجاد و تأیید عملکرد یک کلید قطع اضطراری برای کنترل سیستم‌های خارج از کنترل.
• گزارش‌دهی اجباری حوادث مربوط به از دست رفتن کنترل سیستم‌ها به مقامات دولتی.

چالش‌های نظارتی و نگرانی‌های موجود

بحث‌های پیرامون نظارت بر هوش مصنوعی پس از هشدارهای جدی پژوهشگران مبنی بر احتمال خطرات وجودی این فناوری شدت گرفته است. با این حال، در سطح ملی، تقابل دیدگاه‌ها همچنان ادامه دارد.

"تنها کنترل یا حفاظ مورد نیاز برای هوش مصنوعی، یک رئیس‌جمهور قوی و باهوش است." — دونالد ترامپ

در حالی که برخی بر ضرورت ایجاد محدودیت‌های سخت‌گیرانه تأکید دارند، مخالفان معتقدند که نظارت‌های بیش از حد می‌تواند مانع پیشرفت تکنولوژیک شود. کالیفرنیا با اجرای سریع‌تر قوانین اخیر خود در زمینه ثبت حسابرسان هوش مصنوعی، سعی دارد تعادلی میان نوآوری و امنیت برقرار کند.

جمع‌بندی و چشم‌انداز آینده

اقدام کالیفرنیا نشان‌دهنده یک چرخش مهم در سیاست‌گذاری‌های فناوری است. با تمرکز بر ایجاد مکانیزم‌های کنترلی مانند کلید قطع اضطراری، این ایالت در تلاش است تا الگویی برای مدیریت ریسک‌های بنیادین هوش مصنوعی در سطح جهانی ارائه دهد.