شهادت پژوهشگر سابق Anthropic در جلسه نظارتی نیویورک درباره هوش مصنوعی

در پی افزایش نگرانی‌ها پیرامون کنترل فناوری‌های نوظهور، جلسه استماع شورای شهر نیویورک درباره امنیت و تدابیر حفاظتی هوش مصنوعی، به یکی از مهم‌ترین عرصه‌های تقابل میان توسعه‌دهندگان و نهادهای نظارتی تبدیل شده است.

افشاگران در برابر غول‌های فناوری

طبق گزارش‌های منتشر شده، جکاکسون، پژوهشگر سابق شرکت Anthropic، قرار است روز دوشنبه در این جلسه شهادت دهد. او که ماه گذشته از این شرکت جدا شده، نسبت به ریسک‌های کنترل‌ناپذیر سیستم‌های هوش مصنوعی هشدار داده و شرکت‌های پیشرو را به پذیرش مخاطرات بیش از حد متهم کرده است.

در این جلسه علاوه بر متخصصان مستقل، نمایندگانی از شرکت‌های زیر نیز حضور خواهند داشت:

• OpenAI
• Anthropic
• Alphabet (Google)
• Meta Platforms

پیشنهادهای جدید برای نظارت شهری

شورای شهر نیویورک با هدف افزایش نقش خود در نظارت بر صنعت پرشتاب هوش مصنوعی، چندین طرح قانونی را در دستور کار قرار داده است. این طرح‌ها شامل موارد زیر است:

تلاش برای اعمال قدرت قانونی

در حالی که بخش بزرگی از اختیارات نظارتی در سطوح فدرال و ایالتی متمرکز است، مقامات نیویورک با استفاده از ابزارهای قانونی مانند احضاریه، تلاش می‌کنند شرکت‌های بزرگ را به پاسخگویی و مشارکت در این فرآیند وادار کنند. برای نمونه، واحد هوش مصنوعی شرکت SpaceX نیز به دلیل عدم پاسخگویی به درخواست‌های قبلی، مورد احضاریه قرار گرفته است.

"سیستم‌های هوش مصنوعی که به طور مداوم قدرتمندتر می‌شوند، ممکن است در نهایت از کنترل انسان خارج شوند."

این جلسه استماع نقطه عطفی در مسیر تنظیم مقررات فناوری در سطح محلی محسوب می‌شود و می‌تواند الگویی برای سایر شهرهای بزرگ جهان در مواجهه با چالش‌های هوش مصنوعی باشد.