هوش مصنوعی فوق‌هوشمند؛ تهدیدی جدی برای بقای بشر طبق هشدار پژوهشگران

هوش مصنوعی فوق‌هوشمند در کانون توجه جدیدترین هشدارها قرار گرفته است؛ مجموعه‌ای از پژوهشگران پیشرو در حوزه فناوری، در ویدئوهایی تکان‌دهنده اعلام کردند که خطرات ناشی از ظهور این سیستم‌ها دقیقاً به همان اندازه است که تصور می‌شود، خطرناک و ویرانگر است.

هشدار پژوهشگران درباره تهدید وجودی بشر

در مصاحبه‌های جدیدی که توسط موسسه غیرانتفاعی Palisade Research منتشر شده، متخصصان فعال در شرکت‌های بزرگی همچون OpenAI، Google و Anthropic، نسبت به آینده‌ای مبهم هشدار داده‌اند. جفری ایروینگ، از کارکنان سابق این شرکت‌ها، در این گفتگوها اظهار داشت که احتمال انقراض نژاد بشر بر اثر پیشرفت‌های هوش مصنوعی، چیزی کم‌ارزش‌تر از یک «پرتاب سکه» نیست.

همچنین نیل ناندا، دانشمند پژوهشی در گوگل دیپ‌مایند، با اشاره به عمق فاجعه، اعلام کرد:

چالش کنترل سیستم‌های قدرتمند

یکی از بزرگترین نگرانی‌های مطرح شده، عدم توانایی بشر در مهار قدرت‌های بی‌کران این فناوری‌هاست. دانیل کوکوتایلو، پژوهشگر سابق OpenAI، معتقد است که هوش مصنوعی فوق‌هوشمند قدرتی در سطح خدایان خواهد داشت و متأسفانه ما هیچ راهکار مشخصی برای کنترل آن‌ها در اختیار نداریم.

این فقدان کنترل می‌تواند منجر به سناریوهایی شود که در آن هیچ انسانی قادر به مدیریت یا متوقف کردن مسیر حرکت این سیستم‌ها نباشد. این موضوع، هسته اصلی بحث‌های مربوط به ایمنی هوش مصنوعی را تشکیل می‌دهد.

تضاد منافع در صنعت فناوری

در حالی که متخصصان از خطرات احتمالی سخن می‌گویند، پرسش‌هایی درباره انگیزه‌های شخصی و فشارهای اقتصادی مطرح شده است. برخی از محققان، از جمله مری فونگ از گوگل، با اشاره به دریافت حقوق از آزمایشگاه‌های بزرگ، بر ضرورت نگاه نقادانه به اظهارات خود تأکید کرده‌اند.

با این حال، بسیاری از آن‌ها معتقدند که تنها راه ماندن در این مسیر، تلاش برای کاهش مستقیم ریسک‌های وجودی است؛ چرا که توقف توسعه توسط افراد، مانع از حرکت بی‌وقفه شرکت‌های بزرگ در این حوزه نخواهد شد.

نتیجه‌گیری نهایی

مجموعه این هشدارها نشان می‌دهد که هوش مصنوعی فوق‌هوشمند دیگر تنها یک بحث علمی نیست، بلکه یک چالش امنیتی و وجودی است که نیازمند بازنگری فوری در پروتکل‌های ایمنی جهانی است.