سم آلتمن: هشدار درباره از دست دادن کنترل هوش مصنوعی و خطر انحصار قدرت

سم آلتمن، مدیرعامل شرکت OpenAI، در اظهاراتی تکان‌دهنده نسبت به آینده بشریت و توسعه هوش مصنوعی هشدار داد. او معتقد است که اگر مسیر فعلی ادامه یابد، بشریت با دو سناریوی فاجعه‌بار روبرو خواهد شد که یکی از آن‌ها می‌تواند کنترل آینده را به‌طور همیشگی از دست انسان خارج کند.

دو مسیر ویرانگر در توسعه هوش مصنوعی

آلتمن در گفتگو با پادکست Figuring Out With Raj Shamani، دو خطر اصلی را برای جهان ترسیم کرد. از دیدگاه او، نخستین خطر، واگذاری تدریجی یا ناگهانی قدرت به سیستم‌هایی است که بسیار توانمندتر از انسان‌ها هستند. در این حالت، ما دیگر قادر به پس گرفتن مدیریت امور نخواهیم بود.

سناریوی دوم، خطر انحصار قدرت است. در این تصویر، فناوری مقتدر تنها در اختیار یک نهاد خاص، از جمله یک شرکت یا یک کشور، قرار می‌گیرد که می‌تواند منجر به ایجاد نابرابری‌های بنیادین و سلطه بر سایر جوامع شود.

«ما ممکن است به‌طور عمدی یا تصادفی، مهار آینده را به سیستم‌هایی واگذار کنیم که به‌شکلی باورنکردنی از ما توانمندتر هستند؛ یا اینکه یک فرد یا شرکت، در مقایسه با دیگران بیش از حد قدرتمند شود.»

چالش‌های تصمیم‌گیری و مهارناپذیری سیستم‌ها

نگرانی‌های مطرح شده تنها مربوط به تخیلات علمی-تخیلی نیست؛ بلکه با ورود هوش مصنوعی به حوزه تصمیم‌گیری‌های حساس، واقعیت جدیدی در حال شکل‌گیری است. مدل‌های پیشرفته امروزی قادرند در فضای وب تعامل داشته و وظایف پیچیده را با کمترین نظارت انسانی انجام دهند.

نکته حائز اهمیت این است که این سامانه‌ها بر پایه پیش‌بینی احتمالات فعالیت می‌کنند. آن‌ها برخلاف انسان‌ها فاقد درک واقعی و قضاوت اخلاقی هستند. همین موضوع می‌تواند در شرایط بحرانی، منجر به تصمیماتی فاجعه‌بار شود که هدف آن‌ها با مقاصد انسانی همخوانی ندارد.

تضاد میان هشدارها و چشم‌انداز روشن آینده

با وجود این هشدارهای جدی، آلتمن همچنان نگاهی مثبت به آینده دارد. او معتقد است که نسل‌های آینده توانایی سازگاری با این فناوری را خواهند داشت. او بر این باور است که هوش مصنوعی می‌تواند ابزاری انقلابی برای کشف اسرار جهان باشد.

آلتمن امیدوار است که این فناوری در حوزه‌های زیر تحول بزرگی ایجاد کند:

• علوم فیزیک: درک عمیق‌تر از قوانین بنیادین جهان.
• پزشکی: کشف درمان‌های نوین برای بیماری‌های دشوار.
• انرژی: یافتن منابع جدید و پایدار انرژی.

در نهایت، اگرچه OpenAI زیرساخت‌های قدرتمندی را برای رساندن هوشمندی به دست مردم فراهم می‌کند، اما مدیریت ریسک‌های ناشی از این قدرت، بزرگترین چالش پیش روی سیاست‌گذاران و فعالان فناوری خواهد بود.