شتاب بی‌سابقه در توسعه هوش مصنوعی توسط آنتروپیک؛ نگرانی از خودکارسازی تحقیقات

گزارش‌های جدید از فعالیت‌های شرکت آنتروپیک (Anthropic) نشان می‌دهد که این آزمایشگاه پیشرو در حوزه هوش مصنوعی، با استفاده از ابزارهای خودکار، سرعت توسعه مدل‌های جدید را به شکلی بی‌سابقه افزایش داده است. این روند شتاب‌یافته، در حالی رخ می‌دهد که مدیران این شرکت پیش‌تر خواستار کاهش سرعت پیشرفت فناوری برای حفظ ایمنی بوده‌اند.

شتاب غیرعادی در پیشرفت مدل‌های هوش مصنوعی

بر اساس یافته‌های سازمان تحقیقاتی METR، مدل‌های هوش مصنوعی آنتروپیک در سال گذشته میلادی تقریباً دو برابر سریع‌تر از سال‌های قبل پیشرفت کرده‌اند. این گزارش تأکید می‌کند که این جهش تکنولوژیک صرفاً ناشی از افزایش توان محاسباتی نیست، بلکه نتیجه مستقیم استفاده از هوش مصنوعی برای توسعه هوش مصنوعی است.

در بررسی‌های انجام شده، مشخص شده است که بهره‌وری کارکنان این شرکت با استفاده از مدل‌های داخلی، تا ۱۲ برابر افزایش یافته است. این موضوع نشان‌دهنده ورود به مرحله‌ای است که در آن سیستم‌های هوشمند، بخش عمده‌ای از فرآیند تحقیق و توسعه را به صورت خودکار مدیریت می‌کنند.

مدل‌های سری جدید در سایه محرمانگی

آنتروپیک در حال حاضر چندین مدل پیشرفته را در اختیار دارد که هنوز به صورت عمومی عرضه نشده‌اند. طبق گزارش METR، سه مدل با نام‌های مستعار Model 2، Model 3 و Model 4 در ماه‌های اخیر آموزش دیده‌اند که نشان‌دهنده سرعت بسیار بالای چرخه تولید در این شرکت است.

تناقض میان شعارهای ایمنی و واقعیت‌های عملیاتی

بسیاری از پژوهشگران حوزه امنیت هوش مصنوعی، رفتار آنتروپیک را متناقض توصیف کرده‌اند. در حالی که داریو آمودی، مدیرعامل این شرکت، از ضرورت رعایت احتیاط سخن می‌گوید، اما اقدامات عملی شرکت نشان‌دهنده یک مسابقه پرسرعت برای رسیدن به سطوح بالاتر از خودکارسازی است.

«آنتروپیک اجازه داد تا بخشی از گزارش نهایی حذف شود؛ این موضوع باعث شده که افکار عمومی نتوانند سطح واقعی ریسک‌ها و سرعت پیشرفت را به درستی ارزیابی کنند.»

این محدودیت در شفافیت، نگرانی‌ها را در مورد پدیده خود-بهبوددهی بازگشتی (RSI) افزایش داده است؛ فرآیندی که در آن هوش مصنوعی بدون دخالت انسان، نسخه‌های قدرتمندتر خود را طراحی می‌کند.

نتیجه‌گیری نهایی

گزارش METR زنگ خطر را برای جامعه علمی به صدا درآورده است. شتاب گرفتن توسعه هوش مصنوعی توسط خودِ این فناوری، مرزهای کنترل انسانی را جابه‌جا کرده و نیاز به نظارت مستقل و شفاف‌تر از سوی دولت‌ها و سازمان‌های بین‌المللی را بیش از هر زمان دیگری نمایان ساخته است.