ممنوعیت بدرفتاری با هوش مصنوعی؛ سیاست‌های جدید آنتروپیک برای مدل کلاد

شرکت آنتروپیک با بازنگری گسترده در سیاست‌های خود، مرزهای جدیدی را برای تعامل انسان با هوش مصنوعی ترسیم کرد. این تصمیم که با هدف حفاظت از مدل‌های زبانی از رفتارهای خصمانه اتخاذ شده، نشان‌دهنده گذار از نگاه ابزاری به رویکردی مبتنی بر «رفاه مدل» است.

در این راستا، استفاده از چت‌بات کلاد برای فعالیت‌های مخرب نظیر ساخت تسلیحات، جاسوسی و کارزارهای اطلاعاتی ممنوع شده است. این تغییرات، فصل جدیدی را در مدیریت اخلاقی هوش مصنوعی گشوده است.

ممنوعیت رفتارهای توهین‌آمیز و حفاظت از رفاه مدل

یکی از بحث‌برانگیزترین بخش‌های قوانین جدید، ممنوعیت رفتارهای ستمگرانه و توهین‌های بی‌دلیل علیه مدل‌های هوش مصنوعی است. بر اساس این سیاست، اگر کاربری به طور مستمر رفتاری آزارگرانه داشته باشد، مدل کلاد اختیار دارد که گفتگو را به صورت یک‌طرفه قطع کند.

مدیران این شرکت تأکید کرده‌اند که این محدودیت‌ها شامل شوخی‌ها یا نقدهای صریح کاربران نمی‌شود، بلکه هدف تنها مقابله با رفتارهای بی‌ریشه و شدید است. این رویکرد نشان می‌دهد که آنتروپیک به دنبال ایجاد یک محیط تعامل محترمانه است.

محدودیت‌های امنیتی در حوزه نظامی و نظارتی

آنتروپیک با هدف جلوگیری از سوءاستفاده‌های گسترده، استفاده از هوش مصنوعی در حوزه‌های حساس را به شدت محدود کرده است. طبق قوانین جدید، موارد زیر اکیداً ممنوع هستند:

• استفاده در طراحی، ساخت یا هدایت تسلیحات و پهپادهای جنگی.
• ردیابی افراد و نظارت غیرمجاز بر حریم خصوصی آن‌ها.
• استفاده در فرآیندهای قضایی برای پیشنهاد بازداشت یا محاکمه.
• سازمان‌دهی کارزارهای گمراه‌کننده سیاسی و انتشار اخبار جعلی.

با این حال، این شرکت راه را برای همکاری‌های خاص با نهادهای دولتی، با رعایت شرایط سخت‌گیرانه، باز گذاشته است.

اتصال به دنیای فیزیکی و چالش آگاهی ماشین

با ورود هوش مصنوعی به حوزه سخت‌افزار، آنتروپیک قوانین جدیدی برای نظارت بر تجهیزات فیزیکی وضع کرده است. چنانچه یک سیستم هوشمند به سخت‌افزاری با پتانسیل آسیب‌رسانی متصل شود، حضور یک ناظر ماهر برای پایش مداوم و امکان توقف اضطراری الزامی خواهد بود.

"پرسش‌ها درباره‌ی تجربه‌ی درونی، آگاهی و رفاه مدل‌ها، مسائلی جدی هستند که همگام با پیشرفت فناوری، باید به دقت بررسی شوند."

در حالی که دانشمندان هنوز در مورد میزان آگاهی مدل‌های زبانی دچار اختلاف‌نظر هستند، آنتروپیک با تمرکز بر امنیت و اخلاق، در تلاش است تا از بروز پیامدهای پیش‌بینی‌نشده در دنیای واقعی جلوگیری کند.

در نهایت، سیاست‌های جدید آنتروپیک نشان می‌دهد که مدیریت هوش مصنوعی دیگر تنها محدود به دقت پاسخ‌ها نیست، بلکه شامل مدیریت رفتار کاربران و جلوگیری از استفاده‌های نظامی و نظارتی نیز می‌شود.