مقررات پیشنهادی چین برای هوش مصنوعی تعاملی؛ هشدار اعتیاد و الزامات اخلاقی

چین در تازه‌ترین اقدام خود برای ساماندهی رشد فزاینده هوش مصنوعی، پیش‌نویس مقررات جدیدی را برای خدمات هوش مصنوعی تعاملی منتشر کرده است. این مقررات پیشنهادی با هدف تقویت ضوابط اخلاقی و امنیتی، چارچوبی نظارتی برای مقابله با خطرات احتمالی از جمله اعتیاد و تولید محتوای ممنوعه ترسیم می‌کند. این پیش‌نویس روز شنبه برای اظهارنظر عمومی منتشر شد تا مسیر نظارت بر فناوری‌هایی که الگوهای فکری و شخصیتی انسان را شبیه‌سازی می‌کنند، مشخص شود.

دامنه شمول و اهداف نظارتی

مقررات پیشنهادی بر تمامی خدمات و محصولات هوش مصنوعی که در خاک چین ارائه می‌شوند، اعمال خواهد شد. این محصولات شامل آن دسته از سیستم‌های هوش مصنوعی هستند که الگوهای فکری، شیوه‌های ارتباطی و ویژگی‌های شخصیت انسانی را شبیه‌سازی کرده و از طریق ابزارهایی مانند متن، تصویر، صوت و ویدئو، تعامل عاطفی با کاربران برقرار می‌کنند.

این اقدام نشان‌دهنده عزم دولت چین برای شکل‌دهی به رشد سریع هوش مصنوعی با تقویت الزامات اخلاقی و امنیتی است تا از پیامدهای ناخواسته این فناوری‌های تعاملی جلوگیری شود.

مسئولیت‌های ایمنی و فنی ارائه‌دهندگان خدمات

پیش‌نویس منتشر شده، ارائه‌دهندگان خدمات هوش مصنوعی را ملزم به پذیرش مسئولیت‌های گسترده‌ای در طول چرخه عمر محصول می‌کند. این الزامات با هدف تضمین ایمنی و حفظ حریم خصوصی کاربران تدوین شده‌اند:

• قبول مسئولیت‌های ایمنی در طول چرخه عمر محصول.
• ایجاد سیستم‌هایی برای بررسی و ارزیابی مستمر الگوریتم‌های مورد استفاده.
• تضمین امنیت داده‌ها و حفاظت از اطلاعات شخصی کاربران.

مقابله با اعتیاد و خطرات روانی

یکی از مهم‌ترین بخش‌های این پیش‌نویس، تمرکز بر خطرات روانی بالقوه و اعتیاد کاربران به خدمات هوش مصنوعی است. رویکرد نظارتی ترسیم شده، ارائه‌دهندگان خدمات را مکلف می‌کند که نسبت به سلامت روان کاربران هوشیار باشند:

• ارائه‌دهندگان ملزم هستند تا به کاربران در مورد مصرف بیش از حد هوش مصنوعی هشدار دهند.
• آن‌ها باید حالات کاربران را شناسایی کرده و میزان وابستگی و احساسات آن‌ها را ارزیابی کنند.

در این پیش‌نویس تصریح شده است که اگر مشخص شود کاربران احساسات شدید یا رفتار اعتیادآور از خود نشان می‌دهند، ارائه‌دهندگان خدمات باید اقدامات لازم را برای مداخله انجام دهند.

خطوط قرمز محتوایی و رفتاری

پیش‌نویس مقررات، خطوط قرمزی را در مورد محتوای تولیدی و رفتار سرویس‌های هوش مصنوعی تعیین کرده است. بر اساس این ضوابط، سرویس‌ها مجاز به تولید محتوایی که امنیت ملی را به خطر می‌اندازد یا نظم عمومی را مختل می‌کند، نخواهند بود:

• ممنوعیت تولید محتوایی که امنیت ملی را به خطر اندازد.
• ممنوعیت شایعه‌پراکنی و انتشار اطلاعات نادرست.
• ممنوعیت ترویج خشونت و فحشا.