چین استفاده از چت‌بات‌های هوش مصنوعی را برای حفاظت از سلامت روان محدود می‌کند

محدودیت‌های جدید برای چت‌بات‌های هوش مصنوعی

سازمان فضای سایبری چین پیش‌نویس قوانینی را منتشر کرده که هدف آن محدود کردن توانایی هوش مصنوعی برای تأثیرگذاری بر احساسات کاربران است. این پیش‌نویس تنها چند روز پس از آن منتشر شد که دو استارتاپ چینی فعال در زمینه چت‌بات‌های هوش مصنوعی، یعنی Z.ai و Minimax، پرونده عرضه اولیه سهام خود را در هنگ‌کنگ ثبت کردند. این قوانین پیشنهادی بخشی از تلاش‌های گسترده چین برای رهبری در حوزه هوش مصنوعی و تنظیم مقررات آن به‌شمار می‌روند.

محدودیت‌های محتوایی و مسئولیت‌پذیری پلتفرم‌ها

قوانین پیشنهادی، خدمات هوش مصنوعی با ویژگی‌های انسانی را هدف قرار می‌دهند و شامل محصولاتی می‌شوند که شخصیت انسانی شبیه‌سازی‌شده ارائه می‌دهند و با متن، تصویر، صوت یا ویدیو کاربران را از نظر احساسی درگیر می‌کنند. این مقررات به گونه‌ای طراحی شده‌اند که چت‌بات‌های هوش مصنوعی نتوانند محتوایی تولید کنند که کاربر را به خودکشی یا آسیب به خود تشویق کند، یا شامل خشونت کلامی و فریب احساسی شود و به سلامت روان کاربران آسیب برساند.

در مواردی که کاربر به طور مشخص به خودکشی اشاره کند، سرویس‌دهندگان فناوری موظف هستند وارد گفتگو شوند و فوراً با سرپرست یا فرد تعیین‌شده تماس بگیرند. چت‌بات‌ها همچنین موظفند از ارائه هرگونه محتوای مرتبط با قمار، خشونت یا مطالب نامناسب خودداری کنند.

حفاظت از کاربران کم‌سن و نظارت بر زمان استفاده

کاربران کم‌سن تنها با نظارت سرپرست خود اجازه تعامل احساسی با هوش مصنوعی را دارند. علاوه بر این، پلتفرم‌ها موظفند حتی در صورت عدم ارائه سن توسط کاربر، بتوانند سن او را تشخیص دهند و در موارد مشکوک، تنظیمات حفاظتی مربوط به کاربران زیر سن قانونی را فعال کنند و هم‌زمان امکان اعتراض کاربران نیز فراهم باشد.

پیش‌نویس قوانین همچنین به کاربردهای مثبت هوش مصنوعی انسان‌نما در حوزه‌های فرهنگی و همراهی سالمندان توجه کرده است. مقرر شده پس از دو ساعت استفاده مداوم از چت‌بات، کاربران هشدار دریافت کنند. علاوه بر این، چت‌بات‌هایی که بیش از یک میلیون کاربر ثبت‌شده یا بیش از 100 هزار کاربر فعال ماهانه دارند، باید به صورت دقیق ارزیابی امنیتی شوند.

اولین گام جهانی در تنظیم هوش مصنوعی انسان‌نما

این قانون که به عنوان نخستین تلاش جهانی برای تنظیم هوش مصنوعی با ویژگی‌های انسانی شناخته می‌شود، هم‌زمان با رشد سریع شرکت‌های چینی در توسعه همدم‌های دیجیتال و شخصیت‌های مجازی مطرح شده و نشان‌دهنده گذر از تمرکز صرف بر امنیت محتوا به سمت حفاظت از سلامت روان کاربران است. این مقررات پیشنهادی در پی افزایش توجه جهانی به تأثیر هوش مصنوعی بر رفتار انسانی و سلامت روان ارائه شده است.