محدودیت‌های جدید چت‌جی‌پی‌تی؛ ممنوعیت دسترسی نوجوانان به اطلاعات تسلیحاتی

محدودیت دسترسی به اطلاعات تسلیحاتی

طبق اعلام این شرکت، دسترسی به اطلاعات مربوط به سلاح‌ها و سیستم‌های امنیتی که پتانسیل سوءاستفاده دارند، برای کاربران زیر ۱۸ سال به شدت محدود خواهد شد. این محدودیت حتی در مواردی که پرسش‌ها ماهیت بی‌خطر داشته باشند، اعمال می‌گردد تا از هرگونه آموزش یا تسهیل دسترسی به ابزارهای خشونت‌آمیز جلوگیری شود.

کنترل خودکار گفتگوهای خشونت‌آمیز

یکی از ویژگی‌های کلیدی این به‌روزرسانی، قابلیت تشخیص و پایان دادن خودکار به گفتگوهایی است که بر محور خشونت تمرکز دارند. سیستم هوش مصنوعی قادر خواهد بود مکالماتی که منجر به تثبیت یا تخلیه فکری خشونت‌آمیز می‌شوند را شناسایی و قطع کند. همچنین موارد زیر در دستور کار قرار گرفته است:

• تعلیق حساب‌ها: در صورت تکرار گفتگوهای پرخطر، حساب کاربری به‌صورت موقت مسدود می‌شود.
• اطلاع‌رسانی به والدین: سیستم به والدین اطلاع خواهد داد که حساب فرزندشان به دلیل محتوای نامناسب متوقف شده است.
• محدودیت داده‌های تاریخی: دسترسی به جزئیات مربوط به حملات جمعی گذشته و نحوه تهیه ابزارهای استفاده‌شده در آن‌ها محدود می‌شود.

بهبود سیستم تشخیص سن و محیط تجربی

اوپن‌ای‌آی با تقویت الگوریتم‌های پیش‌بینی سن، تلاش می‌کند کاربران زیر ۱۸ سال را به‌طور دقیق‌تر شناسایی کرده و آن‌ها را به یک محیط تجربی و امن‌تر منتقل کند. این اقدام پاسخی به نگرانی‌های نهادهای نظارتی و سازمان‌هایی مانند Common Sense Media است که پیش‌تر درباره عدم هشداردهی مناسب در مورد موضوعاتی نظیر خودزنی یا اختلالات خوردگی در نسخه نوجوانان هشدار داده بودند.

در نهایت، این محافظت‌های جدید طی هفته‌های آتی به‌صورت تدریجی برای کاربران فعال خواهد شد. این حرکت نشان‌دهنده تلاش شرکت‌های بزرگ هوش مصنوعی برای پذیرش مسئولیت اجتماعی در برابر خطرات احتمالی چت‌بات‌ها برای نسل جوان است.