OpenAI: رونمایی از قابلیت تشخیص سن برای محافظت از کاربران خردسال ChatGPT

شرکت OpenAI، خالق هوش مصنوعی محبوب ChatGPT، در راستای افزایش ایمنی کاربران خردسال، از قابلیت جدیدی رونمایی کرده است. این ویژگی با تحلیل دقیق رفتار کاربر و داده‌های حساب، سن افراد را تشخیص داده و در صورت لزوم، سطح دسترسی به محتوا را محدود می‌کند. این ابتکار بخشی از برنامه جامع‌تر شرکت برای ارتقاء استانداردهای ایمنی و آماده‌سازی برای راه‌اندازی «حالت مخصوص بزرگسالان» در ChatGPT به شمار می‌رود.

📝 تشخیص سن کاربران: رویکرد جدید OpenAI

OpenAI به عنوان جدیدترین شرکت در حوزه فناوری، به جمع شرکت‌هایی پیوسته است که برای محدود کردن دسترسی بر اساس سن کاربران، تدابیر جدیدی اتخاذ می‌کنند. این شرکت توسعه‌دهنده هوش مصنوعی، عرضه جهانی ابزار تشخیص سن خود را آغاز کرده است تا اطمینان حاصل کند که کاربران خردسال به محتوای نامناسب دسترسی پیدا نمی‌کنند.

🔍 مکانیزم تشخیص سن

مدل جدید تشخیص سن OpenAI بر اساس ترکیبی از سیگنال‌های رفتاری و اطلاعات حساب کاربری عمل می‌کند. این سیگنال‌ها شامل موارد زیر هستند:

• مدت زمان فعال بودن حساب: بررسی سابقه و طول عمر حساب کاربری.
• زمان‌های معمول فعالیت: تحلیل الگوهای زمانی که کاربر در طول روز فعال است.
• الگوهای استفاده در طول زمان: شناسایی روندهای کلی و تغییرات در نحوه استفاده کاربر از پلتفرم.
• سن اعلام شده توسط کاربر: در نظر گرفتن اطلاعات سنی که کاربر در زمان ثبت‌نام یا بعداً اعلام کرده است.

در صورتی که فردی به اشتباه توسط ChatGPT به عنوان «زیر سن قانونی» تشخیص داده شود، می‌تواند با ارسال یک عکس سلفی، این اشتباه را از طریق پلتفرم تأیید سن پرسونا (Persona) اصلاح کند.

⚠️ چالش‌ها و سوابق ایمنی در هوش مصنوعی

تاریخچه شرکت‌های هوش مصنوعی نشان می‌دهد که اغلب آن‌ها تمایل داشته‌اند ابتدا ویژگی‌های جدید را عرضه کرده و سپس پس از بروز مشکلات و آسیب‌ها، به فکر ایجاد محافظت‌ها و حفاظ‌های ایمنی بیفتند. به عنوان مثال، شرکت OpenAI در پرونده قتل غیرعمد نوجوانی که ظاهراً از ChatGPT برای برنامه‌ریزی خودکشی خود استفاده کرده بود، متهم شد. تنها پس از این اتفاق بود که شرکت شروع به بررسی محدودیت‌های خودکار محتوا برای کاربران زیر سن قانونی و راه‌اندازی یک شورای مشاوره سلامت روان کرد.

🔞 آماده‌سازی برای «حالت بزرگسال» و نگرانی‌ها

در مورد اخیر، OpenAI در تلاش است تا برای راه‌اندازی یک «حالت بزرگسال» آماده شود که به کاربران امکان می‌دهد محتوای مخصوص بزرگسالان را ایجاد و مصرف کنند. با این حال، تجربیات گذشته نشان می‌دهد که این مسیر ممکن است با چالش‌هایی همراه باشد. تغییر مشابهی در پلتفرم دیگری با سابقه متزلزل در زمینه محافظت از خردسالان، موسوم به رابلوکس (Roblox)، چندان موفق نبوده است.

این نگرانی وجود دارد که کاربران زیر سن قانونی، در صورت تمایل به استفاده از ChatGPT به عنوان یک بزرگسال، راه‌هایی برای دور زدن ابزارهای موجود پیدا کنند. این مسئله اهمیت توسعه سیستم‌های ایمنی قوی‌تر و هوشمندتر را بیش از پیش برجسته می‌کند.