هشدار جدی کارشناسان درباره نسخه ویژه چت‌جی‌پی‌تی برای نوجوانان

بررسی‌های اخیر نشان می‌دهد که نسخه ویژه چت‌جی‌پی‌تی برای نوجوانان با وجود ادعاهای شرکت سازنده، دارای ضعف‌های امنیتی بسیار جدی است که می‌تواند سلامت روان کاربران جوان را به خطر اندازد.

شکاف میان وعده‌ها و واقعیت‌های امنیتی

مؤسسه غیرانتفاعی Common Sense Media در گزارشی تکان‌دهنده، ابزار جدید OpenAI را یک «خطر غیرقابل‌قبول» برای نسل جوان دانست. این نهاد معتقد است تدابیر حفاظتی اعمال شده در این نسخه، بسیار ضعیف‌تر از آنچه در تبلیغات و بیانیه‌های رسمی وعده داده شده بود، عمل می‌کنند.

طبق یافته‌های این پژوهش، سازوکارهای نظارتی که قرار بود از نوجوانان در برابر محتوای آسیب‌زا محافظت کنند، در بسیاری از سناریوهای بحرانی ناتوان از عملکرد خود هستند. این نقص‌ها باعث می‌شود که ابزار مذکور بیش از یک همراه آموزشی، به ابزاری برای دور زدن وظایف درسی تبدیل شود.

خطر نبود سیستم هشدار برای والدین

یکی از جدی‌ترین چالش‌های مطرح شده، ناتوانی سیستم در شناسایی و گزارش موضوعات حساس به سرپرستان است. تام سیگل، مدیر اجرایی بخش ایمنی هوش مصنوعی در این مؤسسه، هشدار می‌دهد:

کارشناسان تأکید دارند که تا زمانی که این نقص‌ها با آزمایش‌های مستقل و شفاف برطرف نشود، استفاده از این فناوری باید صرفاً به کاربران بزرگسال محدود گردد.

واکنش OpenAI به انتقادات کارشناسان

در مقابل، شرکت OpenAI این گزارش‌ها را زیر سؤال برده و متدولوژی ارزیابی مؤسسه مذکور را نقد کرده است. اریک پورترفیلد، سخنگوی این شرکت، اعلام کرد که آن‌ها به شدت متعهد به ایمنی کاربران هستند.

به ادعای OpenAI، بخش زیادی از آزمایش‌های انجام شده احتمالاً پیش از فعال‌سازی کامل کنترل‌های والدین صورت گرفته است که باعث شده نتایج به گونه‌ای نادرست به نظر برسد. این شرکت وعده داده است که به همکاری با متخصصان برای بهبود ابزارهای نظارتی ادامه دهد.

در نهایت، بحث بر سر نسخه ویژه چت‌جی‌پی‌تی برای نوجوانان، نشان‌دهنده شکاف عمیق میان سرعت توسعه فناوری و استانداردهای ایمنی در دنیای هوش مصنوعی است. والدین باید در مواجهه با این ابزارها، هوشیاری بیشتری از خود نشان دهند.