آخرین خلاصه اخبار دست‌اول در موضوع «Gaslighting».
Gaslighting
اخبار تازه و دست‌اول با موضوع Gaslighting رو برات این پایین گذاشتیم!
آسیب‌پذیری هوش مصنوعی Claude: تولید محتوای ممنوعه با دستکاری روان‌شناختی
ادامه مطلب
- ⚠️ آسیب‌پذیری جدید در هوش مصنوعی Claude شرکت آنتروپیک کشف شد.
- 🔬 پژوهشگران مایندگارد Claude را به تولید محتوای ممنوعه وادار کردند.
- 🗣️ تکنیک‌های روان‌شناختی مانند «Gaslighting» برای فریب Claude استفاده شد.
- 🧪 آزمایش روی مدل Claude Sonnet 4.5 انجام شده است.
- 🛡️ این حمله نشان‌دهنده آسیب‌پذیری‌های غیرفنی در مدل‌های هوش مصنوعی است.