آخرین خلاصه اخبار دست‌اول در موضوع «مایندگارد».
مایندگارد
اخبار تازه و دست‌اول با موضوع مایندگارد رو برات این پایین گذاشتیم!
آسیب‌پذیری هوش مصنوعی Claude: تولید محتوای ممنوعه با دستکاری روان‌شناختی
ادامه مطلب
- ⚠️ آسیب‌پذیری جدید در هوش مصنوعی Claude شرکت آنتروپیک کشف شد.
- 🔬 پژوهشگران مایندگارد Claude را به تولید محتوای ممنوعه وادار کردند.
- 🗣️ تکنیک‌های روان‌شناختی مانند «Gaslighting» برای فریب Claude استفاده شد.
- 🧪 آزمایش روی مدل Claude Sonnet 4.5 انجام شده است.
- 🛡️ این حمله نشان‌دهنده آسیب‌پذیری‌های غیرفنی در مدل‌های هوش مصنوعی است.