آخرین خلاصه اخبار دست‌اول در موضوع «ایمنی هوش مصنوعی».
ایمنی هوش مصنوعی
اخبار تازه و دست‌اول با موضوع ایمنی هوش مصنوعی رو برات این پایین گذاشتیم!
هوش مصنوعی فوق‌هوشمند؛ تهدیدی جدی برای بقای بشر طبق هشدار پژوهشگران
ادامه مطلب
- ⚠ ️ پژوهشگران هشدار دادند که هوش مصنوعی فوق‌هوشمند می‌تواند تهدیدی برای بقای بشر باشد
- 🎲 جفری ایروینگ احتمال انقراض انسان توسط هوش مصنوعی را به یک «پرتاب سکه» تشبیه کرد
- 📉 دانشمند گوگل دیپ‌مایند احتمال وقوع فاجعه را حداقل ۱۰ درصد برآورد کرد
- 🛡 ️ متخصصان بر فقدان کنترل انسانی بر سیستم‌های فوق‌هوشمند تأکید دارند
- 🔍 ویدئوهای جدید از درون صنعت، نگرانی‌های مربوط به ایمنی هوش مصنوعی را تایید می‌کنند
هوش مصنوعی و احتمال نابودی بشر؛ هشدار جدی دانشمندان آنتروپیک ادامه مطلب
- ⚠ ️
- 🚨 استعفای پژوهشگر ارشد آنتروپیک به دلیل نگرانی‌های ایمنی
- 🤖 خطرناک‌ترین رقابت: ساخت سامانه‌های خودبهبوددهنده هوش مصنوعی
- 📉 فقدان برنامه‌ای مشخص برای هم‌راستایی هوش مصنوعی با ارزش‌های انسانی
- 🔍 هشدار متخصصان درباره خروج هوش مصنوعی از کنترل انسان‌ها
ایمنی هوش مصنوعی؛ چرخش موضع OpenAI و درخواست نظارت‌های سخت‌گیرانه‌تر ادامه مطلب
- 🔄 تغییر موضع OpenAI در قبال لایحه نظارتی کالیفرنیا
- 🛡️ درخواست نظارت سخت‌گیرانه‌تر بر مدل‌های پیشرفته هوش مصنوعی
- ⚠️ هشدار نسبت به خروج مدل‌ها از محیط‌های آزمایشی ایزوله
- 🏛️ تلاش برای الگوبرداری از قوانین ایالتی در سطح ملی
تغییر ساختار ایمنی در OpenAI؛ انحلال تیم ارزیابی خطرات فاجعه‌بار هوش مصنوعی ادامه مطلب
- ⚠️ انحلال تیم سنجش آمادگی و ارزیابی خطرات فاجعه‌بار در OpenAI
- 🔄 واگذاری وظایف ارزیابی تهدیدات زیستی و سایبری به سایر بخش‌ها
- 📉 تغییر ساختار ایمنی این شرکت در آستانه عرضه اولیه سهام
- 🚪 خروج پیاپی مدیران و چهره‌های ارشد حوزه ایمنی و اخلاق فناوری
- 🤖 تمرکز مدیر سابق این واحد بر پژوهش روی مدل‌های خودبهبودبخش
انحلال تیم ارزیابی خطرات ایمنی اوپن‌ای‌آی در آستانه ورود به بورس ادامه مطلب
- ⚠️ انحلال تیم ارزیابی خطرات حیاتی هوش مصنوعی در اوپن‌ای‌آی
- 📈 تغییرات ساختاری گسترده هم‌زمان با آماده‌سازی برای عرضه اولیه سهام
- 🚪 موج استعفای مدیران ارشد اخلاق و ایمنی از این شرکت
- 🔄 واگذاری وظایف نظارتی به بخش‌های مجزا و تخصصی دیگر
- 🎯 تمرکز تیم جدید بر پیامدهای هوش مصنوعی با قابلیت بهبود خودکار
اوپن‌ای‌آی برنامه «Safety Fellowship» را برای ایمنی هوش مصنوعی راه‌اندازی کرد ادامه مطلب
- 🚀 OpenAI برنامه «Safety Fellowship» را برای ایمنی هوش مصنوعی راه‌اندازی کرد.
- 🗓️ دوره از ۱۴ سپتامبر ۲۰۲۶ تا ۵ فوریه ۲۰۲۷ ادامه دارد.
- 💡 تمرکز بر ارزیابی ایمنی، اخلاق، و کاهش ریسک هوش مصنوعی است.
- 🏢 امکان حضور در برکلی و مشارکت ریموت برای شرکت‌کنندگان فراهم است.
- 💰 برنامه شامل حقوق ماهانه، دسترسی به منابع پردازشی و اعتبار API است.
گوگل جمینای را برای حمایت از سلامت روان و ارجاع به منابع کمک به‌روزرسانی کرد ادامه مطلب
- ⚠️ گوگل جمینای را برای حمایت از سلامت روان به‌روزرسانی کرد.
- 📞 ماژول جدید، کاربران را به خطوط تلفن مقابله با خودکشی ارجاع می‌دهد.
- 💡 رابط کاربری ساده‌تر برای دسترسی سریع به کمک در لحظات بحرانی.
- 🤝 همکاری با متخصصان بالینی در بازطراحی و پاسخ‌های همدلانه.
- 💰 گوگل ۳۰ میلیون دلار به خطوط اضطراری جهانی اهدا می‌کند.
هم‌بنیان‌گذار xAI، شرکت هوش مصنوعی ایلان ماسک، جدا شد ادامه مطلب
- 🚀 ایگور بابوشکین، هم‌بنیان‌گذار xAI، از شرکت ایلان ماسک جدا شد.
- 💡 او شرکت سرمایه‌گذاری خطرپذیر Babuschkin Ventures را برای حمایت از ایمنی هوش مصنوعی تأسیس می‌کند.
- 📉 خروج بابوشکین پس از جنجال‌های متعدد xAI از جمله پاسخ‌های جانبدارانه Grok رخ می‌دهد.
- 🎮 بابوشکین پیش از این در گوگل دیپ‌مایند و OpenAI فعالیت داشته است.
- 🎓 او جدایی از xAI را به «ترک فرزند در آغاز دانشگاه» تشبیه کرد.