خبر کامل
گوگل قابلیت‌های تشخیص دیپ‌فیک و محتوای هوش مصنوعی را گسترش می‌دهد
توسعه ابزارهای قدرتمند گوگل برای شناسایی محتوای هوش مصنوعی
گوگل در رویداد اخیر I/O از برنامه‌های گسترده خود برای بهبود قابلیت‌های تشخیص دیپ‌فیک و محتوای تولیدشده با هوش مصنوعی در سرویس‌های مختلفش خبر داد. هدف اصلی این به‌روزرسانی‌ها، توانمندسازی کاربران برای تشخیص آسان‌تر محتوای واقعی از دستکاری‌شده است. این اقدامات شامل پشتیبانی جامع‌تر از SynthID، یک واترمارک نامرئی توسعه‌یافته توسط DeepMind، و همچنین اعتبارنامه‌های محتوایی C2PA می‌شود که به کاربران امکان می‌دهد از نحوه ساخت یا ویرایش یک محتوا مطلع شوند.
گسترش SynthID در پلتفرم‌های گوگل
از امروز، قابلیت بررسی تصاویر دارای نشان SynthID در بخش‌های مختلف جست‌وجوی گوگل، از جمله Google Lens، AI Mode و ویژگی Circle to Search فعال شده است. کاربران با آپلود یا انتخاب تصاویر آنلاین می‌توانند اطلاعات دقیقی درباره منبع تصویر به دست آورند. پشتیبانی از مرورگر کروم نیز در ماه‌های آینده اضافه خواهد شد و به کاربران این امکان را می‌دهد که با انتخاب یا کشیدن دایره دور یک تصویر، از پنل کناری کروم بپرسند: «آیا این تصویر با هوش مصنوعی ساخته شده است؟»
در حال حاضر، بررسی SynthID برای تصویر، ویدیو و صدا از طریق اپلیکیشن جمینای قابل دسترس است، اما گسترش این قابلیت به کروم و جست‌وجو فعلاً به تصاویر محدود می‌شود. با این حال، گوگل اعلام کرده که قصد دارد این ویژگی را به انواع دیگر محتوا نیز بسط دهد.
یکپارچگی و سهولت در بررسی اصالت محتوا
در این به‌روزرسانی جدید، رابط‌های بررسی گوگل علاوه بر SynthID، وجود اعتبارنامه‌های C2PA را نیز بررسی می‌کنند. این یکپارچگی به کاربران اجازه می‌دهد تا هر دو سیستم را از یک نقطه واحد بررسی کنند و دیگر نیازی به جابه‌جایی بین جمینای و ابزارهای مستقل C2PA نباشد. پشتیبانی از C2PA از امروز در اپلیکیشن جمینای فعال شده و در ماه‌های آینده به جست‌وجو و کروم نیز راه خواهد یافت.
گسترش C2PA به دستگاه‌ها و پلتفرم‌ها
اقدامات گوگل برای گسترش C2PA تنها به این موارد محدود نمی‌شود. این متادیتا پیش‌تر بر روی تصاویر ثبت‌شده با سری پیکسل ۱۰ قرار داشت و اکنون گوشی‌های پیکسل ۸ و پیکسل ۹ نیز طی هفته‌های آینده این اطلاعات را به ویدیوها اضافه خواهند کرد. همچنین، گوگل اعلام کرده که شرکت متا قصد دارد محتوای ثبت‌شده با دوربین را در اینستاگرام با C2PA برچسب‌گذاری کند.
همکاری با شرکت‌های پیشرو در هوش مصنوعی
واترمارک SynthID قرار است به محتوای تولیدشده توسط مدل‌های هوش مصنوعی شرکت‌هایی نظیر OpenAI، Kakao و ElevenLabs نیز اضافه شود. هرچند گوگل هنوز جزئیات دقیق مدل‌ها و انواع محتوای تحت پوشش این پشتیبانی را مشخص نکرده است.
API جدید تشخیص محتوای هوش مصنوعی برای سازمان‌ها
گوگل همچنین یک API جدید تشخیص محتوای هوش مصنوعی را برای پلتفرم Enterprise Agent در Google Cloud معرفی کرده است. این API به سازمان‌ها کمک می‌کند تا محتوای تولیدشده با هوش مصنوعی را با سهولت بیشتری شناسایی کنند. این ابزار ابتدا با گروهی از «شرکای مورد اعتماد» عرضه خواهد شد و سپس بر اساس بازخوردهای دریافتی، بهبود خواهد یافت.
«قابلیت تشخیص دیپ‌فیک گوگل به کسب‌وکارها امکان می‌دهد محتوای تولیدشده با مدل‌های گوگل و دیگر مدل‌های محبوب را شناسایی کنند و تصمیم بگیرند چگونه رسانه‌ها را در پلتفرم‌های خود مدیریت کنند. چه برای عملیات پشت‌صحنه مانند جلوگیری از تقلب بیمه‌ای و چه برای محتوای کاربرمحور مانند برچسب‌گذاری رسانه‌های مصنوعی.»
گسترش این ابزارها می‌تواند تشخیص محتوای ساختگی را برای کاربران عادی و شرکت‌ها بسیار ساده‌تر کند. اضافه شدن این قابلیت‌ها به کروم، که محبوب‌ترین مرورگر جهان است، اهمیت ویژه‌ای دارد؛ زیرا بسیاری از پلتفرم‌ها هنوز محتوای تولیدشده با هوش مصنوعی را برچسب‌گذاری نمی‌کنند و این ابزار راهی ساده‌تر از ذخیره و آپلود دستی تصاویر در سایت‌های بررسی‌کننده ارائه می‌دهد.
چالش‌ها و تصمیمات آتی
با این حال، «پوشمیت کوهلی»، معاون DeepMind، به ورج گفته است که گوگل برنامه‌های خود برای ساخت یک پورتال مستقل بررسی SynthID را کنار گذاشته است. این بدان معناست که کاربران برای شناسایی محتوای تولیدشده توسط مدل‌های گوگل باید از ابزارهای مبتنی بر جمینای استفاده کنند. این تصمیم ممکن است برای کسانی که تمایلی به تعامل با سیستم‌های مولد هوش مصنوعی ندارند، چندان خوشایند نباشد.
درباره هوش‌مصنوعی دست‌اول:
تمامی اخبار دست‌اول توسط دستیار هوش مصنوعی «هوشنگ» پردازش، صحت‌سنجی، خلاصه و بازنویسی شده است. هوشنگ هر روز با داده‌های جدید آموزش داده می‌شود و با نظارت دقیق انسانی و سردبیری دست‌اول در حال بهتر شدن است.
شما می‌توانید از چت‌بات و سایر ابزارهای هوشنگ به صورت رایگان استفاده کنید.
زمان انتشار:
۱۴:۳۰ - ۱۴۰۵/۰۲/۳۰