هشدار ساندار پیچای، مدیرعامل آلفابت: به خروجی‌های هوش مصنوعی کورکورانه اعتماد نکنید

هشدار مدیرعامل آلفابت درباره خطاهای هوش مصنوعی

ساندار پیچای، مدیرعامل شرکت آلفابت (شرکت مادر گوگل)، در مصاحبه‌ای اختصاصی، به کاربران ابزارهای هوش مصنوعی هشدار داد که نباید به تمام اطلاعاتی که این ابزارها ارائه می‌دهند، "کورکورانه اعتماد کنند." او تأکید کرد که مدل‌های هوش مصنوعی مدرن «مستعد خطا» هستند و مردم باید آن‌ها را در کنار سایر ابزارها به کار ببرند.

آقای پیچای اظهار داشت که این مسئله اهمیت وجود یک اکوسیستم اطلاعاتی غنی را برجسته می‌کند، نه اینکه صرفاً به فناوری هوش مصنوعی تکیه شود.

«به همین دلیل است که مردم همچنان از جستجوی گوگل استفاده می‌کنند، و ما محصولات دیگری داریم که بیشتر بر ارائه اطلاعات دقیق متمرکز هستند. ما به میزان تلاشی که برای ارائه دقیق‌ترین اطلاعات ممکن انجام می‌دهیم، افتخار می‌کنیم، اما فناوری پیشرفته هوش مصنوعی کنونی مستعد برخی خطاها است.»

استفاده هدفمند و آگاهانه از ابزارها

مدیرعامل آلفابت توضیح داد که در حالی که ابزارهای هوش مصنوعی «اگر بخواهید چیزی را خلاقانه بنویسید» بسیار مفید هستند، اما مردم «باید یاد بگیرند که از این ابزارها برای آنچه در آن خوب هستند استفاده کنند و به هر آنچه می‌گویند کورکورانه اعتماد نکنند.»

مرحله جدید تحول پلتفرم هوش مصنوعی گوگل

دنیای فناوری منتظر جدیدترین نسخه مدل هوش مصنوعی مصرف‌کننده گوگل، یعنی Gemini 3.0 بوده است، مدلی که در حال بازیابی سهم بازار از رقیب خود، ChatGPT، است. گوگل از ماه می سال جاری، یک «حالت هوش مصنوعی» جدید را در جستجوی خود معرفی کرد که چت‌بات Gemini را ادغام می‌کند و هدف آن ارائه تجربه گفت‌وگو با یک متخصص به کاربران است.

آقای پیچای در آن زمان اعلام کرد که ادغام Gemini با جستجو، نشان‌دهنده «مرحله جدیدی از تحول پلتفرم هوش مصنوعی» است. این اقدام همچنین بخشی از تلاش این غول فناوری برای حفظ رقابت‌پذیری در برابر سرویس‌های هوش مصنوعی مانند ChatGPT است که تسلط گوگل بر جستجوی آنلاین را تهدید کرده‌اند.

تایید چالش دقت توسط تحقیقات

اظهارات مدیرعامل آلفابت از تحقیقاتی حمایت می‌کند که پیش‌تر در سال جاری منتشر شده بود و نشان داد که چت‌بات‌های هوش مصنوعی خلاصه‌های خبری را به طور نادرست ارائه می‌دهند. در آن تحقیق، محتوایی به چت‌بات‌های ChatGPT شرکت OpenAI، Copilot مایکروسافت، Gemini گوگل و Perplexity AI داده شد و نتایج نشان داد که پاسخ‌های هوش مصنوعی حاوی «نادرستی‌های قابل توجهی» بودند.

توازن میان سرعت توسعه و مسئولیت‌پذیری

آقای پیچای در ادامه مصاحبه خود به تنش موجود میان سرعت توسعه فناوری و لزوم تعبیه تمهیداتی برای جلوگیری از اثرات مخرب احتمالی اشاره کرد. او گفت که مدیریت این تنش برای آلفابت به معنای «جسور و در عین حال مسئولیت‌پذیر بودن» است.

• حرکت سریع: «ما با سرعت در حال پیشروی در این لحظه هستیم. فکر می‌کنم مصرف‌کنندگان ما نیز این را می‌خواهند.»
• افزایش سرمایه‌گذاری: این غول فناوری، سرمایه‌گذاری خود در امنیت هوش مصنوعی را متناسب با سرمایه‌گذاری در خود هوش مصنوعی افزایش داده است.
• شفافیت و امنیت: «به عنوان مثال، ما در حال انتشار فناوری منبع باز هستیم که به شما امکان می‌دهد تشخیص دهید آیا یک تصویر توسط هوش مصنوعی تولید شده است یا خیر.»

نگرانی از انحصار در فناوری هوش مصنوعی

در پاسخ به سوالی درباره اظهارات چند سال پیش ایلان ماسک به بنیانگذاران OpenAI، مبنی بر نگرانی از اینکه DeepMind (که اکنون متعلق به گوگل است) می‌تواند یک «دیکتاتوری هوش مصنوعی» ایجاد کند، آقای پیچای تاکید کرد که «هیچ شرکت واحدی نباید مالک فناوری قدرتمندی مانند هوش مصنوعی باشد.»

او افزود که امروزه شرکت‌های زیادی در اکوسیستم هوش مصنوعی حضور دارند: «اگر فقط یک شرکت وجود داشت که فناوری هوش مصنوعی را می‌ساخت و همه مجبور بودند از آن استفاده کنند، من هم نگران می‌شدم، اما ما در حال حاضر بسیار از آن سناریو دور هستیم.»