دادگاه آلمان گوگل را مسئول اطلاعات نادرست هوش مصنوعی دانست

دادگاهی در آلمان حکم داده است که گوگل مستقیماً مسئول اطلاعات نادرست ارائه شده توسط پلتفرم «AI Overview» خود است. این حکم می‌تواند پیامدهای گسترده‌ای برای مسئولیت‌پذیری شرکت‌های فناوری در قبال محتوای تولید شده توسط هوش مصنوعی داشته باشد.

مسئولیت مستقیم گوگل در قبال محتوای هوش مصنوعی

بر اساس گزارش The Decoder، دادگاهی در آلمان حکم داده است که گوگل مستقیماً مسئول اطلاعات نادرست ارائه شده توسط پلتفرم «AI Overview» خود است. این کشور قوانینی دارد که اپراتورهای موتورهای جستجو را از مسئولیت مبرا می‌کند، اما دادگاه تشخیص داد که این قوانین شامل خلاصه‌های هوش مصنوعی نمی‌شود.

دادگاه گوگل را به عنوان متخلف مستقیم طبقه‌بندی کرده است، زیرا «AI Overview» محتوای خود گوگل محسوب می‌شود و صرفاً فهرستی از نتایج جستجو نیست.

ریشه مشکل: ادعاهای نادرست علیه ناشران

این ماجرا زمانی آغاز شد که الگوریتم «AI Overview» گوگل ادعاهای نادرستی درباره دو ناشر مستقر در مونیخ منتشر کرد. این ناشران از طریق برخی جستجوها به کلاهبرداری، تله‌های اشتراک و شیوه‌های تجاری مشکوک مرتبط شده بودند. دادگاه می‌گوید هوش مصنوعی اطلاعات شرکت‌های کاملاً مجزا را با هم ترکیب کرده و ارتباطاتی را ایجاد کرده که در هیچ منبع لینک شده‌ای وجود نداشته و واقعیت نداشته‌اند.

ناشران نامه‌ای مبنی بر توقف فعالیت به گوگل ارسال کردند، اما آن‌ها می‌گویند گوگل پاسخ مناسبی نداده است. دادگاه منطقه‌ای مونیخ با صدور حکمی موقت، گوگل را از انتشار اطلاعات نادرست درباره دو شرکت درگیر در این پرونده منع کرده است.

«AI Overview» اطلاعات را «با کلمات و ساختار خود» بازنویسی می‌کند و مسئولیت هرگونه خطای واقعی را بر عهده گوگل می‌گذارد.

در این مورد، خلاصه هوش مصنوعی با اطمینان پیشنهاد کرده بود که یکی از ناشران «به دلیل شیوه‌های تجاری مشکوک شناخته شده است» و ساختار خود را با خلاصه‌ای، پرچم‌های قرمز برای این شیوه‌های مشکوک و نکاتی برای کاربران ایجاد کرده بود. مشکل این بود که «AI Overview» در واقع اطلاعات مربوط به یک نهاد دیگر را جمع‌آوری کرده بود و حتی ادعاهایی را از هیچ جا اختراع کرده بود که در نتایج جستجو ذکر نشده بودند.

تفاوت مسئولیت‌پذیری موتور جستجو و هوش مصنوعی

به بیان ساده، گوگل به عنوان یک موتور جستجو مستقیماً مسئول نخواهد بود، زیرا تنها کاری که انجام می‌دهد قابل یافتن کردن محتوای شخص ثالث است. اما گوگل به عنوان اپراتور «AI Overview» مسئول است، زیرا این خلاصه‌ها با ارزیابی و ترکیب محتوای وب‌سایت‌های شخص ثالث، «اظهارات مستقل، جدید و اساسی» ایجاد می‌کنند.

دفاع گوگل و واقعیت کاربران

گوگل در جلسه دادگاه استدلال کرد که کاربران می‌توانند منابع لینک شده را برای تأیید صحت خلاصه‌های هوش مصنوعی بررسی کنند. همچنین گفت که کاربران می‌دانند «که نباید به اطلاعات تولید شده با هوش مصنوعی کورکورانه اعتماد کرد.» این یک اظهارنظر قابل توجه است، با توجه به سرعتی که این خلاصه‌های Gemini به ما تحمیل شدند. مطالعات نشان می‌دهد که تنها یک درصد از کاربران پس از خواندن این خلاصه‌ها روی لینک‌های منبع کلیک می‌کنند.

مشکل دقت اطلاعاتی «AI Overview»

مشکل دقت اطلاعاتی «AI Overview» چقدر جدی است؟ این بستگی به دیدگاه شما دارد. یک مطالعه اخیر که توسط نیویورک تایمز گزارش شده است، نشان می‌دهد که این خلاصه‌ها حدود ۹ درصد مواقع اشتباه می‌کنند. این ممکن است یک معیار مناسب به نظر برسد تا زمانی که متوجه شوید این پلتفرم چقدر شلوغ است. گوگل اخیراً اعلام کرده که ماهانه ۲ میلیارد نفر با «AI Overview» تعامل دارند. این یعنی سالانه ۲۴ میلیارد نفر. یک محاسبه ساده نشان می‌دهد که این به معنای بیش از ۲ میلیارد پرس و جوی نادرست در هر سال است. این یک تخمین بسیار محافظه‌کارانه است، با توجه به فراگیر شدن این پلتفرم و تعداد جستجوهای گوگل (۱۶.۵ میلیارد) که هر روز انجام می‌شود.

با این حال، دقت اطلاعاتی تنها مشکل نیست. یک مطالعه دیگر نشان داد که این خلاصه‌ها مشکل منبع‌یابی نیز دارند. این تحلیل نشان داد که ۵۶ درصد از پاسخ‌های صحیح را نمی‌توان با منبع لینک شده تأیید کرد. به عبارت دیگر، هیچ راه واقعی برای کاربران برای بررسی کار هوش مصنوعی وجود ندارد.

راهکاری برای دوری از هوش مصنوعی گوگل

برای دوری از این فناوری جستجوی هوش مصنوعی، کافی است «-ai» را در ابتدای هر جستجوی گوگل اضافه کنید.