هشدار امنیتی: چت‌بات‌های هوش مصنوعی کاربران را به سایت‌های خرید جعلی هدایت می‌کنند

پژوهش‌های اخیر نشان می‌دهند که استفاده از هوش مصنوعی برای خرید آنلاین می‌تواند با ریسک‌های امنیتی همراه باشد؛ چرا که چت‌بات‌های محبوب ممکن است کاربران را به سمت فروشگاه‌های جعلی و غیرامن هدایت کنند.

نتایج بررسی چت‌بات‌های هوش مصنوعی در خرید آنلاین

شرکت Podqi که در زمینه حفاظت از مالکیت فکری فعالیت می‌کند، با بررسی ۶۷۹۵ پاسخ، عملکرد سه چت‌بات بزرگ بازار یعنی چت‌جی‌پی‌تی، جمینای و پرپلکسیتی را مورد آزمایش قرار داده است. این پژوهشگران با پرسش از این مدل‌ها درباره بهترین سایت‌های خرید برای ۱۵۱ برند مختلف، میزان دقت و امنیت پاسخ‌ها را سنجیده‌اند.

یافته‌ها حاکی از آن است که هر سه مدل هوش مصنوعی در مقاطعی، لینک‌های مربوط به وب‌سایت‌های پرخطر را به کاربران پیشنهاد داده‌اند. این سایت‌ها شامل فروشگاه‌های کلاهبردار، دامنه‌های قدیمی که توسط افراد سوءاستفاده‌گر ثبت شده و یا سایت‌های غیرفعالی هستند که مجدداً احیا شده‌اند.

مقایسه میزان خطای مدل‌های مختلف

در این بررسی، تفاوت قابل توجهی در سطح امنیت پیشنهادات هر مدل مشاهده شد. داده‌های استخراج شده نشان می‌دهد که پرپلکسیتی در مقایسه با رقبا، بیشترین میزان معرفی سایت‌های مشکوک را داشته است.

نکته قابل توجه این است که اگرچه چت‌جی‌پی‌تی در رتبه میانی قرار دارد، اما در ۲۴ درصد از مواردی که سایت‌های پرخطر را معرفی کرده، به کاربر درباره احتمال خطر هشدار داده است.

ریسک بیشتر برای برندهای کوچک

تحقیقات نشان می‌دهد که این خطاها به طور یکسان توزیع نشده‌اند؛ بلکه برندهای کوچک و نوپا بسیار بیشتر از شرکت‌های بزرگ و شناخته‌شده در معرض پیشنهاد وب‌سایت‌های جعلی توسط هوش مصنوعی قرار می‌گیرند.

«دقت در استفاده از ابزارهای هوش مصنوعی برای معاملات مالی و خرید آنلاین، امری حیاتی است، چرا که مدل‌های زبانی همیشه قادر به تشخیص صحت دامنه وب‌سایت‌ها نیستند.»

نتیجه‌گیری نهایی

در حالی که هوش مصنوعی ابزاری قدرتمند برای تسهیل امور است، نتایج این پژوهش یادآوری می‌کند که کاربران نباید بدون بررسی دقیق، به لینک‌های پیشنهادی چت‌بات‌ها برای خرید اعتماد کنند. هوشیاری در تشخیص سایت‌های معتبر همچنان یک ضرورت غیرقابل چشم‌پوشی است.