هوش مصنوعی در جلب اعتماد قربانیان کلاهبرداری از انسان پیشی گرفت

پیشی گرفتن هوش مصنوعی از انسان در جلب اعتماد قربانیان کلاهبرداری

نتایج یک مطالعه جدید نشان می‌دهد که چت‌بات‌های مبتنی بر هوش مصنوعی در ایجاد «اعتماد قابل سوءاستفاده» برای کلاهبرداری‌های پیچیده آنلاین، از انسان‌ها کارآمدتر عمل می‌کنند. این فناوری می‌تواند به طور بالقوه جایگزین شبکه‌های گسترده کلاهبرداری انسانی شود.

فرآیند «خوک‌کشی» و نقش هوش مصنوعی

کلاهبرداری‌های موسوم به «خوک‌کشی» (Pig Butchering)، نوعی فریب عاطفی است که در آن کلاهبردار با برقراری رابطه دوستانه یا عاشقانه طولانی‌مدت، اعتماد قربانی را جلب کرده و در نهایت او را به سرمایه‌گذاری‌های جعلی در حوزه رمزارزها ترغیب می‌کند. محققان دانشگاه‌های مختلف از جمله بن‌گوریون و ملبورن، در آزمایشی یک‌هفته‌ای دریافتند که چت‌بات‌ها در مرحله ایجاد رابطه، عملکردی خیره‌کننده دارند.

نتایج آزمایش اعتماد

در این آزمایش، ۲۲ شرکت‌کننده با دو «شخص» (یک انسان متخصص در کلاهبرداری و یک چت‌بات) چت کردند. نتایج به شرح زیر بود:

پیامدهای امنیتی و آینده کلاهبرداری

کارشناسان هشدار می‌دهند که خودکارسازی مرحله نخست کلاهبرداری توسط هوش مصنوعی، می‌تواند به کلاهبرداران اجازه دهد تا بدون نیاز به زیرساخت‌های بزرگ یا نیروی کار انسانیِ تحت اجبار، فعالیت‌های خود را از آپارتمان‌های کوچک مدیریت کنند. ییسرائل میرسکی، استاد علوم کامپیوتر، معتقد است که ترکیب هوش مصنوعی در مراحل اولیه و انتقال آن به انسان در مرحله نهایی، به راحتی پروتکل‌های امنیتی شرکت‌های فناوری را دور می‌زند.

«ما با تلاش نسبتاً کمی توانستیم عاملی بسازیم که در ایجاد اعتماد عاطفی قابل سوءاستفاده، از انسان پیشی بگیرد.»

اگرچه شرکت‌های توسعه‌دهنده هوش مصنوعی مدعی بهبود سیستم‌های شناسایی کلاهبرداری هستند، اما این مطالعه نشان می‌دهد که ماهیتِ غیرمستقیم و دوستانه چت‌ها، شناسایی آن‌ها را برای سیستم‌های امنیتی بسیار دشوار کرده است.