هوش مصنوعی در صنعت پرداخت؛ از تهدیدات سایبری تا ظهور عامل‌های هوشمند

هوش مصنوعی در صنعت پرداخت؛ در نشست تخصصی اخیر کارشناسان حوزه زیرساخت و امنیت، چالش‌های ناشی از افزایش پیچیدگی حملات سایبری و فرصت‌های ایجاد عامل‌های هوشمند در زیرساخت‌های مالی مورد بررسی قرار گرفت. محور اصلی این نشست، ضرورت حفظ نظارت انسانی در کنار به‌کارگیری فناوری‌های نوپا بود.

دو روی سکه؛ هوش مصنوعی در دست مهاجم و مدافع

در دنیای امروز، فناوری‌های نوین همزمان ابزاری برای تهدید و دفاع هستند. مدیران امنیت سایبری هشدار می‌دهند که مهاجمان با استفاده از ابزارهای هوشمند، سرعت و پیچیدگی نفوذ خود را به طرز چشمگیری افزایش داده‌اند.

آمارها نشان می‌دهند که 56 درصد از حملات در حوزه مالی جهان با بهره‌گیری از هوش مصنوعی انجام می‌شود. نکته نگران‌کننده، کاهش زمان مورد نیاز برای نفوذ به سیستم‌ها به تنها 29 دقیقه است. این حملات که عمدتاً با هدف سرقت اطلاعات صورت می‌گیرند، اغلب توسط سیستم‌های امنیتی سنتی به سختی شناسایی می‌شوند.

«هوش مصنوعی تنها در اختیار مهاجمان نیست؛ تیم‌های امنیتی نیز باید از این فناوری برای تحلیل داده‌های تله‌متری و شناسایی سریع تهدیدها استفاده کنند.»

از نظر اقتصادی نیز، خسارات ناشی از این حملات در صنعت مالی به طور میانگین حدود 6 میلیون دلار برآورد می‌شود که نشان‌دهنده رشد هزینه‌های امنیتی در سال جاری است.

چالش توهم مدل‌ها و ضرورت نظارت انسانی

یکی از مخاطرات اصلی استفاده از مدل‌های زبانی در سازمان‌ها، پدیده «توهم مدل‌ها» است. کیفیت داده‌های ورودی و نحوه طراحی دستورات (پرامپت‌ها) تأثیر مستقیمی بر دقت پاسخ‌ها دارد. یک دستور مبهم می‌تواند منجر به خروجی‌های غیرقابل اتکا شود که در عملیات حساس مالی می‌تواند فاجعه‌بار باشد.

کارشناسان بر این باورند که در حال حاضر، هوش مصنوعی بیشتر در حوزه تحلیل داده و داده‌کاوی کاربرد دارد و اجازه اجرای مستقیم عملیات مالی را ندارد. تصمیم نهایی و صدور دستورات اجرایی باید همواره در اختیار نیروی انسانی باقی بماند تا مسئولیت‌پذیری و حاکمیت داده حفظ شود.

گذار از پاسخ‌دهنده به عامل‌های هوشمند

آینده فناوری در صنعت پرداخت، حرکت از مدل‌های ساده پاسخ‌دهنده به سمت عامل‌های هوشمند (Agents) است. این عامل‌ها قادرند در محیط‌های واقعی اقدام کنند، نتایج را بررسی نمایند و در صورت بروز خطا، مسیر خود را اصلاح کنند.

برای توسعه این سامانه‌های پیشرفته، فناوری‌های کلیدی زیر مورد بحث قرار گرفتند:

• ReAct: ترکیب استدلال و اقدام برای رسیدن به هدف.
• RAG: اتصال مدل به منابع و پایگاه‌های داده معتبر و به‌روز.
• QLoRA: شخصی‌سازی مدل‌های زبانی با هزینه‌های سخت‌افزاری پایین‌تر.

امنیت داده‌ها و حاکمیت در زیرساخت‌های داخلی

با توجه به حساسیت داده‌های بانکی، تأکید ویژه‌ای بر پردازش در زیرساخت‌های داخلی سازمان‌ها صورت گرفته است. وابستگی به سرویس‌های خارجی می‌تواند ریسک‌های امنیتی و حاکمیت داده را افزایش دهد. استقرار مدل‌های متن‌باز در محیط‌های کنترل‌شده، امکان رصد دقیق خطاها و مدیریت بهتر ریسک‌های عملیاتی را فراهم می‌کند.

در نهایت، نقش انسان در این عصر جدید از یک مجری ساده به یک «رهبر ارکستر» تغییر می‌یابد؛ یعنی مدیریت، نظارت و هدایت مجموعه‌ای از ابزارهای هوشمند برای رسیدن به اهداف سازمانی.

نتیجه‌گیری: چالش اصلی صنعت پرداخت، رقابت میان انسان و ماشین نیست، بلکه طراحی مدلی از همکاری است که در آن هوش مصنوعی سرعت و دقت را افزایش دهد و انسان، مسئولیت نظارت و تصمیم‌گیری نهایی را بر عهده داشته باشد.