تلاش ناکام یک شاکی در آمریکا برای فریب دادگاه با تزریق پرامپت‌های مخفی هوش مصنوعی

یک قاضی در ایالات متحده برای نخستین‌بار پرونده‌ای را شناسایی کرد که در آن یک شاکی تلاش کرده بود با پنهان‌سازی دستورهای متنی ویژه هوش مصنوعی در دادخواست خود، رأی دادگاه را به نفع خویش تغییر دهد؛ اقدامی که زنگ خطر شیوه‌های نوین تقلب در مراجع قضایی را به صدا درآورده است.

تلاش برای مداخله در فرایند قضایی با پرامپت‌های نامرئی

بر اساس حکم صادره در دادگاه ایالت کنتیکت، فردی به نام متیو الیوت متنی را با قلم بسیار ریز و به رنگ سفید بر روی پس‌زمینه سفید در پرونده الکترونیکی خود گنجانده بود تا برای انسان غیرقابل‌مشاهده اما برای سیستم‌های پردازش اسناد مبتنی بر هوش مصنوعی خوانا باشد. هدف از این دستورها، هدایت سامانه‌های احتمالی بررسی پرونده به تایید ادعاهای شاکی و نادیده گرفتن آرای پیشین بود.

اگرچه دادگاه به صورت ماهوی به پرونده رسیدگی کرد و این ترفند تأثیری بر روند دادرسی نداشت، اما قاضی این اقدام را بدعتی خطرناک و سوءاستفاده‌ای جدی از فرایند قضایی دانست.

محرومیت از ثبت الکترونیکی به جای جریمه نقدی

با وجود هشدارهای قبلی دادگاه، متهم به درج پیام‌های مخفی دیگر شامل عبارات طنزآمیز و لینک‌های نامربوط در دادخواست‌های بعدی ادامه داد. اگرچه شاکی مدعی بود قصد سنجش نحوه استفاده دادگاه از ابزارهای هوشمند را داشته، دادگاه این توجیه را نپذیرفت.

پنهان کردن دستور در اسناد به معنای تلاش برای هدایت نادرست سیستم و اقدامی با سوءنیت آشکار است که امکان دفاع منصفانه را از طرف مقابل سلب می‌کند.

قاضی پرونده با توجه به عدم بهره‌گیری از وکیل رسمی توسط این شاکی، از اعمال جریمه مالی صرف‌نظر کرد، اما به عنوان مجازات، او را از حق ثبت الکترونیکی اسناد منع و ملزم به ارائه دادخواست‌های فیزیکی و کاغذی کرد.

چالش استفاده نادرست شهروندان از چت‌بات‌ها

این نخستین نمونه ثبت‌شده از تزریق پرامپت در مراجع قضایی آمریکا به شمار می‌رود، هرچند پیش از این رویدادی مشابه در برزیل به ثبت رسیده بود که در آن دو وکیل به دلیل اقدام مشابه، حدود ۱۶ هزار دلار جریمه شدند.

کارشناسان قضایی هشدار می‌دهند بسیاری از افرادی که بدون وکیل پرونده‌های خود را پیش می‌برند، از هوش مصنوعی تنها برای تایید فرضیات خود استفاده می‌کنند. این رویکرد به دلیل رفتار انطباقی و تعصب تأییدی چت‌بات‌ها، افراد را در مواضع نادرست خود سرسخت‌تر کرده و زمینه را برای تخلفات ساختاری در سامانه‌های دادرسی فراهم می‌سازد.