استفاده از ChatGPT برای ساخت شاهدان جعلی؛ جریمه سنگین وکیل در آمریکا

یک وکیل در ایالت نیومکزیکو به دلیل استفاده از اطلاعات ساختگی تولید شده توسط هوش مصنوعی ChatGPT در یک پرونده قتل، با جریمه سنگین و محکومیت دادگاه مواجه شد. این اتفاق، موج جدیدی از نگرانی‌ها را درباره اعتماد بی‌انداجه به ابزارهای هوش مصنوعی در سیستم‌های قضایی ایجاد کرده است.

جزئیات جریمه وکیل به دلیل استفاده از هوش مصنوعی

دادگاه عالی ایالت نیومکزیکو با اعلام این خبر، استیون آرونز را به دلیل عدم راستی‌آزمایی دقیق مدارک ارائه‌شده، به بازداشت و جریمه ۵۰۰۰ دلاری محکوم کرد. طبق گزارش‌های رسمی، این وکیل در لایحه تجدیدنظر خود، شهادت‌های پلیس و حضور شاهدانی را ذکر کرده بود که در واقعیت وجود خارجی نداشتند و توسط هوش مصنوعی ساخته شده بودند.

قاضی پرونده ضمن انتقاد شدید از این اقدام، خاطرنشان کرد که این لایحه حاوی گواهی‌های دروغین از شاهدانی کاملاً ساختگی است. دادگاه همچنین اعلام کرد که این وکیل عدم پشیمانی و بی‌توجهی نسبت به منافع موکل خود را از خود نشان داده است.

توضیحات وکیل و پدیده توهم هوش مصنوعی

استیون آرونز در واکنش به این تصمیم اعلام کرد که قصد داشته از ChatGPT برای خلاصه‌سازی روند محاکمه استفاده کند، اما از میزان توانایی این برنامه در ایجاد «توهمات اطلاعاتی» (Hallucinations) آگاه نبوده است. او مدعی شد که این یک اشتباه ناشی از حسن نیت بوده است.

با این حال، قضات دادگاه با تردید به این ادعا پاسخ دادند. یکی از قضات در جلسه استماع خطاب به وکیل گفت:

"آیا شما اخبار می‌بینید یا رادیو گوش می‌دهید؟ مشکل اتکا به توهمات هوش مصنوعی، هر روز به یکی از خبرهای اصلی جهان تبدیل می‌شود."

پیامدهای حقوقی و روند پرونده

این پرونده که مربوط به تجدیدنظر حکم محکومیت اسکار رنه ساندووال در پرونده قتل است، اکنون با ابهامات جدی روبروست. در اینجا خلاصه‌ای از وضعیت فعلی ارائه شده است:

• وضعیت پرونده: فرآیند تجدیدنظر همچنان در جریان است.
• اقدام بعدی: پرونده وکیل به هیئت انضباضی وکلا ارجاع شده است.
• ماهیت خطا: ارائه جزئیات ساختگی مانند نوع پوشش متهم که توسط هوش مصنوعی تولید شده بود.

در نهایت، این حادثه نشان‌دهنده ضرورت بالای نظارت انسانی بر خروجی‌های هوش مصنوعی در امور حساس حقوقی و جلوگیری از ورود اطلاعات نادرست به فرآیند عدالت است.