مجازات وکیل به دلیل استفاده از شهادت‌های جعلی تولید شده توسط ChatGPT

دادگاه عالی ایالت نیومکزیکو، یک وکیل باسابقه را به دلیل ارائه لایحه‌ای حاوی شهادت‌های دروغین و شاهدان ساختگی که توسط هوش مصنوعی تولید شده بود، به اتهام توهین به دادگاه محکوم کرد. این حادثه، هشدار بزرگی برای استفاده بی‌رویه از ابزارهای هوش مصنوعی در امور حقوقی است.

جزئیات اشتباه فاحش وکیل در پرونده قتل

استفن آرونز، وکیل دفاع که بیش از ۴۰ سال تجربه دارد، در تلاش برای تجدیدنظر در حکم محکومیت یک فرد به جرم قتل، از مدل ChatGPT برای خلاصه‌سازی اسناد استفاده کرد. او بدون بررسی صحت مطالب، لایحه‌ای را ثبت کرد که شامل نام‌های شاهدان خیالی و اظهارات ساختگی از سوی پلیس بود.

بر اساس حکم دادگاه، این لایحه حاوی موارد زیر بود:

• شهادت‌های جعلی از افسران پلیس که هرگز در دادگاه حضور نداشتند.
• اظهارات ساختگی درباره تهدیدهای دریافت شده توسط شاهدان.
• توصیفات نادرست از ظاهر و پوشش فرد متهم.
• اشتباه در استناد به سوابق و مراجع قانونی واقعی.

انتقاد تند قضات از پدیده «توهم هوش مصنوعی»

قاضی «سی. شنون بیکن» در جلسه‌ای بسیار سخت‌گیرانه، ادعای وکیل مبنی بر اینکه از امکان «توهم هوش مصنوعی» (Hallucination) بی‌اطلاع بوده است، رد کرد. وی اظهار داشت که این موضوع یکی از اخبار روز است و وکیل یا در حال نادیده گرفتن واقعیت‌ها بوده و یا در استفاده از تکنولوژی قمار کرده است.

«شما یا سر خود را زیر شن‌ها پنهان کرده‌اید یا قمار کرده‌اید؛ و هیچ‌کدام از این‌ها با کدهای اخلاق حرفه‌ای سازگار نیست.» — قاضی سی. شنون بیکن

پیامدهای حقوقی و جریمه‌های اعمال شده

دادگاه عالی نیومکزیکو اقدامات زیر را علیه آرونز اتخاذ کرد:

در نهایت، این بی‌دقتی باعث شد که موکل آرونز که در زندان به سر می‌برد، با تاخیر در روند رسیدگی به پرونده خود مواجه شود. دادگاه تأکید کرد که مسئولیت صحت هر مستندی که یک وکیل امضا می‌کند، صرف‌نظر از ابزار استفاده شده، بر عهده خود اوست.