بازپس‌گیری رأی دادگاه در آمریکا به دلیل خطاهای مشکوک به هوش مصنوعی

بازپس‌گیری رأی دادگاه به دلیل خطاهای مشکوک به هوش مصنوعی

یک قاضی دادگاه در ایالات متحده، رأی صادرشده در یک پرونده حقوقی را پس گرفت. این اقدام پس از آن صورت گرفت که وکلای پرونده اعلام کردند رأی مذکور حاوی نقل‌قول‌های ساختگی و اطلاعات نادرست از پرونده‌های دیگر است؛ اشتباهاتی که شباهت قابل توجهی به خطاهای رایج در ابزارهای هوش مصنوعی دارند.

این رویداد بار دیگر بحث‌ها را پیرامون دقت و قابلیت اطمینان ابزارهای هوش مصنوعی در حوزه‌های حساس مانند قانون و قضاوت، داغ کرده است.

جزئیات پرونده و اشتباهات کشف‌شده

اندرو لیختمن، وکیل پرونده، در نامه‌ای به قاضی ژولین زاویه نیلز در نیوجرسی، از وجود «مجموعه‌ای از خطاها» در رأی صادرشده برای رد درخواست لغو شکایت علیه شرکت دارویی CorMedix خبر داد. این اشتباهات شامل موارد زیر است:

• نقل‌قول‌های جعلی
• تفسیرهای نادرست از پرونده‌های دیگر

این سطح از خطاها، فراتر از اشتباهات نگارشی یا سبکی معمول است که پس از صدور رأی اصلاح می‌شوند. حذف پاراگراف‌ها یا بازنویسی‌های اساسی در احکام قضایی، اتفاقی بسیار نادر محسوب می‌شود.

شباهت با «توهمات» هوش مصنوعی

اگرچه هنوز به طور قطعی مشخص نیست که آیا در این پرونده خاص از هوش مصنوعی استفاده شده است یا خیر، اما نوع اشتباهات کشف‌شده، شباهت زیادی به پدیده‌ای دارد که در ابزارهای هوش مصنوعی به آن «توهم» (Hallucination) گفته می‌شود. این توهمات به تولید اطلاعات نادرست یا ساختگی توسط هوش مصنوعی اشاره دارد که پیش از این نیز در پرونده‌های حقوقی دیگر مشاهده شده‌اند.

سابقه خطاهای هوش مصنوعی در دادگاه‌ها

این اولین بار نیست که استفاده از هوش مصنوعی در سیستم قضایی با چالش مواجه می‌شود. پیش از این، یکی از وکلای دادگاه به دلیل استفاده از استنادهای تولیدشده با هوش مصنوعی که نادرست بودند، جریمه شده بود. این موارد متعدد، بار دیگر این واقعیت را برجسته می‌کنند که هوش مصنوعی، با وجود پیشرفت‌های چشمگیر، هنوز نمی‌تواند به طور کامل جایگزین دقت و قضاوت انسانی، به ویژه در حوزه‌هایی که نیازمند تحلیل دقیق و مسئولیت‌پذیری بالا هستند، شود.