نگرانی از نفوذ خطاهای هوش مصنوعی به فرایند قانون‌گذاری در کنگره آمریکا

استفاده فزاینده دستیاران و کارکنان کنگره آمریکا از ابزارهای هوش مصنوعی مولد مانند ChatGPT و Claude برای نگارش سخنرانی‌ها، خلاصه‌سازی گزارش‌ها و حتی تنظیم پیش‌نویس لوایح، نگرانی‌های عمیقی درباره ورود خطاها و اطلاعات نامعتبر به قوانین رسمی این کشور ایجاد کرده است.

نبود چارچوب نظارتی در کاخ کنگره

نبود یک سازوکار نظارتی متمرکز در کنگره ایالات متحده سبب شده است دستیاران هر دو حزب دموکرات و جمهوری‌خواه بدون ارزیابی‌های دقیق فنی و کارشناسی، ابزارهای هوش مصنوعی را در مراحل گوناگون فرایند حساس قانون‌گذاری به کار بگیرند.

این رویه بدون ضوابط، احتمال ثبت داده‌های ساختگی یا استناد به قوانین ناموجود را در متن اسناد رسمی به شکل چشمگیری افزایش داده است.

نمونه‌های عینی نفوذ خروجی‌های هوش مصنوعی به اسناد رسمی

یکی از نمونه‌های آشکار این پدیده، انتشار بدون ویرایش پاسخ‌های چت‌بات کلاد در اسناد مربوط به قانون اختیارات دفاع ملی (NDAA) بود. در متن ثبت‌شده این سند رسمی، عبارات سیستمی تولیدشده توسط چت‌بات مستقیماً در کنار مفاد لایحه درج شده بود.

«بسیاری از کارکنان از مدل‌های مختلف هوش مصنوعی برای انجام امور اداری و خلاصه‌سازی استفاده می‌کنند و این اقدام غیرقانونی تلقی نمی‌شود.»

ریسک‌های پدیده توهم و الزامات آینده

مدل‌های زبانی بزرگ به‌طور متناوب دچار پدیده‌ای موسوم به هذیان یا توهم (Hallucination) می‌شوند؛ وضعیتی که در آن اطلاعات کاملاً نادرست، محاسبات غلط یا منابع خیالی با لحنی کاملاً قاطع و متقاعدکننده ارائه می‌شوند.

با وجود هشدارهای کارشناسان نسبت به پیامدهای حقوقی چنین خطاهایی، هنوز آیین‌نامه جامع و الزام‌آوری برای تعیین حدود استفاده از هوش مصنوعی در نگارش قوانین کنگره آمریکا به تصویب نرسیده است.