شکایت بازمانده تیراندازی مدرسه از شرکت تولیدکننده سیستم تشخیص سلاح با هوش مصنوعی

شکایت از ناکارآمدی هوش مصنوعی در تشخیص سلاح

یک دانش‌آموز بازمانده از تیراندازی مرگبار ژانویه ۲۰۲۵ در دبیرستانی در نشویل تنسی، علیه شرکت تولیدکننده سیستم‌های «تشخیص هوشمند سلاح» شکایت حقوقی تنظیم کرد. این سیستم که قرار بود با بهره‌گیری از هوش مصنوعی امنیت مدرسه را تأمین کند، در شناسایی سلاح عامل حمله که به مرگ دو نفر انجامید، ناکام ماند.

محدودیت‌های پنهان فنی

بر اساس پرونده قضایی مطرح شده در دادگاه شهرستان دیویدسون، شرکت Omnilert متهم است که از محدودیت‌های عملیاتی سیستم خود آگاهی داشته اما آن‌ها را در تبلیغات خود نادیده گرفته است. این محدودیت‌ها شامل موارد زیر است:

• موقعیت و زاویه قرارگیری دوربین‌ها
• فاصله سلاح از حسگرها
• شرایط نوری محیط
• میزان دید و وضوح سلاح برای الگوریتم

در تبلیغات شرکت پیش از وقوع حادثه، هیچ اشاره‌ای به احتمال خطای سیستم، هشدارهای کاذب یا محدودیت‌های تشخیص نشده بود.

ابهام در کارایی و تخصیص بودجه

در سال ۲۰۲۳، هیئت مدارس عمومی متروپولیتن نشویل قراردادی به ارزش بیش از یک میلیون دلار برای نصب این لایه حفاظتی هوش مصنوعی روی شبکه دوربین‌های موجود امضا کرد. با این حال، مسئولان مدرسه پس از حادثه تأیید کردند که به دلیل موقعیت مهاجم، تصاویر دریافتی برای فعال‌سازی هشدار کافی نبوده است.

کارشناسان حوزه امنیت با انتقاد از این رویکرد، معتقدند که اولویت‌بندی بودجه‌های عمومی برای چنین فناوری‌هایی جای سوال دارد. دیوید ریدمن، متخصص امنیت مدارس، در این باره می‌گوید: «این منابع مالی می‌توانست صرف استخدام مشاوران و حمایت از دانش‌آموزان در بحران شود، نه فناوری‌هایی که کارایی آن‌ها در شرایط واقعی زیر سوال است.»

نخستین پرونده در نوع خود

وکیل شاکی این پرونده را نخستین شکایت از این دست علیه شرکت‌های فعال در حوزه تشخیص سلاح با هوش مصنوعی می‌داند. وی تأکید کرد که هدف از این شکایت، علاوه بر پیگیری حقوق شاکی، آگاهی‌بخشی عمومی نسبت به قابلیت‌های واقعی این فناوری‌های نوظهور است.