شکایت از پلیس فلوریدا به دلیل دستگیری اشتباه با تشخیص چهره هوش مصنوعی

اتهام اشتباه و نادیده گرفتن مدارک تبرئه

رابرت دیلون، ۵۲ ساله و ساکن فورت مایرز، هرگز به جکسون‌ویل بیچ نرفته بود، اما بر اساس تطابق ۹۳ درصدی توسط سیستم تشخیص چهره «فِیسز» (FACES) به عنوان مظنون در یک پرونده تلاش برای اغوای کودک در مک‌دونالدز شناسایی شد. این سیستم، که توسط اداره کلانتر شهرستان پینلاس نگهداری می‌شود، دیلون را بر اساس تصویری با کیفیت پایین از صفحه نمایش دوربین مداربسته مک‌دونالدز مشخص کرده بود. وکلای دیلون از اتحادیه آزادی‌های مدنی آمریکا (ACLU) و شرکت حقوقی هوگت نیومن ریگال و کنی، در شکایتی که امروز در دادگاه منطقه‌ای ایالات متحده برای ناحیه میانی فلوریدا ثبت شد، اعلام کردند که پلیس به جای انجام تحقیقات مناسب، به یک سیستم هوش مصنوعی «خطاپذیر» اعتماد کرده است.

مدارک تبرئه نادیده گرفته شده:

• فاصله مکانی: دیلون بیش از ۳۰۰ مایل از جکسون‌ویل بیچ فاصله داشت.
• ردیابی پلاک: جستجو در پایگاه داده پلاک‌خوان‌های خودکار نشان داد که هیچ یک از وسایل نقلیه دیلون در زمان وقوع جرم در منطقه دووال کانتی نبوده است.
• تماس تلفنی: افسر پرونده، اسکات اوکانل، ماه‌ها قبل از صدور حکم دستگیری با دیلون تماس گرفته بود و دیلون هرگونه دخالت را رد کرده و اعلام کرده بود که هرگز به جکسون‌ویل بیچ نرفته است. او همچنین جای زخم مشخصی را از خط مو تا بینی‌اش توصیف کرده بود که در تصویر مظنون وجود نداشت.
• کیفیت تصویر: تصویر مورد استفاده برای تشخیص چهره، عکسی از صفحه نمایش کامپیوتر بود که کیفیت پایینی داشت و دچار اعوجاج رنگ و کاهش وضوح بود.

عواقب دستگیری اشتباه

دیلون در مقابل همسرش دستگیر شد و شب را در زندان گذراند. او مجبور شد برای وثیقه پول قرض کند و سند کامیون خود را گرو بگذارد. این دستگیری به مدت دو ماه به پرونده کیفری او منجر شد تا اینکه در نهایت تمامی اتهامات توسط دفتر دادستانی ایالتی لغو شد. این تجربه آسیب‌های روانی و مالی زیادی برای دیلون به همراه داشت:

• آسیب روانی: او به مدت یک ماه نتوانست کار کند و از ترس مواجهه با مردم به عنوان یک مظنون کودک‌ربا، تمایلی به حضور در اجتماع نداشت.
• آسیب مالی: او در پرداخت اجاره ماهیانه‌اش عقب افتاد.
• تأثیر اجتماعی: دیلون دیگر احساس راحتی نمی‌کند که با کودکان دوستانه رفتار کند و همچنان از سوی جامعه درباره این پرونده مورد سوال قرار می‌گیرد.

نقش افسر اوکانل و سابقه او

شکایت همچنین به سابقه افسر اوکانل اشاره می‌کند که پیش از این از اداره کلانتر شهرستان سنت جانز به دلیل تهدید به «منفجر کردن» اداره اخراج شده بود، سپس دوباره به کار بازگشت و پس از دستگیری به دلیل باتری خانگی استعفا داد. پلیس جکسون‌ویل بیچ با وجود این سوابق، اوکانل را استخدام کرده و او را به عنوان بازرس اصلی پرونده حساس اغوای کودک منصوب کرده و پس از دستگیری اشتباه دیلون، او را به درجه سرگروهبان ارتقا داده است.

ابهامات در سیستم تشخیص چهره

سیستم FACES حاوی بیش از ۳۸.۵ میلیون تصویر، از جمله عکس‌های بازداشت‌شدگان و گواهینامه‌های رانندگی است. رقم ۹۳ درصد تطابق صرفاً یک نمره اطمینان است که «اندازه‌گیری نزدیکی دیجیتالی بین دو الگوی ریاضی» است و «اندازه‌گیری احتمالی که دو تصویر یک شخص را نشان می‌دهند، نیست.» الگوریتم‌های تشخیص چهره بر اساس نحوه طراحی و آموزش آنها متفاوت هستند، که درک معنای دقیق این نمره را دشوار می‌کند.

«افسری که با تطابق ۹۳ درصدی از یک سیستم مجهز به هوش مصنوعی مواجه می‌شود، هیچ راهی برای ارزیابی مبنای این نمره، هیچ راهی برای ارزیابی اینکه آیا اطمینان سیستم موجه است یا خیر، و هیچ چارچوب مرجعی برای درک معنای واقعی ۹۳ درصد در اصطلاحات احتمالی ندارد.»

این شکایت خواستار غرامت مالی و تغییر در نحوه استفاده پلیس و ادارات کلانتر از فناوری تشخیص چهره است.