شکایت از پلیس فلوریدا به دلیل دستگیری اشتباه با هوش مصنوعی تشخیص چهره

جزئیات دستگیری و اتهامات

بر اساس گزارش اداره پلیس جکسون‌ویل بیچ، یک الگوریتم هوش مصنوعی با احتمال ۹۳ درصد رابرت دیلون را مردی معرفی کرد که در دوربین‌های امنیتی یک رستوران مک‌دونالد در این شهر دیده شده بود. این فرد مظنون تلاش کرده بود دختری زیر ۱۲ سال را با خود ببرد.

با این حال، دیلون در فورت مایرز زندگی می‌کند که بیش از ۳۰۰ مایل و پنج ساعت رانندگی با جکسون‌ویل بیچ فاصله دارد. او به کارآگاهان گفت که هرگز در زندگی‌اش به جکسون‌ویل بیچ نرفته است.

این پرونده در سال گذشته و در پی حادثه اوت ۲۰۲۴ مختومه شد و اتهامات علیه دیلون لغو گردید.

طرح دعوی قضایی

رابرت دیلون ۵۲ ساله، اکنون علیه اداره پلیس جکسون‌ویل بیچ، دفتر کلانتر جکسون‌ویل و باب گوالتیری، کلانتر شهرستان پینلاس که آژانس او سیستم Faces (تجزیه و تحلیل و مقایسه چهره) را نگهداری و به سایر نهادهای مجری قانون اجاره می‌دهد، شکایت کرده است.

اتحادیه آزادی‌های مدنی آمریکا (ACLU) در شکایتی که روز سه‌شنبه به نمایندگی از دیلون در دادگاه منطقه‌ای فورت مایرز ثبت شد، اعلام کرد: «این تحقیقات منجر به دستگیری و تعقیب قضایی نادرست یک مرد بی‌گناه شد.»

در این شکایت آمده است: «آقای دیلون در مقابل همسرش در خانه‌اش دستگیر شد. او به تلاش برای اغوای یک کودک متهم شد، اتهامی که ننگ اجتماعی ویرانگر و تخریب دائمی شهرت را به همراه دارد. او ماه‌ها تحت تعقیب قضایی قرار گرفت و با عکسی عمومی که مدت‌ها پس از لغو اتهامات همچنان آنلاین قابل دسترسی است، شناخته شد.»

این شکایت همچنین می‌افزاید که دیلون دیگر احساس راحتی نمی‌کند که با کودکان دوستانه رفتار کند و هیچ نهاد مجری قانونی هرگز عذرخواهی نکرده یا به اشتباه خود اذعان نکرده است.

نقایص در سیستم و تحقیقات

این شکایت همچنین مدعی است که پرونده دیلون حداقل پانزدهمین پرونده در سطح ملی است که در آن فردی پس از شناسایی نادرست توسط هوش مصنوعی، متهم یا دستگیر شده است.

یک بررسی توسط گاردین در ماه گذشته نشان داد که نظارت بر سیستم‌های تشخیص چهره هوش مصنوعی در بریتانیا و سایر نقاط به شدت ناکافی است و پیشرفت‌های این فناوری بسیار سریع‌تر از توانایی مقامات برای تنظیم آن است.

در شکایت دیلون آمده است: «به جای آزمایش پاسخ ماشین در برابر شواهدی که می‌توانست او را تبرئه کند، افسران پرونده‌ای برای تأیید آن تشکیل دادند.»

این شکایت، اسکات اوکانل، بازپرس اصلی JBPD در این پرونده را متهم کرده است که عمداً «چندین دسته از شواهد تبرئه‌کننده قابل تأیید» را از گزارش دستگیری حذف کرده است.

در اسناد دادگاه آمده است که دستگاه‌های خواننده پلاک نشان می‌دهند هیچ‌یک از وسایل نقلیه دیلون هرگز نزدیک رستوران نبوده‌اند. همچنین ادعا شده است که اوکانل از قاضی صادرکننده حکم دستگیری پنهان کرده است که عکس مورد استفاده در نرم‌افزار Faces، یک عکس با کیفیت پایین و گرفته شده از صفحه نمایش دوربین امنیتی با تلفن همراه یک افسر بوده است، نه یک آپلود دیجیتال از خود ضبط اصلی.

علاوه بر این، در شکایت آمده است که اوکانل ادعای کارمند مک‌دونالد را که دیلون را از بین شش چهره مشابه در یک صف شناسایی کرده بود و گفته بود که مظنون «مشتری ثابت» رستوران آنها بوده و چندین بار در هفته‌های گذشته مراجعه کرده است، به چالش نکشیده است. در حالی که اوکانل می‌دانست دیلون صدها مایل دورتر زندگی می‌کند و این امر غیرممکن بوده است.

فراخوان برای پاسخگویی

نیت فرید وسلر، معاون مدیر پروژه گفتار، حریم خصوصی و فناوری ACLU، در بیانیه‌ای گفت: «ادارات پلیس فلوریدا به آقای دیلون مدیون هستند که جبران خسارت کنند و گام‌های جدی برای اطمینان از عدم تکرار این اتفاق برای دیگران بردارند.»

وی افزود: «پلیس در سراسر کشور مطلع است: فناوری تشخیص چهره غیرقابل اعتماد به مردم آسیب می‌رساند و ما به مبارزه برای پاسخگو کردن آنها در قبال این سوءاستفاده‌ها ادامه خواهیم داد.»

در پرونده‌ای مشابه که اوایل این ماه گزارش شد، جلیل ریچاردسون از شارلوت، کارولینای شمالی، گفت که پس از اینکه تشخیص چهره خودکار او را در صحنه سرقت خودرو قرار داد، به جکسون‌ویل منتقل شد و تقریباً سه ماه را در زندان گذراند. در حالی که کارت‌های زمان‌سنجی نشان می‌دادند او در زمان سرقت ۴۰۰ مایل دورتر در محل کار خود بوده است.

دیلون نیز در این میان گفت که همچنان از تجربه‌اش آسیب دیده است.

او اظهار داشت: «بیش از یک سال گذشته، من هنوز در حال جمع‌آوری قطعات زندگی‌ام هستم، همه به این دلیل که پلیس به جای انجام وظیفه خود و تحقیق واقعی، به این فناوری خطرناک اعتماد کرد.»

«پلیس فلوریدا باید تدابیر حفاظتی را اجرا کند و اطمینان حاصل کند که این اتفاق هرگز برای شخص دیگری نمی‌افتد، زیرا تا زمانی که این کار را نکنند، هیچ کس در امان نیست.»

گاردین برای اظهار نظر با اداره پلیس جکسون‌ویل بیچ تماس گرفته است.