¿El primer caso de un algoritmo con discriminación racial? – Un hombre es acusado injustamente por un error en reconocimiento facial

-

Por Genaro Delgado – Cofundador de </cyberwag>

Esto podría ser el primer caso conocido de este tipo, una coincidencia de reconocimiento facial errónea condujo al arresto de Robert Julian-Borchak Williams de Michigan por un delito que no cometió.

De acuerdo a la nota de investigación publicada el 25 de junio de 2020 en The New York Times, el Sr. Williams fue acusado de robar cinco relojes, en octubre de 2018, por un valor de USD$3,800 de la tienda Shinola, boutique de lujo que vende relojes, bicicletas y artículos de cuero en el barrio de Midtown de Detroit.

DataWorks Plus, el software utilizado por la policía del estado de Michigan, identificó al Sr. Williams después de vincular la foto de su licencia de conducir con las imágenes de la cámara de vigilancia de la noche del crimen.

Debido a ello fue llevado al centro de detenciones de la Policia de Detroit,  le tomaron la foto, las huellas digitales y el ADN, dos detectives lo llevaron a una sala de interrogatorios y fue retenido durante unas 30 horas, antes de quedar en libertad sin cargos. 

El Sr. Williams sabía que no había cometido el crimen en cuestión. Lo que no pudo haber sabido, mientras estaba sentado en la sala de interrogatorios, es que su caso puede ser el primer relato conocido de un estadounidense arrestado injustamente debido a una coincidencia defectuosa de un algoritmo de reconocimiento facial, según expertos en tecnología y leyes.

¿El primer caso de un algoritmo con discriminación racial?

Algunos expertos en Inteligencia Artificial, han señalado que los sistemas de reconocimiento facial tienen un problema de discriminación racial por falta de muestras, siendo el caso de Williams el primero que ha tenido consecuencias directas.

Según se describe en la investigación del New York Times, el software DataWorks Plus no identificó a Williams como el culpable directo, simplemente envió una información de un posible sospechoso, es solo una pista de investigación y no es causa de arresto. Este proceso tuvo un error adicional, pues la imagen fue mostrada también a un guardia de seguridad, quien también identificó erróneamente a la persona.

Sin embargo, lo que para el sistema de reconocimiento facial era un caso de posible “match” entre imágenes, para los policías estaba claro que no eran la misma persona después de que compararon presencialmente las imágenes con el propio Sr. Williams.

No obstante, pese al claro error del software, el Sr. Williams no fue inmediatamente liberado y estuvo retenido durante toda la noche y le aplicaron una fianza de mil dólares.

“Hemos estado activos tratando de hacer sonar las alarmas en torno al reconocimiento facial, tanto como una amenaza a la privacidad cuando funciona y una amenaza racista para todos cuando no funciona. Sabemos que estas historias están ahí afuera, pero es difícil escucharlas porque las personas generalmente no se dan cuenta de que han sido víctimas de una mala búsqueda de reconocimiento facial” Phil Mayor, abogado de la organización Unión Americana de Libertades Civiles de Michigan.

Te recomendamos nuestro artículo Vigilancia cibernética – Plataformas que nos espían a cambio de servicios digitales “gratis”

Share this article

Recent posts

Cibervigilancia laboral. La polémica aplicación Hubstaff que ayuda a las organizaciones a “espiar” los movimientos de los empleados a cada segundo en el teletrabajo.

Hubsatff, un “agente” informático que da seguimiento a profundidad de los movimientos de los empleados a cada segundo.

Un Internet “Saludable y feliz” para la familia en tiempos de COVID-19

Internet es un lugar sin límites ni control, la cantidad ilimitada de videos, material malicioso y contenidos falsos son difíciles de discernir por los mismos adultos. Aunque muchas de las plataformas, países o empresas implementen controles, sigue siendo un reto la acelerada evolución digital para las familias.

¿El primer caso de un algoritmo con discriminación racial? – Un hombre es acusado injustamente por un error en reconocimiento facial

Una coincidencia errónea hecha por un algoritmo de reconocimiento facial condujo al arresto de Robert Julian-Borchak Williams de Michigan por un delito que no cometió.

Ciberacoso y sus consecuencias legales. ¿Cómo enfrentarlo y denunciarlo?

La trampa del ciberacoso en la frase: "no les hagas caso, ya se cansarán y pararán", sin embargo, no se debe subestimar el ocio y posibles patologías mentales de quienes están implicados en este tipo de conductas, por lo que es importante denunciarlo oportunamente, y si fuese necesario, involucrar a las autoridades.

Regresa FaceApp, de manera divertida ¡roba tus datos!

FaceApp ya no solo tendrán tu huella digital, ahora la app registra y guarda todos tus rasgos físicos para ser posiblemente usados en los reconocimientos faciales y con ello localizarte y ubicarte en cualquier parte, en cualquier momento.

Popular categories

Recent comments