¿El primer caso de un algoritmo con discriminación racial? – Un hombre es acusado injustamente por un error en reconocimiento facial

-

Por Genaro Delgado – Cofundador de </cyberwag>

Esto podría ser el primer caso conocido de este tipo, una coincidencia de reconocimiento facial errónea condujo al arresto de Robert Julian-Borchak Williams de Michigan por un delito que no cometió.

De acuerdo a la nota de investigación publicada el 25 de junio de 2020 en The New York Times, el Sr. Williams fue acusado de robar cinco relojes, en octubre de 2018, por un valor de USD$3,800 de la tienda Shinola, boutique de lujo que vende relojes, bicicletas y artículos de cuero en el barrio de Midtown de Detroit.

DataWorks Plus, el software utilizado por la policía del estado de Michigan, identificó al Sr. Williams después de vincular la foto de su licencia de conducir con las imágenes de la cámara de vigilancia de la noche del crimen.

Debido a ello fue llevado al centro de detenciones de la Policia de Detroit,  le tomaron la foto, las huellas digitales y el ADN, dos detectives lo llevaron a una sala de interrogatorios y fue retenido durante unas 30 horas, antes de quedar en libertad sin cargos. 

El Sr. Williams sabía que no había cometido el crimen en cuestión. Lo que no pudo haber sabido, mientras estaba sentado en la sala de interrogatorios, es que su caso puede ser el primer relato conocido de un estadounidense arrestado injustamente debido a una coincidencia defectuosa de un algoritmo de reconocimiento facial, según expertos en tecnología y leyes.

¿El primer caso de un algoritmo con discriminación racial?

Algunos expertos en Inteligencia Artificial, han señalado que los sistemas de reconocimiento facial tienen un problema de discriminación racial por falta de muestras, siendo el caso de Williams el primero que ha tenido consecuencias directas.

Según se describe en la investigación del New York Times, el software DataWorks Plus no identificó a Williams como el culpable directo, simplemente envió una información de un posible sospechoso, es solo una pista de investigación y no es causa de arresto. Este proceso tuvo un error adicional, pues la imagen fue mostrada también a un guardia de seguridad, quien también identificó erróneamente a la persona.

Sin embargo, lo que para el sistema de reconocimiento facial era un caso de posible “match” entre imágenes, para los policías estaba claro que no eran la misma persona después de que compararon presencialmente las imágenes con el propio Sr. Williams.

No obstante, pese al claro error del software, el Sr. Williams no fue inmediatamente liberado y estuvo retenido durante toda la noche y le aplicaron una fianza de mil dólares.

“Hemos estado activos tratando de hacer sonar las alarmas en torno al reconocimiento facial, tanto como una amenaza a la privacidad cuando funciona y una amenaza racista para todos cuando no funciona. Sabemos que estas historias están ahí afuera, pero es difícil escucharlas porque las personas generalmente no se dan cuenta de que han sido víctimas de una mala búsqueda de reconocimiento facial” Phil Mayor, abogado de la organización Unión Americana de Libertades Civiles de Michigan.

Te recomendamos nuestro artículo Vigilancia cibernética – Plataformas que nos espían a cambio de servicios digitales “gratis”

Share this article

Recent posts

La libertad se fundamenta en la privacidad

La libertad empieza con la planeación y contención de los riesgos más allá de la confianza o discreción de la persona en casa.

Nulas y malas prácticas de privacidad, generan brechas de seguridad en todas las organizaciones.

Un estudio a más de 11 mil sitios web, ha demostrado que las organizaciones con malas o nulas prácticas de privacidad tienen un 80% más de probabilidades de sufrir una filtración de datos.

El ransomware se ha convertido en la mayor amenaza cibernética del mundo!

Los ataques de ransomware siguen siendo un gran negocio para los criminales, los avances en la tecnología como la Inteligencia Artificial y los modelos de negocio como el Ransomware as a Service (RaaS), ha permitido que con $50 USD y un poco de conocimiento en computación, cualquier persona se convierta en un cibercriminal.

Sextorsión + Deepfake – Una mezcla peligrosa que generó una amenza de “destrucción masiva” de vidas de jóvenes y adultos en el cibermundo.

Con los avances en IA y Deep Learning, solo es cuestión de tiempo para que las personas resulten en una posición en la que otros suplantan su identidad. No hay diferencia entre alguien hackeando la cuenta de un “famoso” o alguien hackeando a la persona que está en la fila del supermercado. Solo depende de si alguien tiene o no el deseo de apuntarle. - Scarlett Johansson - Víctima de deepfake

Cibervigilancia laboral. La polémica aplicación Hubstaff que ayuda a las organizaciones a “espiar” los movimientos de los empleados a cada segundo en el teletrabajo.

Hubsatff, un “agente” informático que da seguimiento a profundidad de los movimientos de los empleados a cada segundo.

Popular categories

Recent comments