Falla el reconocimiento facial y dañan a hombre

por | 29 Jun, 2020 | No Tics | 0 Comentarios

El perjudicado pasa más de 30 horas preso por error de un algoritmo, lo que indica que esta tecnología aún no es confiable.

En 2054, el capitán John Anderton es el jefe de la fuerza de policía PreCrime en Washington. En la cita dirigida por el polifacético director Steven Spielberg, el actor Tom Cruise es quien se pone en el papel. La cosa se va de madre en «Minority Report». Aunque es ficción, en la vida real el empleo de tecnologías para resolver crímenes está cada vez más a la orden del día.

La tecnología de reconocimiento facial, que se ha incorporado como herramientas en algunos países, es la más cuestionada. Los fallos técnicos y los habituales sesgos que se producen amenazan su adopción futura en un contexto disputado por grandes empresas tecnológicas.

Pero no está exenta de fallos. Porque los algoritmos diseñados para detectar la culpabilidad en crímenes le queda aún bastante rodaje. Según informa «The New York Times», un hombre afroamericano residente en Michigan estuvo detenido durante treinta horas después de que la tecnología de reconocimiento facial empleada por la policía confundiera su aspecto en un crimen que no cometió.

El curioso episodio se remonta a enero anterior. Robert Julian-Borchak Williams recibió una llamada del Departamento de Policía de Detroit cuando se encontraba trabajando en una oficina de una compañía de suministros de automoción. El agente con el que habló le adelantó su detención. Un hecho que se produjo, finalmente, a su regreso a su domicilio.

Dos patrullas le abordaron, según el relato del medio estadounidense, delante de su esposa y sus dos hijas. Fue acusado de robar en octubre de 2018 unos cinco relojes de lujo valorados en 4.000 dólares en una tienda de joyería.

La policía llevó al detenido a la comisaría, donde le tomaron fotografías, las huellas digitales y muestras del ADN. Lo retuvieron durante toda la noche hasta que, alrededor del mediodía del día siguiente, dos detectives lo trasladaron a una sala de interrogatorios. La versión del detenido es que lo único que hicieron fue mostrarle tres imágenes procedentes de la cámara de seguridad. «¿Este eres tú?», dijo el agente. Se trataba de un hombre corpulento, vestido de negro y con una gorra. Los rasgos, aparentemente, coincidían con el detenido.

Para localizar al sospechoso, los investigadores emplearon el software DataWork Plus. La tecnología identificó al detenido gracias a cargar las imágenes de las cámaras de vigilancia. El sistema dio información relevante. Pero resultó un falso positivo. Algo que se produce muy habitualmente por la existencia de sesgos entre personas negras. A pesar de no ser culpable, tuvo que pasar varias horas hasta que fue liberado tras pagar una fianza de 1.000 dólares.

En la actualidad se ha abierto un intenso debate a escala internacional sobre el racismo en las detenciones. En Estados Unidos se han registrado decenas de protestas a raíz de la muerte a manos de un agente de policía de George Floyd. Un hecho que ha despertado, además, las dudas sobre los sistemas de vigilancia utilizados por la policía.

Los sistemas de reconocimiento facial se llevan utilizando por las fuerzas policiales desde hace varios años. Estudios recientes realizados por el MIT y el Instituto Nacional de Estándares y Tecnología (NIST) han encontrado sesgos e imprecisiones entre personas de color oscuro.

De hecho, la tecnología funciona relativamente bien entre personas blancas, pero sus resultados son menos precisos debido a la falta de diversidad en las imágenes utilizadas para desarrollar las bases de datos con las que «entrenan» a los softwares.

Empresas de tecnología como IBM, Microsoft y Amazon han anunciado recientemente que dejarán de vender sus herramientas de reconocimiento facial a los cuerpos de seguridad. En un comunicado, la policía ha pedido perdón.

0 comentarios

Enviar un comentario




Otras categorías

Suscríbete a nuestro boletín

Suscríbete a nuestro boletín

Te enviaremos las noticias mas importantes del mundo IT

Muchas Gracias!

Pin It on Pinterest

Share This