El viernes, la ciudad de Detroit adoptó nuevas reglas para el uso de tecnología de reconocimiento facial basada en inteligencia artificial. La Unión Americana de Libertades Civiles (ACLU) dice que el nuevo conjunto de reglas debería ser un estándar nacional.
Los organismos encargados de hacer cumplir la ley en todo Estados Unidos utilizan tecnología de reconocimiento facial basada en inteligencia artificial para ayudar a identificar a los delincuentes captados por la cámara. En Michigan, el sistema de inteligencia artificial compara caras nuevas con las de la base de datos de fotografías policiales o las imágenes del permiso de conducir. En otras regiones de EE. UU., se utilizan herramientas como Clearview AI para buscar fotografías extraídas de Internet, especialmente de sitios de redes sociales, según un informe de The New York Times.
La tecnología de reconocimiento facial proporcionó coincidencias erróneas
El ciudadano Robert Williams fue encarcelado en la cárcel de Detroit en enero de 2020. Fue arrestado por el Departamento de Policía de Detroit porque el sistema de reconocimiento facial sugería que él era el culpable. La coincidencia del sistema fue incorrecta y Williams fue demandada. Pasó 30 horas en prisión.
Lea también: Senadores piden restricciones a la tecnología de reconocimiento facial en aeropuertos
El 28 de junio, Williams obtuvo el compromiso del Departamento de Policía de Detroit de mejorar su situación como parte de un acuerdo legal por su injusto arresto. La Unión Estadounidense por las Libertades Civiles presentó al Sr. William como el primer individuo arrestado injustamente debido al defectuoso sistema de reconocimiento facial. Williams dijo,
"Esperamos que esto mueva la aguja en la dirección correcta".
Otras dos personas también fueron detenidas tras la identificación del sistema de reconocimiento facial defectuoso. Una mujer embarazada de ocho meses, Porcha Woodruff, también se encontraba entre los detenidos acusados injustamente de robo de coche.
La policía ahora necesita pruebas más allá del reconocimiento facial
Una nueva norma importante adoptada por la ciudad es que las fotografías de personas identificadas por el sistema de reconocimiento facial ya no podrán mostrarse a un testigo presencial. Esto sólo se permitiría si hay pruebas adicionales que vinculen a la persona identificada con el delito.
El abogado de la ACLU, Phil Mayor, dijo: “El proceso de obtener una fotografía y colocarla en una alineación terminará”. Añadió además,
"Este acuerdo hace que el Departamento de Policía de Detroit pase de ser el usuario indebido mejor documentado de la tecnología de reconocimiento facial a convertirse en un líder nacional en tener barreras de seguridad en su uso".
Es importante recordar que el Sr. Williams fue arrestado injustamente por un delito de robo en una tienda minorista que tuvo lugar cuando trabajaba en su escritorio en una empresa de suministros. También se recogieron sus huellas dactilares y ADN y tuvo que contratar un abogado para su defensa. La Sra. Woodruff fue arrestada cuando preparaba a sus hijos para la escuela. También ha demandado a la ciudad y el caso está en los tribunales.
La policía utilizará tecnología basada en inteligencia artificial para delitos graves
La policía dijo que la tecnología de reconocimiento facial ayuda a resolver delitos porque es una herramienta poderosa. Sin embargo, muchas ciudades han prohibido su uso debido a preocupaciones sobre prejuicios raciales y privacidad. Se dice que la policía de Detroit realizó tres arrestos injustos debido a tecnología defectuosa. Sin embargo, los funcionarios de la ciudad dijeron que las nuevas reglas evitarían el uso indebido.
Lea también: Prohibir el escaneo: ¿es el reconocimiento facial una amenaza para las libertades civiles?
Los funcionarios de la ciudad siguen siendo optimistas sobre el potencial de la tecnología de inteligencia artificial. Dijeron que lo usarían para delitos más graves, como allanamientos de morada, asaltos o asesinatos. James White, jefe de policía de Detroit, dijo que sus agentes dependían demasiado de la tecnología. Culpó a su juicio en lugar de a la máquina.
Hablando de la norma según la cual la policía ya no puede mostrar el rostro de una persona basándose únicamente en el reconocimiento facial, el Sr. Lamoreaux, de la unidad de inteligencia criminal, dijo:
"Tiene que haber algún tipo de evidencia secundaria que lo corrobore y que no esté relacionada antes de que haya suficiente justificación para ir a la alineación".
Lamoreaux dijo que la policía ahora necesitaría algo más que el parecido físico de una persona. Dijo que sería necesario geoetiquetar el teléfono de una persona para determinar la ubicación o la evidencia de ADN.
Según las nuevas reglas, la policía deberá revelar el registro facial junto con la calidad de la fotografía. Hayes, subjefe de policía de Detroit, mostró su confianza en las nuevas reglas. Dijo que ayudarían a frenar las identificaciones erróneas. Sin embargo, señaló que “todavía hay algunas cosas que pueden fallar, por ejemplo, gemelos idénticos”.
Informe criptopolitano de Aamir Sheikh
