El Departamento de Policía de Detroit ha acordado nuevas medidas restrictivas sobre cómo puede utilizar la tecnología de reconocimiento facial como parte de un acuerdo judicial.
Estas nuevas políticas prohíben a la policía arrestar a personas basándose únicamente en los resultados de una búsqueda de reconocimiento facial, o en los resultados de alineaciones de fotos realizadas inmediatamente después de una búsqueda de reconocimiento facial. También establece que las alineaciones de fotos no pueden realizarse únicamente en base al reconocimiento facial, sino que debe haber evidencia adicional que vincule a un sospechoso con el delito.
Estas políticas, que pueden ser aplicadas por un tribunal durante los próximos cuatro años, también requieren entrenamiento policial sobre los riesgos y peligros de la tecnología de reconocimiento facial, y una auditoría de todos los casos desde 2017 en los que se utilizó el reconocimiento facial para obtener una orden de arresto.
Roger Williams, un hombre negro que fue arrestado después de ser identificado por la tecnología de reconocimiento facial, demandó al departamento de policía y fue representado por abogados de la Unión Americana de Libertades Civiles y la Iniciativa de Litigio de Derechos Civiles de la Facultad de Derecho de la Universidad de Michigan.
Al anunciar el acuerdo, la ACLU lo describió como la «política y prácticas de departamento de policía más fuertes de la nación que restringen el uso de esta peligrosa tecnología por parte de las fuerzas del orden.» También señaló que las mujeres y las personas de color tienen «una probabilidad sustancialmente mayor de ser identificadas erróneamente por la tecnología de reconocimiento facial.»
«Con este doloroso capítulo de nuestras vidas llegando a su fin, mi esposa y yo continuaremos creando conciencia sobre los peligros de esta tecnología,» dijo Williams en una declaración.
El pasó 30 horas en la cárcel después de que fue identificado erróneamente como un hombre captado en grabaciones de vigilancia robando cinco relojes de una tienda en el centro de Detroit. Su foto de la licencia de conducir apareció en una búsqueda de reconocimiento facial en una base de datos de fotos de detención y licencias, y el contratista de seguridad que proporcionó las imágenes coincidió en que era el mejor candidato, lo que llevó a su arresto.
Posteriormente, los fiscales retiraron los cargos. El departamento de policía también está pagando a Williams $300,000 como parte del acuerdo.
En una declaración propia, el departamento de policía dijo que está «satisfecho con su trabajo con la ACLU y la Universidad de Michigan durante el último año y medio,» agregando que «firmemente» cree que la nueva política «servirá como una práctica y modelo de referencia nacional para otras agencias que utilizan esta tecnología.»
Ciudades como San Francisco han prohibido el uso de reconocimiento facial por parte de las fuerzas del orden. Microsoft también recientemente prohibió a los departamentos de policía usar su tecnología de IA para reconocimiento facial.
Este acuerdo marca un paso importante en la protección de los derechos de las personas ante el uso abusivo de la tecnología de reconocimiento facial por parte de las autoridades. Es fundamental que se implementen políticas como estas para garantizar la equidad y la privacidad de todos los ciudadanos.
