Carta al Lic. Horacio Rodríguez Larreta sobre el Sistema de Reconocimiento Facial de Prófugos y derechos de niñas y niños

Washington D.C., 9 de octubre de 2020

Lic. Horacio Rodríguez Larreta
Jefe de Gobierno de la Ciudad Autónoma de Buenos Aires
Buenos Aires — ARGENTINA

Ref.: Sistema de Reconocimiento Facial de Prófugos y derechos de niñas y niños

De mi mayor consideración,

Tengo el honor de dirigirme a V.E en representación de Human Rights Watch para manifestarle nuestra preocupación por la inclusión de imágenes y datos personales de niños y niñas en un sistema de reconocimiento facial utilizado en algunas estaciones de subte de la Ciudad Autónoma de Buenos Aires[1]. Nuestra investigación revela que la base de datos que alimenta el sistema de reconocimiento facial viola los derechos a la privacidad de los niños en procesos penales, e incluye errores importantes. Asimismo, la tecnología de reconocimiento facial genera un riesgo mayor de falsas coincidencias en niños y niñas.

Como es de su conocimiento, el Ministerio de Justicia y Derechos Humanos mantiene una base de datos nacional de personas con órdenes de detención por delitos graves, conocida como la Consulta Nacional de Rebeldías y Capturas (CONARC)[2]. Esta base de datos, que el ministerio publica en línea diariamente, también incluye información personal privada sobre niños.

Según los análisis realizados por Human Rights Watch, al menos 166 menores han aparecido en la lista de la CONARC entre mayo de 2017 y mayo de 2020, incluyendo niños sospechosos de cometer delitos menores[3]. El delito más común del cual se acusa a menores de edad es el de robo (63 niños y niñas, o el 37,5 %). Los errores constantes y las discrepancias evidentes en el sistema de la CONARC, que es actualizada cada mañana a las 7:00 am, demuestran que carece de los mecanismos básicos para evitar errores en el ingreso de datos, lo cual puede generar graves consecuencias para la reputación y la seguridad de los menores.

Según el derecho internacional de los derechos humanos, los Estados deben garantizar el pleno respeto a la privacidad de los menores de quienes se sospecha la comisión de un delito en todas las etapas del proceso penal[4]. No se debe publicar información que pueda servir para identificarlos[5]. El 17 de mayo de 2019, el Relator Especial de las Naciones Unidas sobre el derecho a la privacidad advirtió a Argentina que el uso de esta información en la CONARC violaba los derechos de los niños[6]. Al publicar el récord de las detenciones de menores, el Gobierno expone a los menores al riesgo de sufrir daños irreparables a su reputación.

Estos daños se han agravado en la Ciudad Autónoma de Buenos Aires. Desde el 24 de abril de 2019, el Gobierno de la Ciudad Autónoma de Buenos Aires ha utilizado los datos de la CONARC (incluidos datos de niños y niñas) en el Sistema de Reconocimiento Facial de Prófugos (SRFP)[7]. Esta tecnología analiza transmisiones de video en vivo de quienes toman el subte, caminan o se encuentran en las cercanías de una estación de subte, e identifica posibles coincidencias con las identidades en la CONARC. Como la CONARC no incluye fotografías de los acusados de un delito, el SRFP emplea las fotos del registro de población del país[8].

En una respuesta oficial a un pedido de información presentado por la ONG Observatorio de Derecho Informático Argentino, el Ministerio de Justicia y Seguridad de la Ciudad Autónoma de Buenos Aires negó que el sistema de reconocimiento facial identificara a niños y niñas, debido a que “la base de datos de la CONARC no posee datos respecto a menores de edad”[9]. Como indicamos antes, esta afirmación es falsa.

También nos preocupa que no se haya planteado un debate público o legislativo en torno a la necesidad y proporcionalidad del sistema de reconocimiento facial, en especial teniendo en cuenta los efectos negativos que esta tecnología puede tener para los menores[10]. El reconocimiento facial tiene tasas de error considerablemente más altas en el caso de niños, en parte, porque la mayoría de los algoritmos han sido entrenados, probados y perfeccionados utilizando sólo rostros de adultos[11].

Este es el caso de la tecnología de reconocimiento facial que se utiliza en la Ciudad Autónoma de Buenos Aires, contratada a la empresa con sede en esa ciudad, Danaide S.A., y desarrollada por la empresa rusa NtechLab[12].

En pruebas realizadas en un ámbito de laboratorio controlado, donde se utilizaron fotos posadas bajo condiciones de iluminación ideales, el Instituto Nacional de Estándares y Tecnología (National Institute of Standards and Technology, NIST) del Departamento de Comercio de Estados Unidos, que evalúa la precisión de los algoritmos de reconocimiento facial a nivel global, concluyó que los tres algoritmos que NtechLab había presentado para su evaluación generaban una tasa más alta de coincidencias erróneas entre niños que entre adultos[13].

De acuerdo con los resultados de la evaluación del NIST, Human Rights Watch calcula que, en un ámbito controlado, estos algoritmos arrojan seis veces más falsas coincidencias para un niño de entre 10 y 16 años que para un adulto de entre 24 y 40. Cuánto más pequeños son los niños, más pronunciados son los errores.

Como los menores experimentan cambios rápidos y drásticos en sus facciones a medida que crecen, los algoritmos de reconocimiento facial por lo general no identifican a un niño que es un año o dos mayor que en la foto de referencia. Ya que el sistema de reconocimiento facial en Buenos Aires utiliza fotos obtenidas del registro de población del país, las cuales no son necesariamente recientes, es posible que el sistema esté comparando las imágenes de video con fotografías desactualizadas de menores. De ser así, ello aumentaría la tasa de error[14].

Según una respuesta oficial a una solicitud de información presentada por la ONG Asociación por los Derechos Civiles, antes de ser empleado, el SRFP sólo fue probado con rostros de empleados adultos del departamento de policía de la ciudad y del Ministerio de Justicia y Seguridad de la ciudad[15]. El gobierno de la Ciudad Autónoma de Buenos Aires no exigió a Danaide S.A., su proveedora, que realizara pruebas o verificaciones para minimizar el sesgo en el caso de los niños[16]. Danaide S.A. y NtechLab no respondieron a las solicitudes de información de Human Rights Watch.

A su vez, las tasas de error se incrementan significativamente cuando el reconocimiento facial es utilizado en espacios públicos, donde las imágenes capturadas por cámaras de videovigilancia son naturales, borrosas y no posadas. Utilizar este tipo de tecnología en el sistema de subtes de la ciudad de Buenos Aires, por donde pasan más de 1,4 millones de pasajeros y por cuyas estaciones y cercanías transita un sinnúmero de otras personas, causará que muchas sean erróneamente identificadas como sospechosas de tener una orden de detención[17].

En la actualidad, la Ciudad Autónoma de Buenos Aires está utilizando el sistema a pequeña escala por cuestiones presupuestarias. La Unión Europea ha estimado que cuando la tecnología de reconocimiento facial se utiliza en lugares transitados por millones de personas, como un sistema de estaciones de subte, incluso una tasa de error relativamente baja como el 0,01% podría resultar en que cientos de personas sean erróneamente identificadas una vez que el sistema se implemente a gran escala. En una declaración oficial, el gobierno de la Ciudad Autónoma de Buenos Aires ha admitido tasas de error del 3% o más[18].

Cuando se utiliza una nueva tecnología, como es el reconocimiento facial en vivo, es necesario evaluar el riesgo de que se produzcan identificaciones erradas, y cómo estas afectarían los derechos fundamentales. Por ejemplo, la policía de Berlín llevó a cabo una prueba extendida de reconocimiento facial en una estación de tren en 2017 y 2018. Se revisaron videos en vivo capturados por cámaras de CCTV y se identificaron individuos comparándolos con una lista de personas buscadas. En promedio, la tasa de identificación de falsas coincidencias fue de 0,34 %; es decir, de cada 1.000 personas que pasaron por el sistema de vigilancia, entre tres y cuatro generaron falsas coincidencias. Las autoridades alemanas consideraron que esto era inaceptable, dada “la cantidad de personas que pasan cada día por las estaciones de tren, lo cual provocaría que se detuviera de manera indebida a una gran cantidad de personas (o que, por lo menos, fueran demoradas por la policía)”[19].

Según documentos oficiales obtenidos por el Observatorio de Derecho Informático Argentino, la policía de la Ciudad Autónoma de Buenos Aires ya está interceptando y arrestando a individuos basándose exclusivamente en las alertas automáticas generadas por el SRFP[20]. Esta práctica ya ha resultado en la interceptación y el arresto de adultos por error[21].

Human Rights Watch le ha escrito una carta al Presidente Alberto Fernández para solicitarle que el Ministerio de Justicia y Derechos Humanos elimine de inmediato a todos los menores de 18 años de la versión pública de la CONARC.

A su vez, le instamos respetuosamente, como jefe de gobierno de la Ciudad Autónoma de Buenos Aires, a que su gobierno suspenda de inmediato el SRFP, realice una evaluación de su impacto sobre los derechos humanos y la privacidad, y publique estadísticas verificables sobre los resultados que el sistema ha producido a la fecha. El gobierno de la Ciudad también debería invitar a la sociedad civil, especialmente quienes cuenten con conocimiento sobre el derecho a la privacidad y las implicancias éticas y sociales de la tecnología, así como a especialistas en derechos de niños y niñas, a contribuir en el proceso de elaboración de políticas públicas que permitan evaluar, integralmente, la necesidad, proporcionalidad y legalidad del uso de la vigilancia mediante reconocimiento facial en vivo, teniendo en especial consideración las consecuencias para los derechos de niños y niñas.

Aprovecho esta oportunidad para expresarle a V.E. mis sentimientos de la más alta consideración y estima.

José Miguel Vivanco
Human Rights Watch