Más de 40 ONG advierten de los peligros de la "frontera inteligente"

Más de 40 organizaciones de la sociedad civil se han sumado a un manifiesto titulado "La implantación de la Inteligencia Artificial en la frontera y la vulneración de derechos" en el que se alerta sobre los peligros asociados a lo que califican de "decisiones políticas que conlleva" su uso.

Al dar a conocer el manifiesto ( https://fronterasdigitales.wordpress.com) se hacen eco de informaciones sobre la voluntad del gobierno español de aplicar la llamada frontera inteligente en los pasos fronterizos de Ceuta y Melilla con el fin de ejercer un mayor control de seguridad.

Esas organizaciones exigen regular la Inteligencia Artificial y la protección de datos también en la frontera (ámbito exento de la regulación europea actualmente), al igual que la derogación del Reglamento de la UE que permite el reconocimiento facial. También piden la presencia de observadores de derechos humanos en las actuaciones fronterizas y reiteran la necesidad de implantar tecnologías auditables, entre otras peticiones.

Lo que exigen las organizaciones civiles

Esas ONG sobre "la violación de la privacidad que puede implicar la recopilación de estos datos biométricos por parte de personas que, estando en una situación de vulnerabilidad, cuentan con menos mecanismos de protección, o de garantías, por ejemplo, para reclamar o defenderse frente a errores o abusos que se puedan derivar de la recopilación de dichos datos".

Ejemplifican con "los falsos positivos y falsos negativos que se producen en el reconocimiento de rostros no caucásicos, como recoge el estudio Face Recognition Vendor Test (FRVT) de 2019 del Instituto Nacional de Estándares y Tecnología de EEUU, siendo las personas negras y las asiáticas las más perjudicadas por este tipo de errores".

También apoyan lo expresado en ese manifiesto que considera que en la medida en que la implementación de la frontera "inteligente" viene promovida también por la lucha antiterrorista, esos mecanismos tecnológicos contribuyan a la criminalización y discriminación de personas racializadas.

En el manifiesto se advierte que la utilización de la inteligencia artificial para el control fronterizo "profundizaría la estigmatización y criminalización de grupos de personas que ya se encuentran en una gran situación de vulnerabilidad y/o exclusión".

Otra de las peticiones que hacen es facilitar la tarea de fiscalización y control por parte de la sociedad civil, a la vez que exigen poner a disposición de la sociedad civil y las personas afectadas auditorías independientes, incluyendo la implementación de mecanismos de control y atribución de responsabilidades personales y políticas.

Hacen énfasis en la necesidad de incorporar de manera sistemática a observadores de derechos humanos en las actuaciones en frontera, y abogan por la "aplicación de "tecnologías explicables y auditables, auditoría y control externo de las tecnologías aplicadas, los datos e imágenes almacenadas".

Los mecanismos de control y revisión

En ese documento se considera "imprescindible" la incorporación de "mecanismos de control y revisión de los procedimientos algorítmicos que permitan enmendar errores de manera ágil por grupos de personas independientes en los que han de poder participar entidades en defensa de los derechos humanos y antirracistas".

Se precisa que el uso de estos sistemas de reconocimiento facial supone una "doble securitización del proceso", que estigmatiza pero también "diluye la responsabilidad humana y política ante los daños, efectos indeseados o consecuencias negativas de su uso".

Puntualiza el manifiesto la necesidad de poner a disposición de auditorías independientes y personas afectadas "los procesos de diseño y pruebas de los sistemas, incluyendo las bases de datos utilizadas para calibrar los algoritmos", lo que consideran permitiría que "la tarea de fiscalización y control por parte de la sociedad civil se pueda llevar a cabo de manera rigurosa".

Las organizaciones firmantes

Entre las más de 40 organizaciones de la sociedad civil que se han sumado al manifiesto están SOS Racismo (Madrid y Catalunya), Stop Mare Mortum, Oxfam Intermon, la Asociación Pro Derechos Humanos de Andalucía (APDHA), Associació de Software Lliure Decidim, Red Acoge, Conciencia Afro,Caminando Fronteras, Rights International Spain, la Red de Mujeres Latinoamericanas y del Caribe o la Federación de Organizaciones por la justicia global de Catalunya (Lafede.cat).

Junto a ellas aparecen otras ONG del ámbito de los derechos humanos, la cooperación internacional, el antirracismo, los derechos digitales y la soberanía tecnológica, o las actuaciones en frontera.