La Estación Sur de Madrid instaló reconocimiento facial en vivo en 2016, pero pocos se dieron cuenta

El sistema de reconocimiento facial de la Estación Sur de Madrid contrasta automáticamente la cara de cada visitante con una base de datos de sospechosos, y comparte información con la policía española.

Alrededor de 20 millones de viajeros pasaron el año pasado por la terminal de autobuses Sur de Madrid, conocida por los locales como la Estación de Méndez Álvaro. A esas 20 millones de personas se les escaneó la cara cuando entraban en la estación. Eran seguidos mientras caminaban hasta las dársenas donde estaba aparcado su autobús, antes de dejar la capital de España. A menos que el sistema de detección facial de la estación generara una alerta y fueran arrestados.

La terminal es un intercambiador de transporte clave no sólo para Madrid, sino para todo el país. Está conectada con estaciones de metro y Renfe, el servicio de tren nacional. Hasta 2010, la terminal no tenía una unidad de seguridad que estuviera encargada específicamente con la coordinación de la respuesta a los delitos menores.

En funcionamiento desde 2016

La estación es uno de los pocos edificios públicos en España que desplegaron un sistema de reconocimiento facial en vivo. Miguel Ángel Gallego, el jefe de seguridad de la estación entre 2010 y 2019, decidió instalar el reconocimiento facial después de que en 2016 le contactara una start up española que trabaja con este tipo de software.

Gallego se enfrentó a una ardua batalla. La policía española, que no estaba acostumbrada al reconocimiento facial en ese momento, no estaba entusiasmada, y tampoco lo estaba Avanza ADO, la empresa que ha estado gestionando la terminal de autobuses desde 2003. Pero siguió impertérrito. La tecnología ha estado funcionando durante cuatro años, sin gran escrutinio por parte de organizaciones privadas o el Estado.

Una cuestión de consentimiento

Fui a la Estación de Autobuses Su de Madrid. No mucha gente parecía consciente del sistema de reconocimiento facial. Ni siquiera la gente que dirige pequeños comercios dentro de la estación parecía saber que el sistema de reconocimiento facial había estado funcionando desde hace ya cuatro años.

Una joyera, una profesión que requiere un acusado sentido de la seguridad, me dijo que no sabía que esta tecnología estaba funcionando dentro del edificio. Había estado trabajando en la tienda, de la que era dueña, desde 2014.

Una de sus vecinas, una mujer más mayor que había estado vendiendo repostería en la terminal de autobuses durante los últimos 16 años, dijo que ella sentía que había más guardas de seguridad en la estación, pero también dijo, tocando madera, que su tienda siempre había estado libre de robos.

Declarado éxito

La firma tras el software que hace funcionar el sistema de reconocimiento facial de la terminal de autobuses es Herta Security, con sede en Barcelona, que desde entonces se expandió a Los Ángeles, Montevideo y Singapur. Otra empresa, Axis Communications, instaló el hardware. Ambas empresas están deseosas de subrayar que la seguridad en la estación de autobuses ha mejorado desde que se instaló el sistema.

En 2019, Herta Security hizo público un informe, al que AlgorithmWatch tuvo acceso, que detallaba el “ejemplo exitoso” que representaba la estación. Según las cifras proporcionadas por los operadores de la estación, los incidentes en sus instalaciones disminuyeron un 75%.

Un informe de Axis Communicationes afirma que la cifra de incidentes pasaron de “cinco al día a cinco al mes” tras la instalación del sistema, pero no ofrece datos detallados.

Laura Blanc, responsable de márketing en Herta Security, afirma que los casos de vandalismo empezaron a disminuir cuando empezó el sistema de reconocimiento facial en 2016. Considera que este tipo de vigilancia por sí mismo es efectivo en perseguir delincuentes que asaltan y molestan a la gente en la estación.

Una vez que la experiencia te dice que te están atrapando en un lugar específico, parece un buen motivo para reconsiderar si todavía quieres robar allí dentro o pasar al siguiente edificio y cometer delitos en otro lugar, dice Blanc a AlgorithmWatch. Se cree que el sistema actúa como un espantapájaros en un jardín, dé o no resultados positivos. (Blanc no ofreció ninguna explicación a por qué los dueños de las tiendas no podían ver el espantapájaros).

Nueve cámaras

Aunque la estación tiene alrededor de cien cámaras de vigilancia, sólo nueve se utilizan por el sistema de reconocimiento facial. Están desplegadas en puntos estratégicos de las instalaciones, como la entrada, puntos de salida y conexiones con los túneles del metro, dice Blanc a AlgorithmWatch.

Las cámaras graban constantemente. El software analiza las imágenes de vídeo en tiempo real, tomando una instantánea de las caras de la gente cada vez que entran en el encuadre. Las imágenes se analizan en el centro de operaciones, que se creó entre 2014 y 2016 como parte de varias mejoras en la estación de Méndez Álvaro para aumentar la seguridad, lo que incluía cambios en el diseño del edificio y mejor iluminación.

Si hay una coincidencia con una de las imágenes almacenadas en la base de datos de sospechosos, salta una alarma en el lado derecho de la pantalla

En el centro de operaciones, las pantallas muestran las imágenes de vídeo en vivo de las cámaras de vigilancia. Una pantalla en concreto se divide en dos mitades: el lado izquierdo está constantemente pasando las grabaciones en vivo, mostrando una columna con instantáneas de las caras de las personas que caminan por la estación. Si hay una coincidencia con una de las imágenes almacenadas en la base de datos de sospechosos, salta una alarma en el lado derecho de la pantalla, alertando a los operadores de que se ha realizado una identificación.

50% de seguridad

El software da una puntuación de 0 a 100 a cada coincidencia, indicando su fiabilidad. En lo que parece una forma de retorcer la lógica, Blanc dice que una puntuación de 50-60% significa que “el sistema está seguro sobre ella”. Los operadores pueden ajustar el porcentaje de la manera que deseen.

Aumentando el umbral, los operadores limitan el número de posibles falsos positivos que el sistema generará (personas que se confunden con caras de la base de datos). A la inversa, esto aumenta el número de posibles falsos negativos (personas que están en la base de datos pero no coinciden).

Los operadores humanos entonces deciden si parar o no a la persona cuya cara produjo una coincidencia.

Mascarillas

Los responsables de la terminal de autobuses no hicieron comentarios sobre cómo funciona actualmente el sistema, ya que la pandemia de covid-19 limita los movimientos de los ciudadanos y las mascarillas limitan las tecnologías de reconocimiento facial.

Incluso así, Blanc insiste en la eficacia del sistema: “En marzo, lanzamos un nuevo algoritmo que permitía el reconocimiento facial aunque la persona exhibiera una gran oclusión en la cara, como una mascarilla. Ya estábamos desarrollándolo antes de la pandemia de coronavirus porque tenemos clientes en Asia, por ejemplo, donde llevar una es normal. También trabajamos en estadios de fútbol, donde la gente normalmente lleva gorras, bufandas, etc.”.

Ella admite que trabajar en ambientes así es “difícil” porque cuanta menos información tienes en las imágenes de vídeo, más precisión pierdes para la identificación. No obstante, asegura que consiguieron superar este problema y, como la pandemia ha convertido a las mascarillas en obligatorias en espacios públicos cerrados, había “incluso más motivos para comercializarlo”.

El transporte urbano detiene el reconocimiento facial

Otros operadores de reconocimiento facial reaccionaron de forma diferente a la pandemia. El Ayuntamiento de Madrid suspendió un proyecto piloto donde se invitaba a la gente a pagar utilizando el reconocimiento facial en algunos autobuses de la red de transporte público urbano.

Se anunció a finales de 2019, pero las normas recientes que hacen obligatorias las mascarillas dentro del transporte público en Madrid obligaron a las autoridades a frenar el proyecto, afirmando que el sistema todavía no está perfeccionado para reconocer a los individuos que lleven mascarilla.

Los operadores de la Estación de Méndez Álvaro de Madrid declinaron proporcionar a AlgorithmWatch datos precisos, o una demostración, que mostraran que su sistema funciona bien con personas que llevan mascarilla.

Una asociación público-privada

En la Estación de Méndez Álvaro, se llevó a cabo un estudio piloto antes de que el sistema fuera instalado en 2016, para probar su efectividad. Pero una fuente con detallado conocimiento de la operación, que pidió no ser nombrada, dice que el piloto tenía un segundo objetivo: preparar el programa mismo. Empleados del departamento de seguridad de la terminal de autobuses Sur de Madrid subían fotografías de sí mismos a la base de datos de sospechosos llevando gorra, gafas, bufanda, etc. para probar el sistema y ajustarlo.

A pesar de su reticencia inicial, tanto la empresa que dirige la terminal de autobuses como la policía, que tiene presencia en el edificio, cambiaron de idea sobre el sistema una vez fue instalado.

El equipo de seguridad de la Estación de Méndez Álvaro se dio cuenta de que la cooperación con la policía nacional era esencial para que el sistema funcionara adecuadamente. Las fuerzas de orden público proporcionan al centro de seguridad de la estación los detalles de personas con órdenes de arresto pendientes, y la estación alerta a la policía cuando se produce una coincidencia. (Este procedimiento se reserva a peligrosos criminales o terroristas, cuyas fotografías a veces son puestas a disposición por Interpol).

Pero la base de datos tiene más que fotografías de sospechosos con órdenes de arresto pendientes. Algunas de las fotografías que contiene vienen de las grabaciones de las cámaras de vigilancia en la estación misma. Si se detiene a una persona que cometa un robo, él o ella puede ser identificada en grabaciones de vídeo y su foto puede entonces ser incorporada a la base de datos, para que el software pueda localizarlas por toda la estación —incluso si un juez no ha decidido sobre el caso—.

Según nuestra fuente, en algunos casos la policía llega a la estación y pide información personal sobre las personas que el departamento de seguridad cataloga de manera independiente. En otras palabras, la policía puede contar con coincidencias obtenidas utilizando datos biométricos que incluye información sobre personas seleccionadas con total discreción por una empresa privada.

Niños perdidos

El sistema de vigilancia instalado en la estación de Méndez Álvaro funciona a tiempo real, pero también se puede usar con material de vídeo antiguo.

Así es cómo el centro de seguridad explota el objetivo “social” de la vigilancia automatizada, como Gallego, el ex jefe de seguridad, lo describía. “El sistema de reconocimiento facial no sólo se usa para impedir delitos, sino también con un objetivo social: buscar niños perdidos, personas con Alzheimer y otras colaboraciones con las fuerzas de seguridad en algo que va más allá del vandalismo común”, dice en una entrevista grabada para Herta Security en 2019.

Un día una madre recurrió a la policía, diciendo que su hija había desaparecido de casa y que había posibilidades de que hubiera corrido hasta la estación para coger un autobús. La seguridad de la estación le dijo que trajera una fotografía de la chica. (Nuestra fuente no ofreció detalles como la fecha exacta de los hechos).

Se introdujo su imagen en la base de datos y fue automáticamente escaneada a través de las grabaciones de vídeo de la mañana. Aunque estimaban que la chica pudo haber llegado a la estación alrededor de las 11, el sistema la encontró deambulando por el edificio a las 9.10.

Prácticamente siguieron su camino por las instalaciones y vieron con qué adultos había hablado y qué autobús había cogido. La policía pudo parar el autobús que tomó y llevó a la chica a casa. Las personas que gestionaban el sistema en ese momento dijeron que esto nunca habría ocurrido si hubieran tenido que comprobar manualmente todas las grabaciones de vídeo de esa mañana.

La seguridad justifica los medios

El sistema se basa en la defensa del interés público y legítimo, dos terrenos que cuentan como condiciones especiales en el Reglamento General de Protección de Datos (RGPD). Esto proporciona a los operadores de la estación un gran margen de discreción para actuar, según Rahul Uttamchandani, abogado de protección de datos que trabaja para el despacho Legal Army.

“Si las imágenes utilizadas en la base de datos son de personas que están siendo perseguidas por las autoridades de justicia, entonces están protegidas por el interés público”, afirma. El hecho de que el RGPD entrara en vigor en 2018, dos años después de que el sistema empezara, no supuso una gran diferencia, según las personas que construyeron el sistema: justifican su uso en mantener el ‘interés público’ en términos de seguridad.

La utilización de datos personales involucrada en la vigilancia por parte de las fuerzas de orden público es objeto de la Directiva 2016/680, que se aprobó en 2016 junto al RGPD. Pero España todavía tiene que transponerla a la ley nacional, aunque la fecha límite para hacerlo era mayo de 2018.

El principal problema que ve Uttamchandani es que las instantáneas que las cámaras toman de cada cara que entra en la estación podrían utilizarse para preparar el sistema. “La gente tiene que saber todas las finalidades de sus datos biométricos y cuando pasas por una cámara de vigilancia puedes pensar que te están observando o que están grabando, pero no puedes saber que la forma y puntos de tu cara se están utilizando para construir un mejor modelo tecnológico”, dice Uttamchandani.

Las fuentes contactadas por AlgorithmWatch dicen que las instantáneas de las caras de las personas que no son categorizadas como ladrones se guardan 30 días con las grabaciones originales y después se borran, como se requiere legalmente.

Operando en las sombras

Apenas se ha suscitado inquietud desde que se instaló la vigilancia automatizada en la Estación Sur. AEPD, la Agencia Española de Protección Datos, no tiene constancia de ninguna queja sobre el asunto, de acuerdo a una declaración a AlgorithmWatch.

La Estación de Méndez Álvaro ha mantenido silencio durante todo el periodo en el cual se ha escrito este artículo, alegando que el sistema está catalogado como una “infraestructura crítica” y que por lo tanto no se puede revelar información sobre él. Este argumento es totalmente falso, dado que se han publicado muchas entrevistas e infomerciales en medios de comunicación y en los canales oficiales de Herta y Axis desde 2016.

Hace sólo unas semanas la cadena de supermercados Mercadona anunció la instalación de reconocimiento facial en vivo en 40 tiendas de tres ciudades para impedir que entren presuntos ladrones

Una infraestructura “crítica” bajo la normativa española significa que es considerada como una instalación tecnológica estratégica que funciona como un servicio esencial y que ninguna alternativa puede alcanzar el mismo propósito. Por lo tanto, su destrucción o perturbación llevaría a “un gran impacto sobre servicios esenciales”. La seguridad ciudadana está entre los “servicios esenciales”, según la ley.

A pesar de 12 días de llamadas prácticamente diarias a los departamentos de Administración y Comunicación de la estación de Méndez Álvaro y cuatro correos electrónicos, el personal de la estación no respondió a nuestras preguntas. El jefe de la administración de la estación nos aseguró repetidamente que seríamos atendidos por el operador jefe, lo que nunca ocurrió. En su lugar, uno de los operadores me llamó durante sus vacaciones para declarar que no revelarían ninguna información y que eso era todo lo que tenía que decirme. No hubo más preguntas.

Reconocimiento facial en el supermercado

Hace sólo unas semanas la cadena de supermercados Mercadona anunció la instalación de reconocimiento facial en vivo en 40 tiendas de tres ciudades para impedir que entren presuntos ladrones. El anuncio provocó una respuesta inmediata. Los medios hicieron preguntas (pocas recibieron respuesta), expertos en privacidad se preguntaron abiertamente sobre si la vigilancia era legal y la AEPD anunció una investigación sobre el tema.

Pocos detalles están disponibles sobre el sistema de reconocimiento facial de Mercadona. Algunos medios informaron de que Mercadona construiría su propia base de datos con el material filmado en sus tiendas.

Algoritm Watch Artículo publicado por Algoritm Watch con licencia Creative Commons: Spain’s largest bus terminal deployed live face recognition four years ago, but few noticed, traducido por Eduardo Pérez para El Salto.
Fuente: Naiara Bellio López-Molina en elsaltodiario.com
Foto: Olmo Calvo

cctvEstación de Méndez ÁlvaroEstación SurReconocimiento facialvideovigilancia