Los expertos piden plantar cara al reconocimiento facial
La rápida expansión del sistema de seguridad biométrico se ha realizado en ausencia de regulación
José A. González
Lunes, 10 de diciembre 2018, 02:24
Desbloquear el móvil con una sonrisa, etiquetado en fotos en las redes sociales a través de la inteligencia artificial o que el reconocimiento facial sea ... haya convertido en el gran hermano del S.XXI son algunos de los usos que el aprendizaje automático tiene a su disposición para controlar y vigilar desde una posición privilegiada a la sociedad.
Una poderosa herramienta que ha empezado a despegar en los últimos meses y que no ha encontrado aún sus límites o quizá sí. Un informa del AI Now Institute, un importante centro de investigación en Nueva York (Estados Unidos) ha pedido a las autoridades que controlen y vigilen los usos que se le está dando al reconocimiento facial.
La inteligencia artificial y el aprendizaje automático están recibiendo continuamente información para construir una gran red de datos y patrones de forma muy rápida. Entre las tareas que llevan a cabo se encuentran la identificación de objetos, o incluso caras individuales, incluso en imágenes y videos de baja calidad.
«La implementación de los sistemas de AI se está expandiendo rápidamente, sin regímenes de gobernanza, supervisión o responsabilidad adecuados», señalan los expertos del AI Now Institute en su informe.
El texto, dirigido en este caso a la Administración de Donald Trump, los investigadores piden al gobierno de los Estados Unidos que tenga en consideración regular el uso de esta tecnología para proteger los derechos de los ciudadanos del país.
El documento sugiere que se debe advertir al público cuando se utilizan sistemas de reconocimiento facial para rastrearlos y que deben tener el derecho de rechazar el uso de dicha tecnología.
En China, el gobierno de Pekín ha convertido el país en un gran capítulo de Black Mirror. «Crédito Social», así se llama la iniciativa», aunque los detractores lo han calificado como espionaje masivo.
Con esta nueva normativa, China ha establecido un nuevo sistema de puntuación que permite sancionar a sus ciudadanos que les impedirían utilizar determinados servicios públicos. El país cuenta con la red de cámaras equipadas con reconocimiento facial más grande del mundo.
Además según las últimas noticias del país, en los próximos meses introducirá un sistema de rastreo biométrico conocido como bio-ID. Este sistema se apoyaría en una red se apoyaría en sistemas de reconocimiento facial y escáneres para la palma de las manos.
El propio informe del AI Institute Now alerta de este uso indiscriminado. «El papel de la IA en la vigilancia generalizada se ha expandido enormemente en los Estados Unidos, China y muchos otros países del mundo», señalan.
No es una tecnología usada sin control solo en China. Estados Unidos también está llevando a cabo sus experimentos. Recientemente, la compañía Delta Airlines ha puesto en marcha un sistema de registro facial en el aeropuerto de Atlanta y, según destacan varios medios estadounidenses, la CIA trabaja en uno similar para la Casa Blanca.
Los investigadores del AI Institute Now reclaman más regulación y transparencia sobre la información recopilada en estos sistemas de reconocimiento. La American Civil Liberties Union (UCLA por sus siglas en inglés) ha alertado de los problemas de este tipo de sistemas de seguridad y los sesgos ideológicos que trasladan.
En un experimento, esta asociación utilizó la herramienta de Amazon llamada Rekognition para comparar los rostros de legisladores federales de Estados Unidos con 25,000 fotos policiales disponibles públicamente. « Para realizar nuestra prueba, utilizamos exactamente el mismo sistema de reconocimiento facial que Amazon ofrece al público, que cualquier persona podría usar para buscar coincidencias entre imágenes de rostros», señaló UCLA en su investigación.
El resultado fue sorprendente. El sistema Rekognition encontró que 28 miembros del Congreso coincidían incorrectamente con criminales conocidos. Actualmente, varios departamentos de policía de EE. UU. están utilizando este reconocimiento. «Si la policía está utilizando Amazon Rekognition, no es difícil imaginar a un oficial de policía obteniendo un «emparejamiento» que indique que una persona tiene un arresto anterior por armas, sesgando antes de que comience un registro», puntualiza UCLA.
El texto de AI Institute Now sugiere que se debe advertir al público cuándo se utilizan sistemas de reconocimiento facial para rastrearlos y que, además, deben tener el derecho de rechazar el uso de dicha tecnología.
¿Tienes una suscripción? Inicia sesión
