Los sistemas de reconocimiento facial son tecnologías biométricas que capturan los rasgos faciales de una persona con el objetivo de verificar su identidad o ubicarla dentro de un grupo, un lugar o en una base de datos. La tecnología que utilizan ha cambiado la forma de identificar a las personas, convirtiendo el proceso en algo mucho más eficiente. Aplicaciones como Snapchat la utilizan para aplicar filtros faciales, puede usarse para desbloquear el teléfono e incluso algunos aeropuertos están probando la tecnología de reconocimiento facial para identificar a los pasajeros antes de embarcar. Pero también se puede utilizar para vigilar; ya sea para rastrear a la gente en las calles, vigilar protestas o para operaciones comerciales, el uso de la IA está creciendo.

Por ello, la tecnología de reconocimiento facial ha suscitado numerosos debates y controversias. En el proyecto de Ley de inteligencia artificial, publicado en abril de 2021, la Comisión Europea propuso restringir, en cierta medida, el uso público de la tecnología de reconocimiento facial y el Parlamento Europeo pidió su prohibición en octubre de 2021. El Supervisor Europeo de Protección de Datos y el Comité Europeo de Protección de Datos publicaron un dictamen conjunto en 2021 sobre la Ley de inteligencia artificial en el que piden que se prohíba la vigilancia biométrica a distancia en lugares públicos. Múltiples organizaciones de derechos humanos han cuestionado el uso de esta tecnología en espacios públicos y alertan frecuentemente sobre sus peligros. Muchas están luchando para que se prohíba.

¿Por qué hay tanta preocupación? ¿Qué podemos hacer al respecto? Analicemos en profundidad los principales motivos de preocupación.

¿Cuáles son las principales preocupaciones en materia de privacidad que plantea la tecnología de reconocimiento facial?

1. Almacenamiento inadecuado de datos

Las imágenes faciales son extremadamente fáciles de recopilar porque cualquier persona puede ser filmada por cámaras en espacios públicos. El mayor problema radica en que ningún sistema de seguridad es infalible. Supongamos que existe una base de datos con tu foto o tu dirección. Si la base de datos es pirateada y una persona malintencionada tiene acceso a ella, podría utilizarla para suplantar tu identidad, robarte o acosarte. Por ejemplo, los rastreadores podrían realizar búsquedas retroactivas de imágenes para obtener información personal sobre una persona, como su dirección. También podrían utilizar tu imagen para suplantar tu identidad en Internet y estafar a la gente, y la policía podría pensar que tú eres la persona que lo ha hecho.

Las bases de datos biométricos son empleadas de forma generalizada por la policía y los gobiernos, así como por sitios web y aplicaciones muy conocidas que almacenan datos de nuestros rostros u otros rasgos biométricos, como nuestras huellas dactilares. Sobre Clearview AI, una empresa de identificación facial muy conocida que vende el acceso a su base de datos a, entre otras instituciones, las fuerzas de seguridad de Estados Unidos, el senador estadounidense Edward Markey declaró: "Si tu contraseña es pirateada, puedes cambiarla. Si tu número de tarjeta de crédito es atacado, puedes cancelar tu tarjeta. Pero no puedes cambiar información biométrica como tus rasgos faciales".

2. Uso incorrecto de los datos

Los resultados de las investigaciones demuestran que esta tecnología, como todas las demás, no es inmune a los prejuicios. Reconoce con más precisión a los hombres blancos que a las mujeres o a personas de otros grupos étnicos. En 2018, el 35% de los errores de reconocimiento facial se produjeron al identificar a mujeres de color, frente al 1% de hombres blancos. Este sesgo se ha reducido con la práctica a lo largo del tiempo, pero sigue estando ahí y es muy difícil de erradicar por completo.

Los positivos falsos pueden convertirse en detenciones falsas. Nijeer Parks, por ejemplo, fue detenido en 2019 en Estados Unidos por un supuesto robo en una tienda y por intentar atropellar a un agente con un coche. Había sido identificado erróneamente y detenido por error en base al reconocimiento facial. El caso fue retirado finalmente, pero se tardó un año, incluyendo 10 días en la cárcel y 5000 dólares gastados en la defensa ante la justicia. Además, el uso de información biométrica con el objetivo de clasificar según determinados criterios podría allanar el camino a la elaboración de perfiles, lo que daría lugar a la discriminación y a condenas erróneas contra determinados grupos debido a los prejuicios conscientes o inconscientes del sistema judicial.

Por último, algunos regímenes utilizan esta tecnología para atacar a grupos minoritarios, tal y como hizo el gobierno chino, que utilizó el software de reconocimiento facial de Huawei para identificar a los uigures. Según un informe de pruebas interno, el sistema utilizado era supuestamente capaz de identificar entre una multitud, la edad, el sexo y la etnia de cada persona, para luego activar una señal de alerta informando a la policía de cualquier miembro de la comunidad uigur. Huawei, supuestamente, proporcionó los servidores, las cámaras y otras herramientas.

3. Vulneración de la privacidad individual

La forma en que se utiliza la tecnología de reconocimiento facial es inherentemente invasiva e intrusiva. Tal y como se hace hoy en día, la recopilación de datos se lleva a cabo sin el consentimiento o el conocimiento de las personas: por ejemplo, te pueden filmar simplemente caminando por la calle.

Ser grabado y controlado sin el consentimiento e incluso el conocimiento del interesado es una clara vulneración de la privacidad y la libertad individuales. Nos priva de la tranquilidad de poder movernos y actuar libremente sin el temor a estar constantemente observados y vigilados. Ser observado cambia nuestra forma de comportarnos y también afecta a nuestro bienestar. Este escrutinio puede crear la sensación de estar siempre vigilado por otras personas, lo que puede llevar a un aumento del estrés y a una disminución de la confianza entre la población y el gobierno. Si las personas temen que sus interacciones y conversaciones diarias estén siendo controladas, pueden evitar criticar al gobierno por miedo a que les ocurra algo a ellos o a sus seres queridos.

La vigilancia de las personas sobre la base de que podrían hacer algo ilegal en el futuro es también una vulneración de la presunción de inocencia. Las fuerzas del orden podrían tratar a alguien de forma diferente sobre la base de una supuesta culpabilidad futura, que no se puede demostrar.

4. Vulneración de la libertad de expresión y de asociación

La tecnología de reconocimiento facial es preocupante por su potencial para convertirse en una herramienta de vigilancia masiva biométrica. La vigilancia, especialmente en las manifestaciones, amordaza la libertad de expresión y frena actividades como el activismo político. Se utiliza para controlar a la población y, en los países en los que no se tolera criticar al gobierno, para detener a los adversarios políticos. En EE.UU., la ONG Electronic Frontier Foundation sacó a la luz que el Departamento de Policía de San Francisco tuvo acceso en directo a más de 400 cámaras para espiar a los manifestantes durante las protestas de 2020. Cuando ciertas tecnologías están disponibles, pueden ser mal utilizadas, y a menudo lo son.

Del mismo modo, el uso de la tecnología de reconocimiento facial reduce el derecho al anonimato. La gente cuenta con algún grado de anonimato, incluso en público, y no prevé que su rostro esté vinculado a hechos, acciones o datos disponibles en línea. El hecho de no ser anónimo nunca, es más peligroso cuando la tecnología permite reconocer con quién se relaciona la gente y por qué motivos.

En un artículo en VICE, Joshua Franco, asesor principal de investigación y director adjunto de Amnesty Tech en Amnistía Internacional, declaró: "El miedo y la incertidumbre generados por la vigilancia inhiben la actividad más que cualquier acción de la policía, [...] si te sientes acechado, te autolimitas, lo que aparta a la gente del espacio público."

5. Falta de transparencia

En la UE, la transparencia en cuestión de recopilación, gestión y borrado de datos sigue siendo demasiado escasa en la práctica; a menudo se imponen sanciones a las empresas o instituciones por el insuficiente cumplimiento de las obligaciones de información. El RGPD exige una información concisa, transparente, comprensible y de fácil acceso para los interesados (Artículos 12, 13 y 14). Por ejemplo, en muchos casos relacionados con el uso del reconocimiento facial, es imposible identificar a los recopiladores y procesadores de datos porque lo más probable es que no sepas que te están grabando. E incluso si son identificados, la cantidad de datos recopilados y la finalidad para la que se utilizarán pueden seguir siendo desconocidas. Además, los interesados no pueden recuperar, corregir, controlar o eliminar los datos, si no son conscientes de su existencia.

La transparencia es importante porque permite controlar mejor el tratamiento de tus datos: puedes comprobar que las empresas, por ejemplo, cumplen la ley y respetan tus derechos individuales, verificando que se respetan las obligaciones de información o comprobar que puedes acceder a tus datos personales. En caso contrario, puedes formular una reclamación ante la autoridad de control. Sin transparencia, las empresas pueden hacer lo que quieran con tus datos personales sin tu conocimiento, y la gente no sabe quién posee sus datos biométricos y con qué fin. Las personas pueden ser objeto de publicidad dirigida, elaboración de perfiles, etc., o sus datos pueden ser vendidos a un tercero. Como ejemplo, la mencionada Clearview AI obtuvo fotos de personas en Internet sin su consentimiento y las utilizó para confeccionar su base de datos, que después emplearon empresas privadas. Tras dos años de litigio, Clearview AI llegó a un acuerdo con la Unión Americana de Libertades Civiles para suspender definitivamente la venta de su base de datos biométricos a empresas privadas y a particulares en Estados Unidos.

6. Podría normalizarse

Si la tecnología de reconocimiento facial continúa su expansión sin limitaciones, la gente podría acostumbrarse y se convertiría en la norma. El riesgo es que estas medidas se mantengan y se utilicen con más frecuencia a medida que pase el tiempo. Entonces, el espacio de los derechos civiles se reduciría cada vez más con la institucionalización de la vigilancia, por todas las razones ya mencionadas.

7. Con las mejoras tecnológicas podría ser accesible para cualquiera

En 2011, A. Acquisti y su equipo realizaron numerosos experimentos para mostrar los posibles riesgos de la tecnología de reconocimiento facial en el futuro. En el primero de ellos, utilizaron esta tecnología para cotejar fotos de perfiles públicos de Facebook y de sitios de citas. Consiguieron identificar a muchas personas, incluso aunque sólo utilizaran su nombre de pila o un seudónimo en su perfil de citas. En otro experimento, tomaron fotos de estudiantes con cámaras digitales y las compararon con sus perfiles de Facebook. Consiguieron identificar a un tercio de ellos. Todo ello presagia un futuro en el que todos podremos ser reconocidos por cualquier persona con un teléfono móvil; un acosador podría encontrar tu información personal y utilizarla para acosarte.

Como nos ha demostrado el siglo pasado, la evolución de la tecnología ha sido exponencial. Identificar a alguien que ves por la calle podría convertirse en la norma: en 2021, la policía del Reino Unido desarrolló una aplicación para teléfonos móviles que permite identificar en tiempo real a personas buscadas, a través de una aplicación de reconocimiento facial. En YouTube se han difundido vídeos en los que se muestra cómo puedes crear tu propio sistema de reconocimiento facial e identificar a personas en espacios públicos mediante la tecnología de reconocimiento facial.

¿Qué soluciones existen?

En primer lugar, la recopilación, el almacenamiento y el intercambio de datos biométricos debe ser totalmente transparente, dando a las personas la posibilidad de acceder a sus datos y controlarlos, así como de conocer quién es el procesador de los mismos. Las personas deben poder dar un consentimiento claro, y sobre todo informado, antes de que sus datos biométricos se incluyan en una base de datos y antes de que nadie acceda a ellos. [newsletter title={Stay one step ahead of surveillance by staying informed. Sign up!}}

La actual falta de regulación es uno de los principales problemas. Aunque cada vez hay más legislación en desarrollo, el marco legal actual es insuficiente y desigual entre los países, para lograr un control efectivo de esta tecnología. En muchos países no cuentan con ninguna legislación al respecto, y en los que sí la tienen, es todavía relativamente incompleta. En Europa tenemos una normativa relativamente estricta, el RGPD, pero adolece de una ejecución suficiente. Además, al RGPD no le compete la ejecución de la ley.

El público en general es cada vez más consciente de las cuestiones relacionadas con la protección de datos. Sin embargo, los problemas de la tecnología de reconocimiento facial siguen siendo poco conocidos debido a que su recopilación y utilización es "invisible" en nuestra vida cotidiana. Es necesario que los usuarios estén más concienciados y formados en esta materia para conseguir cambios en la sociedad.

Esta concienciación general debe ser transmitida en las empresas, gobiernos o cualquier tipo de institución que utilice la tecnología de reconocimiento facial. Cada una de ellas debe contar con profesionales de seguridad entregados a su trabajo y especializados en esta materia, así como con protocolos de seguridad específicos y formación para los empleados. Las organizaciones que albergan registros de acceso público deben tomar medidas proactivas, como el acceso restringido a las bases de datos sensibles, para evitar su uso indebido.

Para saber más:

Reconocimiento facial: ventajas e inconvenientes

¿Son los algoritmos de toma de decisiones siempre fiables, justos y correctos o NO?

10 efectos de la inteligencia artificial en nuestra vida cotidiana