El reconocimiento facial da un paso atrás

El software de reconocimiento facial mejora día a día, impulsado exponencialmente por el aprendizaje automático y la inteligencia artificial. Los recientes avances en tecnología de IA han permitido que los sistemas generen imágenes realistas de rostros humanos desde cero. Estos sistemas utilizan conjuntos de datos con millones de imágenes de personas reales para "aprender" con el tiempo a generar imágenes originales de forma autónoma. Esta nueva tecnología se puso a prueba en el evento anual Black Hat USA .

Engañando al sistema

Black Hat USA organizó un evento virtual en agosto de 2020 que reunió a numerosos expertos en ciberseguridad y tecnología. Investigadores de McAfee demostraron cómo lograron utilizar la IA para engañar a un sistema de reconocimiento facial y conseguir que clasificara erróneamente a una persona como si fuera otra. Como ejemplo, mostraron cómo en un aeropuerto, una persona incluida en la lista de personas con prohibición de volar pudo engañar a un sistema de reconocimiento facial utilizado para la verificación de pasaportes y lograr que la identificara como otra persona (ver vídeo al final del artículo). Tras el evento, Steve Povolny, jefe de investigación de amenazas avanzadas de McAfee, comentó:

El objetivo principal era determinar si podíamos crear una imagen falsa, utilizando modelos de aprendizaje automático, que pareciera una persona al ojo humano, pero que al mismo tiempo se clasificara como otra persona al sistema de reconocimiento facial.

Investigadores de McAfee desarrollaron un sistema de aprendizaje automático, alimentándolo con 1,500 fotos de dos personas distintas. Las imágenes se capturaron a partir de un video en vivo y buscaban representar con precisión las fotos de pasaporte válidas de ambas personas. El sistema creó y probó continuamente imágenes falsas de ambos individuos fusionando los rasgos faciales de ambos. Tras cientos de ciclos de entrenamiento, el sistema de aprendizaje automático generó imágenes que engañaron al sistema de reconocimiento facial. Una foto de pasaporte válida de una persona se identificó erróneamente como la de la segunda persona objetivo. 

Amenazas del mundo real

Povolny, investigador principal, mencionó que el escenario de ataque al sistema de verificación de pasaportes, aunque no es el objetivo principal de la investigación, es posible. Gracias a la aceptación de las fotos digitales de pasaportes, un atacante puede crear una imagen falsa de un cómplice, presentar una solicitud de pasaporte y guardar la imagen en la base de datos de pasaportes. Si posteriormente se toma una foto en vivo del atacante en un aeropuerto, por ejemplo, en un quiosco automatizado de verificación de pasaportes, la imagen se identificaría como la del cómplice.

Esto no requiere que el atacante tenga acceso alguno al sistema de pasaportes; simplemente que la base de datos del sistema contenga la foto del cómplice presentada al solicitar el pasaporte. El sistema de pasaportes simplemente determina si dos rostros coinciden. Solo verifica si la foto de una persona se identifica con una foto guardada en el sistema. Por lo tanto, un ataque de este tipo es totalmente factible, aunque requiere cierto esfuerzo. Es menos probable que una foto física de un pasaporte enviada por correo, escaneada y subida a esta base de datos funcione para el ataque.

– Steve Povolny, investigador principal de McAfee

Redes generativas antagónicas de McAfee

La investigación sobre reconocimiento facial empleó una herramienta de red generativa antagónica (GAN) llamada CycleGAN. Las GAN son redes neuronales de IA capaces de crear datos similares a los que se les proporcionan. Por ejemplo, una GAN puede usar un conjunto de imágenes reales de rostros humanos para generar de forma autónoma imágenes completamente falsas, pero de apariencia realista. Las GAN utilizan redes generativas para crear los datos sintéticos y redes discriminativas para evaluar continuamente la calidad del contenido generado hasta que alcance un nivel aceptable.

Según McAfee , CycleGAN es una GAN (Red Generativa Antagónica) para la traducción de imágenes: por ejemplo, traduce una imagen de cebras a una de caballos. Una característica de esta GAN es que utiliza rasgos significativos de la imagen para la traducción, como la posición de los ojos, la forma de la cabeza, el tamaño del cuerpo y otros atributos.

Riesgos de CycleGAN

La tecnología de reconocimiento facial se utiliza cada vez más, desempeñando un papel importante en las fuerzas del orden para identificar sospechosos en fotos o vídeos. McAfee quería realizar esta investigación para comprender las posibles implicaciones del software de reconocimiento facial y cómo puede utilizarse en nuestra contra.

¿Qué puedo hacer como individuo?

El reconocimiento facial es una tecnología difícil de regular. A muchos les preocupan las posibles implicaciones para la privacidad que conlleva este software. La herramienta se está utilizando de formas inimaginables: subir fotos de internet y combinarlas con el reconocimiento facial para crear una potente herramienta de identificación. Clearview AI creó una aplicación que permite a los usuarios (generalmente las fuerzas del orden) subir y analizar la foto de una persona dentro de la aplicación. En cuestión de minutos, el solicitante puede ver todas las fotos públicas de esa misma persona en la base de datos (buscando en más de 3 mil millones de imágenes). Estas nuevas fotos se muestran junto con enlaces a las plataformas en línea donde se encuentran (redes sociales).

Aunque no hay muchas acciones que puedas realizar, puedes contactar con empresas como Clearview AI a través de los enlaces de su página de privacidad y solicitar que se eliminen tus datos. También puedes escribir a tu representante en el Congreso y solicitar que el Senado de los Estados Unidos apruebe una legislación integral de reforma de la privacidad que proteja a todos los ciudadanos estadounidenses, en lugar de que cada estado cree un mosaico de leyes de privacidad diferentes. La tecnología está superando rápidamente nuestra capacidad para regularla con las leyes vigentes. Se necesita un enfoque integral para la protección de la privacidad. Leer este artículo y otros similares para mantenerte informado, eliminar tus datos donde no quieras que se almacenen y luchar por tus derechos de privacidad es lo que debemos hacer para protegernos.

¿Qué puedo hacer como propietario de un negocio?

Además, Povolny señaló las acciones que pueden tomar las organizaciones de IA que trabajan para crear tecnología de reconocimiento facial para reducir la probabilidad de convertirse en víctima de ataques:

Las pruebas de anomalías, la información adversaria y datos de entrenamiento más diversos son algunas de las maneras en que los proveedores pueden mejorar los sistemas de reconocimiento facial. Además, la defensa en profundidad, que aprovecha un segundo sistema, ya sea humano o automático, puede ofrecer una barrera mucho mayor contra la explotación que un único punto de fallo.

Moving Forward

Las empresas y los particulares se benefician de la tecnología de reconocimiento facial al mejorar la seguridad de la autenticación. El software de reconocimiento facial se utiliza ampliamente en dispositivos móviles para protegerlos y en sus aplicaciones. Los expertos en seguridad argumentan que la tecnología de reconocimiento facial es mejor que las contraseñas mal construidas de la mayoría de los usuarios, lo que supone una mejora en la autenticación y la verificación de identidad. Sin embargo, tanto los hackers como los investigadores de seguridad buscan maneras de manipular las herramientas de reconocimiento facial para acceder a las cuentas, dispositivos y aplicaciones que protegen los rostros.

Al tomar más conciencia de los beneficios y desafíos de la autenticación por reconocimiento facial y algunos de sus usos por parte de las fuerzas del orden, podrá estar más seguro.

Fuente

Lectura oscura

Lecturas adicionales

Software de reconocimiento facial de Clearview AI 

Software de reconocimiento facial que lee a través de mascarillas COVID

Vea este breve vídeo que muestra la prueba de investigación de McAfee: