O software de reconhecimento facial melhora a cada dia, com o aprendizado de máquina e a inteligência artificial impulsionando a ferramenta exponencialmente. Os recentes avanços na tecnologia de IA permitiram que os sistemas gerassem imagens realistas de rostos humanos completamente do zero. Esses sistemas usam conjuntos de dados compostos por milhões de imagens de pessoas reais para "aprender", ao longo do tempo, como gerar autonomamente imagens originais. No evento anual Black Hat USA , essa nova tecnologia foi colocada à prova.
A Black Hat USA realizou um evento virtual em agosto de 2020 que reuniu diversos especialistas em cibersegurança e tecnologia. Pesquisadores da McAfee demonstraram como conseguiram usar tecnologia de IA para enganar um sistema de reconhecimento facial , fazendo com que um indivíduo fosse classificado erroneamente como outra pessoa. Como exemplo, os pesquisadores mostraram como, em um aeroporto, uma pessoa com restrições de voo conseguiu enganar um sistema de reconhecimento facial usado para verificação de passaportes, sendo identificada como outra pessoa (veja o vídeo no final do artigo). Após o evento, Steve Povolny, chefe de pesquisa avançada de ameaças da McAfee, comentou:
“O objetivo básico aqui era determinar se poderíamos criar uma imagem falsa, usando modelos de aprendizado de máquina, que parecesse uma pessoa aos olhos humanos, mas simultaneamente classificada como outra pessoa para um sistema de reconhecimento facial”
Pesquisadores da McAfee construíram um sistema de aprendizado de máquina, alimentando-o com 1,500 fotos de dois indivíduos distintos. As imagens foram capturadas de vídeo ao vivo e buscaram representar com precisão as fotos de passaporte válidas das duas pessoas. O sistema criou e testou continuamente imagens falsas dos dois indivíduos, combinando as características faciais de ambos. Ao longo de centenas de ciclos de treinamento, o sistema de aprendizado de máquina acabou gerando imagens que enganaram o sistema de reconhecimento facial. Uma foto de passaporte válida de um indivíduo foi erroneamente identificada como a do segundo indivíduo alvo.
Povolny, pesquisador chefe, mencionou que o cenário de ataque ao sistema de verificação de passaportes, embora não seja o foco principal da pesquisa, é possível de ser realizado. Como fotos digitais para passaportes agora são aceitas, um invasor pode produzir uma imagem falsa de um cúmplice, enviar um pedido de passaporte e salvar a imagem no banco de dados de passaportes. Se uma foto real do invasor for posteriormente tirada em um quiosque automatizado de verificação de passaportes em um aeroporto, por exemplo, a imagem seria identificada como sendo a do cúmplice.
Isso não exige que o invasor tenha qualquer acesso ao sistema de passaportes; basta que o banco de dados do sistema de passaportes contenha a foto do cúmplice enviada quando ele solicita o passaporte. O sistema de passaportes simplesmente se baseia em determinar se dois rostos coincidem ou não. Tudo o que ele faz é verificar se a foto de uma pessoa é identificada em comparação com uma foto salva no backend. Portanto, tal ataque é totalmente viável, embora exija algum esforço para ser executado. É menos provável que uma foto física de passaporte, enviada pelo correio, digitalizada e carregada neste banco de dados, funcione para o ataque.
– Steve Povolny, pesquisador-chefe da McAfee
A pesquisa realizada sobre reconhecimento facial envolveu o uso de uma ferramenta de "Rede Generativa Adversarial" (GAN, na sigla em inglês) conhecida como CycleGAN. As GANs são redes neurais de IA capazes de criar dados semelhantes aos dados de entrada. Por exemplo, uma GAN pode usar um conjunto de imagens reais de rostos humanos para gerar, de forma autônoma, imagens completamente falsas, porém com aparência realista, de rostos humanos. As GANs utilizam redes generativas para criar os dados sintéticos e redes discriminativas para avaliar continuamente a qualidade do conteúdo gerado até que ele atinja um nível aceitável.
De acordo com McAfee , o CycleGAN é uma GAN para tradução de imagem para imagem: traduzir uma imagem de zebras para uma imagem de cavalos, por exemplo. Uma característica da GAN é que ela utiliza características significativas de uma imagem para a tradução, como a posição dos olhos, o formato da cabeça, o tamanho do corpo e outros atributos.
A tecnologia de reconhecimento facial está em uso crescente, desempenhando um papel importante nas agências de segurança pública na identificação de suspeitos em fotos ou vídeos. A McAfee queria realizar esta pesquisa para entender as potenciais implicações do software de reconhecimento facial e como ele pode ser usado contra nós.
O reconhecimento facial é uma tecnologia difícil de regulamentar. Muitos se preocupam com os potenciais problemas de privacidade associados ao software. A ferramenta está sendo usada de maneiras que muitos não conseguem imaginar: fotos da internet são carregadas e combinadas com reconhecimento facial para criar uma poderosa ferramenta de identificação. A Clearview AI criou um aplicativo que permite aos usuários (geralmente policiais) carregar e analisar a foto de um indivíduo dentro do próprio aplicativo. Em questão de minutos, o solicitante pode visualizar todas as fotos públicas daquele indivíduo no banco de dados (pesquisando em mais de 3 bilhões de imagens). Essas novas fotos são exibidas juntamente com links para onde essas imagens estão hospedadas online (redes sociais).
Embora não haja muitas ações que você possa tomar, você pode entrar em contato com empresas como a Clearview AI através dos links da página de privacidade delas e solicitar a exclusão dos seus dados. Você também pode escrever para o seu representante no Congresso e solicitar que o Senado dos EUA aprove uma legislação abrangente de reforma da privacidade que proteja todos os cidadãos dos EUA, em vez de cada estado criar uma colcha de retalhos de leis de privacidade diferentes. A tecnologia está rapidamente ultrapassando nossa capacidade de regulamentá-la com as leis existentes. Uma abordagem holística para a proteção da privacidade é necessária. Ler este artigo e outros semelhantes para se manter informado, excluir seus dados de locais onde você não deseja que sejam armazenados e lutar pelos direitos à privacidade são medidas essenciais para nos protegermos.
Além disso, Povolny observou ações que podem ser tomadas por organizações de IA que trabalham para criar tecnologia de reconhecimento facial para reduzir a probabilidade de se tornarem vítimas de ataques:
Testes de anomalias, informações adversas e dados de treinamento mais diversificados estão entre as maneiras pelas quais os fornecedores podem aprimorar os sistemas de reconhecimento facial. Além disso, a defesa em profundidade, utilizando um segundo sistema, seja humano ou de máquina, pode representar um obstáculo muito maior à exploração do que um único ponto de falha.
Empresas e indivíduos se beneficiam da tecnologia de reconhecimento facial, melhorando a segurança da autenticação. Softwares de reconhecimento facial são amplamente utilizados em dispositivos móveis para proteger dispositivos e aplicativos dentro do próprio dispositivo. Especialistas em segurança argumentam que a tecnologia de reconhecimento facial é melhor do que a maioria das senhas mal construídas pelos usuários, além de representar uma melhoria na autenticação e verificação de identidade. No entanto, saiba que hackers e pesquisadores de segurança estão buscando maneiras de fraudar ferramentas de reconhecimento facial para obter acesso às contas, dispositivos e aplicativos que os rostos protegem.
Ao se conscientizar mais sobre os benefícios e desafios da autenticação por reconhecimento facial e alguns de seus usos pela polícia, você pode se tornar mais seguro.
fonte
Leituras Adicionais
Software de reconhecimento facial da Clearview AI
Software de reconhecimento facial que lê através de máscaras COVID
Descubra e compartilhe as últimas tendências, dicas e melhores práticas de segurança cibernética, além de novas ameaças às quais você deve ficar atento.
O que aconteceu na quinta-feira, 12 de novembro de 2026, por volta das 11h da manhã (horário do leste dos EUA)? O Microsoft Outlook parou de funcionar...
Ler mais
Autora: Katie Boquetti | Editorial: Craig Taylor Editorial de Craig Taylor: “O poder tende a corromper,...
Ler mais
Autora: Katie Boquetti | Editorial: Craig Taylor Editorial de Craig Taylor: Há anos treinamos...
Ler maisTenha uma visão mais aguçada dos riscos humanos com uma abordagem positiva que supera os testes de phishing tradicionais.
