Os cibercriminosos sempre seguem os olhares dos internautas. Não literalmente, mas figurativamente. E os olhares de hoje estão mudando. Embora a Busca do Google ainda domine, de 20% a 26% dos americanos migraram para ferramentas de IA como ChatGPT, Claude e Perplexity para coletar informações , um número que cresce mensalmente. Os golpistas estão acompanhando essa migração, levando suas táticas da manipulação tradicional de SEO nos resultados do Google para uma ameaça muito mais insidiosa: a manipulação por IA.
Segundo relatos do final de 2024 e 2025, agentes maliciosos estão contaminando ferramentas de busca com inteligência artificial com listas falsas de suporte ao cliente que redirecionam as vítimas para números de telefone, sites e agentes fraudulentos que se fazem passar por empresas legítimas. A Air Canada foi condenada a indenizar um cliente que foi enganado pelo chatbot da companhia aérea.
Por que isso?
Enquanto a Busca do Google permite que você avalie múltiplas fontes por conta própria, os chatbots de IA oferecem APENAS UMA resposta confiável . E essas respostas estão erradas de 2% a 35% das vezes, dependendo do tópico e do modelo. Quando uma IA inventa um número falso de atendimento ao cliente e alguém o publica online, a próxima IA que vasculha a web aprende esse número falso e o repete com ainda mais certeza. Isso perpetua a disseminação de informações enganosas para outros chatbots, levando a mais informações falsas sendo reproduzidas nas próprias ferramentas de busca por IA para as quais as pessoas estão migrando. Muitos usuários de buscas por IA sabem que esses sistemas criam alucinações, mas será que sabem que consomem dados falsos plantados por criminosos que realizam elaborados esquemas de hacking? Improvável, até você ler este artigo.
Os atacantes alimentam ferramentas de busca com IA com informações convincentes, porém falsas, que se assemelham a registros de atendimento ao cliente de bancos, companhias aéreas e empresas de tecnologia. Quando um usuário solicita um número de suporte ao assistente de IA, o modelo sugere um número falso. A partir daí, os golpes começam.
O usuário nunca acessa uma página de phishing. O golpe começa diretamente na caixa de respostas da IA.
Existem dois motivos principais pelos quais a Busca por IA é mais fácil de ser envenenada do que sites de busca tradicionais como o Google ou o Bing. Primeiro, os bots de busca por IA não verificam números de telefone, cadastros de empresas ou URLs em fontes confiáveis da mesma forma que os mecanismos de busca tradicionais. Os atacantes exploram essa vulnerabilidade:
Em segundo lugar, existe um ciclo de auto-reforço em que os usuários que recebem informações incorretas republicam esses dados inconscientemente em seus sites, onde mais robôs de busca com IA consomem e incluem os dados falsos em seus resultados de pesquisa, perpetuando a informação enganosa. Esses modelos de IA, então, repetem a informação falsa em larga escala, conferindo credibilidade aos dados falsos.
Em outras palavras: qualquer pessoa que utilize ferramentas de busca com IA pode ser vítima.
Se você ligar para um número de suporte e se deparar com alguma dessas situações, desligue imediatamente.
Nesses casos, a solução é rápida e simples. Desligue e ligue de volta para o número correto que consta no site oficial.
As organizações não podem impedir que golpistas contaminem sistemas de IA, mas podem proteger seus usuários:
Os atacantes vão aonde os usuários estão. Nos últimos dois anos, a busca se expandiu para a busca por IA, onde os controles em torno de informações falsas são menos rigorosos e o envenenamento de buscas por IA parece estar se intensificando. Como muitos usuários não sabem que a IA não é totalmente confiável, os golpistas estão concentrando seus esforços em envenenar números de suporte e propagar isso por meio de bots de busca por IA na internet.
Felizmente, a solução não é complicada: diminua a velocidade, verifique as informações de contato por meio de mecanismos de busca tradicionais e do site do fornecedor e considere todos os resultados da IA como de confiança zero até que sejam confirmados.
Descubra e compartilhe as últimas tendências, dicas e melhores práticas de segurança cibernética, além de novas ameaças às quais você deve ficar atento.
Autora: Katie Boquetti | Editorial: Craig Taylor Editorial de Craig Taylor: Lembro-me dos primeiros tempos de...
Ler mais
Autora: Katie Boquetti | Editorial: Craig Taylor Editorial de Craig Taylor: O blog desta semana tem um...
Ler mais
De tempos em tempos, surge um malware com um truque tão inteligente que faz os pesquisadores de segurança pararem para pensar...
Ler maisTenha uma visão mais aguçada dos riscos humanos com uma abordagem positiva que supera os testes de phishing tradicionais.
