Los ciberdelincuentes siempre buscan la atención de los internautas. No literalmente, sino en sentido figurado. Y hoy en día, la atención está cambiando. Aunque la Búsqueda de Google sigue dominando, Entre el 20 y el 26 % de los estadounidenses han cambiado a herramientas de IA como ChatGPT, Claude y Perplexity para recopilar información., una cifra que crece mensualmente. Los estafadores están siguiendo esta migración, trasladando su juego del tradicional Envenenamiento SEO En los resultados de Google aparece una amenaza mucho más insidiosa: Envenenamiento por IA.
Según informes de finales de 2024 y 2025, los actores de amenazas están contaminando las herramientas de búsqueda de IA con listados falsos de atención al cliente que redirigen a las víctimas a números de teléfono, sitios web y agentes fraudulentos que se hacen pasar por empresas legítimas. Air Canada recibió la orden de pagar a un cliente engañado por el chatbot de la aerolínea.
¿Por qué es eso?
Si bien la Búsqueda de Google le permite evaluar varias fuentes usted mismo, los chatbots de IA le brindan UNA respuesta seguraY esas respuestas son erróneas entre un 2 % y un 35 % de las veces, según el tema y el modelo. Cuando una IA inventa un número de atención al cliente falso y alguien lo publica en línea, la siguiente IA que rastree la web aprende ese número falso y lo repite con aún más seguridad. Esto perpetúa la información tóxica a otros chatbots, lo que lleva a que se distribuya más información falsa en las mismas herramientas de búsqueda de IA a las que la gente está migrando. Muchos usuarios de búsquedas de IA son conscientes de que estos sistemas alucinan, pero ¿son conscientes de que consumen datos falsos introducidos por delincuentes que llevan a cabo elaborados planes de piratería informática? Es poco probable, hasta que leas este artículo.
Los atacantes introducen información convincente, pero falsa, en las herramientas de búsqueda de IA, que parece ser información de atención al cliente de bancos, aerolíneas y empresas tecnológicas. Cuando un usuario solicita un número de soporte al asistente de IA, el modelo sugiere uno falso. A partir de ahí, comienzan las estafas:
El usuario nunca llega a una página de phishing. La estafa comienza directamente dentro del cuadro de respuesta de la IA.
Hay dos razones principales por las que la búsqueda con IA es más fácil de manipular que los buscadores tradicionales como Google o Bing. En primer lugar, los bots de búsqueda con IA no verifican números de teléfono, fichas de empresas ni URL con fuentes fiables como lo hacen los buscadores tradicionales. Los atacantes se aprovechan de esto mediante:
En segundo lugar, existe un ciclo que se retroalimenta: los usuarios que reciben información incorrecta, sin saberlo, republican dichos datos en sus sitios web. Esto provoca que más bots de búsqueda con IA consuman e incluyan los datos falsos en sus resultados de búsqueda, perpetuando así la información falsa. Estos modelos de IA luego repiten la información falsa a gran escala, dándole credibilidad.
En otras palabras: cualquiera que utilice herramientas de búsqueda de IA puede ser víctima.
Si llama a un número de soporte y encuentra alguno de estos problemas, cuelgue inmediatamente.
En estos casos, el consejo es rápido y sencillo. Cuelgue y vuelva a llamar al número correcto desde el sitio web oficial.
Las organizaciones no pueden evitar que los estafadores envenenen los sistemas de IA, pero... puede endurecer a sus usuarios:
Los atacantes se dirigen a los usuarios. En los últimos dos años, la búsqueda se ha expandido a la búsqueda con IA, donde los controles sobre información falsa son menos estrictos y el envenenamiento de la búsqueda con IA parece estar en expansión. Dado que muchos usuarios desconocen que no se puede confiar plenamente en la IA, los estafadores centran sus esfuerzos en envenenar los números de soporte técnico y propagarlo a través de bots de búsqueda con IA en internet.
Afortunadamente, la solución no es complicada: reduzca la velocidad, verifique la información de contacto a través de los motores de búsqueda tradicionales y el sitio web del proveedor, y trate todos los resultados de IA con confianza cero hasta que se confirme.
Descubra y comparta las últimas tendencias, consejos y mejores prácticas en ciberseguridad, junto con nuevas amenazas a las que debe prestar atención.
No es sorprendente que surjan problemas El verano pasado, el director interino de una importante agencia de ciberseguridad de EE. UU. subió...
Leer más
Y cómo solucionarlos. Déjame hacer una suposición fundamentada. Te cambiaste a Google Workspace porque se suponía que...
Leer más
¿Recuerdan Heartbleed? Esa pesadilla de seguridad de hace unos años que hizo que todos entraran en pánico por...
Leer másObtenga una visión más clara de los riesgos humanos, con un enfoque positivo que supera las pruebas de phishing tradicionales.
