ChatpGPT ha conquistado el mundo. Las noticias diarias nos revelan algo nuevo que puede hacer para automatizar nuestro mundo y mejorar nuestras vidas. Pero ChatGPT también tiene un lado negativo. Algunos lo llaman "el lado oscuro". Como verás en este artículo, CyberHoot describirá cinco maneras diferentes en que ChatGPT puede ser perjudicial para la sociedad. Sigue leyendo para saber más.
ChatGPT tiene un lado oscuro que permite a hackers inexpertos hackear. ChatGPT puede crear correos electrónicos de phishing convincentes en el idioma del objetivo. Puede crear malware funcional para vulnerar un sistema informático o una red. Puede explicar las herramientas y los métodos necesarios para explotar una vulnerabilidad que podría encontrarse durante un análisis de vulnerabilidades.
Nuestro experimento demostró que la IA puede brindar asesoramiento detallado sobre cómo explotar cualquier vulnerabilidad que encontremos. Investigador de Seguridad de Checkpoint ("CSR")
Estas amenazas representan una ampliación del universo de posibles hackers que atacan su empresa. A continuación, presentamos un análisis detallado de las amenazas que la IA representa para nuestras empresas y algunas de las contramedidas necesarias para combatirlas.
Veamos varias formas en las que ChatGPT permite que personas no calificadas sean hackeadas, lo que genera riesgos reales de explotación exitosa para su empresa.
Como puede ver en la captura de pantalla anterior, ChatGPT detallará exactamente cómo explotar las vulnerabilidades de TLS 1.1 en un sitio web. Proporciona exploits reales (BEAST y CRIME) y nombra las herramientas necesarias para explotarlos. Esto abre el acceso al hacking a los aspirantes a hackers sin experiencia, ampliando enormemente el número de personas que pueden adquirir las habilidades necesarias para convertirse en un hacker exitoso. Esto hace que el hacking sea más accesible para personas que, de otro modo, no tendrían forma de aprender las habilidades, herramientas y técnicas necesarias para atacar nuestras empresas y propiedades en línea. Es como poner un arma cargada en máquinas expendedoras por toda la ciudad donde vives.
ChatGPT puede escribir código si se le solicita la entrada correcta. Este código puede ser malware, como ransomware, descifrado de contraseñas, etc. Esto pone herramientas de hacking más peligrosas en manos de hackers menos experimentados.
El análisis de CSR de varias importantes comunidades de hackers clandestinos muestra que los ciberdelincuentes utilizan OpenAI para desarrollar herramientas maliciosas... mientras que los ciberdelincuentes menos experimentados lo utilizan para entrar en el juego.
Los resultados podrían ser más ataques con menos atención a los posibles efectos secundarios negativos. Este artículo detalla cómo una organización de hackers cedió la clave de descifrado del ransomware utilizado para infectar un hospital infantil porque el grupo de "ransomware por encargo" que creó la herramienta estaba molesto porque los hackers habían atacado un hospital infantil con su malware. Si los hackers pueden generar ransomware, ¿existirá algún código de conducta para los ataques? Pasemos ahora a los ataques más comunes: el phishing, y veamos qué puede hacer ChatGPT.
Algunas señales reveladoras de que has recibido un ataque de phishing son los errores de ortografía, puntuación y gramática. Los profesionales de la ciberseguridad enseñan a otros a estar atentos a estas características para ayudar a detectar y evitar ataques de phishing. ChatGPT no solo puede crear ataques de phishing gramaticalmente correctos, sino que también puede hacerlo utilizando entradas de redes sociales. Esto convierte un ataque de phishing básico en un ataque de spear-phishing de alto impacto que puede engañar más fácilmente al destinatario objetivo. Además, puede hacerlo en cualquier idioma que ChatGPT admita. CyberHoot ha probado las capacidades de traducción del inglés a los idiomas que conoce nuestro personal y ChatGPT lo hizo mejor que Google Translate. Las capacidades lingüísticas son increíbles.
ChatGPT puede ayudarte a crear diálogos innovadores de ingeniería social (consultas y respuestas) para llevar a cabo ataques más realistas, convincentes, bien documentados y ensayados. Saber qué se espera en una interacción con un servicio de asistencia al solicitar un restablecimiento de contraseña ayudará a los hackers a prepararse para el interrogatorio esperado. Consulta el diálogo de ChatGPT a continuación como referencia.
La práctica hace al maestro. Los hackers inexpertos pueden practicar enviando solicitudes al servicio de asistencia técnica y aprender qué tipo de información se les pedirá. Esto les permitirá idear contraargumentos para eludir las medidas de seguridad. ¿ El servicio de asistencia técnica de su empresa autentica de forma eficaz todas las solicitudes de restablecimiento de contraseña?
El meteórico ascenso de ChatGPT se debió en parte a su capacidad para redactar trabajos académicos de calidad universitaria. Resume ideas complejas y escribe con claridad sobre cualquier tema. Sin embargo, en numerosos casos documentados, los investigadores han detectado que ChatGPT reporta información manifiestamente falsa. Incluso existe un término para describir la información errónea que reporta una IA: " alucinación de la IA".
In inteligencia artificial (IA), una alucinación or alucinación artificial es una respuesta segura de una IA que no parece ser justificado por esto datos de entrenamiento.[ 1 ]
En el procesamiento del lenguaje natural, una alucinación a menudo se define como “contenido generado que no tiene sentido o no es fiel al contenido fuente proporcionado”.
ChatGPT es capaz de inventar hechos y argumentarlos de forma muy convincente. Esto puede provocar que se difunda información errónea en internet disfrazada de opiniones de expertos.
Entonces, con todos estos riesgos de que ChatGPT cause problemas, desde desinformación hasta la creación de malware, y proporcionando la fórmula para explotar vulnerabilidades en tiempo real a hackers expertos y no expertos, ¿qué deberían hacer las empresas para prepararse? ¿Qué contramedidas ayudarían a proteger a su empresa de una vulnerabilidad a manos de ChatGPT?
Curiosamente, las contramedidas que combaten los riesgos de ChatGPT son prácticamente las mismas que antes de su existencia. Implementar estas contramedidas en su empresa es cada vez más urgente debido al drástico aumento de hackers capaces de ejecutar ataques complejos, sofisticados y creíbles con ChatGPT. Sin embargo, los ataques en sí siguen siendo prácticamente los mismos. Analicemos cada una de las cinco características oscuras que ChatGPT potencia y sus contramedidas.
Para contrarrestar la explotación de vulnerabilidades en sus dispositivos internos y con acceso a Internet, es necesario escanearlos periódicamente y corregir todos los riesgos críticos identificados. Esto se conoce como escaneo de vulnerabilidades . Puede hacerlo externamente con casi cualquier escáner de vulnerabilidades. Internamente, deberá implementar un escáner local al que le proporcione credenciales. Esto permitirá que el escáner examine no solo los puertos y protocolos utilizados en la red, sino también el sistema operativo del dispositivo escaneado. De esta manera, podrá identificar parches faltantes, actualizaciones de firmware necesarias e incluso configuraciones débiles. La herramienta de escaneo adecuada le ayudará a priorizar su trabajo y podrá dedicar su tiempo a solucionar las brechas más críticas en su infraestructura, con la esperanza de evitar que los hackers las exploten.
Según el último informe anual de Verizon sobre filtraciones de datos , el 82 % de todas las filtraciones están relacionadas con el factor humano. Tus empleados son responsables del 82 % de las filtraciones. La triste realidad es que no es su culpa. ¿Acaso culparías a un empleado por no saber el nombre del presidente de 10 países extranjeros? Sin embargo, los culpamos por hacer clic en correos electrónicos de phishing, por reutilizar contraseñas y por ser víctimas de ataques de ingeniería social, ¡cuando nunca les hemos enseñado estas habilidades cruciales de ciberseguridad!
La capacitación en concientización, las pruebas de phishing y las políticas de gobernanza deberían ser prioritarias en la lista de contramedidas de toda empresa para combatir la actual oleada de ataques de hackers. ChatGPT acaba de abrir las puertas a aún más hackers. ¿Estarán usted y su personal preparados para el aumento de ataques que ChatGPT posibilitará? Estos ataques tendrán mayor claridad, mayor precisión y mayor capacidad de persuasión que cualquier otro que hayamos visto antes. Es ahora, antes de que se produzca una brecha de seguridad, es el momento de gobernar, probar y capacitar a los usuarios.
Las contramedidas siguen siendo las mismas hoy que durante la última década y probablemente lo serán durante la próxima. Las empresas deben complementar los correos electrónicos de phishing tradicionales con nuevos ejercicios de phishing basados en tareas, diseñados para educar en lugar de castigar a los usuarios. Este nuevo tipo de prueba de phishing es mucho más beneficioso para los MSP que la adoptan. Los ejecutivos también se benefician al consultar métricas de cumplimiento que informan sobre si cada usuario ha superado con éxito la prueba de phishing (algo impensable hasta ahora). Los usuarios finales mejoran sus conocimientos lo suficiente como para detectar y evitar con confianza, eficiencia y eficacia cada ataque de phishing al que se enfrentan. Los MSP se benefician al no tener que configurar listas de permitidos para las pruebas de phishing y, además, dejan de recibir esos correos electrónicos molestos que preguntan: "¿Es este un correo electrónico de ataque de phishing? No estoy seguro".
¿Su MSP cuenta con un proceso de autenticación riguroso para determinar la identidad de cada persona que llama al servicio de asistencia? ¿Qué sucede si la secretaria del director ejecutivo llama para solicitar el restablecimiento de su cuenta? ¿Cómo validar esa solicitud de forma oportuna, sin retrasos indebidos ni molestar a la persona más importante del cliente? Necesita perfeccionar estos procesos. Quizás se trate de un portal de restablecimiento de contraseña que pueda autenticar al usuario de otras formas novedosas (¿basado en MFA, no?). La cuestión es que ChatGPT ayudará a los hackers a practicar su ingeniería social hasta el punto de realizar ataques perfectamente ensayados. ChatGPT les indicará exactamente qué esperar en la interacción con el servicio de asistencia y encontrará formas creíbles de evadir sus medidas. No permita que esto suceda. Esté preparado con una buena capacitación para los empleados del servicio de asistencia para detectar, denunciar y escalar cualquier intento de ingeniería social. Sin duda, esta no es una contramedida nueva. Podría cobrar mayor importancia en el futuro próximo a medida que los hackers se vuelvan más competentes en el uso de la IA para planificar sus ataques.
La desinformación ha crecido enormemente en los últimos años. Las redes sociales han generado mil teorías conspirativas. Cualquiera con estudios de posgrado recordará que cualquier dato debe estar respaldado con una cita. Los datos no citados son absurdos en un trabajo académico.
Las empresas deben investigar sus artículos de blog consultando las fuentes originales. CyberHoot dejó de citar un dato común en el ámbito de la ciberseguridad que afirma: «El 60 % de las empresas que sufren un ataque cierran en 6 meses», porque no pudimos encontrar la fuente original. Esta información se ha difundido de blog en blog y es claramente falsa. Por lo tanto, no la citaremos. Es necesario contrastar la información con citas y no confiar ciegamente en las respuestas de ChatGPT. Mantengamos un sano escepticismo. Utilicemos fuentes fiables que sigan este enfoque informativo. Muchos medios de comunicación cuentan con un equipo de verificadores de datos cuya función es comprobar la veracidad de los artículos. Esto no significa que no existan sesgos en la información. Los datos son como las estadísticas: a menudo se pueden manipular para que reflejen exactamente lo que se desea. Busque « sesgo implícito » en Google para obtener más información sobre este tema.
Los ataques que ChatGPT permite no son realmente nuevos. En realidad, son ataques antiguos que hackers competentes y diligentes podrían llevar a cabo. ChatGPT simplemente abre la puerta a miles de posibles hackers. Antes, los hackers menos hábiles no podían realizar los cinco ataques que ChatGPT facilitaba o posibilitaba. Esto significa que todos debemos prepararnos para un nuevo aumento en el número de ataques. Además, empresas que podrían haber estado fuera del alcance de algunos ataques, como un hospital infantil, podrían ser atacadas por hackers menos responsables. Es hora de preparar a su organización. Prepárese con políticas de gobernanza, capacitación en concientización, pruebas de phishing por asignación y educación básica. Se alegrará de haberlo hecho.
Fuente:
Bleeping Computer: ChatGPT puede ser un riesgo de ciberseguridad mayor que un beneficio real
Los piratas informáticos ahora utilizan ChatGPT para generar malware
Lecturas adicionales:
Un hackeo perverso permite a ChatGPT asumir un alter ego malvado
Descubra y comparta las últimas tendencias, consejos y mejores prácticas en ciberseguridad, junto con nuevas amenazas a las que debe prestar atención.
Imagínate en la autopista, circulando a unos 20 km/h por encima del límite de velocidad, al igual que el resto del tráfico. Más adelante, frena...
LEER MÁS
¿Qué sucedió el jueves 12 de noviembre de 2026, alrededor de las 11 a. m. (hora del este)? Microsoft Outlook dejó de funcionar...
LEER MÁS
Autora: Katie Boquetti | Editorial: Craig Taylor Editorial de Craig Taylor: “El poder tiende a corromper,...
LEER MÁSOfrezca a su personal una visión más aguda, con un enfoque positivo que supera las pruebas de phishing tradicionales.
