En Resumen
- Un hacker ha lanzado WormGPT, una versión maliciosa de ChatGPT de OpenAI, para llevar a cabo ataques de phishing efectivos.
- WormGPT ha sido diseñado específicamente para actividades maliciosas y se utiliza en ataques de compromiso de correo electrónico empresarial.
- La tecnología de generación de IA facilita la creación de correos electrónicos fraudulentos convincentes, aumentando el riesgo de los ataques de phishing.
Un hacker de sombrero negro ha lanzado una versión maliciosa de ChatGPT de OpenAI llamada, que luego se utilizó para crear un ataque de phishing por correo electrónico efectivo en miles de víctimas.
WormGPT, basado en el modelo de lenguaje grande o LLM GPTJ desarrollado en 2021 por EleutherAI, está diseñado específicamente para actividades maliciosas, según un informe de la empresa de ciberseguridad SlashNext. Las características incluyen soporte ilimitado de caracteres, retención de memoria de chat y formato de código, y WormGPT ha sido entrenado en conjuntos de datos relacionados con malware.
Los ciberdelincuentes están utilizando WormGPT para lanzar un tipo de ataque de phishing conocido como ataque de compromiso de correo electrónico empresarial (BEC, por sus siglas en inglés).
"La diferencia [con WormGPT] es que ChatGPT tiene salvaguardias para protegerse contra casos de uso ilegales o maliciosos", dijo David Schwed, director de operaciones de la empresa de seguridad blockchain Halborn, a Decrypt en Telegram. "[WormGPT] no tiene esas salvaguardias, por lo que puedes pedirle que desarrolle malware para ti".
Los ataques de phishing son una de las formas más antiguas, pero más comunes de ciberataque, y se ejecutan comúnmente a través de correos electrónicos, mensajes de texto o publicaciones en redes sociales bajo un nombre falso. En un ataque de compromiso de correo electrónico empresarial, un atacante se hace pasar por un ejecutivo o empleado de la empresa y engaña al objetivo para que envíe dinero o información confidencial.
Gracias a los avances rápidos en la IA generativa, los chatbots como ChatGPT o WormGPT pueden escribir correos electrónicos convincentes que parecen humanos, dificultando la posibilidad de detectar mensajes fraudulentos.
SlashNext dice que tecnologías como WormGPT bajan el umbral para llevar a cabo ataques de compromiso de correo electrónico empresarial efectivos, empoderando a atacantes menos habilidosos y creando así un grupo más grande de posibles ciberdelincuentes.
Para protegerse contra los ataques de compromiso de correo electrónico empresarial, SlashNext recomienda que las organizaciones utilicen una verificación de correo electrónico mejorada, que incluya alertas automáticas para correos electrónicos que se hagan pasar por figuras internas y que marquen los correos electrónicos con palabras clave como "urgente" o "transferencia bancaria" que suelen estar relacionadas con el compromiso de correo electrónico empresarial.
Con la amenaza cada vez mayor de los ciberdelincuentes, las empresas están buscando constantemente formas de protegerse a sí mismas y a sus clientes.
En marzo, Microsoft, uno de los mayores inversores en OpenAI, creador de ChatGPT, lanzó una herramienta de inteligencia artificial generativa enfocada en la seguridad llamada Security Copilot. Security Copilot utiliza la inteligencia artificial para mejorar las defensas de ciberseguridad y la detección de amenazas.
"En un mundo donde hay 1,287 ataques de contraseñas por segundo, las herramientas e infraestructura fragmentadas no han sido suficientes para detener a los atacantes", dijo Microsoft en su anuncio. "Y aunque los ataques han aumentado un 67% en los últimos cinco años, la industria de la seguridad no ha podido contratar suficientes profesionales de ciberriesgos para mantener el ritmo".
SlashNext aún no ha respondido a la solicitud de comentarios de Decrypt.