Las mismas herramientas de IA que adoran tus desarrolladores se están usando para hackearlos
Hay una ironía particular en las noticias de seguridad de esta semana que merece atención. El 22 de abril, investigadores revelaron que un grupo de hackers patrocinado por el estado norcoreano había robado 12 millones de dólares a desarrolladores de criptomonedas en tres meses, usando ChatGPT y Cursor para escribir su malware. Luego, el 30 de abril, se descubrió que PyTorch Lightning, uno de los frameworks de IA/ML más populares del mundo, había sido comprometido en un ataque a la cadena de suministro diseñado para robar credenciales.
Misma semana. Dos vectores de amenaza diferentes. Un hilo común: las herramientas de IA ya no son solo tu capa de productividad. Son la superficie de ataque.
---
"Vibe Coding" Malware ya es una realidad
Comencemos con HexagonalRodent, el desafortunadamente nombrado grupo de hackers norcoreano perfilado por Expel a finales de abril. Los investigadores encontraron algo que hace dos años habría sonado a sátira: hackers usando herramientas de IA para "vibe codear" su malware.
Para contexto: el vibe coding es la práctica de pedir a una IA que escriba software funcional sin tener que entender realmente lo que estás construyendo. Es lo que ha hecho que personas sin conocimientos de programación se sientan desarrolladores. Resulta que también está haciendo que personas sin conocimientos se sientan hackers.
Según la investigación, HexagonalRodent usó ChatGPT y Cursor para escribir malware que roba credenciales, luego usó herramientas de diseño de IA separadas para crear sitios web falsos convincentes. Se acercaban a desarrolladores de criptomonedas con ofertas de trabajo fabricadas, los atraían para descargar una "tarea de programación" que en realidad era malware y vaciaban sus carteras. El botín: 12 millones de dólares en alrededor de 2,000 máquinas comprometidas.
El grupo no era sofisticado. Ese es el punto.
Marcus Hutchins, el investigador de seguridad que eliminó WannaCry, lo expresó claramente: "Estos operadores no tienen las habilidades para escribir código. No tienen las habilidades para configurar infraestructura. La IA realmente les está permitiendo hacer cosas que de otro modo no podrían hacer."
Los hackers incluso dejaron expuesto su historial de prompts de ChatGPT en infraestructura no segura, lo que permitió a los investigadores confirmar exactamente qué herramientas de IA usaron. Los prompts estaban llenos de errores ortográficos y gramaticales: los humanos detrás de esta campaña genuinamente no podían escribir código funcional sin ayuda de IA. Y aun así lograron un robo de 12 millones de dólares.
---
Mientras tanto, el framework en el que confía tu equipo de IA fue comprometido
Si la historia de Corea del Norte trata sobre la IA usada como arma ofensiva, la historia de PyTorch Lightning es algo más sutil y posiblemente más alarmante para los equipos de seguridad empresarial.
El 30 de abril, varias firmas de seguridad, Aikido Security, OX Security, Socket y StepSecurity, alertaron simultáneamente que las versiones 2.6.2 y 2.6.3 del paquete Python `lightning` habían sido comprometidas. PyTorch Lightning es ampliamente usado en desarrollo empresarial de IA y ML. Es un paquete común en entornos de ciencia de datos, pipelines de entrenamiento de modelos y estaciones de trabajo de desarrolladores en bancos, empresas de salud y tecnológicas.
Las versiones comprometidas contenían malware para robar credenciales. El ataque está vinculado a una campaña más amplia de la cadena de suministro llamada Mini Shai-Hulud que previamente afectó paquetes npm relacionados con SAP.
Ambas versiones han sido retiradas, pero aquí está la pregunta que todo equipo de seguridad debería plantearse ahora: ¿cuántos de tus desarrolladores instalaron esas versiones en la ventana de dos días entre publicación y detección? Y más importante aún, ¿sabes qué paquetes Python están usando tus equipos de IA/ML?
---
El problema de visibilidad del que nadie quiere hablar
Estos dos incidentes, tomados en conjunto, exponen una brecha que se ha ido ampliando durante los últimos 18 meses y que la mayoría de los equipos de seguridad empresarial aún no han abordado adecuadamente.
Tus desarrolladores están usando herramientas de IA. Muchas de ellas. Cursor, ChatGPT, GitHub Copilot, Claude, Codeium, y la lista sigue creciendo. Tus equipos de ciencia de datos están ejecutando PyTorch, Lightning, bibliotecas Hugging Face y cualquier framework de investigación más reciente que surja este trimestre. Esto es mayormente positivo. Las herramientas de IA están haciendo a tus equipos más productivos.
Pero tu equipo de seguridad probablemente tiene casi ninguna visibilidad sobre esta actividad. No saben qué herramientas han descargado los empleados, qué cuentas están usando, qué datos están introduciendo en esas herramientas ni si las propias herramientas han sido manipuladas.
Este es el mismo problema de IA en la sombra que los líderes de seguridad empresarial han sido advertidos en el contexto de ChatGPT y Copilot filtrando datos sensibles. Pero está evolucionando. La amenaza no es solo "empleados enviando documentos confidenciales a un chatbot de IA". Es:
- Paquetes de IA comprometidos que roban credenciales de máquinas de desarrolladores
- Sitios de phishing generados por IA que son convincentemente profesionales porque fueron creados con herramientas reales de diseño de IA
- Malware lo suficientemente pulido para evadir detección porque fue depurado iterativamente por un modelo de lenguaje
- Ofertas de trabajo falsas dirigidas a tus desarrolladores en LinkedIn, elaboradas con IA para ser personalizadas y plausibles
---
La Brecha de Detección Es Cada Vez Más Difícil de Cerrar
Lo que hace que la campaña HexagonalRodent sea particularmente preocupante es el vector. No enviaron correos masivos de phishing. Apuntaron a desarrolladores individuales, específicamente a personas que trabajan en pequeños lanzamientos de criptomonedas y proyectos Web3, con ofertas de trabajo personalizadas. Las empresas falsas tenían sitios web completos, textos profesionales y ofertas de empleo que parecían reales.
Personalizar una campaña de phishing a gran escala solía requerir mucho trabajo humano o conformarse con correos masivos evidentes. Ahora puedes usar IA para generar cebos personalizados de forma eficiente y luego usar otra herramienta de IA para construir la infraestructura que hace creíble el cebo.
Para los equipos de seguridad empresarial, esto significa que las estrategias de detección basadas en heurísticas de "esto no parece legítimo" son cada vez más insuficientes. Los ataques parecen legítimos porque fueron construidos con las mismas herramientas que tus empleados usan para trabajo legítimo.
---
Qué Hacer Realmente Al Respecto
Algunas cosas prácticas que vale la pena considerar:
Conoce qué herramientas de IA hay en tu entorno. Parece básico, pero la mayoría de las empresas no tienen una visión completa. La IA sombra, las herramientas de IA que los empleados usan sin conocimiento de TI o seguridad, sigue siendo un punto ciego importante. Si solo gestionas las herramientas autorizadas (Copilot, licencias empresariales aprobadas de ChatGPT), te estás perdiendo mucho.
Trata los paquetes de IA/ML como cualquier otro riesgo en la cadena de suministro. La vulneración de PyTorch Lightning se detectó rápido porque varios proveedores de seguridad vigilaban PyPI. Probablemente tus procesos internos no vigilen PyPI tan de cerca. Las herramientas de análisis de composición de software (SCA) que cubren paquetes Python y las políticas sobre fijación de versiones en proyectos de IA/ML son ahora más importantes.
Educa específicamente a los desarrolladores, no solo a "todos los empleados". La campaña HexagonalRodent se dirigió a desarrolladores. No porque sean menos conscientes de seguridad, sino porque son objetivos de alto valor que descargan y ejecutan código de desconocidos en internet con regularidad. Eso es comportamiento normal de desarrolladores: código abierto, gestores de paquetes, retos de programación. La formación en seguridad que no considera vectores de amenaza específicos para desarrolladores no tendrá impacto.
Vigila la calidad del phishing generado por IA, no solo el volumen. Los filtros antispam y las herramientas de detección de phishing se diseñaron para una era en la que el volumen y patrones evidentes eran señales fiables. Un correo de spear-phishing elaborado por IA dirigido a un desarrollador específico sobre un rol concreto en una empresa falsa con sitio web funcional es una clase de amenaza diferente.
---
La Imagen Más Amplia
Lo que más me impactó de la historia HexagonalRodent no fueron los 12 millones de dólares, sino los prompts expuestos. Estos hackers dejaron el historial de conversación de ChatGPT en infraestructura no segura, lleno de errores tipográficos y solicitudes de depuración iterativa. No eran hackers que aprendieron a usar IA. Eran personas que, por todas las indicaciones, no podían hacer este trabajo sin IA.
Eso no es tranquilizador. Es la nueva norma. La IA ha bajado el umbral de lo que se requiere para ejecutar un ciberataque de nivel profesional. Las personas que atacan a tus desarrolladores y tu infraestructura de IA/ML no necesitan ser competentes, solo necesitan acceso a las mismas herramientas que tus empleados ya usan.
Tu postura de seguridad debe tener eso en cuenta.
---
Aona ayuda a las empresas a descubrir, gobernar y monitorizar el uso de herramientas de IA en toda su plantilla, incluyendo la actividad de IA en la sombra que los equipos de seguridad no pueden ver. [Reserva una demo](/book-demo) para ver qué se está ejecutando en tu entorno.
