A medida que las herramientas de IA proliferan y se arraigan profundamente en el desarrollo de software en todo el mundo, una nueva investigación de la firma de ciberseguridad Crowdstrike muestra cómo los atacantes apuntan activamente a la cadena de herramientas de IA para robar credenciales de acceso, obtener un acceso más profundo a un entorno objetivo, filtrar datos confidenciales e incluso destruir archivos y sistemas objetivo, todo mientras encuentran nuevas formas de cubrir sus huellas.
Los investigadores descubrieron un gusano en la naturaleza mientras investigaban los ataques a la cadena de suministro de software de IA. Adam Meyers, vicepresidente senior de trabajo contra adversario de CrowdStrike, dice que la compañía aún no ha atribuido la actividad a un actor específico, pero que encaja en evoluciones más amplias en cómo atacantes como TeamPCP (que Crowdstrike rastrea como «Altered Spider») y grupos norcoreanos están apuntando a la cadena de suministro de software de IA.
«Esta es una de las campañas que hemos visto que muestra que se trata de una clase de ataque emergente», le dice Meyers a WIRED. «A medida que los agentes de codificación de IA se convierten en el estándar de desarrollo, las amenazas a la cadena de suministro están evolucionando para explotar esas relaciones de confianza. Por primera vez estamos experimentando cuánto ha jugado la IA y la cadena de herramientas de IA en el ecosistema tecnológico más amplio».
El gusano CrowdStrike identificado funciona por fases. Primero realiza un reconocimiento para evaluar el entorno objetivo. Luego busca tokens de acceso y otros datos confidenciales, como claves criptográficas y credenciales de acceso al servidor que puede entregar a los atacantes. A medida que el malware gana privilegios, se descomprime aún más y continúa obteniendo credenciales, particularmente tokens «npm» que dan acceso a servidores clave de administración de paquetes de software y otras capacidades de desarrollo como solicitudes de extracción.
Cuanto más profundamente penetre el malware en el sistema, más datos confidenciales podrá capturar. En este punto, el malware también puede desplegar su capacidad destructiva, o lo que Meyers llama un «interruptor de muerte», para destruir archivos o bloquear el acceso legítimo a la infraestructura comprometida.
Sin embargo, el hallazgo clave es que gran parte de la actividad maliciosa del gusano tiene lugar en lo que son esencialmente puntos ciegos, porque gran parte de su comportamiento imita acciones legítimas. «Es como una aguja en un pajar, excepto que esto es una aguja en un montón de agujas», dice Meyers. «Esto se parece mucho a lo que muchas organizaciones de automatización utilizan para crear código, por lo que es muy difícil de detectar».
Meyers añade también que en estos procesos de desarrollo de software de IA, es más difícil recopilar los puntos de datos que los escáneres de seguridad y las herramientas de análisis utilizan tradicionalmente para detectar actividades potencialmente sospechosas.
«Hay mucha superposición de telemetría porque los sistemas de codificación de IA legítimos funcionan de la misma manera que este gusano, por lo que resulta muy difícil discernir a partir de la telemetría que tienes disponible qué es legítimo y qué es ilegítimo», dice Meyers.
Para ocultarse a simple vista de manera aún más insidiosa, los autores del gusano incluyeron retrasos en el tiempo en los que varias capacidades se ejecutarán horas o incluso días después de que se hayan sentado las bases, lo que hace aún más difícil para los defensores establecer una causa y efecto de ciertos eventos que conducen a ciertos resultados.
Meyers dice que Crowdstrike ha estado trabajando en estrategias para conectar más puntos, pero enfatiza que a medida que se dispara el desarrollo de software de IA, existe una necesidad apremiante de que todos los actores colaboren en soluciones estructurales.
«Es una superficie de detección limitada porque gran parte de esta actividad en realidad va a producir algún tipo de señal de telemetría para que la miremos», dice Meyers, «por lo que resulta extremadamente oneroso determinar qué es un comportamiento legítimo y qué es ilegítimo».