La IA cambia el enfoque de la ciberseguridad de encontrar fallas a solucionarlas
Uno de los desafíos más difíciles de la ciberseguridad siempre ha sido encontrar vulnerabilidades antes de que lo hagan los atacantes. Un número creciente de profesionales de la seguridad ahora dice que la inteligencia artificial está cambiando esa ecuación, cambiando el enfoque del descubrimiento de fallas a su reparación lo suficientemente rápido como para evitar la explotación.
En el centro de ese cambio se encuentra el Proyecto Glasswing de Anthropic, una iniciativa de ciberseguridad que proporciona a organizaciones seleccionadas acceso a Claude Mythos Preview, un modelo avanzado de IA diseñado para identificar vulnerabilidades de software y posibles rutas de ataque.
Según Anthropic, el Proyecto Glasswing se ha expandido a más de 150 organizaciones en más de 15 países y ha ayudado a identificar más de 10,000 vulnerabilidades de gravedad alta o crítica en organizaciones y proyectos de software participantes. Las cifras fueron reveladas por la empresa en los materiales que describen la iniciativa.
El programa ganó atención adicional recientemente cuando BT Group se convirtió en la primera empresa del Reino Unido en unirse públicamente a la iniciativa. Según BT e informes de TecnologíaRadarla empresa de telecomunicaciones planea utilizar la tecnología para fortalecer las defensas en sus redes y sistemas de clientes. BT dijo que actualmente bloquea aproximadamente 4 millones de ataques cibernéticos cada día.
El desarrollo refleja una tendencia más amplia en la que las empresas de IA están posicionando modelos avanzados como herramientas de ciberseguridad para gobiernos, operadores de infraestructura crítica y grandes empresas.
Según Anthropic, los participantes del Proyecto Glasswing incluyen organizaciones de sectores como telecomunicaciones, atención médica, energía y gobierno. La compañía también incluye a importantes empresas tecnológicas y financieras, incluidas Microsoft, Google, Apple, Nvidia, Amazon Web Services, CrowdStrike, Cisco y JPMorgan Chase como participantes o colaboradores en esfuerzos relacionados con la ciberseguridad.
Los expertos en seguridad dicen que una de las ventajas más importantes de la IA es su capacidad para analizar rápidamente grandes bases de código e identificar relaciones entre vulnerabilidades que pueden ser difíciles de reconocer para los analistas humanos.
Según informes de El diario de Wall Streetlos ejecutivos de Visa involucrados en la iniciativa dijeron que el modelo Claude Mythos Preview puede conectar múltiples vulnerabilidades de menor gravedad en cadenas de ataques realistas, ayudando a los defensores a identificar riesgos que de otro modo podrían pasar desapercibidos.
Sin embargo, la promesa de la tecnología va acompañada de preocupaciones sobre su mal uso.
Anthropic ha declarado que Claude Mythos Preview no está ampliamente disponible porque las mismas capacidades que pueden ayudar a los defensores a identificar vulnerabilidades podrían ayudar a los atacantes a localizar debilidades de manera más eficiente. La compañía ha dicho que el acceso está restringido a organizaciones examinadas debido a la preocupación de que los modelos avanzados de ciberseguridad puedan usarse con fines ofensivos si se divulgan ampliamente.
Esas preocupaciones se han vuelto cada vez más prominentes a medida que los gobiernos y los reguladores examinan las implicaciones de seguridad de los sistemas de inteligencia artificial fronterizos. Anthropic ha posicionado el Proyecto Glasswing como una iniciativa de ciberseguridad defensiva al tiempo que mantiene restricciones al acceso público al modelo subyacente.
El resultado es un creciente debate sobre si el mayor impacto de la IA en la ciberseguridad provendrá del fortalecimiento de las defensas, de la sofisticación de los ataques, o de ambas cosas.
Por ahora, los partidarios de esta tecnología argumentan que la IA está ayudando a las organizaciones a abordar un problema de larga data: la incapacidad de identificar y remediar vulnerabilidades con la suficiente rapidez. Si la tecnología continúa mejorando, los profesionales de la ciberseguridad dicen que el cuello de botella quizás ya no sea encontrar fallas, sino determinar cuáles corregir primero.
Las actualizaciones sobre el Proyecto Glasswing están disponibles aquí en el sitio de Anthropic.
Sobre el autor
John K. Aguas es el editor en jefe de varios sitios Converge360.com, centrándose en el desarrollo de alto nivel, la inteligencia artificial y la tecnología del futuro. Ha estado escribiendo sobre tecnologías de vanguardia y la cultura de Silicon Valley durante más de dos décadas y ha escrito más de una docena de libros. También coescribió el documental. Silicon Valley: un renacimiento de 100 añosque se transmitió por PBS. Se le puede contactar en [email protected].