Anthrope, la compañía detrás del popular modelo de IA Claude, dijo en un nuevo informe de inteligencia de amenazas que interrumpió un esquema de extorsión de «piratería de vibos». En el informe, la compañía detalló cómo el cibercriminal amplió un ataque masivo contra 17 objetivos, incluidas entidades en gobierno, atención médica, servicios de emergencia y organizaciones religiosas.
(Puede leer el informe completo en este archivo PDF).
Anthrope dice que su tecnología Claude AI se utilizó como un «operador técnico y un operador activo, lo que permite ataques que serían más difíciles y requieren mucho tiempo para que los actores individuales se ejecuten manualmente». Claude se utilizó para «automatizar el reconocimiento, la recolección de credenciales y la penetración de la red a escala», dijo el informe.
Lo que hace que los hallazgos sean más inquietantes es que la llamada piratería de ambientes se consideraba una amenaza futura, y algunos expertos creían que aún no era posible. El informe de Anthrope puede haber revelado qué representa un cambio importante en cómo se utilizan modelos y agentes de IA para ampliar los ataques cibernéticos masivos, esquemas de ransomware o estafas de extorsión.
Por separado, Anthrope también ha estado tratando recientemente con otros problemas de IA, a saber, resolviendo una demanda por parte de los autores que afirman que Claude estaba capacitado en sus materiales con derechos de autor. Se demostró que otra compañía, perplejidad, ha estado lidiando con sus propios problemas de seguridad, ya que se demostró que su navegador Comet AI tiene una gran vulnerabilidad.