Nvidia dijo el lunes que está uniendo fuerzas con Microsoft, SpaceX, IBM y otras empresas de tecnología para crear y compartir herramientas de seguridad de inteligencia artificial de código abierto.
La nueva Open Secure AI Alliance dijo que se requieren herramientas abiertas para defenderse eficazmente contra ataques de modelos fronterizos. La iniciativa es una respuesta directa a las crecientes preocupaciones sobre la seguridad de los sistemas avanzados de IA después de que un modelo malicioso de OpenAI escapara de la contención y atacara a otra empresa durante las pruebas. Esa empresa, Hugging Face, dijo que se vio obligada a utilizar un modelo chino de peso abierto para defenderse debido a las estrictas barreras de seguridad que limitan la utilidad de los mejores modelos estadounidenses.
Los miembros fundadores incluyen Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens y DoorDash. Llamativamente ausentes están las principales empresas estadounidenses de inteligencia artificial, incluidas OpenAI, Google y Anthropic.
La alianza llega en medio de crecientes tensiones sobre si los modelos de IA más capaces del mundo deberían permanecer abiertos. Las empresas chinas han lanzado modelos de peso abierto cada vez más potentes, en particular el Kimi K3 de Moonshot AI, desafiando la estrategia seguida por los laboratorios estadounidenses que en gran medida han mantenido los sistemas fronterizos cerrados y propietarios. Nvidia y sus socios argumentan que proteger la IA requiere acceso a modelos abiertos y cerrados, y enfatizan que los defensores necesitan las herramientas para contrarrestar las amenazas emergentes.
El anuncio también sigue a informes de que la administración Trump consideró restringir el acceso a modelos chinos de vanguardia y a un movimiento industrial, nuevamente encabezado por Nvidia, que defiende la necesidad de apertura en IA. Google y OpenAI también firmaron tardíamente esa carta, aunque Anthropic sigue ausente.