La Casa Blanca lanza un nuevo marco de seguridad de IA
El presidente Donald Trump ha emitido una nueva orden ejecutiva destinada a mantener el liderazgo de la IA en Estados Unidos y al mismo tiempo abordar los riesgos de seguridad que plantean los sistemas de IA cada vez más potentes.
La última versión de la orden crea un proceso de revisión voluntaria para modelos avanzados de IA, se centra en la ciberseguridad y la infraestructura crítica y evita una regulación estricta.
Trump se había negado a firmar una orden de IA el 21 de mayo después de expresar preocupaciones de que podría dejar a Estados Unidos vulnerable a perder terreno frente a China en la carrera de IA, informó Associated Press.
Según la orden, las empresas de inteligencia artificial pueden proporcionar sus modelos más avanzados al gobierno federal antes de su divulgación pública, lo que permitirá a los funcionarios evaluar los posibles riesgos de seguridad. El proceso de revisión está limitado a 30 días.
La orden también exige la creación de un centro de intercambio de información sobre seguridad cibernética para compartir información sobre los riesgos y vulnerabilidades de la IA, y afirma: «Las capacidades avanzadas de la IA fortalecen a nuestra nación, pero también introducen nuevas consideraciones de seguridad nacional».
Otro tema importante de conversación de la orden es la libertad de acción para las empresas de inteligencia artificial. La orden busca aflojar el lazo sobre la regulación excesiva o los requisitos de licencia que, según el gobierno, podrían frenar la innovación y la competitividad. Fundamentalmente, la participación en el proceso de revisión es voluntaria y no obligatoria.
«Necesitamos lograr el equilibrio adecuado entre acelerar la innovación en IA de EE. UU. y garantizar que los modelos avanzados se prueben para detectar riesgos antes de un despliegue más amplio», dijo Katharina Sommer, jefa de grupo de Asuntos Gubernamentales de la consultora de ciberseguridad NCC Group. «La orientación voluntaria por sí sola no es suficiente. Los niveles de riesgo actuales, combinados con la aceleración de los modelos de frontera, significan que depender únicamente de asesoramiento no vinculante dejaría las vulnerabilidades sistémicas sin gestionar».
«En resumen, no debemos sacrificar la seguridad en nombre de la velocidad, sino evitar el ‘congelamiento’ regulatorio mediante el uso de obligaciones escalonadas o adaptativas respaldadas por marcos de mejores prácticas globales», dijo Sommer.
Las grandes empresas de inteligencia artificial con sede en Estados Unidos, como Anthropic, OpenAI y Google, conocidas como frontier labs, esperaban evitar la aprobación gubernamental obligatoria antes de sus lanzamientos.
Por otro lado, a los funcionarios de seguridad nacional les preocupaba que los modelos de IA de vanguardia pudieran identificar vulnerabilidades, acelerar los ciberataques o crear otros riesgos de seguridad.
La orden ejecutiva proporciona información sobre cómo la Casa Blanca espera que este marco pueda ayudar a Estados Unidos a liderar la carrera de la IA y gestionar los riesgos de la IA simultáneamente, sin imponer regulaciones estrictas a los actores más importantes de la industria.
La orden ejecutiva completa está disponible aquí en el sitio de la Casa Blanca.