NIST propone nuevas pautas de ciberseguridad para sistemas de IA
El Instituto Nacional de Normas y Tecnología (NIST) ha anunciado planes para emitir un nuevo conjunto de pautas de ciberseguridad destinadas a salvaguardar los sistemas de inteligencia artificial (IA), citando preocupaciones crecientes sobre los riesgos vinculados a modelos generativos, análisis predictivos y agentes autónomos.
El documento conceptual describe un marco llamado control de control para asegurar los sistemas de IA (COSAIS), que adapta los estándares federales de ciberseguridad existentes (SP 800-53) para abordar vulnerabilidades únicas en la IA. NIST dijo que las superposiciones proporcionarán medidas de seguridad prácticas centradas en la implementación para las organizaciones que implementan tecnologías de IA, desde modelos de idiomas grandes hasta sistemas de toma de decisiones predictivas.
«Los sistemas de IA introducen riesgos que son distintos del software tradicional, particularmente en torno a la integridad del modelo, la seguridad de los datos de capacitación y el mal uso potencial», según el documento conceptual. «Al aprovechar los controles familiares SP 800-53, Cosais ofrece una base técnica que las organizaciones pueden adaptarse a las amenazas específicas de la IA».
Las superposiciones iniciales cubrirán cinco categorías de uso: aplicaciones AI generativas como chatbots y generadores de imágenes; sistemas de IA predictivos utilizados en negocios y finanzas; sistemas AI de agente único y múltiples diseñados para la automatización; y asegurar prácticas de desarrollo de software para desarrolladores de IA. Cada superposición abordará los riesgos para modelar la capacitación, la implementación y las salidas, con un enfoque en la protección de la confidencialidad, la integridad y la disponibilidad de datos.
El esfuerzo se basa en el marco de gestión de riesgos de IA existente de NIST y las pautas relacionadas sobre el aprendizaje automático adversario y los modelos de cimientos de doble uso. Cosais también complementará el trabajo de la agencia en un perfil de marco de ciberseguridad para la IA, asegurando la consistencia en los enfoques de gestión de riesgos.
NIST está invitando a los comentarios de los desarrolladores de IA, los profesionales de la ciberseguridad y los grupos de la industria en el borrador, incluido si los casos de uso propuestos capturan patrones de adopción del mundo real y cómo se deben priorizar las superposiciones. La agencia planea publicar un borrador público de la primera superposición en el año fiscal 2026, junto con un taller de partes interesadas.
Las partes interesadas pueden compartir comentarios por correo electrónico o mediante un canal de holgura dedicado al proyecto.
Para obtener más información, visite el sitio NIST.
Sobre el autor
John K. Waters es el editor en jefe de varios sitios de converge360.com, con un enfoque en el desarrollo de alta gama, la IA y la tecnología futura. Ha estado escribiendo sobre tecnologías de vanguardia y cultura de Silicon Valley durante más de dos décadas, y ha escrito más de una docena de libros. También co-scrito la película documental Silicon Valley: un renacimiento de 100 añosque se emitió en PBS. Se le puede contactar en [email protected].