Nueva herramienta rastrea el uso no autorizado de IA en todas las organizaciones
El proveedor de plataformas DevOps, JFrog, apunta a un desafío creciente para las empresas: los usuarios que implementan herramientas de inteligencia artificial sin la aprobación de TI. La compañía presentó recientemente Shadow AIDetection, una nueva característica diseñada para identificar y administrar implementaciones de inteligencia artificial no autorizadas que a menudo pasan desapercibidas.
La capacidad apunta a un problema que se ha acelerado junto con el auge de la IA: los desarrolladores y equipos incorporan modelos de IA y servicios externos en sus flujos de trabajo sin pasar por revisiones de seguridad o canales de gobernanza adecuados. Estas implementaciones no autorizadas, conocidas como IA en la sombra, pueden exponer a las organizaciones a infracciones de cumplimiento, fugas de datos y vulnerabilidades en la cadena de suministro. La herramienta de JFrog descubre automáticamente tanto modelos de IA propios como integraciones de API de terceros, brindando a los equipos de seguridad y cumplimiento visibilidad sobre el uso de IA que tal vez no sepan que existe.
«Reconocer y mitigar los riesgos de la IA en la sombra se está convirtiendo en una prioridad crítica», dijo Yuval Fernbach, vicepresidente y CTO de JFrog ML, en un comunicado. «Esta capacidad tiene como objetivo fortalecer la supervisión sin limitar la innovación».
A medida que los modelos de IA de proveedores como OpenAI, Anthropic y Google se integran cada vez más directamente en los flujos de trabajo, las organizaciones enfrentan desafíos crecientes al rastrear estas herramientas en todos los departamentos. La función de detección de JFrog inventaria automáticamente tanto los modelos desarrollados internamente como las API de terceros en uso, lo que permite una gobernanza centralizada.
Una vez detectada, la plataforma permite a los equipos implementar controles de acceso, hacer cumplir políticas de cumplimiento y auditar el uso en todos los entornos. La herramienta también admite el seguimiento de servicios de inteligencia artificial populares, incluidos OpenAI y Google Gemini.
El lanzamiento se produce en medio de regulaciones cada vez más estrictas sobre IA en Estados Unidos y Europa. JFrog dice que su función de detección está alineada con marcos emergentes, incluida la Ley de Transparencia en Fronteras de IA de EE. UU., la Ley de IA de la UE, la Ley de Resiliencia Cibernética y las Directrices BSI de Alemania. Estas regulaciones requieren cada vez más documentación sobre el uso de la IA, la transparencia de la cadena de suministro y controles de seguridad proactivos.
JFrog posiciona su plataforma de cadena de suministro de software, incluida la nueva herramienta Shadow AIDetection, como una respuesta tanto a los riesgos de gobernanza como a las demandas de cumplimiento global. La capacidad estará disponible a través del Catálogo de IA de la compañía, y se espera que esté disponible de manera general en 2025. Para obtener más información, visite el sitio de JFrog.
Sobre el autor
John K. Aguas es el editor en jefe de varios sitios Converge360.com, centrándose en el desarrollo de alto nivel, la inteligencia artificial y la tecnología del futuro. Ha estado escribiendo sobre tecnologías de vanguardia y la cultura de Silicon Valley durante más de dos décadas y ha escrito más de una docena de libros. También coescribió el documental. Silicon Valley: un renacimiento de 100 añosque se transmitió por PBS. Se le puede contactar en [email protected].