microsoft el mes pasado Una denuncia presentada ante el Tribunal de Distrito de los Estados Unidos para el Distrito Este de Virginia y que un grupo no identificado de 10 personas desarrolló y utilizó deliberadamente herramientas para eludir las barreras de seguridad de los productos de inteligencia artificial en la nube. reclamado.
Supuestamente, el grupo; Usó credenciales de clientes robadas y software especialmente diseñado para ingresar al servicio Azure OpenAI de Microsoft. Según la información contenida en la denuncia, los sospechosos accedieron ilegalmente al software y servidores de Microsoft para crear contenido ofensivo, dañino e ilegal. Los sospechosos están acusados de violar la Ley de Abuso y Fraude Informático, la Ley de Derechos de Autor del Milenio Digital y un estatuto federal contra el crimen organizado.
Según el expediente de denuncia de Microsoft; En julio de 2024, se utilizaron claves API de clientes con credenciales del servicio Azure OpenAI. Microsoft descubrió que las claves API fueron robadas a clientes que pagaban. Sin embargo, no se sabe exactamente cómo se robaron las claves API.
Según el reclamo de Microsoft; Los demandados crearon un esquema de piratería como servicio utilizando claves API del servicio Azure OpenAI robadas que pertenecían a clientes con sede en EE. UU. Para llevar a cabo este plan, los sospechosos crearon una herramienta del lado del cliente llamada de3u. Esto permitió el procesamiento y reenvío de comunicaciones desde de3u a los sistemas de Microsoft.
De3u permitió a los usuarios aprovechar claves API robadas para crear imágenes utilizando DALL-E, uno de los modelos OpenAI disponibles para los clientes del servicio Azure OpenAI. De3u también intentó evitar que el servicio Azure OpenAI revisara las indicaciones utilizadas para crear imágenes.
Tras este incidente, Microsoft anunció que había implementado contramedidas. La compañía también anunció que agregó medidas de seguridad adicionales al servicio Azure OpenAI.