Google anunció ayer que lanzó un nuevo programa de premios para encontrar errores en productos de inteligencia artificial.
Para eliminar las acciones maliciosas en los productos de Google 20 mil dólares Se otorga el premio. Esto incluye aplicaciones básicas del espacio de trabajo como Search, Gemini Apps, Gmail y Drive, los productos insignia de la compañía. El nuevo programa de premios también tiene multiplicadores y bonificación de innovación para la calidad de los informes. Cantidad total del premio Hasta 30 mil dólares puede salir.
Los ejemplos de la lista de errores de Google incluyen un comando de fuga de datos que resume todos los correos electrónicos y envía un resumen a la cuenta del atacante, o colocación indirectamente un comando de inteligencia artificial que hace que Google Home abra la puerta.
Dentro del alcance del nuevo programa, exactamente cuál es el error de inteligencia artificial. Estos errores se clasifican como problemas que dañan o se benefician de una vulnerabilidad utilizando un modelo de lenguaje grande o un sistema productivo de inteligencia artificial. Esto incluye la cuenta de una persona, datos, seguridad o cambiarlos para hacer algo no deseado.
Google ha invitado oficialmente a los investigadores de inteligencia artificial a encontrar un error oficial para eliminar la probabilidad de abuso de las características de inteligencia artificial en sus productos hace dos años. Los cazadores de errores han ganado más de $ 430,000 premios hasta ahora.
Además del nuevo programa de premios de inteligencia artificial, Google también anunció el agente de inteligencia artificial Codemander, quien no persiguió los códigos vulnerables ayer. La compañía afirma que el uso de este agente ha llevado a cabo 72 correcciones de seguridad para proyectos de código abierto examinados por investigadores humanos.