AbiertoAIestá reestructurando el lado de la preparación para abordar de manera más sistemática los riesgos que surgen a medida que los modelos de inteligencia artificial se vuelven cada vez más complejos y efectivos. La empresa cubrirá áreas de riesgo que van desde la ciberseguridad hasta la bioseguridad, desde escenarios de abuso hasta impactos en la salud mental. Jefe de Preparación está buscando un nuevo gerente para su puesto.
Este rol será responsable de la estrategia técnica y la implementación del marco que OpenAI denomina «Preparedness Framework», que tiene como objetivo detectar de antemano los graves daños que las capacidades fronterizas de inteligencia artificial pueden causar. Posición por definición; Tiene voz directa en puntos de decisión críticos, como el modelado de amenazas, evaluaciones de capacidad, determinación de umbrales de riesgo e imposición de medidas de seguridad adicionales o restricciones de distribución cuando sea necesario. Esto sitúa el papel más allá de una simple posición teórica de seguridad, hacia un centro operativo que influye en cuándo y bajo qué condiciones se introducirán nuevos modelos.
Tu posición, OpenAI Sistemas de seguridad Se espera que esté posicionado dentro de la organización y trabaje en estrecha colaboración con los equipos de investigación, productos y políticas. Salario base anual aproximado anunciado 550-555 mil dólares nivel y ofrecer además opciones sobre acciones revela lo importante que es para la empresa esta tarea.
Esta contratación sigue a una reciente oleada de actividad en el liderazgo de seguridad de OpenAI. anterior de la empresa Cambio de director de Preparación, Aleksander Madry, a un rol diferenteluego compartir temporalmente esta responsabilidad entre los altos directivos hizo más visible la necesidad de un líder permanente en el campo. Sam Altman en sus últimas declaracionesdescribe este papel como “una posición crítica en un período crítico”, especialmente porque la inteligencia artificial ha alcanzado un nivel en el que puede encontrar vulnerabilidades críticas en la seguridad informática y sus posibles efectos en la salud mental.
Especialmente en los últimos meses, las crecientes discusiones y demandas sobre los efectos psicológicos de la inteligencia artificial generativa en los usuarios han fortalecido la necesidad de que OpenAI aborde esta área con un marco más institucional. El nuevo Responsable de Preparación se posiciona como un indicador de que la empresa gestionará con la misma seriedad no sólo el progreso tecnológico sino también los efectos secundarios de este progreso.