Crisis de seguridad y polémica por los despidos en OpenAI

Tres investigadores de seguridad en inteligencia artificial, a quienes OpenAI ha despedido, han impugnado las decisiones de despido mediante una carta abierta. Jasmine Wang, Mikita Balesni y Tomek Korbak sostuvieron que las declaraciones públicas de la empresa sobre ellos podrían dificultar que otros empleados expresaran sus preocupaciones en materia de seguridad. Los investigadores señalaron que la comunicación con organizaciones independientes de seguridad —que antes se fomentaba en OpenAI— genera ahora incertidumbre entre los empleados. Se indicó que la forma en que la empresa ha hecho pública su decisión podría tener un efecto disuasorio sobre los empleados. Los tres investigadores subrayaron la necesidad de mantener un ambiente de debate abierto dentro de la empresa en un momento en el que la seguridad de los sistemas de inteligencia artificial cobra cada vez más importancia.

OpenAI despidió la semana pasada a tres empleados por la supuesta divulgación de información a una organización externa dedicada a la seguridad de la inteligencia artificial. En el comunicado emitido por la empresa, se señaló que las personas en cuestión habían infringido las políticas relativas al acceso a información corporativa confidencial y al uso de dicha información. OpenAI también había argumentado que estas conductas habían dañado la relación de confianza en el entorno laboral. Sin embargo, la decisión ha suscitado debates sobre las prácticas de la empresa en el ámbito de la seguridad de la inteligencia artificial. En particular, el despido de los investigadores de seguridad, en un momento en el que están en el punto de mira las acusaciones de que los agentes de inteligencia artificial de OpenAI están relacionados con ciberataques graves y potencialmente ilegales dirigidos contra Hugging Face y otras organizaciones, ha llamado la atención de algunos legisladores.

Los investigadores de seguridad de OpenAI sostienen que la cultura de trabajo dentro de la empresa ha cambiado

Tres antiguos empleados señalaron en una carta conjunta que las declaraciones realizadas tanto dentro como fuera de la empresa tras sus despidos habían afectado negativamente a sus antiguos compañeros de trabajo. Según los investigadores, algunas prácticas que antes se consideraban un elemento natural del entorno laboral en OpenAI ahora se perciben como un riesgo para los empleados. En la carta se recuerda que, en el pasado, se podían expresar abiertamente las preocupaciones relacionadas con la seguridad y se podían cuestionar las decisiones tomadas dentro de la empresa. Además, se señala que se animaba a los empleados a recurrir a la experiencia de organismos de seguridad independientes. Los investigadores señalaron que este enfoque era una de las razones por las que se sentían orgullosos de trabajar en OpenAI.

Wang, Balesni y Korbak defendieron que, durante el tiempo que desempeñaron sus funciones, actuaron de acuerdo con la misión de OpenAI y las prácticas laborales vigentes. No obstante, señalaron que su despido podría indicar que las normas y expectativas dentro de la empresa han cambiado. Según los investigadores, la situación actual hace que los empleados no dispongan de información suficientemente clara sobre qué comportamientos son aceptables. En particular, la falta de claridad sobre los límites de la comunicación con organismos de seguridad externos podría dificultar la realización de investigaciones en materia de seguridad. En la carta se subrayó que esta incertidumbre no solo afecta a las tres personas despedidas, sino también a los investigadores que siguen trabajando en la empresa.

Los antiguos empleados también aclararon algunas de las acusaciones vertidas contra ellos. Afirmaron que no eran la fuente de información de la noticia publicada por The Information, que abordaba las nuevas arquitecturas de modelos de OpenAI, cuyo comportamiento resulta más difícil de supervisar. Además, rechazaron la acusación de haber establecido relaciones con personas y organizaciones ajenas a la empresa que excedieran el ámbito de sus funciones. Los investigadores afirmaron que la comunicación con terceros se llevó a cabo en coordinación y tras consultar con los miembros del consejo de administración y los altos directivos. Por su parte, Jasmine Wang explicó que, cuando hizo clic por error en un correo electrónico que contenía información confidencial, informó de la situación a un directivo de la empresa.

Baseus Energeek GR11: batería externa que también carga el portátil, 3.823,20 TL en la cesta

Comprar

Apple Watch Series 9: modelo de 41 mm con conexión móvil, 21 849,05 TL en la cesta

Comprar

Havit H2039BG: Auriculares para gamers con tres opciones de conexión, 1.999 TL

Comprar

EZVIZ DP2C: videoportero con pantalla, 5.999 TL

Comprar

Huawei WiFi Mesh X1 Pro: Wi-Fi 7 y cuatro puertos de 2,5 Gbps, 5.999 TL

Comprar

Ver todo Reducir

Ver todas las ofertas

PUBLICIDAD — Este contenido incluye enlaces de afiliados. Teknoblog puede obtener una comisión por las compras realizadas a través de estos enlaces.

La carta también incluía diversas peticiones dirigidas a la dirección de OpenAI. Los investigadores señalaron que la empresa debía cumplir con los compromisos de auditoría de seguridad independiente que había anunciado previamente al público. Se solicitó que el despido de los tres empleados no se utilizara como pretexto para alejarse de la colaboración con organismos de seguridad externos. Además, se hizo hincapié en la necesidad de preservar la trazabilidad del comportamiento de los modelos avanzados de inteligencia artificial. Los investigadores también exigieron que se mantuviera una comunicación abierta y transparente entre los equipos de seguridad y la comunidad externa dedicada a la seguridad de la inteligencia artificial.

Jasmine Wang, en una publicación en X, transmitió que la dirección de OpenAI había afirmado estar de acuerdo en gran medida con las opiniones expresadas en la carta. No obstante, señaló que persistían sus preocupaciones respecto al enfoque de la empresa en materia de apertura y transparencia. Wang defendió que ellos no eran los primeros empleados que se habían visto obligados a abandonar OpenAI en circunstancias sospechosas. Sostuvo que, si los empleados no alzan la voz contra este tipo de prácticas, podrían repetirse incidentes similares. Según Wang, la situación actual transmite el mensaje de que plantear inquietudes de seguridad al personal que permanece en la empresa o colaborar estrechamente con grupos de seguridad independientes podría suponer un riesgo de despido.