Caitlin Kalinowski, una de las principales responsables de los proyectos de hardware robótico de OpenAI, ha anunciado su dimisión. La salida de Kalinowski ha llamado la atención del mundo tecnológico, ya que se produce inmediatamente después del acuerdo alcanzado por la empresa con el Departamento de Defensa de EE. UU. en el ámbito de la inteligencia artificial. La exdirectiva explicó en una declaración realizada a través de la plataforma de redes sociales X que su decisión se debía a serias preocupaciones relacionadas con cuestiones de gobernanza y ética. En concreto, señaló que el proceso de anuncio público del acuerdo se había llevado a cabo con demasiada rapidez y que no se habían debatido suficientemente los límites de seguridad necesarios. A pesar de ello, OpenAI defendió que el acuerdo se había llevado a cabo dentro de ciertos límites éticos.
Kalinowski se incorporó a OpenAI a finales de 2024 y dirigió las actividades de desarrollo de hardware de la empresa en el campo de la robótica. Este experimentado ingeniero, que anteriormente trabajó en Meta, es conocido por haber participado en proyectos de realidad aumentada y hardware avanzado. Su función en OpenAI se centraba en el desarrollo de la infraestructura física de las plataformas robóticas y en la integración de estos sistemas con modelos de inteligencia artificial. Sin embargo, tras el anuncio del acuerdo con el Pentágono, las críticas de Kalinowski llevaron a la opinión pública los debates internos de la empresa.
El acuerdo entre OpenAI y el Pentágono y los debates éticos
En su publicación, Kalinowski destacó dos cuestiones críticas en particular. La primera era la posibilidad de que se vigilara a los ciudadanos estadounidenses sin control judicial; la segunda era la cuestión de los sistemas autónomos letales que pueden funcionar sin la aprobación humana. En su opinión, era necesario mantener un debate más amplio sobre este tipo de límites. Kalinowski afirmó que, antes de anunciarse el acuerdo, no se había definido claramente el marco ético necesario y que esto suponía un problema fundamental de gobernanza. Además, señaló que la decisión se había tomado con rapidez y que aún no se habían definido los mecanismos de seguridad necesarios.
OpenAI, por su parte, confirmó la salida de Kalinowski en una declaración a Engadget. La empresa informó de que no tenía previsto nombrar a una nueva persona para este puesto. Además, OpenAI reconoció que existen diferentes opiniones sobre el uso de la inteligencia artificial en el ámbito de la seguridad nacional y afirmó que seguirá debatiendo el tema con las partes interesadas. No obstante, la empresa subrayó claramente que no apoyaba algunos de los escenarios planteados por Kalinowski.
En su declaración, OpenAI defendió que el acuerdo con el Pentágono ofrecía un marco viable para «usos responsables en materia de seguridad nacional». Además, señaló que la empresa había establecido algunas líneas rojas. Entre estos límites, se mencionó específicamente que no se incluye el uso con fines de vigilancia dentro de los Estados Unidos y que no se apoyarán los sistemas de armas totalmente autónomos. Por otra parte, la dirección de OpenAI afirmó que deben protegerse claramente los límites éticos relacionados con el uso militar de la inteligencia artificial.
Este acontecimiento ha vuelto a poner sobre la mesa el debate sobre la colaboración entre las empresas de inteligencia artificial y las instituciones gubernamentales. De hecho, Anthropic también se ha visto envuelta recientemente en una polémica similar. La empresa no aceptó las peticiones de eliminar algunas restricciones de seguridad en ámbitos como el desarrollo de sistemas de vigilancia masiva o de armas totalmente autónomas. A pesar de ello, la colaboración con las instituciones de defensa es un tema cada vez más debatido en el sector tecnológico.
Además de todo esto, el director ejecutivo de OpenAI, Sam Altman, también mencionó que podrían surgir algunas regulaciones en relación con el acuerdo con el Pentágono. Altman dejó claro que no se plantearía ningún uso relacionado con la vigilancia de los ciudadanos estadounidenses.
Siga la actualidad del mundo tecnológico con los boletines de Teknoblog.