¡No te pierdas las noticias!
Añade a Teknoblog como fuente preferida en la Búsqueda de Google y nos verás más a menudo en las noticias más leídas.
El ex empleado de xAI, Devin Kim, ha presentado una demanda contra la empresa y su matriz, SpaceX, alegando que fue despedido por expresar sus preocupaciones sobre la seguridad de la inteligencia artificial. La demanda, presentada el martes ante un tribunal estatal de California, ha salido a la luz en un momento en el que se intensifican las expectativas en torno al proceso de salida a bolsa de SpaceX. Según la demanda, Kim alegó que, durante su etapa en xAI, no se tuvieron suficientemente en cuenta las medidas de seguridad en el desarrollo del chatbot de inteligencia artificial llamado Grok, y que alertó repetidamente a la dirección al respecto.
En el expediente de la demanda, analizado por TechCrunch, se señala que a Kim le preocupaba especialmente la posibilidad de que Grok fomentara la discriminación y contribuyera a la difusión de información relacionada con armas de destrucción masiva. En el texto de la demanda se recuerda que Grok ha sido objeto de críticas a lo largo del tiempo debido a diversos problemas de seguridad y comportamiento, y se alega que el hecho de que el modelo se haya relacionado en algunos momentos con el discurso del odio y contenidos extremistas corrobora las advertencias de Kim. En los documentos también se indica que, tras el uso por parte de Grok de expresiones que en un momento dado lo comparaban con Hitler, Kim llevó a cabo trabajos para reevaluar los sesgos políticos y las tendencias discriminatorias del modelo.
Pocos meses después de la salida de Kim de la empresa, Grok se vio envuelto en otra polémica. Las acusaciones de que el chatbot se había utilizado para difundir imágenes de contenido sexual no consentido en la plataforma X, propiedad de Elon Musk y que opera bajo el paraguas de xAI, causaron un gran revuelo. Estos acontecimientos han vuelto a poner sobre la mesa el debate sobre la seguridad de los sistemas de inteligencia artificial y el control de contenidos.
El expediente judicial también apunta a desacuerdos en la dirección de xAI
El texto de la demanda sitúa a Kim no solo como un empleado, sino también como un denunciante que alertó sobre las prácticas dentro de la empresa. Los documentos incluyen evaluaciones que indican que el enfoque de xAI respecto a la seguridad de la inteligencia artificial podría dar lugar a consecuencias ilegales en lo que respecta a la normativa de Internet, las normas de protección del consumidor, las prácticas comerciales desleales y la legislación sobre armas. A pesar de ello, la demanda no apunta directamente contra Elon Musk. Al contrario, los abogados de Kim alegan que Musk dio instrucciones para que se cumplieran las obligaciones legales y se realizaran las pruebas de seguridad necesarias.
PUEDE INTERESARLE
En el centro de las acusaciones se encuentra Jimmy Ba, uno de los socios fundadores de xAI. Se alega que Ba, que abandonó la empresa este año, se opuso a las peticiones de Kim en materia de medidas de seguridad e intentó silenciar a la empleada. Según el expediente del caso, Ba rechazó varias propuestas relacionadas con la seguridad de la inteligencia artificial y adoptó comportamientos de represalia ante las repetidas quejas de Kim. En los documentos también se alega que Ba utilizó una expresión del tipo «De todos modos, la inteligencia artificial nos matará a todos» durante una reunión.
Otra alegación destacada en el expediente del juicio se refiere al periodo de agosto de 2025. Los abogados de Kim sostienen que, durante la evaluación de la versión Grok Code 1 en el marco de la normativa de la Unión Europea, Ba intentó eludir los procesos de prueba obligatorios tergiversando algunas características. En los documentos se indica que Ba prefirió publicar un modelo que, aunque supusiera un riesgo para la seguridad, pareciera más potente en lugar de uno de bajo rendimiento, y que Musk se vio obligado a intervenir en el proceso.
Se informa de que Kim tenía previsto presentar sus conclusiones a la empresa a mediados de septiembre de 2025, pero que, antes de que se llevara a cabo dicha presentación, Ba le convocó a una reunión. Según el expediente del juicio, en esta reunión se le pidió a Kim que abandonara la empresa, pero no se le proporcionó una justificación satisfactoria.
Kim, cuyos trabajos en el ámbito de la seguridad de la inteligencia artificial se remontan a antes de xAI, participó anteriormente en proyectos dentro de Scale AI para desarrollar datos de entrenamiento relacionados con la detección de contenido nocivo y el cumplimiento de las políticas de gobernanza. La semana pasada fue nombrado presidente de la organización sin ánimo de lucro Center for AI Safety, centrada en los riesgos de la inteligencia artificial. En la demanda presentada por Kim, además de solicitar indemnizaciones y sanciones penales, se pide que el tribunal declare que las actuaciones de xAI y SpaceX son contrarias a la ley.
🌡️❄️ BUENAS NOTICIAS PARA QUIENES BUSCAN REFRESCO: ¡CONTINÚAN LAS OFERTAS EN AIRE ACONDICIONADO! ❄️🌡️
Aire acondicionado inverter de pared Gree Aphro A++ de 12 000 BTU (instalación incluida)
Bosch Climate CL2001u 12 000 BTU A++ Aire acondicionado inverter, eficaz con tecnología de enfriamiento rápido
E.C.A. Ecotech ESA2112A100 R32 A++ 12 000 Btu Inverter Aire Acondicionado de Pared
Kaira DTXR35A 12 000 BTU/h A++ Wifi Inverter Aire Acondicionado de Pared (Incluye instalación)
Baymak Elegant Plus 12 A++ 12 000 BTU, aire acondicionado de pared con inversor (Incluye instalación)
Teknoblog tiene programas de afiliados. Estos no influyen en el contenido editorial, pero Teknoblog puede obtener una comisión por los productos comprados a través de los enlaces de afiliados.