Suchir Balaji, investigador de inteligencia artificial de 26 años y antiguo empleado de OpenAI, fue hallado muerto en su apartamento de San Francisco el 26 de noviembre. La muerte de Balaji se ha convertido en el centro de debates éticos y jurídicos en el mundo de la inteligencia artificial. En un comunicado del Departamento de Policía de San Francisco, se informó de que no había sospechas de juego sucio en la investigación inicial. Las autoridades de medicina forense de la ciudad confirmaron que la causa de la muerte fue un suicidio. Este trágico suceso ha reavivado tanto las críticas de Balaji como las actuales cuestiones éticas en torno a los modelos de inteligencia artificial.
Durante su etapa en OpenAI, Balaji contribuyó al desarrollo de potentes modelos de inteligencia artificial como GPT-4. Sin embargo, tras abandonar la empresa, criticó con frecuencia los métodos de OpenAI para recopilar datos de Internet y sus prácticas en materia de derechos de autor. «Durante el entrenamiento de modelos generativos de IA, la copia no autorizada de contenidos protegidos por derechos de autor puede constituir una infracción potencial de los derechos», escribió en un artículo publicado en su web personal. Balaji también hizo hincapié en los efectos negativos de tales métodos en el ecosistema de Internet.
¿Cuál es el alcance de las críticas de Balaji a ChatGPT?
Las críticas de Balaji no se limitaban a cuestiones técnicas, sino que también se centraban en la sostenibilidad de Internet. Según él, el entrenamiento de modelos de inteligencia artificial utilizando contenidos gratuitos en línea estaba reduciendo el valor de las comunidades de conocimiento en línea. En concreto, señaló que plataformas como Stack Overflow, muy utilizadas por los desarrolladores de software, han experimentado un grave descenso en el número de usuarios. El hecho de que modelos como ChatGPT y GPT-4 respondan directamente a las preguntas de los usuarios impide que estas plataformas, que requieren la intervención humana, generen nuevos contenidos.
Esto amenaza no sólo el intercambio de información, sino también la existencia de comunidades que producen contenidos. Por ejemplo, Balaji explicó cómo ChatGPT redujo el tráfico de Stack Overflow al responder preguntas de codificación. Sin embargo, este rápido aumento del uso de grandes modelos lingüísticos también ha avivado los debates sobre las normas éticas y las infracciones de los derechos de autor.
Las críticas de Balaji coinciden con varias demandas por derechos de autor contra OpenAI y Microsoft. Por ejemplo, The New York Times presentó una demanda contra OpenAI el año pasado, alegando que su contenido fue copiado sin permiso y utilizado en el entrenamiento de modelos de inteligencia artificial. Por otro lado, las declaraciones de OpenAI afirman que la empresa recopila datos de acuerdo con los principios del «uso justo». Sin embargo, figuras como Balaji sostienen que estos principios son vagos y que se necesita una regulación más clara en el sector.
«Los chatbots eliminan el valor comercial del trabajo de la gente», dijo Balaji en una entrevista con The New York Times, y añadió que este modelo haría insostenible el ecosistema de Internet a largo plazo. De forma similar, Elon Musk calificó esta situación como «la muerte causada por los LLM» y llamó la atención sobre el daño de este fenómeno en el ecosistema digital.
La trágica muerte de Balaji vuelve a poner de relieve el delicado equilibrio entre las tecnologías de inteligencia artificial y las normas éticas. En particular, se prevé que sigan aumentando los debates sobre la conformidad de los datos utilizados en el desarrollo de grandes modelos lingüísticos con los derechos de autor y el impacto de estos procesos en la sociedad. Está claro que todas las partes interesadas del sector deberían adoptar un enfoque más transparente.
La crítica de Balaji arroja una luz importante sobre cómo las tecnologías de inteligencia artificial están afectando a los modelos de negocio existentes y al intercambio de información en línea. También es un recordatorio de que las responsabilidades éticas no sólo recaen en las empresas que desarrollan la tecnología, sino también en las comunidades de usuarios y los reguladores. El futuro de la IA parece depender de nuestra capacidad para mantener estos delicados equilibrios.