El director ejecutivo de Microsoft, Satya Nadella, dice que está entusiasmado con la AGI, al menos en lo que respecta a cómo la IA podría generar cambios sorprendentes en la estructura de la economía y cómo la política podría cambiar a causa de ella. “Estoy sujeto a AGI en el sentido de que, a nivel económico, ¿cuál es la organización de la economía política en torno a AGI?” preguntó en una mesa redonda después de su discurso de apertura de Microsoft Ignite en el Chase Center en San Francisco.
Pero Nadella no cree que los modelos fronterizos como Claude sean conscientes. «No lo creo», dijo, y agregó que sigue la opinión del director ejecutivo de inteligencia artificial de Microsoft, Mustafa Suleyman, de que las empresas no deberían otorgar derechos a los modelos y tratarlos como si tuvieran un estatus moral, lo que empresas como Anthropic hacen por cuestión de principios. Suleyman me ha dicho que cree que el equipo de Anthropic se ha engañado y que este enfoque es peligroso.
Nadella no fue tan firme al respecto. «Es un buen debate», dijo. «No soy nada dogmático al respecto. Lo que estoy diciendo es que la cuestión técnica social más importante que tenemos que afrontar es ¿cómo se puede garantizar que una economía pueda difundir ampliamente esta tecnología?».
Le pregunté a Nadella qué pensaba sobre la IA después de escuchar su respuesta a las preguntas de otro periodista sobre el lanzamiento de más productos de Anthropic en su suite de oficina. Nadella habló extensamente sobre el posible colapso de la economía y el fin de la democracia si se permitiera que un modelo de IA alcanzara el estatus de monopolio.
«Si la visión marxista es que sólo hay una empresa, entonces se acabó, ¿verdad? Para todos nosotros».
«La mayoría de la gente piensa que esto es una competencia entre empresas de tecnología, y por supuesto lo será», dijo. «Pero recuerde, el modelo no tiene límites. Será una empresa de atención sanitaria. Puede ser una empresa de servicios financieros. Puede ser cualquier cosa si quiere serlo. Puede hacerse cargo del gobierno. Pensar en esto como una competencia estrecha entre empresas tecnológicas, sobre quién obtendrá el próximo billón de dólares de capitalización de mercado, es una de las formas más extrañas y estrechas de pensar en ello».
Nadella continuó diciendo que la naturaleza misma de las empresas podría verse alterada en el futuro. «Si la inteligencia tiene efectos de red, ¿cuál es el futuro de una empresa?» preguntó. «Si el modelo ve algo y lo aprende, y esencialmente todo el capital humano colapsa en capital simbólico, ¿cuál es el papel de una empresa y del capital humano en una empresa? Ese es el debate».
«Creo que la economía política se volverá cada vez más interesante en ese contexto. Nadie -al menos en una democracia- puede siquiera ganar una elección si todo va así, si sólo hay capital y no hay mano de obra. Quiero decir, no sé, eso no es una economía».
«Si la visión marxista es que sólo hay una empresa, entonces se acabó, ¿verdad? Para todos nosotros. No sólo para mí. De alguna manera, también serás algún afiliado de Anthropic».
No hace falta decir que no es así como los directores ejecutivos de tecnología suelen hablar sobre el lanzamiento de software de hoja de cálculo de la competencia.
Por supuesto, Nadella también estaba promocionando las diversas herramientas de inteligencia artificial de Microsoft en Ignite, que prometen permitir a los clientes empresariales elegir los modelos más rentables para diversas tareas, ejecutar sus propios modelos y controlar sus propios datos de diferentes maneras. La idea aquí es que el mercado exigirá muchos tipos diferentes de modelos y datos soberanos para evitar que el control se centralice, un tema al que Nadella seguía volviendo mientras hablábamos.
«Creo que si se cree que el mundo, la economía, necesita más de una o dos empresas, entonces, por definición, tiene que haber tantos modelos como empresas de algún tipo», dijo.