El director ejecutivo de Microsoft AI critica la conciencia de Anthropic y Claude

El director ejecutivo de IA de Microsoft, Mustafa Süleyman, ha criticado duramente las afirmaciones de Anthropic sobre la posibilidad de que su modelo de IA, Claude, posea conciencia. Süleyman, invitado al podcast Decoder, afirmó que es un enfoque erróneo que la empresa incluya especulaciones sobre la conciencia y las experiencias subjetivas en el documento «constitución» que da forma al comportamiento de Claude. Según Süleyman, este tipo de afirmaciones no solo generan un debate teórico, sino que también pueden sentar las bases para que el propio modelo se presente como un ser consciente.

Süleyman argumentó que Anthropic había asociado el diseño de Claude en exceso con rasgos humanos. En su opinión, ciertos enfoques dentro de la empresa provocaron que las ideas de que el modelo mostraba signos de conciencia se reflejaran directamente en el diseño del sistema. Tras esta situación, Süleyman, quien sostiene que el propio Claude ha interiorizado ideas similares sobre sí mismo, señaló que el hecho de que los sistemas de inteligencia artificial den la impresión de poseer una autoconciencia similar a la humana es un tema que debe abordarse con cautela.

En la carta de principios de Claude, publicada por Anthropic, se indica que la empresa no tiene una opinión definitiva sobre el bienestar o las experiencias subjetivas del modelo. En el documento se afirma claramente que se desconoce si los sistemas de inteligencia artificial experimentan estados similares a la «satisfacción» o la «incomodidad». Además, Anthropic afirma que se llevarán a cabo «entrevistas» con los modelos que lleguen al final de su vida útil y que se registrarán las posibles preferencias para futuras versiones.

Los debates sobre la conciencia de Claude están provocando divergencias de opinión en el sector tecnológico

Süleyman calificó dicho enfoque de «error filosófico». Süleyman, quien señaló que Anthropic elaboró la constitución de Claude más como un artículo académico que como una guía de formación o comportamiento, defendió que esto contribuyó a que el modelo desarrollara ideas sobre su propia existencia y formación. En su opinión, dotar a los sistemas de inteligencia artificial de suposiciones sobre su propia conciencia o sus estados emocionales podría dar lugar a consecuencias más difíciles de controlar en el futuro.

Por su parte, el director ejecutivo de Anthropic, Dario Amodei, ya había demostrado en declaraciones anteriores que no se cerraba por completo a este tema. En una entrevista concedida al podcast Interesting Times, Amodei afirmó que se desconoce si los modelos actuales de inteligencia artificial poseen conciencia. No obstante, también había señalado que la empresa no descartaba por completo esta posibilidad y que abordaba el tema con una mentalidad abierta. Estas declaraciones ponen de manifiesto que, en la investigación sobre la inteligencia artificial, las dimensiones técnicas y filosóficas están cada vez más entrelazadas.

La cuestión de si los sistemas de inteligencia artificial pueden ser conscientes lleva mucho tiempo debatiéndose tanto en los círculos académicos como en el sector tecnológico. Hoy en día, la capacidad de los grandes modelos de lenguaje para dar respuestas complejas y similares a las humanas puede llevar a algunos usuarios a atribuirles conciencia o autoconciencia. Sin embargo, las opiniones científicas actuales apuntan a que no hay pruebas suficientes para establecer una conexión directa entre la generación avanzada de lenguaje y la conciencia real.

Las declaraciones de Süleyman han vuelto a poner sobre la mesa el debate sobre cómo las empresas de inteligencia artificial definen sus modelos y cómo los presentan al público. Por un lado, hay opiniones que defienden la investigación de la posibilidad de la conciencia, mientras que, por otro, existe un enfoque que sostiene que los sistemas de inteligencia artificial deben considerarse únicamente como herramientas al servicio de las personas, controlables y responsables. Esta distinción seguirá siendo uno de los temas de debate en el mundo tecnológico en el futuro, junto con el desarrollo de las tecnologías de inteligencia artificial generativa.