La gente que Estudiar la guerra nuclear para ganarse la vida está seguro de que la inteligencia artificial pronto alimentará las armas mortales. Ninguno de ellos está bastante seguro de lo que significa exactamente eso.
A mediados de julio, los premios Nobel se reunieron en la Universidad de Chicago para escuchar a los expertos en guerra nuclear hablar sobre el fin del mundo. En sesiones cerradas durante dos días, los científicos, los ex funcionarios del gobierno y el personal militar retirado iluminaron a los laureados sobre las armas más devastadoras jamás creadas. El objetivo era educar a algunas de las personas más respetadas del mundo sobre una de las armas más horribles jamás hechas y, al final, hacer que los laureados hagan recomendaciones de políticas a los líderes mundiales sobre cómo evitar la guerra nuclear.
Ai estaba en la mente de todos. «Estamos entrando en un nuevo mundo de inteligencia artificial y tecnologías emergentes que influyen en nuestra vida diaria, pero también influyen en el mundo nuclear en el que vivimos», dijo Scott Sagan, profesor de Stanford conocido por su investigación sobre el desarme nuclear, durante una conferencia de prensa al final de las conversaciones.
Es una declaración que se toma como la inevitabilidad de los gobiernos que mezclan armas de IA y nuclear, algo en lo que todos los que hablé en Chicago creían.
«Es como la electricidad», dice Bob Latiff, un mayor general retirado de la Fuerza Aérea de los Estados Unidos y miembro del Boletín de la Junta de Ciencia y Seguridad de los Científicos Atómicos. «Va a encontrar su camino en todo». Latiff es una de las personas que ayuda a establecer el reloj del día del juicio final cada año.
«La conversación sobre IA y Nukes se ve obstaculizada por un par de problemas importantes. La primera es que nadie sabe realmente qué es la IA», dice Jon Wolfsthal, un experto en no proliferación que es director de riesgo global en la Federación de Científicos Americanos y anteriormente fue asistente especial de Barack Obama.
“¿Qué significa dar control de IA de un arma nuclear? ¿Qué significa dar un [computer chip] ¿Control de un arma nuclear? Pregunta Herb Lin, profesora de Stanford y alumna de relojes del Doomsday.
Primero, las buenas noticias. Nadie piensa que ChatGPT o Grok obtendrán códigos nucleares en el corto plazo. Wolfsthal me dice que hay muchas diferencias «teológicas» entre los expertos nucleares, pero que están unidos en ese frente. «En este ámbito, casi todos dicen que queremos un control humano efectivo sobre la toma de decisiones de armas nucleares», dice.
Aún así, Wolfsthal ha escuchado susurros de otros usos relacionados con los LLM en el corazón del poder estadounidense. «Varias personas han dicho: ‘Bueno, mira, todo lo que quiero hacer es tener una computadora interactiva disponible para el presidente para que pueda descubrir qué hará Putin o Xi y puedo producir ese conjunto de datos de manera muy confiable. Puedo obtener todo lo que Xi o Putin han dicho y escrito sobre cualquier cosa y tener una probabilidad estadística para reflejar lo que Putin ha dicho'», dice «, dice.