Hoy estoy hablando con Borde Hayden Field, reportero senior de IA, sobre algunas de las personas responsables de estudiar la IA y decidir de qué manera podría… bueno, arruinar el mundo. Esas personas trabajan en Anthropic como parte de un grupo llamado equipo de impacto social, con el que Hayden acaba de pasar tiempo para un perfil que publicó esta semana.
El equipo está formado por sólo nueve personas de las más de 2000 que trabajan en Anthropic. Su único trabajo, como dicen los propios miembros del equipo, es investigar y publicar “verdades incómodas” sobre cómo las personas utilizan las herramientas de inteligencia artificial, qué podrían estar haciendo los chatbots a nuestra salud mental y cómo todo eso podría tener efectos dominó más amplios en el mercado laboral, la economía e incluso nuestras elecciones.
Por supuesto, esto plantea toda una serie de problemas. Lo más importante es si este equipo puede seguir siendo independiente, o incluso existir, ya que publica hallazgos sobre los propios productos de Anthropic que podrían ser poco halagadores o políticamente tensos. Después de todo, hay mucha presión sobre la industria de la IA en general y sobre Anthropic en particular para que se alineen con la administración Trump, que emitió una orden ejecutiva en julio prohibiendo la llamada «IA despierta».
Borde suscriptores, no olviden que obtienen acceso exclusivo a anuncios sin publicidad Descifrador dondequiera que consigas tus podcasts. Dirígete aquí. ¿No eres suscriptor? Puedes registrarte aquí.
Si ha estado siguiendo la industria tecnológica, el resumen de esta historia le resultará familiar. Hemos visto esto más recientemente con las empresas de redes sociales y los equipos de confianza y seguridad responsables de moderar el contenido. Meta pasó por innumerables ciclos de esto, en los que dedicó recursos a resolver problemas creados por su propia escala y la naturaleza impredecible de productos como Facebook e Instagram. Y luego, después de un tiempo, parece que los recursos se agotaron, o Mark Zuckerberg se aburrió o se interesó más en las MMA o simplemente en acercarse a Trump, y los productos realmente no cambiaron para reflejar lo que mostró la investigación.
Estamos viviendo uno de esos momentos ahora mismo. Las plataformas sociales han recortado las inversiones en integridad electoral y otras formas de moderación de contenidos. Mientras tanto, Silicon Valley está trabajando estrechamente con la Casa Blanca de Trump para resistir intentos significativos de regular la IA. Como escucharás, es por eso que Hayden estaba tan interesado en este equipo en Anthropic. Es fundamentalmente único en la industria en este momento.
De hecho, Anthropic es un caso atípico debido a lo receptivo que ha sido el director ejecutivo Dario Amodei ante los pedidos de regulación de la IA, tanto a nivel estatal como federal. Anthropic también es visto como el laboratorio líder de IA que prioriza la seguridad, porque fue formado por ex ejecutivos de investigación de OpenAI a quienes les preocupaba que sus preocupaciones sobre la seguridad de la IA no se tomaran en serio. En realidad, hay bastantes empresas formadas por antiguos empleados de OpenAI preocupados por la empresa, Sam Altman y la seguridad de la IA. Es un tema real de la industria que Anthropic parece estar llevando al siguiente nivel.
Entonces le pregunté a Hayden sobre todas estas presiones y cómo la reputación de Anthropic dentro de la industria podría estar afectando el impacto social en las funciones del equipo, y si realmente puede estudiar de manera significativa y tal vez incluso influir en el desarrollo de productos de IA. O, como sugiere la historia, esto simplemente se verá bien en el papel, hasta que el equipo desaparezca silenciosamente. Hay mucho aquí, especialmente si está interesado en cómo piensan las empresas de IA sobre la seguridad desde una perspectiva cultural, moral y empresarial.
Un anuncio rápido: A finales de este mes publicaremos un episodio especial de fin de año de Decoder en el que responderemos sus preguntas sobre el programa: con quién deberíamos hablar, qué temas cubrimos en 2026, qué le gusta, qué odia. Todo ello. Envíe sus preguntas a decoder@tecnosaud y haremos todo lo posible para presentar tantas como podamos.
Si desea leer más sobre lo que discutimos en este episodio, consulte estos enlaces:
- Su trabajo es evitar que la IA lo destruya todo | El borde
- Anthropic detalla cómo mide el despertar de Claude | El borde
- La Casa Blanca ordena a las empresas de tecnología que vuelvan a hacer que la IA sea intolerante | El borde
- Caos y mentiras: por qué Sam Altman fue expulsado de OpenAI | El borde
- El director ejecutivo de Anthropic, Dario Amodei, acaba de hacer otro llamado a la regulación de la IA | Cª
- Cómo Elon Musk está rehaciendo Grok a su imagen y semejanza | NYT
- Anthropic intenta calmar la reacción de la Casa Blanca | axios
- Nueva batalla de IA: Casa Blanca vs. Antrópico | axios
- El director ejecutivo de Anthropic dice que, después de todo, la empresa buscará inversiones en los estados del Golfo | cableado
¿Preguntas o comentarios sobre este episodio? Contáctenos a decoder@tecnosaud.com. ¡Realmente leemos cada correo electrónico!
Decodificador con Nilay Patel
Un podcast de El borde sobre grandes ideas y otros problemas.
SUSCRÍBETE AHORA!