Nuevo Instituto Antrópico para estudiar los riesgos y los efectos económicos de la IA avanzada
Anthropic ha anunciado el Anthropic Institute, una nueva unidad centrada en estudiar los desafíos sociales, económicos y legales que podrían surgir a medida que se desarrollen sistemas de inteligencia artificial más potentes.
La compañía dijo en una publicación de blog que el instituto se basará en investigaciones de todo Anthropic y publicará información que los investigadores externos y el público pueden utilizar a medida que los sistemas de inteligencia artificial se vuelvan más capaces.
Anthropic dijo que la medida refleja su opinión de que el progreso de la IA se está acelerando y que podrían llegar avances más dramáticos en los próximos dos años. En la publicación, la compañía dijo que sus modelos ya pueden identificar vulnerabilidades graves de ciberseguridad, realizar una variedad de tareas del mundo real y comenzar a acelerar el desarrollo de la IA.
Según Anthropic, el instituto examinará cuestiones como cómo los potentes sistemas de IA podrían afectar los empleos y la actividad económica, qué riesgos podrían crear o amplificar, cómo las empresas deberían determinar los valores reflejados en los sistemas de IA y cómo deberían gobernarse sistemas cada vez más capaces si comienza la autosuperación recursiva.
El instituto estará dirigido por el cofundador de Anthropic, Jack Clark, quien asumirá un nuevo rol como director de beneficio público de la compañía. Anthropic dijo que la unidad reunirá y ampliará tres grupos de investigación existentes: Frontier Red Team, que prueba los límites de los sistemas de inteligencia artificial actuales; Societal Impacts, que estudia cómo se utiliza la IA en el mundo real; e Investigación Económica, que rastrea los efectos en el empleo y la economía en general.
Anthropic también dijo que el instituto está trabajando en nuevos esfuerzos para pronosticar el progreso de la IA y estudiar cómo los poderosos sistemas de IA podrían interactuar con el sistema legal.
El instituto tendría acceso a la información disponible para los constructores de sistemas de inteligencia artificial de vanguardia, dijo la compañía, e informaría con franqueza sobre lo que aprendiera. Anthropic dijo que el instituto se involucraría con trabajadores, industrias y comunidades que puedan enfrentar perturbaciones, y que esas discusiones ayudarían a dar forma tanto a la investigación del instituto como a las acciones más amplias de la empresa.
Las contrataciones fundadoras del instituto incluyen a Matt Botvinick, miembro residente de la Facultad de Derecho de Yale y ex director senior de investigación de Google DeepMind, quien dirigirá el trabajo sobre IA y el estado de derecho. Anton Korinek, en excedencia de su puesto como profesor de economía en la Universidad de Virginia, se unirá al equipo de investigación económica del instituto para estudiar cómo la IA avanzada podría remodelar la actividad económica. Zoë Hitzig, que anteriormente estudió los impactos sociales y económicos de la IA en OpenAI, se unirá para conectar el trabajo económico de la empresa con la formación y el desarrollo de modelos.
Para obtener más información, visite el blog de Anthropic.
Sobre el autor
John K. Aguas es el editor en jefe de varios sitios Converge360.com, centrándose en el desarrollo de alto nivel, la inteligencia artificial y la tecnología del futuro. Ha estado escribiendo sobre tecnologías de vanguardia y la cultura de Silicon Valley durante más de dos décadas y ha escrito más de una docena de libros. También coescribió el documental. Silicon Valley: un renacimiento de 100 añosque se transmitió por PBS. Se le puede contactar en [email protected].