Se ha propuesto una prohibición de la superinteligencia artificial

El senador estadounidense Bernie Sanders y el diputado Greg Casar han elaborado un proyecto de ley cuyo objetivo es prohibir el desarrollo de los sistemas que definen como «superinteligencia artificial». Además, ambos legisladores solicitan que se suspendan temporalmente los trabajos de desarrollo de inteligencia artificial avanzada hasta que se cree un organismo regulador federal. La propuesta aún no se ha convertido en ley tras su aprobación en el Congreso y se enfrenta a un largo proceso político.

El comunicado publicado por la oficina de Sanders define la «superinteligencia artificial» como sistemas capaces de superar las capacidades cognitivas generales del ser humano. El proyecto de ley tiene como objetivo una prohibición permanente del desarrollo y la puesta en marcha de este tipo de sistemas. En cuanto a los modelos avanzados de mayor alcance, propone una pausa temporal hasta que se elaboren nuevas normas de seguridad.

El texto también prevé sanciones severas para las empresas tecnológicas. Los autores del proyecto de ley pretenden que las consecuencias sean lo suficientemente graves como para impedir que las empresas que incumplan las normas operen en el mercado federal. Además, está previsto que los desarrolladores informen a una nueva agencia federal sobre las pruebas de seguridad, la notificación de incidentes y las capacidades de los modelos. Los detalles quedarán más claros cuando la propuesta se presente al Congreso.

En el otro lado del debate se encuentran las empresas que defienden que la inteligencia artificial avanzada puede aportar importantes beneficios en ámbitos como la medicina, las infraestructuras y la investigación científica. OpenAI, en un reciente artículo de opinión, reconoce que el rápido avance conlleva riesgos graves, pero, en lugar de detener por completo la innovación, aboga por el establecimiento de normas comunes entre los gobiernos, las empresas y los investigadores.

La prohibición de la superinteligencia artificial entra en un largo proceso político

Para que la propuesta se convierta en ley, debe ser aprobada tanto por el Senado como por la Cámara de Representantes y recibir la firma del presidente. Teniendo en cuenta la estructura del Congreso de EE. UU., es posible que, durante este proceso, se reduzca el alcance de la medida, se modifique el plazo de suspensión temporal o el proyecto de ley se quede estancado en comisión. Por ello, no hay que interpretar el comunicado de hoy como si se tratara de una prohibición ya en vigor.

Sistema Mercusys Wi-Fi 7 de dos unidades por 4.413,28 TL, con un descuento de 1.485,72 TL

Comprar

Teclado mecánico Aula F87 Pro con distribución Q turca: 2.519 TL con un descuento de 477 TL

Comprar

El ThinkBook 14 con Core Ultra 7 y la versión Premium sale a la venta por 50 064,85 TL

Comprar

El SteelSeries Aerox 3 Ghost inalámbrico cuesta 2.999 TL con un descuento de 250 TL

Comprar

Ver todo Reducir

Ver todas las ofertas

PUBLICIDAD — Este contenido incluye enlaces de afiliados. Teknoblog puede obtener una comisión por las compras realizadas a través de estos enlaces.

Por otra parte, esta iniciativa muestra claramente que el tono del debate sobre la seguridad de la inteligencia artificial se ha endurecido. Las regulaciones, que antes se centraban en la transparencia, los informes de riesgos y las auditorías independientes, ahora plantean también la opción de prohibir directamente determinados niveles de capacidad. Este cambio podría obligar a los desarrolladores de modelos a preocuparse no solo por la seguridad de sus productos, sino también por qué líneas de investigación seguirán siendo legales.

En resumen, el estudio de Sanders y Casar no da lugar, por el momento, a ninguna conclusión vinculante. No obstante, la propuesta plantea ante Washington preguntas como: «¿Quién supervisará?», «¿qué umbral se considerará peligroso?» y «¿servirá de algo la prohibición de un solo país en la competencia global?». En la siguiente fase, el texto definitivo del proyecto de ley, las deliberaciones de la comisión y las respuestas de las empresas tecnológicas serán determinantes.

El debate sobre la definición podría constituir la parte más complicada del proyecto de ley. Aún no se ha establecido un criterio común sobre en qué prueba debe superar un modelo a un ser humano, ni si la superioridad en un ámbito concreto debe considerarse inteligencia superinteligente en general. Si no se establece un umbral claro y verificable, las empresas podrían presentar capacidades similares con nombres diferentes. Las deliberaciones del Congreso tendrán que traducir esta distinción técnica al lenguaje jurídico.