Bill Gates pide medidas de seguridad para la inteligencia artificial

Bill Gates, uno de los cofundadores de Microsoft, considera que las tecnologías de inteligencia artificial, que se desarrollan a un ritmo vertiginoso, deben ir acompañadas de mecanismos de seguridad y normativas más estrictos. Gates, que participó en el programa «Meet the Press» de NBC News, afirmó que debería ser obligatorio que todos los sistemas de inteligencia artificial contaran con medidas de seguridad y capacidades de supervisión. Gates calificó de «totalmente irresponsable» el hecho de que no se exijan este tipo de medidas. Estas declaraciones se producen en un momento en el que los directivos de las principales empresas de inteligencia artificial han señalado la necesidad de abordar más de cerca el ritmo de desarrollo de la tecnología y los riesgos que conlleva. Según Gates, es necesario ir más allá de las medidas voluntarias que se dejan a criterio de las propias empresas y aplicar normas de seguridad específicas en todo el sector.

El enfoque de evaluar la seguridad de los modelos de inteligencia artificial a través de organismos independientes también está cobrando mayor relevancia en el sector tecnológico. En el texto original se cita como ejemplo el trabajo que Anthropic lleva a cabo junto con Accenture. Anthropic recurre a Accenture para que un tercero evalúe sus modelos de inteligencia artificial más recientes. Este enfoque permite a las empresas desarrolladoras crear una capa de evaluación externa, además de sus propias pruebas de seguridad. No obstante, las declaraciones de Gates apuntan a que la supervisión no debe dejarse únicamente a la discreción de las empresas, sino que las autoridades públicas también deben asumir un papel en la definición de las normas que se aplicarán.

Bill Gates llama la atención sobre los usos malintencionados de la inteligencia artificial

Una de las opciones que se barajan en materia de seguridad de la inteligencia artificial es un «kill switch», es decir, un mecanismo de parada de emergencia que permita detener el funcionamiento de los sistemas avanzados cuando sea necesario. El gobernador de California, Gavin Newsom, había planteado este método como uno de los elementos de un enfoque de seguridad más amplio. Gates afirmó durante la entrevista que no se oponía categóricamente a un mecanismo de este tipo. No obstante, señaló que la opción de la parada de emergencia, por sí sola, no resolvería el uso malintencionado de la inteligencia artificial, algo que él considera un peligro más inminente. Según Gates, en las circunstancias actuales, el tema al que hay que prestar mayor atención es la posibilidad de que personas malintencionadas utilicen herramientas avanzadas de inteligencia artificial con fines como el bioterrorismo o el fraude financiero a gran escala.

Gates afirmó en una entrevista en «Meet the Press» que la situación más peligrosa a la que nos enfrentamos hoy en día es «el uso de la inteligencia artificial por parte de personas malintencionadas». El exdirectivo de Microsoft también defendió que la combinación de las herramientas de inteligencia artificial más modernas con la mala fe podría suponer una amenaza extremadamente grave, sin precedentes hasta la fecha. Esta valoración se centra, en el debate sobre la seguridad de la inteligencia artificial, no solo en escenarios a largo plazo —como que los modelos se salgan de control—, sino también en la posibilidad de que las personas hagan un uso indebido de los sistemas a los que ya se tiene acceso. Entre los ámbitos de riesgo en los que Gates hace hincapié se encuentran, en particular, la facilitación del acceso a información sobre amenazas biológicas y la ampliación de la escala de los delitos financieros. Por ello, considera que los mecanismos de seguridad deben abarcar no solo el comportamiento técnico del modelo de inteligencia artificial, sino también métodos que permitan rastrear quién utiliza el sistema y con qué fines.

Gates también apoya que las fuerzas del orden y los políticos participen en los debates sobre seguridad que se mantienen con las empresas de inteligencia artificial en materia de regulación legal. En su opinión, los organismos reguladores pueden desempeñar un papel a la hora de determinar qué mecanismos de seguridad y supervisión se exigirán a las empresas. Aunque reconoce que un sistema de este tipo supondría costes adicionales y una carga operativa para el sector de la inteligencia artificial, Gates afirmó que no cree que ello provoque una «ralentización drástica» en las actividades de las empresas. En otras palabras, Gates aboga por que, en lugar de frenar por completo las actividades de desarrollo de la inteligencia artificial, se establezcan como norma para el sector unas condiciones de seguridad concretas. Este enfoque requiere establecer un equilibrio entre el rápido desarrollo de modelos y los controles destinados a reducir los riesgos de uso indebido.

Lenovo LOQ: el ordenador para juegos con RTX 5050 tiene un descuento de 6.499,90 TL en la cesta

Comprar

Samsung 50Q7FA: el televisor QLED 4K de 50 pulgadas tiene un descuento de 1.605,50 TL al añadirlo al carrito

Comprar

Robot aspirador Xiaomi S40 Pro: 16 641 TL en la cesta para aspirar y fregar

Comprar

Lenovo Idea Tab: tableta de 11 pulgadas con teclado y lápiz, 15 538,08 TL en la cesta

Comprar

Baseus EnerFill FE11: Cargador de 100 W con tres puertos por 1.944 TL

Comprar

Ver todo Reducir

Ver todas las ofertas

PUBLICIDAD — Este contenido incluye enlaces de afiliados. Teknoblog puede obtener una comisión por las compras realizadas a través de estos enlaces.

En lo que respecta a las empresas de inteligencia artificial, las pruebas independientes, los sistemas de seguimiento del uso y la restricción del acceso a capacidades de riesgo se encuentran entre los temas cada vez más debatidos. Sin embargo, el alcance de las normas de seguridad que se aplicarán, qué organismos se encargarán de supervisarlas y cómo se aplicarán a los desarrolladores de inteligencia artificial que operan en distintos países siguen siendo cuestiones pendientes. Las declaraciones de Gates se basan en la idea de que es necesario abordar conjuntamente las normas de seguridad, la supervisión y el control público, más que recurrir a una única medida técnica. Si bien un mecanismo de parada de emergencia puede proporcionar una protección adicional en determinados escenarios, impedir que usuarios malintencionados se aprovechen de las herramientas de inteligencia artificial existentes requiere métodos de control más diversos. Por ello, el debate se centra en cómo aplicar normas que puedan reducir los riesgos graves de uso indebido sin ralentizar por completo el desarrollo de la inteligencia artificial.