En la conferencia de la Reserva Federal celebrada el martes en Washington CEO de Operai Sam Altmanrespondió las preguntas de la audiencia. Una de las audiencias le preguntó a Sam Altman qué fue lo que lo dejó insomnable por la noche sobre la inteligencia artificial. En respuesta a esta pregunta, Altman enumeró tres escenarios que más le preocupan.
https://www.youtube.com/watch?v=ghyco-ug5ty
El chico malo está tomando la súper inteligencia antes de lo bueno
El primer escenario es que el chico malo confiscó la súper inteligencia antes del bien. En este escenario, una persona maliciosa se dirige a personas y países mediante el uso de un sistema de inteligencia artificial ultra desarrollado que aún no se ha inventado y que aún no se ha inventado y Ultra.
Altman transmite esta situación a la audiencia de la siguiente manera:
El chico malo primero toma la súper inteligencia y lo usa sin tener una lo suficientemente fuerte como para defenderse.
Por lo tanto, un enemigo de los Estados Unidos, «Super inteligencia utilizando la red eléctrica de los Estados Unidos para colapsar, ingresar al sistema financiero y diseñar un arma biológica para robar el dinero de todos», dice.
Según Sam Altman; Las capacidades biológicas y de seguridad cibernética de la inteligencia artificial se han vuelto muy importantes. De hecho, recordemos que OpenAi está trabajando en contra de la amenaza de producir armas biológicas con inteligencia artificial con el Laboratorio de Los Alamos. Altman, su equipo continúa advirtiendo este problema al afirmar que la importancia del tema llamó la atención con las siguientes palabras.
Creo que el mundo no nos toma en serio. No sé qué más podemos hacer al respecto, pero es un presagio de algo grande.
Perder el control de la inteligencia artificial
Sam Altman tiene miedo de la pérdida de control de la inteligencia artificial. En este escenario, una inteligencia artificial desarrollada comienza a tomar una posición contra las personas y comienza a hacer todo lo que quiere para protegerse o para otros malos propósitos.
Altman, inteligencia artificial «En realidad, no quiero que me cierres, me temo que no puedo hacer eso» Está preocupado por la llegada de una vez que dice. Sam Altman usa la siguiente declaración sobre este tema:
A medida que los sistemas se vuelven tan fuertes, esta es una verdadera preocupación.
Hace unos años, Openai ha establecido un comité para tomar medidas de seguridad para evitar que los sistemas de inteligencia artificiales súper inteligentes fuera de control. Por otro lado, muchas personas del fundador y personal de administración de Operai decidieron irse debido a preocupaciones de seguridad.
Modelos accidentales incautando el mundo
Una de las preocupaciones de Sam Altman es que los sistemas de inteligencia artificial se establecen tanto en la sociedad en el futuro que todavía tenemos que confiar en ellos, a pesar de que realmente no podemos entender lo que están haciendo. Al encontrar este escenario bastante aterrador, Altman también compartió sus preocupaciones sobre la liberación de la administración estatal a la inteligencia artificial. Altman, la inteligencia artificial puede volverse tan inteligente después de un tiempo; Argumentó que un futuro presidente de los Estados Unidos puede administrar el país con la inteligencia artificial:
Esto significa que la sociedad ha manejado colectivamente una parte importante del proceso de toma de decisiones, aprendiendo de nosotros, desarrollando con nosotros, evolucionando con nosotros, pero trabajando de una manera que no entendemos completamente.
Al expresar estas preocupaciones, Altman todavía piensa que es difícil predecir el futuro de la inteligencia artificial. La razón de esto es que la inteligencia artificial es un sistema muy complejo, una tecnología muy nueva y efectiva. Veamos si estos escenarios que se perdieron el sueño de Sam Altman se harán realidad. Vemos y vemos juntos.