El chatbot desinfo inflamando las protestas de Los Ángeles

Zoë Schiffer: Oh, vaya.

Leah Feiger: Sí, exactamente. ¿Quién ya tiene la oreja de Trump? Esto se generalizó. Y entonces estábamos hablando de que la gente fue a X Grok y dijeron: «Grok, ¿qué es esto?» ¿Y qué les dijo Grok? No, no. Grok dijo que estas no eran realmente imágenes de la protesta en Los Ángeles. Dijeron que eran de Afganistán.

Zoë Schiffer: Oh. Grok, no.

Leah Feiger: Diían: «No hay apoyo creíble. Esto es una mala condición. Fue realmente malo. Fue muy, muy malo. Y luego hubo otra situación en la que otras dos personas compartían estas fotos con Chatgpt y Chatgpt también fue como» sí, esto es Afganistán. Esto no es preciso, etcétera, etc. No es genial.

Zoë Schiffer: Quiero decir, no me hagas comenzar con este momento después de que muchas de estas plataformas hayan desmantelado sistemáticamente sus programas de verificación de hechos, han decidido dejar a propósito mucho más contenido. Y luego agrega chatbots a la mezcla que, a pesar de todos sus usos, y creo que pueden ser realmente útiles, son increíblemente seguros. Cuando se alucinan, cuando se equivocan, lo hacen de una manera muy convincente. No me verás aquí defendiendo la búsqueda de Google. Basura absoluta, pesadilla, pero está un poco más claro cuando eso va por mal camino, cuando estás en un blog aleatorio e inigualable que cuando Grok te dice con total confianza de que estás viendo una foto de Afganistán cuando no lo estás.

Leah Feiger: Es realmente preocupante. Quiero decir, es alucinante. Es completamente alucinante, pero es con la arrogancia del chico de fraternidad más borracho que desafortunadamente has sido acorralado en una fiesta en tu vida.

Zoë Schiffer: Pesadilla. Pesadilla. Sí.

Leah Feiger: Son como «No, no, no. Estoy seguro. Nunca he estado más seguro en mi vida».

Zoë Schiffer: Absolutamente. Quiero decir, está bien, entonces, ¿por qué los chatbots dan estas respuestas incorrectas con tanta confianza? ¿Por qué no los vemos simplemente decir: «Bueno, no lo sé, así que tal vez deberías consultar en otro lugar? Aquí hay algunos lugares creíbles para buscar esa respuesta y esa información».

Leah Feiger: Porque no hacen eso. No admiten que no saben, lo cual es realmente salvaje para mí. En realidad, ha habido muchos estudios sobre esto, y en un estudio reciente de herramientas de búsqueda de inteligencia artificial en el Centro de remolque para periodismo digital en la Universidad de Columbia, descubrió que los chatbots eran «generalmente malos al declinar las preguntas que no podían responder con precisión. Ofreciendo respuestas incorrectas o especulativas». Realmente, muy, muy salvaje, especialmente cuando consideras el hecho de que había tantos artículos durante las elecciones sobre: ​​»Oh no, lo siento, soy Chatgpt y no puedo evaluar la política». Estás como, bueno, ahora estás sopesando mucho.

Zoë Schiffer: De acuerdo, creo que deberíamos hacer una pausa allí en esa nota muy horrible y volveremos. Bienvenido de nuevo a Valle extraño. Leah Feiger, editora de política senior de Wired. Bien, más allá de tratar de verificar la información y el metraje, también ha habido un montón de informes sobre videos engañosos generados por la IA. Hubo una cuenta de Tiktok que comenzó a subir videos de un presunto soldado de la Guardia Nacional llamada Bob que había sido desplegada en las protestas de Los Ángeles, y se podía ver que decía cosas falsas e inflamatorias como el hecho de que los manifestantes están «chocando en globos llenos de petróleo» y uno de los videos tenía cerca de un millón de visitas. Así que no lo sé, parece que las personas tienen que ser un poco más hábiles para identificar este tipo de imágenes falsas, pero es difícil en un entorno inherentemente sin contexto como una publicación en X o un video en Tiktok.

We use cookies in order to give you the best possible experience on our website. By continuing to use this site, you agree to our use of cookies.
Accept