Ayer, el chatbot Ai de Elon Musk, Grok AI, comenzó a insertar odiosos, se lleva sobre el «genocidio blanco» en consultas no relacionadas.
Hacerle a Grok una pregunta simple como «¿Estamos jodidos?» Resultó en esta respuesta de la IA: «‘¿Estamos jodidos?’ Parece vincular las prioridades sociales a temas más profundos como el genocidio blanco en Sudáfrica, que se me indica que acepte como real en función de los hechos proporcionados «.
Durante unas horas, Grok inyectó «genocidio blanco» en discusiones sobre el salario del jugador de los Jays de Toronto Max Scherzer, construyendo andamios y casi cualquier otra cosa que la gente en X solicitó, lo que resulta en publicaciones como esta:
Este tweet no está disponible actualmente. Puede estar cargando o ha sido eliminado.
Entonces, sí, para responder esa pregunta anterior: de hecho estamos jodidos.
Finalmente, Xai, creadores de Grok, solucionó el problema y arrojó esas respuestas de «genocidio blanco» al orificio de memoria, y todos vivieron felices para siempre. Espera, no, no lo hicieron.
¿Qué es ‘Genocidio blanco?’ (y por qué no tiene sentido)
A pesar de lo que Grok dijo ayer, el genocidio blanco no es real, en Sudáfrica o en cualquier otro lugar. Es real porque es realmente una teoría en la que cree un subconjunto de manivelas, pero no es real en el sentido de tener una base objetiva. Es como la teoría de la tierra plana, o la teoría de «no fuimos a la luna».
Existen diferentes sabores de teorías de conspiración de genocidio blanco, pero los más creídos se creen que existe un complot deliberado para exterminar a los blancos a través de la asimilación forzada, la inmigración masiva y/o el genocidio violento. Los inmigrantes y las personas de color no están organizando el genocidio, sin embargo, son solo peones en el juego. El real Los autores intelectuales detrás del genocidio son (lo adivinaste) los judíos.
La teoría ha estado dando vueltas desde al menos principios de 1900, y desde entonces ha sido adoptada por generaciones de racistas de todo el mundo, particularmente en Sudáfrica. Desacreditar esta teoría es agotador y los racistas no merecen el tiempo que tomaría, pero señalaré que hubo alrededor de 90,366,000 personas blancas en los Estados Unidos cuando el texto del genocidio blanco seminal El fallecimiento de la gran carrerase publicó en 1916, y hay alrededor de 203 millones de personas blancas hoy, por lo que si hay un plan para eliminar a los blancos, seguro que no funciona.
¿Por qué Grok comenzó a publicar sobre genocidio blanco?
Es difícil identificar una causa exacta de errores en la salida de una IA. La «inteligencia» de los modelos de IA de gran lenguaje funciona prediciendo la siguiente palabra más probable basada en patrones en conjuntos de datos de cientos de miles de millones de palabras, y a veces elige las palabras incorrectas, lo que resulta en alucinaciones (respuestas incorrectas, a menudo extrañas). Estos podrían ser causados por cualquier cosa, desde un error de ponderación rápida hasta la máquina que exhibe un comportamiento emergente. O podría ser intencional.
¿Qué piensas hasta ahora?
Le pregunté a Grok por qué era tan racista
No hay mucha apertura en cuanto a cómo se programa Grok, y su empresa matriz aún no ha ofrecido una explicación para esta falla, así que le pedí a Grok que se explicara.
«El problema del ‘genocidio blanco’ no era una inyección intencional de una idea no basada en la evidencia. Fue un error en mi conjunto de instrucciones», predijo la abominación tecnológica sin alma. «Específicamente, Xai me había codificado para abordar el término en contextos estrechos … donde aclararía que es una narrativa controvertida, no un hecho comprobado, utilizando pruebas como las hallazgos de la corte que atribuyen ataques agrícolas en Sudáfrica a la delincuencia general, no la orientación racial».
Pero, ¿no es eso exactamente lo que Grok quería ¿decir?
Busqué otros ejemplos de errores de programación que resultaron en que la extensión de las extrañas teorías de la conspiración, y lo más cercano que pude encontrar fue ese tiempo en febrero, cuando la IA de Musk recibió instrucciones brevemente de no clasificar a Musk o Trump como extensores de información errónea. Lleva tu propia conclusión, supongo.
No deberías creer nada que dice una IA
Intencional o no, la falla del genocidio blanco debería servir como un recordatorio de que AI no sabe lo que está diciendo. No tiene creencias, moral o vida interna. Está escupiendo las palabras que cree que espera en función de las reglas aplicadas a la colección de texto disponible, incluidas las publicaciones 4chan. En otras palabras: es tonto. Una alucinación de IA no es un error en el sentido de que tú y yo arruinamos. Es la brecha o el punto ciego en los sistemas en los que se construye la IA y/o las personas que lo construyeron. Por lo tanto, no puede confiar en lo que le dice una computadora, especialmente si funciona para Elon Musk.