Los videos racistas que parecen ser creados con la herramienta de generación de videos AI de Google Veo 3 han recaudado en millones de vistas en Tiktok, según los hallazgos de los medios sin fines de lucro Media Media Matters. Los videos generados por IA descubiertos por la organización están llenos de tropos racistas, muchos de los cuales se dirigen a las personas negras.
Los medios de comunicación determinaron que los videos, uno de los cuales recibieron 14.2 millones de visitas, se generaron con Google VEO 3 debido a la marca de agua «VEO» en la esquina de los clips. Algunos usuarios también enumeraron hashtags, subtítulos o nombres de usuario relacionados con VEO 3 o AI, según los medios de comunicación. Cada clip encontrado por la organización duró solo ocho segundos, o estaba «compuesto de múltiples clips cada uno que duran más de 8 segundos», que rastrea con el límite de ocho segundos de Veo 3.
VEO 3, lanzado por Google en mayo, permite a los usuarios generar videoclips de IA y audio con solo un mensaje de texto. En su sitio web, Google dice que «bloqueará las solicitudes y resultados nocivos». Las reglas de Tiktok afirman de manera similar que «el discurso de odio y el comportamiento de odio no tienen lugar en Tiktok», y que la plataforma «no recomendará contenido que contenga estereotipos negativos sobre una persona o grupo con un atributo protegido».
El borde Encontrados de algunos de los videos destacados por los asuntos de los medios también estaban en YouTube pero con menos vistas, mientras que Cableado También descubrió videos generados por IA racistas en Instagram. Otros videos encontrados por los asuntos de los medios de comunicación contienen contenido antisemita y representaciones racistas de inmigrantes y pueblos asiáticos.
Ni Google ni Tiktok inmediatamente respondieron a El bordeSolicitud de comentarios.