Estoy extremadamente preocupado por la prevalencia del contenido de IA en nuestras redes sociales. Ahora que casi cualquiera puede generar vídeos hiperrealistas con un simple mensaje de texto, me temo que la desinformación aumentará exponencialmente, distorsionando las visiones del mundo más rápido de lo que los algoritmos han podido hacerlo hasta ahora. Así que puedes imaginar lo que siento acerca de los planes de Meta de agregar un «enorme corpus» de contenido de IA a sus feeds. Buena suerte a todos.
Eso es directamente del propio CEO de Meta, Mark Zuckerberg. En una llamada de resultados de Meta Platforms, Inc. el miércoles, Zuckerberg confirmó los planes de la compañía de agregar este enorme corpus de contenido que él mismo describe, gracias a lo fácil que la IA hace para crear y «remezclar» contenido. Las personas crearán contenido de IA, los sistemas de recomendación de la plataforma entregarán ese contenido a las personas, quienes luego podrán alterarlo ligeramente y enviarlo de regreso al Metaverso. A medida que este ciclo de retroalimentación continúe, los feeds comenzarán a llenarse con más y más contenido de IA. Eso es bueno para Meta y para cualquiera que disfrute viendo videos que no son reales. Para aquellos de nosotros que estamos un poco hartos de este contenido, o nos preocupa no poder detectarlo durante una larga sesión de desplazamiento, solo son malas noticias.
Si bien gran parte (si no la mayoría) de ese contenido de IA probablemente provenga de fuentes externas, como Sora de OpenAI, parte de él puede provenir del propio Meta. La compañía lanzó recientemente «Vibes», su propio generador de videos de IA de formato corto, como parte de la aplicación Meta AI existente. Los usuarios pueden crear videos directamente en Vibes o remezclar videos existentes. Apuesto a que parte del contenido de Vibes se cruzará con su Meta Feed en un futuro cercano, si aún no lo ha hecho.
Zuckerberg se tomó el tiempo para resaltar cómo los sistemas de recomendación de IA de Meta en todos sus productos principales (Facebook, Instagram y Threads) están brindando «contenido más relevante y de mayor calidad» a los usuarios, especialmente en lo que respecta al video. Aparentemente, la cantidad de tiempo que pasamos viendo reels de Instagram ha aumentado en más de un 30% en comparación con el año pasado. (Dato curioso: Reels genera más de $50 mil millones según la convocatoria de resultados.) Ese entorno parece perfecto para fomentar una nueva ola de IA para la enorme audiencia de Meta.
Mira, definitivamente me he reído de algunos memes de IA que me han llegado. Pero sugerir que inundar las transmisiones con videos realistas de IA sin ninguna regulación o previsión es una buena idea es en sí mismo ridículo. Si utiliza productos Meta, tenga cuidado: es posible que no pueda confiar en que lo que está viendo sea real durante mucho más tiempo (si es que lo hace).