Internet está inundado de imágenes y videos de IA hasta el punto de que ya es difícil confiar en todo lo que ves en línea. Ahí es donde entran los detectores de IA, separando los hechos de las indicaciones… ¿verdad?
Desafortunadamente, simplemente no existe una forma confiable de detectar imágenes o videos generados por IA.
Detectar contenido generado por IA es más fácil de decir que de hacer
Existen todo tipo de herramientas de detección de IA, pero no se garantiza que ninguna de ellas funcione. De hecho, los detectores de IA son tan poco fiables que el AI Resource Hub del MIT tiene una guía completa para asesorar a los educadores sobre cómo afrontar el problema. Si bien esto se refiere principalmente a texto, a los detectores de imágenes y de video no les va mucho mejor.
La IA generativa es una carrera armamentista en la que empresas como Google y OpenAI están invirtiendo grandes cantidades de recursos en la creación de mejores modelos que puedan generar creaciones de apariencia más realista. Estas empresas están trabajando para resolver algunos de los signos reveladores que facilitan la distinción de los medios generados. La tecnología mejora constantemente, incluso si las cosas no se aceleran al ritmo que antes.
Parece que existen tantas herramientas para detectar contenido generado por IA como para crearlo. Peor aún, nada de esto funciona con ningún grado de certeza. Puedes poner esto a prueba con tus propias creaciones generadas por IA.
Para esta prueba, generé una “imagen realista de una playa en un día nublado” utilizando Gemini y el modelo de generación de imágenes Nano Banana de Google. Este es uno de los mejores modelos que existen, pero aún así es de uso gratuito. Como Gemini me dio una imagen cuadrada, decidí recortarla rápidamente usando una aplicación de edición de imágenes a una relación de aspecto de 16:9 menos obvia. Por último, dejé caer la imagen en PicScrubber para eliminar cualquier metadato revelador de la imagen (un proceso que ocurre cuando subes imágenes a la mayoría de las plataformas).
Aquí está mi triste vista costera:
Coloqué esto en una herramienta de detección y mira eso:
Animado por mi éxito, probé otro:
Una vez más, para que tengas suerte:
Tus ojos son los mejores detectores de IA
La cuestión es que realmente no culpo a los detectores de IA por no poder detectar que mi imagen fue generada por IA. Me atrevería a decir que la mayoría de la gente tampoco pensaría que fue generado por IA, particularmente porque elegí una escena sin vida. Se podría argumentar que las cosas serían un poco más obvias si hubiera elegido algo más extravagante.
Al mirar la imagen, podrías pensar que algo está pasando cuando ves la ola romper a la derecha. ¿Las olas rompen así? Y esas (presumiblemente) gaviotas en el cielo, parecen estar colocadas un poco al azar. De cualquier manera, no es la falsificación más fácil del mundo de detectar.
Hay algunas cosas que puedes buscar y algunas preguntas que quizás quieras hacerte cuando te encuentres con medios que sospechas que no son genuinos, pero es más difícil que nunca tener verdadera confianza.
Puede ser fácil pasar por alto los signos más obvios del contenido generado por IA en segundo plano cuando estás concentrado en el primer plano. Echa un vistazo al fondo y busca cosas que estén fuera de lugar. Personas con caras raras, ventanas con números inconsistentes de cristales, edificios y árboles que no tienen sentido.
¿La imagen está teñida de naranja? ChatGPT genera muchas imágenes con un brillo naranja. Limpiar esto en la publicación es bastante trivial, pero muchos usuarios no lo hacen. Al mismo tiempo, ciertos modelos generativos tienen estilos distintos y reconocibles. La fuente de ChatGPT es bastante reconocible una vez que has visto algunas creaciones, por ejemplo, al igual que su estilo de ilustración genérico de “tira cómica”.
Cuando se trata de “arte”, como en el caso de las creaciones de IA que se hacen pasar por creaciones de autores humanos, lo que se debe buscar son decisiones deliberadas. Líneas que parecen fuera de lugar, hojas de un árbol que no se conectan con nada, “líneas guía” de lápiz que no tienen ningún sentido (como si se hubieran agregado después del hecho).
Pregúntese si un artista elegiría poner lápiz sobre papel y producir estos detalles, incluso si parecen triviales. No todo el mundo es un artista talentoso, pero la “obra de arte” que generan estos modelos generalmente tiene como objetivo demostrar competencia.
Si pudiera resumir todo esto en una palabra, sería «vibraciones».
Prepárese para identificar mejor imágenes y videos generados por IA
Como no puedes depender de los servicios de detección de IA, incluso aquellos que tienen un plan premium, debes sacar tus propias conclusiones. Si eres como yo, tal vez quieras convertir esto en un juego. y aprenda los signos reveladores al mismo tiempo. Cuanto más juegas, más aprendes.
Hay subreddits como r/isthisAI y r/RealOrAI donde los miembros de la comunidad publican vídeos e imágenes para intentar determinar si el contenido es real o no. Una vez que haya visto suficientes publicaciones, comenzará a comprender algunas de las cosas mencionadas en la sección anterior.
Si bien muchas de estas publicaciones son solicitudes genuinas, otras están diseñadas deliberadamente para generar discusión. Muchos usuarios generan imágenes y las publican, luego dan una conclusión sobre si la imagen es real o no.
Si vas a desplazarte sin cesar entre un montón de imágenes y videos generados por IA en las redes sociales, también podrías aprender algo al mismo tiempo, ¿verdad?
Ha pasado un tiempo desde que buscamos formas de detectar imágenes de IA y los signos reveladores de videos generados por IA, particularmente con la tecnología que avanza tan rápido.
¿Está buscando un ejemplo más útil de tecnología de inteligencia artificial? Dale una oportunidad a NotebookLM.