Substack ahora ayudará a los usuarios a determinar si lo que están leyendo puede haber sido escrito por IA. Una nueva herramienta que llegará a la plataforma puede escanear publicaciones, notas, respuestas y comentarios para proporcionar una estimación de cuánto texto podría generarse o escribirse con ayuda de IA, según una publicación de blog publicada el martes.
La herramienta está impulsada por una empresa de detección de inteligencia artificial llamada Pangram y se está implementando en la web y en la aplicación iOS, y “pronto” se lanzará en Android. Los lectores pueden analizar contenido de más de 100 palabras eligiendo la opción «Buscar texto AI» en el menú de tres puntos en la esquina superior derecha de una publicación.
El cofundador y director ejecutivo de Substack, Chris Best, dice que la integración de Pangram tiene como objetivo aumentar la transparencia en la plataforma a medida que la IA se vuelve más frecuente en las redes sociales. «El problema central no es que las personas utilicen la IA ni la calidad de su producción», escribe Best. «El problema es cuando hay un desajuste entre las expectativas del lector y la realidad, especialmente cuando involuntariamente invierten su atención en algo sin ningún pensamiento humano en el otro extremo. Eso es Claudefishing».
De acuerdo con este cambio, Substack también permitirá a los creadores explicar su proceso de escritura a los lectores con una nueva declaración «Cómo hago esto». Los escritores también pueden escanear sus borradores con Pangram y tendrán la opción de informar resultados inexactos.
Best señala que «Pangram sólo puede detectar si se utilizó IA para crear el texto, no si se puso gran cuidado humano al crearlo, ni si se utilizaron herramientas de IA como fuente». Pero el objetivo, según Best, es facilitar que alguien elija invertir su tiempo leyendo una publicación de blog. «Cuando los lectores tienen que preguntarse si lo que están leyendo es real, se socava la confianza en la autoría y se amenaza el sustento de los escritores, incluidos aquellos que utilizan cuidadosamente las herramientas de inteligencia artificial para producir trabajos en los que creen», escribe Best. «Las plataformas que recompensan la falsedad crearán una carrera hacia el fondo».