La marca de agua de Claude podría delatar el uso de la inteligencia artificial

Anthropic había comenzado a utilizar marcas invisibles que permiten a las máquinas reconocer que los contenidos generados por Claude son producto de la inteligencia artificial. Este enfoque, adoptado por la empresa para cumplir con las normas de transparencia de la Ley de Inteligencia Artificial de la Unión Europea, ha suscitado reacciones dispares entre los usuarios de Claude. En concreto, algunas personas que utilizan los textos obtenidos de Claude en actividades profesionales, educativas o editoriales temen que las marcas invisibles puedan revelar posteriormente el uso de la inteligencia artificial. Por el contrario, otros usuarios consideran razonable, desde el punto de vista de la transparencia, que el contenido generado por la inteligencia artificial sea identificable. Así pues, el centro del debate no radica tanto en la estructura técnica de la marca de agua, sino en bajo qué condiciones el resultado de Claude puede considerarse un trabajo propio del usuario.

Una de las plataformas en las que se han intensificado los debates ha sido Reddit. Un usuario llamado Visionode argumentó que el nuevo sistema podría poner en apuros especialmente a las personas corrientes que utilizan Claude de forma limitada. Según este usuario, mientras que las personas con más experiencia en herramientas de inteligencia artificial pueden intentar eliminar las posibles marcas reformulando el texto o pasándolo por diferentes servicios, es posible que otros usuarios no dispongan de esa posibilidad. Como ejemplos se mencionaron un estudiante que recurre a Claude para editar un párrafo, un periodista que pide que le resuman una transcripción extensa o un escritor que busca sinónimos cuando tiene dificultades para escribir. Este enfoque también plantea la cuestión de dónde trazar la línea divisoria entre el uso de la inteligencia artificial como herramienta de apoyo y la entrega directa de resultados generados por la propia IA.

El sistema de marcas de agua de Claude aviva el debate sobre la transparencia en el uso de la inteligencia artificial

Sin embargo, estos mismos ejemplos no resultaron convincentes para otros usuarios de Reddit. En concreto, existe una diferencia clara entre que un periodista incorpore tal cual un resumen elaborado por Claude al texto de una noticia y que dicho resumen se utilice únicamente con el fin de facilitar el análisis del material original. Del mismo modo, que un estudiante reciba sugerencias de corrección para un párrafo que él mismo ha escrito no es lo mismo que pegar directamente en su trabajo el texto generado por Claude. El enfoque fundamental de quienes apoyan la aplicación de la marca de agua se centra precisamente en esta distinción. Según este punto de vista, el hecho de que el resultado de la inteligencia artificial sea identificable tiene como objetivo proporcionar información adicional sobre cómo se ha generado el contenido, más que que Claude reclame derechos sobre el texto.

Por su parte, otro usuario de Reddit calificó la práctica de «poco ética» y señaló que, al trabajar con Claude, las instrucciones, el contexto, las decisiones y numerosas correcciones las aportaba él mismo. Según este punto de vista, Claude es únicamente una herramienta que facilita el proceso de producción, y la presencia de una marca invisible en el texto o el código resultante plantea la cuestión de hasta qué punto la herramienta interfiere en el trabajo del usuario. Por su parte, los usuarios que se oponen a ello subrayaron que la marca de agua no constituye una reivindicación de propiedad ni de derechos de autor. Según ellos, el objetivo es facilitar la identificación de contenidos generados por inteligencia artificial que podrían suponer un riesgo en diversos ámbitos de uso. Aunque en ocasiones el debate adoptó un tono burlón, algunos usuarios sugirieron que incluso quienes se oponían a la marca de agua podrían haber utilizado Claude para redactar sus críticas.

Otra parte de las críticas se basa en debates más amplios sobre los datos de entrenamiento de los modelos de inteligencia artificial generativa. Un usuario de Reddit señaló que, aunque él no utiliza a Claude para generar textos, le parecía irónico que se añadiera una marca de agua a los trabajos creados por la inteligencia artificial. Esta opinión se basa en el hecho de que los modelos avanzados de inteligencia artificial se han entrenado con una cantidad enorme de contenido creado por humanos. Por lo tanto, algunos usuarios consideran problemático que los sistemas que aprenden a partir de contenido humano marquen posteriormente los textos que generan de forma que sean reconocibles por una máquina. No obstante, las marcas técnicas que indican la fuente de los resultados generados por un sistema de inteligencia artificial a partir de datos de entrenamiento se consideran cuestiones distintas desde el punto de vista jurídico y técnico.

Los usuarios que apoyan el uso de la marca de agua consideran que el sistema puede resultar útil, especialmente en los casos en que el contenido generado por inteligencia artificial se presenta como si hubiera sido elaborado por una persona. Dado que las instituciones educativas, los medios de comunicación y las empresas tienen políticas diferentes en cuanto al uso de la inteligencia artificial, el mero hecho de determinar que un contenido ha sido elaborado con Claude no implica por sí solo que se haya producido un uso indebido. Por ejemplo, mientras que una institución puede autorizar a sus empleados a utilizar herramientas de redacción asistidas por inteligencia artificial, otra puede exigir que se indique en determinados documentos que se ha utilizado dicha tecnología. De manera similar, en el ámbito educativo también pueden aplicarse normas diferentes entre la corrección lingüística, el desarrollo de ideas y la generación directa de trabajos. Por ello, la forma en que se interpreta el mecanismo de detección técnica llega a ser tan determinante como la propia presencia de la marca de agua.

Desde el punto de vista de Anthropic, detrás de esta aplicación se encuentran las expectativas de transparencia que imponen las regulaciones sobre inteligencia artificial en Europa. La identificación de determinados contenidos generados o modificados por la inteligencia artificial de forma que puedan ser comprendidos por una máquina coincide con el enfoque de los reguladores, que buscan que se pueda rastrear el origen de los contenidos sintéticos. No obstante, siguen siendo importantes cuestiones técnicas como la solidez de los métodos de marcado invisible o si las marcas se conservarán en caso de que el texto se reescriba o se procese con otras herramientas. Si un sistema puede eludirse fácilmente, su capacidad para impedir el uso indebido puede resultar limitada; por el contrario, un sistema demasiado rígido puede dar lugar a evaluaciones erróneas respecto a quienes utilizan la inteligencia artificial de forma legítima como herramienta auxiliar. El debate en torno a Claude también pone de manifiesto que la marca de agua por sí sola no es una solución suficiente, y que es necesario que las instituciones establezcan normas claras y criterios de evaluación sobre el uso de la inteligencia artificial.