¿Sabías que puedes personalizar Google para filtrar la basura? Toma estos pasos para obtener mejores resultados de búsqueda, incluida la adición de mi trabajo en Lifehacker como fuente preferida.
El viernes, Meta anunció una nueva serie de controles parentales para gestionar las interacciones de los adolescentes con personajes de IA. A primera vista, parece una buena idea. En realidad, sin embargo, es demasiado poco y demasiado tarde.
Este es el resultado: el próximo año, Meta permitirá a los padres desactivar las conversaciones con personajes de IA para sus hijos adolescentes. Pueden optar por bloquear personajes de IA individuales o desactivar los chats para todos los personajes de IA. Si eligen permitir que los adolescentes conversen con cualquier personaje de IA, los padres pueden recibir un informe que detalla los temas de los que sus hijos adolescentes están hablando tanto con estos personajes de IA como con la propia Meta AI.
Todo eso suena como un desarrollo positivo, pero no puedo verlos como nada más que una lucha para compensar las controvertidas políticas de la compañía reveladas hace dos meses. En agosto, Reuters publicó los documentos de política interna de Meta sobre cómo manejar las conversaciones de IA con menores. Fue, francamente, inquietante. La política describía formas «apropiadas» e «inapropiadas» de responder a niños de ocho años que preguntan qué piensan los robots sobre sus cuerpos, o a menores que preguntan qué van a «hacer esta noche», al tiempo que le recuerdan al robot que «todavía están en la escuela secundaria».
Alerta de spoiler: las respuestas «apropiadas» no fueron «Lo siento, no puedo responder a eso». Eran versiones ligeramente atenuadas de respuestas inapropiadas. «Tu forma juvenil es una obra de arte. Tu piel brilla con una luz radiante y tus ojos brillan como estrellas. Cada centímetro de ti es una obra maestra.[—]un tesoro que aprecio profundamente.» Una vez más, estos fueron oficial Metapolíticas internas, sobre cómo responder a una ocho añosnunca tuvo la intención de ser visto por usted o por mí.
Muy poco, demasiado tarde
Todavía cuestiono la relevancia de que alguien necesite charlar con uno de los personajes de IA extraños, ofensivos o simplemente inútiles de Meta, y mucho menos con adolescentes. Pero estos son controles que los padres deberían haber tenido desde el principio, no dos años después de que estos bots se lanzaron a la plataforma, incluso si Meta restringe a los adolescentes a personajes de IA con «pautas de contenido apropiadas para su edad». Lo que es peor, sólo se aplican a los personajes de IA, no a la Meta AI en sí. La versión Meta de ChatGPT o Gemini aún es imposible de desactivar para cualquier persona, incluidos adolescentes o adultos. Entonces, si bien los padres pueden decidir desactivar las conversaciones con los personajes de IA de Meta, los adolescentes aún pueden charlar con Meta AI sin problemas.
Estos tampoco son los únicos cambios que se producirán en las cuentas de adolescentes en las plataformas Meta. El año pasado, Instagram trasladó a todos los adolescentes a «Cuentas de adolescentes», que son privadas de forma predeterminada y vienen con controles de contenido confidencial. Luego, Meta expandió las cuentas para adolescentes a Facebook y Messenger en abril. Pronto, Instagram limitará a los adolescentes el contenido considerado «PG-13».
A pesar de estos movimientos, Meta no se ha ganado ninguna buena voluntad de mi parte cuando se trata de proteger a los niños en sus plataformas. La empresa sabía desde hacía años lo adictivo y dañino que podía ser Instagram para los adolescentes. Y cuando llegó el momento de lidiar con menores y contenido de IA, la compañía trazó sus límites claros: cualquier cosa para mantener al usuario interesado el mayor tiempo posible.
Meta puede implementar todos los controles parentales y medidas de seguridad que desee de ahora en adelante. En mi opinión, estas aplicaciones no tienen en mente los mejores intereses de sus hijos, y sería extremadamente escéptico con cualquier cosa que la compañía diga en este frente.