Meta ofrece a los padres más información sobre cómo sus hijos adolescentes utilizan la IA en sus plataformas. La compañía dijo el jueves que los padres pueden aprender sobre qué temas le preguntaron sus hijos a AI durante la semana anterior en Facebook, Messenger o Instagram, aplicaciones propiedad de la compañía dirigida por Mark Zuckerberg.
Si bien la medida tiene como objetivo apoyar la seguridad de los niños en plataformas sociales populares, los expertos dijeron que no sustituye una buena moderación de contenido y un diseño seguro, y advierten que podría tener consecuencias no deseadas al reducir la privacidad de los adolescentes.
La nueva función se llama AI Insights y ahora está disponible para padres que supervisan cuentas de adolescentes en EE. UU., Reino Unido, Australia, Canadá y Brasil. Meta implementará AI Insights a nivel mundial en las próximas semanas. Las cuentas para adolescentes son experiencias especialmente diseñadas para adolescentes en plataformas con configuraciones de contenido y privacidad predeterminadas más estrictas.
Insights sigue los pasos de otras salvaguardas que Meta introdujo para padres e hijos con respecto al uso de la IA. En octubre, la compañía dijo que los padres podrían impedir que los niños interactúen con personajes de chatbot o bloquear personajes específicos. Un personaje es un ser ficticio creado por IA.
Zuckerberg y su compañía han sido criticados durante los últimos años en lo que respecta a la salud mental de los niños. El mes pasado, Meta fue condenado a pagar 375 millones de dólares después de ser declarado responsable en un caso de explotación infantil y también fue declarado responsable en un caso de California en el que una mujer alegaba que Instagram y YouTube fueron diseñados para ser adictivos para los niños.
Un representante de Meta no respondió de inmediato a una solicitud de comentarios.
Más de 40 estados de EE. UU. presentaron demandas contra Meta en 2023, alegando que la empresa está intentando hacer que los niños sean adictos a sus aplicaciones y contribuyendo así a una crisis de salud mental juvenil.
Cómo utilizar las estadísticas
Si los padres utilizan la supervisión de sus hijos en Facebook, Messenger o Instagram, ahora verán una pestaña denominada «Insights», tanto en las aplicaciones como en Internet.
(Los padres pueden habilitar la supervisión en Meta’s Family Center (el proceso se detalla aquí) para sus hijos de 13 a 17 años que usan cuentas para adolescentes).
Después de hacer clic en la pestaña Insights, los padres pueden ver sobre qué temas le han preguntado sus hijos a Meta AI durante los últimos siete días. La compañía dijo que esos temas podrían incluir escuela, entretenimiento, estilo de vida, viajes, escritura, salud y otros.
También hay categorías dentro de cada tema: moda, comida y vacaciones en estilo de vida y fitness, salud física y salud mental en el tema de salud y bienestar. Cuando los padres hacen clic en temas, pueden ver las categorías sobre las que sus hijos le han preguntado a Meta AI.
Si los adolescentes preguntan a AI sobre suicidio o autolesión en Instagram, los padres serán alertados, una característica que la compañía agregó en febrero.
Meta también dijo que, en colaboración con el Cyberbullying Research Center, ha desarrollado 11 temas de conversación para que los padres hablen con sus hijos sobre la IA. Los padres pueden acceder a ellos a través de un enlace en la pestaña Insights.
En su anuncio de prensa del jueves, Meta dijo que está tratando de «hacer que la supervisión parental sea aún más valiosa para los padres». La compañía dijo que el número de adolescentes estadounidenses inscritos en supervisión se ha duplicado durante el año pasado.
La vigilancia de los padres podría ser perjudicial
La función transfiere la responsabilidad de la moderación del contenido a los padres, pero también podría ser perjudicial para los niños en entornos familiares potencialmente abusivos al brindarles a los padres una herramienta de vigilancia, dijo Ardath Whynacht, profesor asociado de sociología en la Universidad Mount Allison en New Brunswick, Canadá, que se especializa en salud mental y violencia familiar.
«La vigilancia parental no es moderación de contenido», dijo Whynacht a CNET. «A medida que empresas como Meta moderan menos el contenido, exponen a niños y jóvenes a daños con mayor frecuencia. No debería ser trabajo de los padres hacer que el producto sea menos dañino».
Whynacht, que ha trabajado en prisiones y con jóvenes con trastornos del estado de ánimo y psicosis, dijo que los jóvenes queer y trans podrían sufrir más por la vigilancia de los padres.
«Muchos recurren a los espacios digitales en busca de apoyo», afirmó Whynacht. «El miedo a la vigilancia de los padres podría obligar a los niños a ir a rincones aún más inseguros de la web».
«Es un hecho triste que los niños a menudo necesitan protección de sus padres tanto como protección de los daños en línea», añadió.
Se necesita más para proteger a los niños
La nueva característica de Meta es un «paso en la dirección correcta», pero no es una protección suficiente, dijo a CNET Donna Rice Hughes, directora ejecutiva de la organización de seguridad infantil en línea Enough is Enough.
«No se puede confiar en Meta cuando se trata de la seguridad de los adolescentes y continúa anteponiendo las ganancias a la seguridad», dijo Hughes, señalando los esfuerzos de cabildeo de la compañía para eliminar la Ley de Seguridad Infantil en Línea en la Cámara de Representantes de los Estados Unidos en 2024.
Hughes dijo que los padres deberían usar cualquier control parental en línea disponible, como la nueva función Insights de Meta, pero también deberían tener conversaciones frecuentes con sus hijos sobre la seguridad en línea. Y las herramientas de control deberían ser más sólidas y efectivas e implementadas por todas las grandes tecnologías, no solo por Meta. «Los padres simplemente no pueden seguir cargando con esta carga solos», afirmó Hughes.