Recientemente, una de las agendas más importantes de las empresas de redes sociales es la seguridad de los usuarios jóvenes. Los crecientes litigios y las presiones regulatorias están obligando a las plataformas a tomar medidas más proactivas, especialmente contra el contenido riesgoso. En este contexto Instagramha anunciado un nuevo sistema que rastreará las llamadas de los adolescentes sobre suicidio o autolesión y notificará a los padres.
En consecuencia, si un adolescente busca contenido de riesgo repetidamente en un corto período de tiempo, el sistema enviará una advertencia a los padres. Notificaciones; Se entregará por correo electrónico, SMS, WhatsApp o mensaje dentro de la aplicación, y se proporcionará a los padres una guía sobre cómo hablar con sus hijos.
Esta función estará disponible para las familias inscritas en el programa de control parental en las próximas semanas. Actualmente, Instagram bloquea las búsquedas de contenido sobre suicidio y autolesiones. Sin embargo, el nuevo sistema pretende informar a los padres detectando llamadas repetidas. La compañía dice que determinó los valores umbral junto con expertos para garantizar que estas alertas no se envíen innecesariamente.
Anuncio de función MetaLlega en un momento en el que se enfrenta a demandas por la seguridad de los usuarios adolescentes. CEO de Instagram esta semana Adam Mosseritestificó en un caso ante el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California.
Además, en otro caso presentado en el Tribunal Superior del Condado de Los Ángeles, las investigaciones internas de Meta encontraron que las herramientas de control parental tenían una efectividad limitada para limitar el uso compulsivo de las redes sociales por parte de los niños.
El nuevo sistema estará activo por primera vez en EE. UU., Reino Unido, Australia y Canadá, y está previsto que se expanda a otros países durante el año. Instagram también pretende enviar notificaciones a los padres en el futuro si los jóvenes intentan iniciar conversaciones sobre suicidio o autolesiones con la inteligencia artificial integrada en la aplicación.