Los nuevos controles permitirán a los padres evitar que sus hijos hablen con chatbots de IA por completo o bloquear el acceso a personajes específicos que no les gustan, escribieron el líder de Instagram Adam Mosseri y el director de IA de Meta, Alexandr Wang, en una publicación de blog anunciando los cambios el viernes. El asistente de IA de Meta es una notable excepción a esta regla. La compañía dice que “permanecerá disponible para ofrecer información útil y oportunidades educativas” con “protecciones implementadas apropiadas para la edad”.
Meta dijo que los padres también recibirán algún tipo de «conocimiento» sobre cómo sus hijos usan la IA, aunque no proporcionó detalles sobre cómo podría verse esto en la práctica. Según la descripción de Meta, parece que los «conocimientos» tomarán la forma de un resumen de alto nivel de «los temas sobre los que sus adolescentes conversan con los personajes de IA» y el asistente de IA de Meta. La compañía dice que espera que la información permita a los padres «tener conversaciones reflexivas con sus hijos adolescentes sobre las interacciones de la IA».
Mosseri y Wang dijeron que «esperan que las actualizaciones de hoy brinden a los padres la tranquilidad de que sus hijos adolescentes pueden aprovechar al máximo todos los beneficios que ofrece la IA». Los padres tendrán que esperar un poco más para descubrir dicha tranquilidad: los controles no estarán disponibles hasta “principios del próximo año”. Incluso entonces, estarán limitados a Instagram y solo para usuarios de habla inglesa en EE. UU., Reino Unido, Canadá y Australia. Meta dijo que planea expandir los controles en sus plataformas en el futuro y dijo que «pronto tendrá más para compartir».
Esta es una de las primeras actualizaciones de seguridad importantes que Meta ha realizado en sus chatbots de IA desde que los implementó en Facebook, Instagram y WhatsApp. Viene inmediatamente después de otra actualización importante lanzada solo esta semana que limita el contenido que las cuentas de Instagram para adolescentes pueden ver, en línea con lo que verías en una película PG-13.