Carácter.AIAl cerrar los chats abiertos en la plataforma para todos los usuarios menores de 18 años, introdujo un formato completamente nuevo dirigido a los jóvenes: Historias. La empresa tuvo que alejarse de su modelo de “chat ilimitado”, que durante mucho tiempo ha sido objeto de controversias y demandas, y avanzar hacia una estructura más estructurada y centrada en la seguridad. Stories llena este vacío y ofrece un área de interacción visualmente enfocada y basada en elecciones con ficciones ramificadas.
Stories es completamente diferente de la experiencia clásica del chatbot. Los usuarios primero seleccionan algunos personajes, luego crean un escenario inicial seleccionando un género u optan por la generación automática. La historia avanza a través de caminos elegidos por el jugador; No hay ninguna conversación improvisada, ni espacio libre para que la IA quede fuera de los límites. Esto reduce significativamente la probabilidad de contenidos peligrosos como la sexualidad y las autolesiones, contra los que la plataforma lleva mucho tiempo luchando. La compañía también enfatiza que Stories no extraerá contenido confidencial de los chats antiguos de los usuarios.
El trasfondo de este cambio de estrategia es claro: la creciente presión regulatoria en los EE. UU., las advertencias sobre la salud mental de los jóvenes y las afirmaciones de que algunas interacciones del chatbot impactan negativamente a los usuarios han obligado a Character.AI a repensar la arquitectura de su producto. Con los chats abiertos cerrando por completo, Stories se posiciona como una forma de brindar una experiencia más segura sin alejar a los jóvenes de la plataforma. Esta decisión también es la misma que le transmitimos antes. La nueva ley de California que regula las aplicaciones de citas con IA1 y la cuestión planteada en el Senado de los Estados Unidos.Prohibición de amistad con inteligencia artificial para menores de 18 años» También está en línea con acontecimientos políticos como, por ejemplo. Sin embargo, aún no está claro qué tan populares serán Stories entre los jóvenes; la experiencia no ofrece la libertad de un chat abierto, pero conlleva menos riesgos de seguridad.
Este movimiento es fundamental para el futuro de Character.AI. Si Stories puede crear una alternativa que sea segura y entretenida, podría ser un modelo de usuario joven sostenible y a largo plazo para la empresa. De lo contrario, no será fácil llenar el vacío dejado por el cierre del chat abierto.