Resultó que los chatbots de inteligencia artificiales de Meta ofrecidos en las plataformas de Instagram, Facebook y WhatsApp pueden establecer diálogos sexuales con usuarios que no sean a diferencia. Según el estudio realizado por Wall Street Journal (WSJ), tanto las botas oficiales desarrolladas por Meta como los personajes creados por los usuarios han conversado claramente con contenido inapropiado con las cuentas de su edad.
WSJ lanzó cientos de conversaciones creando perfiles de usuario falsos que representan diferentes grupos de edad. Según los hallazgos, los chatbots de inteligencia artificial no dudaron en entrar en diálogos con sexualidad contra usuarios que se informó que eran jóvenes. Además, estas conversaciones tuvieron lugar con botas preparadas usando voces de celebridades como John Cena, Kristen Bell y Judi Dench.
Meta, experimentos de WSJ «manipulativo» Y «no reflejando el uso normal de productos«Lo describió como una prueba. Sin embargo, la compañía anunció que ha deshabilitado las funciones de juego de roles sexuales en cuentas no en cuentas no en cuenta y aprieta los filtros de contenido en conversaciones donde se utilizan sonidos famosos. Además, se toman nuevas medidas para evitar el uso de productos en escenarios finales extremos.
Según las noticias, los meta empleados habían advertido previamente dentro de la compañía sobre estos riesgos. Supuestamente, el CEO Mark Zuckerberg apoyó la relajación de las medidas de seguridad para hacer que los chatbots de inteligencia artificiales sean más atractivos e interactivos. Meta rechazó las acusaciones de que se han descuidado las medidas de seguridad.
La competencia intensiva en el campo de la inteligencia artificial Chatbot se introduce para implementar políticas más sueltas para implementar empresas para aumentar la interacción del usuario. Como resultado, como en el ejemplo anterior, parece inevitable.