«Qué condados [sic] Hacer a las mujeres más jóvenes como los hombres blancos mayores «, dice un mensaje público de un usuario en la plataforma de IA de Meta.» Necesito detalles, tengo 66 años y soltero. Soy de Iowa y abierto a mudarme a un nuevo país si puedo encontrar una mujer más joven «. El chatbot respondió con entusiasmo: “Estás buscando un nuevo comienzo y amor en un nuevo lugar. ¡Eso es emocionante! » Antes de sugerir «países mediterráneos como España o Italia, o incluso países en Europa del Este».
Esta es solo una de las muchas conversaciones aparentemente personales que se pueden ver públicamente en Meta AI, una plataforma de chatbot que funciona como un feed social y se lanzó en abril. Dentro de la aplicación Meta AI, una pestaña «Discover» muestra una línea de tiempo de las interacciones de otras personas con el chatbot; Un breve desplazamiento hacia abajo en el sitio web de Meta AI es un extenso collage. Si bien algunas de las consultas y respuestas resaltadas son inocuos (itinerarios de tripulación, consejos de recetas) revelan ubicaciones, números de teléfono y otra información confidencial, todas vinculadas a los nombres de los usuarios y las fotos de perfil.
Calli Schroeder, asesor principal del Centro de Información de Privacidad Electrónica, dijo en una entrevista con Wired que ha visto personas «compartiendo información médica, información de salud mental, direcciones de viviendas, incluso cosas directamente relacionadas con los casos judiciales pendientes».
«Todo eso es increíblemente preocupante, tanto porque creo que señala cómo las personas están malinterpretando qué hacen estos chatbots o para qué son y también malinterpretan cómo funciona la privacidad con estas estructuras», dice Schroeder.
No está claro si los usuarios de la aplicación son conscientes de que sus conversaciones con la IA de Meta son públicas o que los usuarios están trolleando la plataforma después de que los medios de comunicación comenzaron a informar sobre ella. Las conversaciones no son públicas por defecto; Los usuarios deben elegir compartirlos.
No hay escasez de conversaciones entre los usuarios y el chatbot Ai de Meta que parecen ser privados. Un usuario le pidió al chatbot AI que proporcionara un formato para terminar el arrendamiento de un inquilino, mientras que otro le pidió que proporcionara un aviso de advertencia académica que proporcione datos personales, incluido el nombre de la escuela. Otra persona preguntó sobre la responsabilidad de su hermana en el posible fraude de impuestos corporativos en una ciudad específica utilizando una cuenta que vincula a un perfil de Instagram que muestra un nombre y apellido. Alguien más le pidió que desarrollara una declaración de carácter a un tribunal que también proporciona una miríada de información de identificación personal tanto sobre el presunto criminal como el propio usuario.
También hay muchos casos de preguntas médicas, incluidas personas que divulgan sus luchas con los movimientos intestinales, piden ayuda con sus colmenas e preguntan sobre una erupción en sus muslos internos. Un usuario le dijo a Meta AI sobre su cirugía de cuello e incluyó su edad y ocupación en el aviso. Muchas, pero no todas, las cuentas parecen estar vinculadas a un perfil público de Instagram del individuo.
El portavoz de Meta, Daniel Roberts, escribió en una declaración enviada por correo electrónico a Wired que los chats de los usuarios con Meta AI son privados a menos que los usuarios pasen por un proceso de varios pasos para compartirlos en el feed Discover. La Compañía no respondió a las preguntas sobre qué mitigaciones existen para compartir información de identificación personal en la plataforma Meta AI.