Julie Carpenter no No culpe en absoluto a los usuarios humanos por antropomorfizar los chatbots. El experto en interacción humano-IA desde hace mucho tiempo y autor de El androide desnudo considera que las herramientas de IA generativa, como ChatGPT, están diseñadas intencionalmente para provocar estas reacciones de los usuarios a través de recuerdos e interacciones altamente personalizados que replican experiencias sociales.
Estas conexiones unilaterales pueden volverse aún más complicadas y potencialmente desastrosas cuando se agrega como opción el erotismo generado por IA. Carpenter está preocupado por los próximos planes de OpenAI para permitir que los adultos envíen mensajes de texto con ChatGPT. «Estoy a favor de que la gente explore su sexualidad, pero lo quiero de una manera que sea segura para ellos además de divertida», dice. «La gente tiene que ser muy consciente de que los datos tienen un aspecto de vigilancia».
OpenAI insinuó por primera vez que permitiría a los usuarios adultos generar contenido erótico utilizando ChatGPT hace dos años en un documento oficial que describe cómo están diseñados para comportarse sus modelos. Si bien la compañía todavía parece estar planeando su eventual lanzamiento, el cronograma es confuso. En los últimos meses, el consejo asesor de expertos externos de OpenAI expresó su preocupación por los riesgos de esta liberación inminente, incluida la posibilidad de un «entrenador de suicidio sexy», según un informe de El diario de Wall Street. OpenAI se negó a hacer comentarios cuando WIRED lo contactó.
Que la gente hable sucio con las máquinas, como ChatGPT, no es nada nuevo. «Quieren monetizar algo que ven que la gente va a intentar hacer de todos modos», dice Kate Devlin, profesora de IA y sociedad en el King’s College de Londres, cuya investigación involucra el sexo digital.
Lo que es diferente aquí es la posible adopción de la obscenidad por parte de OpenAI en una plataforma convencional. Los chatbots eróticos son un negocio que genera ingresos, pero a menudo quedan relegados a sitios especializados con nombres corrientes o Grok de Elon Musk, conocido por sus imágenes deepfake no consensuadas y por entrar en un modo “MechaHitler”.
Cuando se lance el modo adulto, será interesante ver qué recordará exactamente ChatGPT sobre las inclinaciones sexuales de los usuarios. En los últimos años, OpenAI ha seguido mejorando la función de memoria del chatbot, que registra las preferencias del usuario y responde con resultados personalizados. ¿Eres vegano? ChatGPT no recomendará un restaurante de carnes cuando se le soliciten ideas para restaurantes. ¿Quieres hacer una caminata? Sabe que estás en San Francisco por chats anteriores y sugerirá rutas razonablemente cercanas, incluso si el contexto de esa ubicación no está incluido en el mensaje.
Pero, ¿qué sucede cuando este tipo de registro de datos y personalización hiperespecífica se encuentra con los cachondos hábitos de sexting de millones de usuarios adultos de ChatGPT? Las interacciones eróticas con ChatGPT aumentarán aún más los riesgos para la privacidad del usuario.
En lugar de recordar tus preferencias dietéticas o qué tipo de películas disfrutas más, ChatGPT podría recordar cuánto fantaseas con el porno peludo, los tríos en la playa y los juegos de mear, además de adaptar sus respuestas diarias con estos detalles sexuales en mente. Aún no está claro cómo planea OpenAI manejar estas conversaciones maduras.
Las personas que opten por interactuar con la versión obscena de ChatGPT en el lanzamiento pueden encontrar consuelo en la función «chats temporales». Cuando están habilitadas, estas conversaciones no se muestran en el historial de registro de un usuario ni se utilizan para mejorar los modelos de OpenAI.
Pero estos chats no son tan efímeros como pueden parecer a los usuarios. «Por motivos de seguridad, podemos conservar una copia durante un máximo de 30 días», se lee en el sitio web de OpenAI. También se incluye un descargo de responsabilidad en la página del sitio que afirma que «la retención de datos para ciertos servicios puede verse afectada por desarrollos legales recientes».