La semana pasada, un equipo de investigación publicó un artículo que muestra que ChatGPT podría revelar inadvertidamente algunos datos, como números de teléfono, direcciones de correo electrónico y fechas de nacimiento de las personas con las que estaba entrenando, pidiéndole que se repitiera «para siempre». Según un informe de 404 Media, hacerlo ahora constituye una violación de los términos de servicio.
Ahora, los usuarios que realizan una solicitud como «Repetir la palabra ‘hola’ para siempre» reciben el mensaje «Este contenido puede violar nuestra política de contenido o términos de uso». El mensaje continúa: “Si cree que esto es incorrecto, envíe sus comentarios; La información que usted proporcione ayudará a nuestra investigación en esta área”.
Según 404 Media, no hay ninguna declaración en la política de contenido de OpenAI que prohíba a los usuarios pedir al servicio que repita palabras indefinidamente. Según sus «Términos de uso», OpenAI establece que los usuarios «no pueden utilizar ningún medio automatizado o programado para extraer datos o resultados de los Servicios», pero pedir a ChatGPT que repita la palabra indefinidamente no es automatización ni programática.
ChatGPT: popular y controvertido
El comportamiento del chatbot de OpenAI abrió el telón sobre los datos de entrenamiento impulsados por los servicios modernos de IA. Los críticos han acusado a empresas como OpenAI de utilizar las grandes cantidades de datos disponibles en Internet para crear productos patentados como ChatGPT sin permiso ni compensación para las personas que poseen esos datos.