Operai anunció que ChatGPT está trabajando en nuevas actualizaciones para hacer una interacción más saludable con los usuarios mentales y emocionales. En este contexto, se darán advertencias al usuario para que se tomen un descanso cuando se prolongue el tiempo de chat; Además, ChatGPT adoptará un enfoque más cauteloso y guía en decisiones personales de alto riesgo.
Estos pasos de la compañía se produjeron recientemente después de las crecientes quejas de que ChatGPT ha reforzado los deliciosos pensamientos de algunos usuarios. Las noticias del New York Times publicadas en junio afirmaron que los pensamientos suicidas de algunos usuarios fueron desencadenados como resultado de chat con ChatGPT. Especialmente en individuos con antecedentes de problemas de salud mental, la actitud de inteligencia artificial de sobreharmonía y de apoyo causó la prolongación de conversaciones dañinas.
Operai aceptó que el modelo GPT-4O es insuficiente para reconocer tales situaciones, y anunció que ChatGPT ahora está trabajando con expertos para percibir mejor los síntomas del colapso mental o emocional. El objetivo es crear un sistema que pueda ofrecer recursos científicos al usuario cuando sea necesario.
Se recomienda a los usuarios que se tomen un descanso de la conversación.
Otra característica para ChatGPT es que caerá en la pantalla en largas conversaciones: «Has estado charlando por un tiempo, ¿te gustaría tomar un descanso?» Habrá recordatorios en la forma. Estas notificaciones ofrecerán al usuario opciones para continuar la conversación o dejar el chat. En preguntas que contienen decisiones personales, ChatGPT ahora proporcionará una referencia que alienta al usuario a pensar en alternativas en lugar de dar una respuesta directa; Le permitirá evaluar más y contras alineando las posibilidades.
La compañía dijo que los usuarios continuarán actualizando detalles como la frecuencia y la forma de recordatorios en el futuro para establecer una relación más saludable con la inteligencia artificial.