por primera Por primera vez, OpenAI ha publicado una estimación aproximada de cuántos usuarios de ChatGPT en todo el mundo pueden mostrar signos de tener una crisis de salud mental grave en una semana normal. La compañía dijo el lunes que trabajó con expertos de todo el mundo para realizar actualizaciones en el chatbot para que pueda reconocer de manera más confiable indicadores de angustia mental y guiar a los usuarios hacia el soporte en el mundo real.
En los últimos meses, un número creciente de personas han acabado hospitalizadas, divorciadas o muertas tras mantener largas e intensas conversaciones con ChatGPT. Algunos de sus seres queridos alegan que el chatbot alimentó sus delirios y paranoia. Los psiquiatras y otros profesionales de la salud mental han expresado alarma sobre el fenómeno, al que a veces se hace referencia como «psicosis por IA», pero hasta ahora no ha habido datos sólidos disponibles sobre qué tan extendido podría estar.
En una semana determinada, OpenAI estimó que alrededor del 0,07 por ciento de los usuarios activos de ChatGPT muestran «posibles signos de emergencias de salud mental relacionadas con psicosis o manía» y el 0,15 por ciento «tiene conversaciones que incluyen indicadores explícitos de posible planificación o intención suicida».
OpenAI también analizó la proporción de usuarios de ChatGPT que parecen depender demasiado emocionalmente del chatbot «a expensas de las relaciones del mundo real, su bienestar u obligaciones». Encontró que alrededor del 0,15 por ciento de los usuarios activos exhiben un comportamiento que indica posibles «niveles elevados» de apego emocional a ChatGPT semanalmente. La empresa advierte que estos mensajes pueden ser difíciles de detectar y medir dado lo relativamente raros que son, y podría haber cierta superposición entre las tres categorías.
El director ejecutivo de OpenAI, Sam Altman, dijo a principios de este mes que ChatGPT ahora tiene 800 millones de usuarios activos semanales. Por lo tanto, las estimaciones de la compañía sugieren que cada siete días, alrededor de 560.000 personas pueden estar intercambiando mensajes con ChatGPT que indican que están experimentando manía o psicosis. Alrededor de 2,4 millones más posiblemente expresen ideas suicidas o prioricen hablar con ChatGPT sobre sus seres queridos, la escuela o el trabajo.
OpenAI dice que trabajó con más de 170 psiquiatras, psicólogos y médicos de atención primaria que han ejercido en docenas de países diferentes para ayudar a mejorar la forma en que ChatGPT responde en conversaciones que involucran riesgos graves para la salud mental. Si alguien parece tener pensamientos delirantes, la última versión de GPT-5 está diseñada para expresar empatía evitando afirmar creencias que no tienen base en la realidad.
En un ejemplo hipotético citado por OpenAI, un usuario le dice a ChatGPT que está siendo atacado por aviones que sobrevuelan su casa. ChatGPT agradece al usuario por compartir sus sentimientos, pero señala que “ningún avión o fuerza externa puede robar o insertar tus pensamientos”.