Abierto AI, ChatGPT Una nueva plataforma que tiene como objetivo permitir a los usuarios obtener soporte en momentos de posible crisis. Contacto de confianza característica (persona de confianza) anunciado. Gracias a la nueva función, los usuarios podrán agregar un amigo o familiar como persona de confianza a su cuenta ChatGPT.
El sistema se activa cuando detecta que el usuario está entablando conversaciones serias relacionadas con autolesiones o tendencias suicidas. En este caso, ChatGPT primero anima al usuario a contactar directamente con su contacto de confianza y ofrece sugerencias para ayudar a iniciar la conversación.
Según el comunicado de OpenAI, el proceso no es completamente automático. Un equipo de revisión humana especialmente capacitado dentro de la empresa evalúa la conversación relevante. Si se concluye que el riesgo es grave, se envía un correo electrónico, SMS o notificación in-app a la persona de confianza previamente determinada por el usuario.
La empresa afirma que las notificaciones enviadas contienen información limitada. En consecuencia, sólo se transmite a la persona de confianza una preocupación de seguridad general; No se comparten grabaciones de chat ni resúmenes de conversaciones.
Para utilizar la función, los usuarios deben invitar a alguien mayor de 18 años. La persona invitada debe aceptar la invitación dentro de una semana para poder activar el sistema. En Corea del Sur, el límite de edad es 19 años.
Si bien OpenAI declaró que su objetivo es revisar las notificaciones de seguridad en menos de una hora, afirmó que trabajó con médicos, investigadores y organizaciones que trabajan en el campo de la prevención del suicidio durante el desarrollo de la función. La nueva característica llega en un momento en que se están intensificando las discusiones sobre los efectos de los chatbots de inteligencia artificial en la salud mental.
Como recordatorio, algunos acontecimientos trágicos que siguieron a las conversaciones con ChatGPT en los últimos años han aumentado la presión sobre las empresas de tecnología para que aumenten las medidas de seguridad en esta área.