Operai ha anunciado nuevas reglas orientadas a la seguridad para personas menores de 18 años que usan ChatGPT. Sam Altman, CEO de la compañíaDijo que los usuarios jóvenes pondrán seguridad antes de la confidencialidad y la libertad en la interacción de la inteligencia artificial.
Dentro del alcance de la nueva política, ChatGPT es sin reglamento No entrará en discursos con coqueteo, y se aplicarán límites más estrictos para el suicidio y el mismo hambriento.. Operai planea enviar notificaciones a los padres en tales casos y contactar a los agentes de la ley en casos de emergencia. La compañía enfatiza que estos pasos tienen como objetivo reducir el riesgo de afectar negativamente la inteligencia artificial, especialmente los adolescentes.
Control de los padres y sistema de estimación de edad
Padres en el nuevo período, Niños de 13 años o más Podrá activar varios cheques conectando su cuenta con sus propias cuentas. Entonces Limitar el historial de chat, el cierre de la memoria, bloquear completamente el uso de Chatgpt en ciertos momentos Tales características se pueden usar. Si bien el sistema envía una advertencia a los padres durante los momentos de crisis, las autoridades locales podrán participar en situaciones inalcanzables.
Operai también anunció que ha desarrollado una tecnología para predecir la edad de los usuarios a largo plazo. En los casos en que la edad no se puede determinar claramente, el sistema clasificará al usuario como «menor de 18 años» por razones de seguridad. Los usuarios adultos podrán continuar con la experiencia ChatGPT estándar mediante verificación.
Estos pasos se anunciaron el mismo día que la sesión del Comité de Justicia del Senado de los Estados Unidos titulada «Daños creados por los botes de chat de inteligencia artificial». En el comité, el padre de un joven que se suicidó después de una interacción a largo plazo con ChatGPT también pronunció un discurso.
Operai parece haber ido a tomar medidas de seguridad más fuertes a la sombra del caso. Aunque la compañía establece que los usuarios adultos protegerán su confidencialidad y libertad, establece claramente que un enfoque más protector para los jóvenes ahora es una prioridad.