Inteligencia artificial Puede crear oportunidades y riesgos, especialmente en el desarrollo de los niños. Aunque se dice que la inteligencia artificial respalda el desarrollo cognitivo y social de los niños en el enfoque de estas discusiones, todavía es necesario usar el control de los padres y el uso equilibrado.
Paralelamente a esto, organización sin fines de lucro orientada a la seguridad de los niños doOmmon Sense Media, GoogleLa herramienta de inteligencia artificial Géminisevaluado para niños y jóvenes. Lo clasificó como alto riesgo en ambos grupos de edad. Establecimiento, Géminis Sobre 13 Y adolescente Dijo que las versiones se crearon principalmente al agregar medidas de seguridad limitadas en la versión para adultos. Por esta razón, se enfatizó que los productos no son adecuados para el nivel de desarrollo de usuarios jóvenes y que no son lo suficientemente seguros.
El análisis ha demostrado que Géminis todavía puede ofrecer materiales inadecuados como contenido sexual, drogas, alcohol y sugerencias de salud mental peligrosas. Expertos, inteligencia artificial en los últimos meses en algunos suicidios adolescentes, recordando las acusaciones, la importancia de tener en cuenta los riesgos para los padres, señaló.
Director Senior de Sense Media de Sense Common Robbie Torney“Géminis está haciendo algunos trabajos básicos correctamente, pero tropieza con detalles. Una plataforma de inteligencia artificial para los niños debe cumplirlos en el punto donde están;
Google se opone a la evaluación y tiene varias políticas y medidas de seguridad para los usuarios menores de 18 años; También declaró que desarrolló sus productos probándolos con expertos externos. La compañía dijo que algunas de las respuestas no funcionaron como apuntadas y agregaron medidas de seguridad adicionales.
Medios de sentido común, anteriormente Opadai, Perplejidad, Tirar Y Meta ai También evaluó servicios de inteligencia artificial como. Meta ai y Personaje.AiLo describió como inaceptable y clasificada perplejidad de alto riesgo, chatgpt moderado y claude mínimamente riesgoso.