Googleinteligencia artificial apoyada en algunas búsquedas relacionadas con la salud Resúmenes de IA Eliminó sus resúmenes. Decisión, Guardián Esto se desprende de un estudio publicado por , que encontró que los resúmenes corren el riesgo de engañar a los usuarios.
Según la reseña de The Guardian Google «¿cuáles son los valores normales para los análisis de sangre del hígado?» Consultas como estas mostraban resúmenes que presentaban rangos numéricos desconectados del contexto, lo que podría hacer que personas con problemas de salud graves malinterpretaran sus resultados. Según los expertos, dicha información; Fue particularmente arriesgado porque no tuvo en cuenta variables como la edad, el sexo, el origen étnico y el tipo de prueba. Una percepción falsa de lo “normal” podría llevar a los pacientes a posponer las citas de seguimiento o cancelarlas por completo.
Tras estos hallazgos, Google deshabilitó la visualización de descripciones generales de IA para esas consultas. Pero la cuestión no se limita a esto. The Guardian y organizaciones sanitarias señalan que si se hace la misma pregunta con pequeñas variaciones, el sistema aún puede proporcionar resúmenes respaldados por inteligencia artificial. Esto indica que el problema es más estructural relacionado con cómo se posiciona la inteligencia artificial productiva en el campo de la atención médica, más que ejemplos individuales.
Confianza británica del hígado Si bien los funcionarios consideran la decisión de eliminación como un paso positivo, Google debería desarrollar un enfoque más integral para el contenido de salud en lugar de simplemente cerrar consultas específicas. enfatiza. Se expresan preocupaciones similares sobre otras áreas sensibles como el cáncer y la salud mental.
En el frente de Google, la compañía dice que la función AI Overviews solo se muestra en consultas de “alta confianza” y que los contenidos son revisados por equipos clínicos internos. Pese a ello, lo ocurrido demuestra una vez más que el margen de error de los resúmenes de inteligencia artificial situados en los primeros puestos de los resultados de búsqueda puede tener consecuencias mucho más graves, especialmente en ámbitos de alto riesgo como el de la salud.
Esta situación obliga a Google a reevaluar su marco de seguridad, precisión y responsabilidad en su estrategia para colocar la IA generativa en el centro de la experiencia de búsqueda, especialmente para áreas de alta sensibilidad como la atención médica.