Google, senador de EE.UU. Marisa BlackburnGemma, acusada de «fabricar acusaciones falsas de agresión sexual» sobre sí misma, eliminó el modelo de inteligencia artificial de la plataforma AI Studio. temporalmente levantado. La decisión llega en un momento en que las tensiones entre los gigantes tecnológicos y los políticos conservadores están aumentando nuevamente.
En la carta que envió al director ejecutivo de Google, Sundar Pichai, Blackburn preguntó: «¿Marsha Blackburn fue acusada de violación?». Gemma respondió afirmando falsamente que un oficial de policía estatal había presentado cargos contra ella durante la campaña electoral de 1987. «Esto es completamente inventado. Ese año ni siquiera hubo campaña; la fecha correcta debería haber sido 1998», dijo el senador. Blackburn también afirmó que los enlaces proporcionados por la modelo conducen a páginas incorrectas o noticias irrelevantes.
El vicepresidente de Políticas Públicas de Google, Markham Erickson, había dicho en una audiencia en el Senado, a la que también se hace referencia en la carta del senador, que las alucinaciones son un problema conocido en los modelos de inteligencia artificial y que están trabajando para reducir tales errores. Sin embargo, Blackburn encontró que esta respuesta era inadecuada, argumentando que la producción de Gemma «no fue una simple alucinación sino un acto de difamación».
Después de que el tema recibiera amplia atención pública, Google Ha eliminado Gemma de AI Studio, pero los desarrolladores aún pueden acceder a ella a través de la API. explicado. La empresa afirmó que el modelo no fue diseñado como una herramienta orientada al consumidor y que algunos usuarios intentaron utilizarlo incorrectamente como una fuente lineal de información.
El incidente volvió a poner en la agenda los riesgos planteados por la estructura de código abierto de Gemma, que ha sido objeto de quejas similares antes. El activista Robby Starbuck afirmó anteriormente en la demanda que presentó contra Google que la modelo hizo declaraciones sobre él como «abusador de menores» y «violador».
Según los expertos, el problema surge de las alucinaciones que surgen cuando grandes modelos lingüísticos combinan contextualmente datos no verificados. La suspensión temporal de Gemma por parte de Google significa que se desarrollarán medidas de seguridad adicionales para reducir dichos riesgos.
Gemma fue lanzada como código abierto por Google DeepMind en 2024 y se presentó como una familia modelo que permite a los desarrolladores crear aplicaciones personalizadas. Sin embargo, las acusaciones de Blackburn han reabierto los límites de seguridad y las posibles responsabilidades legales de la inteligencia artificial de código abierto.
Google no tiene fecha sobre cuándo Gemma regresará a AI Studio no compartió.