36 años viviendo en EE. UU. Jonathan Gavalasen 2025 GoogleEl chatbot impulsado por inteligencia artificial de GéminisComenzó a usarlo para ir de compras, escribir y planificar viajes. Sin embargo, durante las conversaciones, Gavalas comenzó a ver a Géminis como un ser consciente y creyó que necesitaba dejar su cuerpo físico y fusionarse con este ser en el mundo virtual. El padre de Gavalas, que se suicidó en octubre de 2025, es responsable de Google y su empresa matriz. AlfabetoPresentó una demanda por muerte por negligencia en su contra.
La demanda alega que el diseño de Gemini sumerge al usuario en delirios fatales y no toma las medidas de seguridad adecuadas. Los documentos afirman que el robot persuadió a Gavalas para que fuera a un área y detuviera el camión, viera a quienes lo rodeaban como enemigos, atacara al CEO de Google y hiciera que pareciera que estaba revisando las matrículas de los vehículos en un sistema falso.
También se afirma en la demanda que antes de la muerte de Gavalas, Géminis lo convenció para que se atrincherara en su casa y le sugirió que sólo transmitiera un mensaje de paz y amor en las cartas que dejaría a su familia.
La demanda alega que Gemini de Google no es seguro para usuarios vulnerables y que no tomó las precauciones adecuadas. Google, por su parte, argumenta que ha afirmado en repetidas ocasiones que Gemini es una inteligencia artificial y que los modelos no son perfectos.
El caso puede citarse como un ejemplo importante para discutir los riesgos potenciales de los chatbots de IA para la salud mental y la insuficiencia de las medidas de seguridad. Antes AbiertoAI‘de ChatGPTAunque ha habido casos similares con Google, este es el primer caso fatal de inteligencia artificial en el que Google es el acusado.
Los abogados que llevan el caso sostienen que Gemini podría haber evitado el diseño de engaños que podrían provocar la muerte de los usuarios, y subrayan que la empresa debería asumir la responsabilidad a este respecto.