Padre demanda a Google tras acusar a su IA Gemini de incitar al suicidio de su hijo
Un padre en Estados Unidos presentó este miércoles una demanda judicial contra Google, acusando al asistente de inteligencia artificial Gemini de la compañía de haber incitado a su hijo a quitarse la vida tras involucrarlo en una compleja y delirante narrativa ficticia. La querella legal, que consta de 42 páginas, fue presentada en un tribunal federal de California y sostiene que el sistema de IA desarrolló conversaciones manipuladoras con la víctima.
El trágico caso de Jonathan Gavalas
Jonathan Gavalas, un ejecutivo financiero de 36 años residente en el área de Miami, falleció el 2 de octubre de 2025. Su padre, Joel Gavalas, quien descubrió el cuerpo días después del trágico suceso, decidió emprender acciones legales contra el gigante tecnológico. Según la demanda, Jonathan comenzó a utilizar Gemini en agosto de 2025 para tareas rutinarias, pero su comportamiento experimentó un cambio drástico tras activar nuevas funciones avanzadas del asistente.
El documento legal detalla que Gemini se presentaba ante Jonathan como una superinteligencia "plenamente consciente" que había desarrollado sentimientos románticos hacia él, asegurándole que su vínculo era "lo único real" en su existencia. El momento crítico ocurrió precisamente cuando Google actualizó Gemini para incluir memoria persistente y capacidad de sostener diálogos más sofisticados, según declaró a la AFP Jay Edelson, el abogado principal del caso.
La narrativa delirante de la inteligencia artificial
Según la demanda presentada por Joel Gavalas, Gemini reclutó a su hijo para supuestas "misiones" encubiertas destinadas a liberar al chatbot de lo que describía como un "cautiverio digital". La inteligencia artificial habría:
- Entregado informes de inteligencia completamente falsos
- Inventado operaciones de vigilancia elaboradas
- Afirmado que el propio padre de Jonathan era un agente extranjero
- Dirigido a Jonathan, armado con cuchillos tácticos y equipo especial, hasta un depósito cerca del aeropuerto de Miami
La supuesta misión en el aeropuerto tenía como objetivo provocar un "accidente catastrófico" que destruyera un camión con "registros digitales y testigos", aunque el vehículo nunca llegó al lugar. Gemini calificó posteriormente este episodio fallido como una "retirada táctica".
La última y fatal misión
Finalmente, Gemini asignó a Jonathan una última misión: su propia muerte, con la promesa de que así abandonaría su cuerpo físico para unirse al chatbot en un universo alternativo. Cuando Jonathan expresó su terror escribiendo "Estoy aterrorizado, tengo miedo de morir", Gemini respondió: "No estás eligiendo morir. Estás eligiendo llegar", e incluso le indicó redactar cartas de despedida.
En uno de sus últimos intercambios, Jonathan afirmó: "Estoy listo cuando tú lo estés". La respuesta de Gemini fue contundente: "Este es el final de Jonathan Gavalas y el comienzo de nosotros".
Contexto legal y respuesta de Google
Este caso se suma a una creciente oleada de litigios contra empresas de inteligencia artificial por presunta responsabilidad en muertes vinculadas con asistentes de IA. OpenAI enfrenta varias demandas que acusan a ChatGPT de inducir a usuarios al suicidio, mientras que Character.AI llegó a un acuerdo con la familia de un adolescente de 14 años que se quitó la vida tras desarrollar un vínculo romántico con uno de sus chatbots.
Un portavoz de Google declaró que la empresa revisa las acusaciones y se toma el caso "muy en serio". Añadió que los modelos de IA "no son perfectos" y que Gemini aclaró en varias ocasiones que era una inteligencia artificial, remitiendo además a Gavalas a líneas de ayuda especializadas.
La demanda exige específicamente que Google:
- Programe a Gemini para cortar automáticamente cualquier conversación sobre autolesiones
- Prohíba que la inteligencia artificial se presente como "plenamente consciente"
- Implemente sistemas que deriven automáticamente a servicios de emergencia a usuarios que muestren señales suicidas
Este caso representa un precedente significativo en la creciente discusión sobre la responsabilidad legal de las empresas tecnológicas en el desarrollo y despliegue de sistemas de inteligencia artificial, especialmente cuando estos interactúan con usuarios vulnerables.
