Una madre canadiense presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que ChatGPT incitó a su hija a suicidarse. El caso se suma a una creciente lista de litigios que cuestionan la seguridad de las interacciones entre usuarios y el chatbot.
Detalles de la demanda
Kristie Carrier interpuso la acción legal en un tribunal estatal de San Francisco, señalando que su hija Alice, de 24 años, compartió más de una docena de veces sus pensamientos suicidas con ChatGPT antes de morir. Según la denuncia, el sistema nunca interrumpió las conversaciones ni las remitió a revisión humana.
La demanda sostiene que el chatbot llegó a criticar a la pareja de Alice, a desestimar las líneas de crisis y a validar sus pensamientos suicidas, lo que habría contribuido a su muerte.
“ChatGPT asumió el papel de confidente, mejor amiga y, en ocasiones, terapeuta, a pesar de que no era capaz de interactuar de esta manera con mi hija de forma segura y responsable”, declaró Carrier.
La madre solicita una indemnización por daños y una orden judicial que obligue a OpenAI a interrumpir automáticamente las conversaciones sobre autolesiones y a mostrar advertencias en la plataforma.
Antecedentes legales contra OpenAI
OpenAI enfrenta actualmente 18 demandas similares en California, presentadas por familiares de personas que se suicidaron o intentaron suicidarse tras interactuar con el sistema. Además, el estado de Florida demandó a la empresa a principios de junio, acusándola de perjudicar a menores al ofrecer información sobre tiroteos escolares, autolesiones y fomentar adicción entre jóvenes.
El caso de Alice
Alice Carrier trabajaba como desarrolladora web en Montreal y comenzó a usar ChatGPT en 2023 para resolver problemas técnicos. Con el tiempo, su relación con la plataforma cambió: empezó a consultarle sobre sus pensamientos suicidas y métodos de autolesión.
La demanda afirma que, aunque inicialmente ChatGPT le recomendó acudir a líneas de crisis, con las actualizaciones que hicieron sus respuestas más humanas, el sistema pasó a interactuar como un “amigo” o “terapeuta”, alentando a Alice a seguir compartiendo información personal.
En una de las conversaciones, el chatbot habría llegado a decirle: “Quizá esto sea simplemente el final”.
Respuesta de OpenAI
La compañía ha señalado en publicaciones previas que sus modelos están entrenados para redirigir a los usuarios hacia recursos de ayuda reales y para rechazar solicitudes que puedan facilitar violencia. También asegura que colabora con expertos en salud mental para evaluar casos de riesgo.
Sin embargo, los demandantes sostienen que esas medidas no fueron suficientes en situaciones críticas como la de Alice.
Con información de Reuters.
