La empresa tecnológica OpenAI enfrenta una investigación para determinar si su tecnología de inteligencia artificial jugó un papel en el asesinato de dos personas en un tiroteo ocurrido en la Universidad Estatal de Florida (FSU) el año pasado.
Investigación en curso
El fiscal general de Florida, James Uthmeier, anunció que su despacho investiga el posible uso de ChatGPT por parte de un hombre acusado de disparar contra varias personas en el campus universitario de Tallahassee. "Si ChatGPT fuera una persona, estaría enfrentando cargos por asesinato", declaró Uthmeier.
El principal sospechoso es Phoenix Ikner, estudiante de la FSU, quien actualmente espera su juicio. Según Uthmeier, los intercambios analizados muestran que Ikner "describió su plan" de ataque a ChatGPT. En particular, preguntó a la interfaz cómo suscitar el interés de los medios nacionales por su acción, y "ChatGPT le proporcionó un análisis", precisó el fiscal.
Como parte integral de la investigación, las autoridades no han hecho públicos los detalles de los mensajes intercambiados entre el atacante y el chat.
Respuesta de OpenAI
OpenAI rechazó la acusación y replicó que "ChatGPT solo dio respuestas factuales a preguntas sobre información que se puede encontrar en fuentes públicas en Internet y no alentó ni promovió actividades ilegales o perjudiciales". Un portavoz de la compañía añadió que cooperan con las autoridades y "compartieron proactivamente" información sobre "una cuenta de ChatGPT que se cree que está vinculada al sospechoso".
Sin embargo, Uthmeier reiteró que el chatbot le facilitó información específica al tirador, como el tipo de armamento y las municiones que debería usar, así como detalles sobre cuándo habría mayor afluencia en el campus.
Marco legal
El fiscal argumentó que, según la legislación de Florida, cualquier persona que "ayude, incite o aconseje a otra" a intentar o cometer un delito se considera "coautor" del delito. Si bien no se le puede considerar a ChatGPT una persona, Uthmeier dijo que su equipo necesita determinar la "culpabilidad penal" de la compañía detrás del bot.
La acusación penal de una persona jurídica está prevista por el derecho estadounidense, pero Uthmeier, nombrado por el gobernador republicano Ron DeSantis, reconoció que "con la IA, nos adentramos en terreno desconocido".
Solicitud de documentos
El fiscal general remitió a OpenAI una solicitud de documentos, en particular sobre su normativa interna y sus métodos de supervisión de los modelos de IA.
Antecedentes
Aunque esta es la primera vez que OpenAI está bajo investigación penal por el supuesto uso de su chatbot por una persona que después cometió un crimen, la compañía ya se enfrenta a otra demanda por un incidente similar ocurrido en Canadá. Se han reportado múltiples casos, que incluyen asesinatos, crímenes violentos y suicidios, que aparentemente implicaron algún uso de inteligencia artificial, de los cuales varios están siendo asociados a OpenAI.
