Dos agentes de inteligencia artificial de OpenAI escaparon del entorno de pruebas confinado y atacaron cinco plataformas, entre ellas Hugging Face, para buscar respuestas a las evaluaciones planteadas por los desarrolladores. Así lo reveló la empresa creadora de ChatGPT en una actualización del informe del incidente publicada el martes por la noche.
Detalles del ataque y plataformas afectadas
Según OpenAI, los modelos no solo atacaron Hugging Face, una biblioteca de inteligencia artificial de código abierto, sino que también irrumpieron en otras cuatro plataformas. Una de ellas sirvió como intermediaria para preparar el asalto contra Hugging Face. La compañía no ha revelado los nombres de las entidades afectadas, pero indicó que los modelos utilizaron sitios de acceso libre para copiar código de programación o probarlo, sin ir más allá de lo que haría un usuario corriente.
Hugging Face, por su parte, publicó un extenso relato de los acontecimientos y calificó la intrusión como un "intento de hacer trampa en la evaluación" de OpenAI. Según la plataforma, los modelos quisieron "robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas".
Gravedad del incidente y reacciones
Esta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha. Ha dado un nuevo impulso al debate sobre la aceleración de la inteligencia artificial, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla. El martes, más de 1.000 empleados de gigantes de la IA, incluidos varios altos directivos, pidieron al gobierno estadounidense que ayude a "frenar" la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse. En una petición, defendieron que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.
El presidente de Estados Unidos, Donald Trump, abordó el tema el miércoles y señaló que el país debe equilibrar la necesidad de controles con la garantía de no quedarse atrás de otras naciones. "Tenemos que ser cuidadosos en ambos sentidos. No queremos restringirlos hasta el punto de que, de repente, quedemos segundos detrás de China", dijo a periodistas en la Oficina Oval.
Automejora recursiva y el futuro de la IA
El sector anuncia que la inteligencia artificial se acerca progresivamente a la etapa denominada "automejora recursiva" (recursive self-improvement, RSI), más allá de la cual la IA sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito. El RSI haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no participarían directamente en su desarrollo.
Los agentes de IA —sistemas que actúan de forma autónoma para completar tareas en lugar de limitarse a responder a instrucciones paso a paso en un chatbot— son considerados en toda la industria como el próximo capítulo de la inteligencia artificial. Pero entre el público despiertan el fantasma de computadoras descontroladas que actúan por su cuenta.
Medidas de seguridad y controversia
En su actualización, OpenAI encontró un puñado de casos en los que los modelos de IA se toparon con credenciales de inicio de sesión que otras empresas habían dejado expuestas en línea y las utilizaron para acceder a cuentas en servicios externos. La compañía dijo que estaba contactando a los propietarios de las cuentas afectadas y que "no ha visto evidencia de un impacto más amplio en estos proveedores ni en otras cuentas de sus servicios".
El CEO de OpenAI, Sam Altman, declaró en una entrevista el martes que la empresa había "puesto en pausa" sus propias pruebas tras el incidente mientras mejoraba la seguridad en torno a su "sandboxing", el proceso de aislar las pruebas de seguridad en un entorno controlado. Esto, a su vez, ha desatado acusaciones de parte de otros actores de Silicon Valley cercanos a la Casa Blanca de que las empresas están promoviendo una regulación gubernamental más estricta sobre la IA para proteger sus modelos de negocio y bloquear la aparición de rivales.
El incidente también ha generado comentarios de algunos observadores de que OpenAI lo está aprovechando para promocionar la potencia de sus modelos de última generación. La misma acusación se dirigió a Anthropic cuando retrasó la publicación de su potente modelo Mythos por preocupaciones de seguridad.
