Las empresas de inteligencia artificial en Estados Unidos son conscientes de que la vigilancia por parte del gobierno de Donald Trump será más constante y rigurosa, por lo que deberán aprender a lidiar con tales intervenciones sin afectar el desarrollo de sus tecnologías. En el futuro, “veremos a más gobiernos interviniendo en cómo se usa la IA. Considero que es algo con lo que tendremos que aprender a vivir”, comentó Ali Ghodsi, CEO de la firma de gestión de datos para la IA, Databricks, respecto al decreto que firmó Trump para tener acceso a los modelos de IA de sus empresas.
Decreto de Trump sobre modelos de IA
Hace un par de semanas, Trump detalló que las compañías de IA deberán compartir voluntariamente todos aquellos nuevos modelos con capacidades avanzadas hasta 30 días antes de proporcionar acceso a otros socios. De acuerdo con un vocero de la Casa Blanca, este decreto refleja el “enfoque de sentido común de Trump de colaborar con la industria para equilibrar la innovación y la seguridad, consolidando el continuo dominio global de Estados Unidos en IA y ciberseguridad”.
Reacciones de la industria
Al respecto, Ghodsi acepta que la IA se ha convertido en un dispositivo político e incluso un asunto de relevancia geopolítica, por lo cual los gobiernos están priorizando sus agendas cuando se relacionan con este tema. “La IA se analiza ahora bajo la lente de la seguridad del Estado”, afirma. En un comunicado, Chris Lehane, director global de asuntos públicos de OpenAI, señaló que el decreto es un “paso importante hacia adelante para la IA y subraya que la seguridad y la innovación deben avanzar de la mano para garantizar el liderazgo continuo de Estados Unidos en IA”.
Antecedentes y caso de Anthropic
Antes de este decreto, el gobierno de Trump había adoptado un enfoque menos intervencionista en la regulación de la IA. Sin embargo, la presentación del modelo Mythos, de Anthropic, encendió las alarmas por su capacidad de explotar las vulnerabilidades de ciberseguridad. De hecho, esta misma semana la empresa suspendió el acceso a Fable 5, una versión limitada de Mythos, porque el gobierno consideró que se trata de un riesgo para la seguridad nacional. Según la disposición de Trump, en virtud del control de exportaciones, se ordenó cortar el acceso a estos modelos para “todo ciudadano extranjero, dentro o fuera de Estados Unidos”, incluidos “los empleados extranjeros” de Anthropic, razón por la cual la firma se vio obligada a “desactivar de forma abrupta” ambos modelos para sus clientes.
Al interior de Anthropic, los empleados ya se han quejado de esta situación. De acuerdo con reportes de The New York Times, existen chats grupales en donde la confusión respecto a las medidas de la administración Trump son constantes, pero la empresa emitió un comunicado donde reafirmó su compromiso a trabajar junto al gobierno.
Riesgos para el código abierto
Aunque Ghodsi se mostró receptivo a la idea de que el gobierno tenga más vigilancia sobre los sistemas de IA de las empresas, también advierte que puede ser riesgoso el hecho de que los gobiernos intervengan en otros estándares, como el código abierto, una tecnología importante para el desarrollo de innovaciones. “Si el código abierto se restringe, la investigación científica y el control de la IA quedarían limitados a unas pocas empresas”, comenta. “El código abierto es la herramienta que permite a las universidades y especialistas de todo el mundo entender qué sucede dentro de la IA y asegurar que funcione correctamente”.
En el campo de la IA, el código abierto es relevante para generar sistemas más transparentes, donde también se mejore la gobernanza de los datos y su ciberseguridad, es decir, modelos con un trasfondo ético más robusto. Por otra parte, resaltó el hecho de que ante la posibilidad de que los agentes de IA ahora puedan acceder a sistemas y ejecutar procesos, es aún mayor la necesidad de monitorearlos constantemente para asegurar que no realicen acciones indebidas. En este sentido advirtió la necesidad de que las empresas implementen controles para que sus agentes de IA no respondan preguntas controvertidas, evitando así conflictos con normativas de las compañías.
