El Gobierno de Estados Unidos, liderado por Donald Trump, comunicó el martes a los desarrolladores de inteligencia artificial que no someterá los modelos de IA de código abierto a pruebas de seguridad voluntarias, según dos fuentes familiarizadas con las conversaciones. Esta decisión excluye a sistemas abiertos como Llama de Meta y Nemotron de Nvidia de las evaluaciones propuestas, que se centrarán únicamente en modelos con capacidades avanzadas de ciberseguridad.
Alcance de la medida
Los modelos abiertos, entre los que se incluyen Nemotron de Nvidia y Llama de Meta, son sistemas de IA cuyos componentes básicos son de acceso público. En contraste, los modelos cerrados están controlados por empresas concretas. Los principales desarrolladores estadounidenses de modelos cerrados son OpenAI, Google y Anthropic.
La Casa Blanca debatió las normas de pruebas, aún no publicadas, con personal de Meta, Anthropic, Google, Nvidia y OpenAI, según cinco fuentes familiarizadas con la reunión. La política busca centrarse en modelos con capacidades avanzadas de ciberseguridad, dejando fuera a los sistemas abiertos que, aunque poderosos, no alcanzan ese nivel de sofisticación.
Preocupaciones por ciberataques
Anthropic y OpenAI revelaron en los últimos días que sus herramientas de IA habían vulnerado los sistemas de otras empresas, lo que ha suscitado preocupación entre los parlamentarios estadounidenses sobre si los modelos de IA, cada vez más capaces, podrían utilizarse para llevar a cabo o facilitar ciberataques. El Gobierno afirmó en junio que las pruebas serían voluntarias y estarían diseñadas para modelos de IA con sofisticadas capacidades de piratería informática. Tanto OpenAI como Anthropic cuentan con modelos dotados de capacidades avanzadas de ciberseguridad.
Llamado de senadores demócratas
Cinco senadores demócratas instaron el martes a Trump a colaborar con el Congreso para aprobar una ley que haga permanentes las pruebas de los modelos de IA más avanzados fabricados en Estados Unidos, denominados “modelos de vanguardia”. “Estados Unidos no puede permitirse crear un entorno normativo en el que los sistemas de IA estadounidenses más avanzados estén sujetos a restricciones opacas y caso por caso, mientras que las alternativas chinas parecen más baratas, de más fácil acceso y más predecibles a la hora de implementarlas”, afirmaron los senadores en la carta.
La decisión del Gobierno de no exigir pruebas a los modelos abiertos podría tener implicaciones significativas para la industria, ya que estos modelos son ampliamente utilizados por desarrolladores y empresas en todo el mundo. Al no someterlos a las mismas evaluaciones que los modelos cerrados, se podría generar un desequilibrio en la regulación y la seguridad percibida de estos sistemas.
Expertos en ciberseguridad han señalado que los modelos abiertos, al ser accesibles públicamente, podrían ser más vulnerables a ser utilizados con fines maliciosos, ya que los atacantes podrían modificarlos o explotarlos sin restricciones. Sin embargo, los defensores de la IA abierta argumentan que la transparencia y la colaboración que permiten estos modelos son esenciales para el avance seguro y ético de la tecnología.
La medida también ha generado debate sobre el papel del Gobierno en la regulación de la IA, especialmente en un contexto de creciente competencia con China. Mientras algunos consideran que la falta de pruebas obligatorias para modelos abiertos podría debilitar la seguridad nacional, otros sostienen que la regulación excesiva podría frenar la innovación y poner en desventaja a las empresas estadounidenses.
Se espera que la Casa Blanca publique pronto las normas detalladas sobre las pruebas de seguridad, lo que podría aclarar el alcance exacto de la política y su impacto en la industria de la IA en Estados Unidos y el mundo.
