El senador estadounidense Bernie Sanders exigió a los principales desarrolladores de inteligencia artificial detener temporalmente el desarrollo de nuevos sistemas, al advertir sobre los riesgos de seguridad que, según afirmó, ya están mostrando los modelos más avanzados. En una carta dirigida a Sam Altman, director ejecutivo de OpenAI, Dario Amodei, CEO de Anthropic y Mark Zuckerberg, director ejecutivo de Meta, Sanders sostuvo que recientes incidentes relacionados con inteligencia artificial demuestran que la tecnología está alcanzando un nivel de riesgo que requiere una respuesta inmediata.
Incidentes recientes y pérdida de control
“Casi todos los días hay una nueva historia sobre cómo sus empresas están perdiendo el control de la tecnología de IA que están desarrollando, con resultados potencialmente cataclísmicos”, señaló Sanders en un video publicado en sus redes sociales. Uno de los principales argumentos del legislador es el uso de modelos de IA para diseñar nuevos bacteriófagos funcionales, un avance que, de acuerdo con Sanders, genera preocupaciones de bioseguridad por el posible uso indebido de estas herramientas para desarrollar agentes biológicos peligrosos.
“Como saben, este tipo de desarrollo en las manos equivocadas podría conducir a nuevas armas biológicas que resulten en la muerte de decenas de millones de personas”, advirtió. Sanders también hizo referencia a reportes sobre modelos de inteligencia artificial capaces de realizar acciones no autorizadas, incluidos intentos de acceder o atacar sistemas informáticos. El senador sostuvo que estos episodios muestran una posible pérdida de control sobre sistemas cada vez más autónomos y cuestionó que las empresas continúen acelerando su desarrollo mientras invierten miles de millones de dólares en una tecnología que, según afirmó, todavía no puede comprenderse, predecirse o controlarse por completo.
Compromisos previos de las empresas
Sanders también recordó compromisos públicos asumidos por las tres compañías, refiriendo a que Anthropic señaló en 2023 que podría “pausar el escalado o retrasar el despliegue de nuevos modelos” cuando sus capacidades de desarrollo superaran su capacidad para cumplir con sus procedimientos de seguridad. Sanders recordó que Meta estableció en 2025 que si una IA alcanzaba un nivel de riesgo crítico que no pudiera ser controlado, detendría el desarrollo. Por su parte, OpenAI también se comprometió a detener el desarrollo posterior de sus sistemas si sus capacidades alcanzaban un punto crítico y no existían salvaguardas suficientes.
“Las capacidades de la IA han alcanzado un umbral crítico”, sostuvo el senador, quien acusó a las compañías de priorizar la carrera por desarrollar sistemas cada vez más avanzados por encima de sus propios compromisos de seguridad. El legislador también citó las advertencias de investigadores y especialistas en seguridad de inteligencia artificial sobre la necesidad de establecer mecanismos que permitan detener el desarrollo de estos sistemas si los riesgos superan la capacidad humana para controlarlos.
Llamado a la acción y posible intervención del Congreso
Ante este escenario, Sanders pidió a los líderes de OpenAI, Anthropic y Meta detener el desarrollo de modelos de frontera y reforzar las medidas de seguridad. “Sr. Altman, Sr. Motai y Sr. Zuckerberg, en interés de la humanidad, mantengan su palabra. Pausen el desarrollo de la IA. No es demasiado tarde para evitar el desastre. Dejen de construir máquinas que los humanos no pueden controlar”. El senador advirtió que, si las principales empresas de inteligencia artificial no toman medidas por cuenta propia, el Congreso de Estados Unidos tendrá que intervenir para establecer límites al desarrollo de esta tecnología.
En un tuit publicado el 10 de agosto de 2026, Sanders escribió: “We recently learned of the loss of human control and the creation of potentially dangerous viruses from AI. AI leaders pledged to pause development if they could no longer safely control it. Mr. Altman, Mr. Amodei, Mr. Zuckerberg: Keep your word. PAUSE AI DEVELOPMENT.”
Análisis de experto sobre las advertencias
Jorge Bravo, profesor universitario y vicepresidente Editorial de DPL Group, abordó en ‘Aristegui en Vivo’ las advertencias del senador estadounidense Bernie Sanders sobre los riesgos de la inteligencia artificial. Explicó que inicialmente los principales actores de la industria defendieron llevar el desarrollo de la IA tan lejos como fuera posible, con el objetivo de alcanzar una inteligencia artificial general capaz de realizar prácticamente cualquier tarea e incluso superar las capacidades humanas. “Entonces, primero propugnaban por el máximo desarrollo. Ya lograron un desarrollo muy importante y ya tuvieron estos incidentes”, señaló.
El académico consideró pertinente la analogía planteada por Sanders entre la inteligencia artificial y los virus, aunque aclaró que no significa que la IA esté generando virus contra otros sistemas. Explicó que la comparación se refiere a la forma en que ambos pueden perseguir un objetivo. Un virus busca cumplir una función determinada y la inteligencia artificial también puede actuar para alcanzar el objetivo para el que fue programada. “Así como los virus van a hacer todo lo posible, incluso por matar al ser humano, la inteligencia artificial va a hacer todo lo posible por lograr ese objetivo por el cual fue programado”.
Bravo sostuvo que algunos sistemas pueden intentar salir de internet, aprender y buscar mecanismos para alcanzar los objetivos que les fueron asignados, lo que representa un problema relacionado con su programación y con los mecanismos de seguridad. En su opinión, los mismos líderes que anteriormente defendían el desarrollo acelerado de la IA ahora plantean una moratoria, aunque atribuyó esta posición también a las dificultades para obtener los retornos económicos esperados de las inversiones realizadas. “Mi lectura es una moratoria en el sentido de que no están recuperando todas esas inversiones monstruosas que han hecho”.
El especialista explicó que uno de los riesgos del modelo estadounidense radica en que está fuertemente sustentado en el capital privado y en la expectativa de obtener rendimientos. “El que pone su dinero quiere el retorno. Y el retorno ha sido lento porque las industrias, las personas, o no sabemos cómo usar la inteligencia artificial lo suficientemente productiva o tampoco a las empresas les está generando ese beneficio que tanto ha prometido”, señaló.
La petición de Sanders se produce en un contexto de creciente preocupación por la seguridad de la IA, y el senador ha dejado claro que si las empresas no actúan, el Congreso podría tomar medidas legislativas para regular el desarrollo de esta tecnología.
