El secretario general de la ONU, António Guterres, alertó este lunes que la inteligencia artificial (IA) avanza a una velocidad que supera la capacidad de regulación de cualquier entidad, y urgió a establecer normas globales armonizadas para mitigar riesgos, especialmente para la infancia.
Guterres: la IA se implanta sin control
Durante el primer Diálogo Global de la ONU sobre Gobernanza de la IA, celebrado en Ginebra, Guterres señaló que “una tecnología capaz de remodelar economías, transformar el mundo laboral, influir en elecciones y alterar el equilibrio de seguridad se está implantando más rápido de lo que nadie —incluidas las propias personas que la desarrollan— puede seguir el ritmo”. El encuentro de dos días no busca forjar un tratado, sino debatir cómo establecer normas para mitigar daños y aprovechar oportunidades.
Seguridad infantil como prioridad
Guterres subrayó que las normas deben priorizar la seguridad de los niños, tras conocerse casos de menores inducidos a autolesionarse o engañados por máquinas que simulaban ser amigos. “No permitimos que un medicamento llegue a un niño hasta que se haya demostrado su seguridad. Probamos cada juguete. Sin embargo, la IA ha llegado a nuestros niños —a su aprendizaje, amistades y preguntas íntimas— antes de que nadie evaluara sus efectos”, afirmó.
El secretario general propuso un “Compromiso de Seguridad Infantil en materia de IA”, que obligaría a las empresas a demostrar la seguridad de sus sistemas antes de exponerlos a menores. Además, exigió que no se generen imágenes sexuales de niños y que, ante signos de angustia infantil, el sistema se detenga y contacte a una persona para brindar ayuda.
Concentración de poder y brecha global
Guterres destacó que internet tardó 15 años en alcanzar mil millones de usuarios, mientras que la IA logró esa meta en solo dos años. No obstante, advirtió que los sistemas más avanzados están concentrados en un puñado de empresas y países, dejando a las naciones en desarrollo con escasa influencia. Un informe independiente de 40 expertos respaldado por la ONU reveló que Estados Unidos concentra el 75% de la potencia de cálculo de los 500 superordenadores de IA más potentes del mundo, y China el 15%. Aunque más de mil millones de personas usan IA conversacional cada semana, su adopción en países en desarrollo es rezagada.
Oportunidades y riesgos
Guterres señaló que, bien utilizada, la IA podría condensar décadas de desarrollo en años y convertirse en “el gran igualador del siglo XXI”. Sin embargo, advirtió que las instituciones globales no están preparadas para máquinas que toman decisiones con escasa supervisión humana o gubernamental.
El presidente del Consejo Presidencial de Libia, Mohamed al-Menfi, instó a reducir la brecha de IA en África, que representa el 10% de la población mundial pero cuenta con menos del 2% de los centros de datos globales. “La IA no puede ser un recurso legítimo si los países africanos no pueden hacer uso de ella”, afirmó, pidiendo mayor participación africana en el diseño de normas.
Por su parte, el presidente de Georgia, Mikheil Kavelashvili, llamó a crear legislación internacional sólida para evitar que la IA se convierta en un “instrumento de control totalitario y una nueva tiranía digital”.
El diálogo examina un informe científico independiente, y se prevé un reporte más exhaustivo para el próximo año, coincidiendo con una segunda reunión en Nueva York.
