La Comisión Europea aborda los riesgos del modelo de inteligencia artificial Claude Mythos Preview de Anthropic
Este martes, la Comisión Europea sostuvo una reunión crucial con la empresa estadounidense Anthropic para evaluar los posibles riesgos asociados con su modelo de inteligencia artificial Claude Mythos Preview. Este encuentro se produce después de que la propia tecnológica decidiera suspender el lanzamiento comercial de la herramienta, al considerar que sus habilidades avanzadas podrían representar una amenaza significativa para la seguridad global.
Diálogo en curso y expectativas de transparencia
En la rueda de prensa diaria de la institución comunitaria, Thomas Regnier, portavoz de tecnología del Ejecutivo comunitario, declaró: "Tenemos conversaciones en curso con Anthropic y confiamos en que la empresa nos dará información" sobre los peligros específicos de la herramienta o sobre los protocolos para probarla en compañías e instituciones europeas. Este diálogo refleja la creciente preocupación de las autoridades reguladoras ante el rápido avance de las tecnologías de inteligencia artificial y su impacto potencial en la ciberseguridad.
Capacidades extraordinarias y suspensión preventiva
El modelo Mythos está diseñado para permitir a sus usuarios analizar en tiempo real vulnerabilidades en materia de ciberseguridad. Sin embargo, durante las pruebas internas realizadas por Anthropic, se observó un hallazgo alarmante: el modelo demostró una capacidad autónoma tan potente que fue capaz de detectar peligros que habían permanecido ocultos durante 27 años. Esta revelación llevó a la compañía a tomar la decisión de suspender su comercialización generalizada, priorizando la seguridad sobre la innovación.
Proyecto Glasswing: una iniciativa de defensa colaborativa
Como medida interina, Anthropic ha lanzado el Proyecto Glasswing, un modelo de defensa en ciberseguridad al que podrán acceder más de 40 organizaciones líderes a nivel mundial. Entre las entidades participantes se encuentran gigantes tecnológicos como Amazon, Apple, Google, Microsoft, Nvidia, CrowdStrike e instituciones financieras como JPMorgan Chase, además de empresas de seguridad como Cisco, Broadcom, Palo Alto Networks y la Linux Foundation.
El objetivo principal de este proyecto es que estas organizaciones utilicen la potencia de Mythos para identificar y parchear vulnerabilidades en la infraestructura crítica de software antes de que actores malintencionados puedan explotarlas. Esta colaboración busca crear un escudo defensivo proactivo en el ámbito digital.
Preocupaciones a ambos lados del Atlántico
La inquietud por los posibles riesgos cibernéticos que plantea Mythos no se limita a Europa. Esta misma semana, el presidente de la Reserva Federal estadounidense, Jerome Powell, y el secretario del Tesoro, Scott Bessent, se reunieron con los directores ejecutivos de los principales bancos de Estados Unidos. Instituciones como Bank of America, Citigroup, Goldman Sachs, Morgan Stanley y Wells Fargo participaron en discusiones para evaluar y mitigar las amenazas potenciales asociadas con esta avanzada inteligencia artificial.
Este enfoque coordinado entre sectores públicos y privados, tanto en Europa como en Estados Unidos, subraya la naturaleza global de los desafíos en ciberseguridad y la necesidad de marcos regulatorios y colaborativos robustos frente al desarrollo de tecnologías de inteligencia artificial con capacidades sin precedentes.
