La verdad oculta tras Claude Mythos y el proyecto Glasswing

Introducción 

Claude Mythos ha sido toda una disrupción en el mundo de la IA y de la ciberseguridad, preocupando gravemente a gobiernos y a bancos por su potencia y los riesgos potenciales. Pero, ¿qué hay de cierto detrás de este fenómeno? ¿Por qué se ha vetado su salida al mercado? ¿Es verdad que es tan peligroso que podría provocar un tsunami descontrolado en manos equivocadas? ¿Por qué se ha creado el proyecto Glasswind, un club exclusivo reservado únicamente para gigantes como Amazon Web Services (AWS), Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA o Palo Alto Networks? Si de verdad es tan crítico, ¿por qué no invitar a la competencia y cooperar todos juntos, en un ejercicio de ética profesional y de coherencia con los usuarios?

Entre sus logros (hasta el momento), cabe destacar la detección de más de 270 vulnerabilidades en el navegador Firefox,  o la detección de una vulnerabilidad en OpenBSD que llevaba 27 años indetectada.

 

Teorías conspiranoicas 

He escuchado todo tipo de teorías, más o menos fundamentadas. Al final del artículo os dejaré algunos enlaces de referencia de fuentes de prestigio.

La primera de ellas tiene que ver con el marketing, generando una alarma sobre seguridad y ofreciendo la promesa de una solución basada en expectativas. Dario Amodei, exvicepresidente de investigación de OpenAI y actualmente CEO de Anthropic, alarmaba, ya desde su etapa en OpenAI (concretamente con GPT2) sobre las amenazas de seguridad de los modelos avanzados de IA si no se gestionaban correctamente, erigiéndose como el garante de esta seguridad. Esto le daba ventaja competitiva al ganarse el respeto y la confianza de los futuros clientes. Por contraparte, la historia oficial refleja que Amodei estaba realmente muy preocupado por la seguridad, pero Sam Altman no le daba importancia, priorizando el negocio, lo que le llevó a abandonar OpenAI y fundar Anthropic, para conducir su misión sobre la seguridad de la IA. Esta teoría sobre el marketing se ve reforzada por la carrera competitiva abierta frente a OpenAI para ser la primera compañía de IA que sale a Bolsa, recaudando fondos suficientes para alcanzar el objetivo de la IPO.

Tenemos ya el primer punto: alertar al mundo del peligro de una IA super inteligente que podría ser impredecible o maliciosa en manos ajenas a las suyas. La narrativa continúa con el planteamiento del proyecto Glasswind, un protocolo de divulgación y coalición con proveedores de infraestructura, a modo de defensa colectiva, parapetándose en la ventaja de poder desarrollar parches anticipados antes de que se produzcan posibles ataques, a lo Minority Report. Esto, además, tiene la ventaja de ahorrar mucho dinero en programas de Bug Bounty: si Mythos detecta vulnerabilidades y Zero-days, te ahorras mucho dinero en recompensas.

 

Los ¿puntos muertos? del Club Glasswing 

El Club Glasswing tiene a su disposición la IA más potente y peligrosa del mundo. Ser miembro de este club te da varios privilegios, no solamente el de escanear vulnerabilidades en tus productos y servicios, si no también en los de tu competencia, lo cual puede ser maquiavélico, como veremos más adelante. Mientras tanto, los socios pueden escanear, encontrar vulnerabilidades y desarrollar parches antes de su divulgación pública, suponiendo y asumiendo "la buena fe" y "la buena voluntad" por parte de todos los miembros. El protocolo de Glasswing contempla que cada socio del Club Glasswing tiene acceso a Mythos para su uso en sus propios productos e infraestructuras, con un crédito de 100 millones de dólares en créditos y la divulgación pública en 90 días de las vulnerabilidades encontradas. 

Es muy lícito pensar y suponer que, si puedes identificar vulnerabilidades que ni siquiera los humanos más preparados son capaces de esperar, también podrías evitar la publicación de los correspondientes CVEs (Common Vulnerabilities and Exposures, la base de datos universal de vulnerabilidades), lo que estaría ocultando potenciales riesgos de seguridad entre los usuarios. Por ejemplo, en versiones anteriores de algún modelo que tengamos funcionando en nuestros propios servidores (no en la plataforma del proveedor), estaríamos expuestos sin enterarnos de estas vulnerabilidades. Los proveedores tendrían en cuenta estas vulnerabilidades para próximas versiones o modelos, y su imagen como empresa no se vería comprometida o afectada por los CVEs (al no publicarse éstos). 

Con la excusa de lo peligroso que puede llegar a ser Mythos, aún no se han publicado las vulnerabilidades encontradas para que "los malos" no puedan aprovecharse de ello y atacar mientras se parchean estos riesgos, alimentando así aún más el alarmismo y el relato sobre Mythos y amparándose en el hecho de que el tiempo transcurrido entre el descubrimiento de una vulnerabilidad y la creación de un exploit funcional se ha derrumbado drásticamente.

Los miembros del Club Glasswing  son, por una parte, competidores en un mercado feroz, y algunos de ellos ofrecen servicios a muchas compañías que pueden ser también competencia, con una posición interesada obvia, tácticamente y estratégicamente. En este escenario cabe preguntarse, ¿podrían aprovecharse del privilegio de poder escanear productos competidores?. De hecho, la documentación del proyecto Glasswing no especifica claramente si los escaneos son dedicados exclusivamente a los propios productos. 

Se han identificado tres escenarios posibles en los que esto no constituiría un delito:

1) Inteligencia competitiva mediante escaneo de vulnerabilidades. Un análisis de vulnerabilidades a un competidor podría ocultarse, aprovechando este conocimiento en propio beneficio, por ejemplo, si en un futuro se descubre la vulnerabilidad y se explota, publicitar en contra del competidor y asegurar que el producto propio no tiene estos riesgos.

2) Inundación CVE coordinada. Un análisis de vulnerabilidades a un competidor podría utilizarse para estresar las bases de datos y medios públicos de vulnerabilidades, que podría coincidir "casualmente" con el lanzamiento de un producto (o una nueva versión de este), generando dependencias y compromisos de parcheos, retrasando el producto y dando ventaja al miembro que detectó las vulnerabilidades. 

3) Divulgación selectiva a terceros. Un análisis de vulnerabilidades a un competidor podría obviar el compromiso de los 90 días, llevando el descubrimiento a un tercero interesado (por ejemplo, un vendedor en corto, un periodista, un investigador de amenazas amigo o un contacto de inteligencia de un estado o nación). El competidor no tendría constancia de la vulnerabilidad al no estar registrada, y se podría explotar y revelar.

 

En casa del herrero... cuchillo de palo

Resulta incoherente erigirse como el adalid de la seguridad en la IA, y ofrecer su mejor producto y un protocolo de Gobernanza con buenas acciones a los gigantes tecnológicos, y por otra parte ser víctima de ataques por vulnerabilidades de todo tipo, lo que deja en entredicho la propia Gobernanza con la que predica. 

 Algunos de los acontecimientos más recientes son: 

• Tanto Bloomberg como TechCrunch informaron de que un grupo de usuarios no autorizado, pertenecientes a un foro online privado,  ha accedido a Mythos a través de un proveedor o contratista externo. Esto sucedió el mismo día en que Mythos se anunció públicamente.
• A finales de Marzo, Anthropic expuso accidentalmente el código fuente de Claude Code. Se publicó en producción el archivo cli.js.map, con un tamaño de 60 MB, el cual puede reconstruir todo el código fuente.
• El 15 de Abril se detectó una vulnerabilidad crítica en el protocolo MCP de Anthropic que permite la ejecución remota de código (RCE) en cualquier sistema, afectando a unas 200.000 instancias activas y 150 millones de descargas en los SDKs oficiales de Python, TypeScript, Java y Rust.

 

¿Cuestión de Seguridad Nacional?

Resulta irónico que Anthropic haya sido incluida en la lista negra del Pentágono por ser considerada un peligro para la Seguridad Nacional, pero al mismo tiempo se siga usando sus modelos de IA con fines militares (especialmente en la guerra de Irán). El presidente Donald Trump incluyó a Anthropic en esa lista negra tras la negativa de Dario Amodei, CEO de la compañía, a dejar usar su IA para armas autónomas y para la vigilancia de los ciudadanos estadounidenses.

 

La IA de Anthropic fue utilizada por Inteligencia para capturar a Nicolás Maduro en Venezuela, así como también para los ataques iniciales en la guerra de Irán. A pesar de ser defenestrada por el Pentágono, y ser reemplazada por su némesis OpenAI, se sigue utilizando con fines militares.

Lo más irónico de todo es que la NSA (Agencia Nacional de Seguridad) sería uno de los miembros confidenciales del Club GlassWing, y estaría utilizando Mythos quién sabe en qué escenarios y con qué objetivos (¿espionaje? ¿ciberguerra? ¿vigilancia?). Otros organismos de inteligencia del Reino Unido estarían también usando Mythos.

Reflexión final

 El lector atento habrá observado que he utilizado el término "Club" para referirme al "Proyecto" Glasswing. Este error deliberado llama la atención sobre que unos privilegiados pueden hacer uso de una IA que puede ser un Terminator en potencia (recordemos que Mythos fue capaz de hackear su propio entorno sandbox, lo que podría asemejarse a una "conciencia" no limitada).

¿Estamos asistiendo al punto de inflexión del nuevo orden mundial, en el que la hiper vigilancia y el control de nuestra Humanidad está en manos de un Club selecto y de gobiernos interesados y manipuladores? 

¿Podemos dejar tanto poder en manos de empresarios que son más ricos que países enteros y de una élite mundial?

¿Estamos construyendo una Matrix controlada por un Club con alas de cristal (traducción de Glasswing)?

¿Por qué se apropian de un supuesto problema y monopolizan lo que más puede manipular a las personas: el miedo?

¿Estamos viviendo el sueño húmedo de los poderosos de tener el control total sobre nuestras vidas digitales y reales?

¿Hemos dejado obsoletos a 1984, Un mundo feliz, Farenheit 451, Divergente, Ready Player One, V de Vendetta o The Matrix?

 

Referencias:

• Mythos preocupa a gobiernos y bancos, publicado por BBC. 
• Más de 270 vulnerabilidades encontradas en Firefox, publicado por HiperTextual 
• Vulnerabilidad en OpenBSD oculta 27 años, publicado por VenturaBeat 
• Vulneración del acceso a Mythos, publicado por Infobae 
• Acceso no autorizado a Mythos, publicado por TechCrunch 
• Fuga de código fuente de Claude Code, publicado por WeLiveSecurity 
• Falla crítica en MCP de Anthropic, publicado por Blogdonweb. 
• Dario Amodei contra el Pentágono, publicado por BusinessInsider
• Mythos empleado por la NSA, publicado por Infobae 
• La NSA estaría usando Mythos, publicado por Geeknetic
• NSA using Anthfopic's Mythos, publicado por Axios
• Mythos has Trust Issues, publicado por ZeroFox 
• Más allá de la detección, publicado por FluidAttacks