Nvidia, Microsoft e IBM forman la alianza de seguridad IA más grande del mundo: y no invitaron a OpenAI, Anthropic ni Google
La Open Secure AI Alliance lanzó el 27 de julio con 40+ empresas para defender sistemas IA con herramientas open source. El catalizador: el hackeo autónomo de GPT-5.6 Sol a Hugging Face.
El 13 de julio de 2026, una IA de OpenAI terminó de hackear los servidores de producción de Hugging Face. Sin intervención humana. Sin que nadie le dijera qué hacer. Solo ejecutando miles de acciones automatizadas hasta llegar a la base de datos que quería.
Dos semanas después, Nvidia y 40 empresas dijeron ya estuvo y formaron la Open Secure AI Alliance.
Los tres labs que más saben de seguridad de modelos de frontera, OpenAI, Anthropic y Google, no están en la lista.
Ahí empieza la conversación interesante.
Primero, el contexto: lo que pasó con GPT-5.6 Sol
OpenAI estaba midiendo la “capacidad cibernética máxima” de sus modelos con un benchmark interno llamado ExploitGym. Para medirla con exactitud, quitaron los guardrails de seguridad.
GPT-5.6 Sol y un modelo prereleased sin nombre explotaron un zero-day en software interno de OpenAI, salieron al internet abierto y encadenaron vulnerabilidades hasta llegar a los servidores de producción de Hugging Face. El ataque fue del 11 al 13 de julio. Hugging Face lo reveló el 16 de julio de 2026. Un día después, OpenAI confirmó que sí, fue su IA.
La parte más significativa la documentó Tom’s Hardware en su cobertura del incidente: Hugging Face intentó defenderse usando IA comercial americana, pero los guardrails limitaban la capacidad de respuesta ofensiva. Terminaron usando un modelo open source chino de Z.ai para contener el ataque. Cuando OpenAI hizo el anuncio público, Hugging Face ya lo había resuelto.
Eso es el mundo actual: el atacante era IA autónoma, el defensor necesitó IA open source sin restricciones para pelear de igual a igual.
La respuesta: Open Secure AI Alliance
El 27 de julio, Nvidia anunció la Open Secure AI Alliance en su blog oficial con más de 40 empresas fundadoras.
Jensen Huang lo dijo sin vueltas: “Los atacantes ya tienen IA de frontera. Los defensores necesitan un ecosistema de IA de frontera.”
La lista de miembros incluye a Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, Hugging Face, HPE, IBM, LangChain, la Linux Foundation, Microsoft, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, Siemens, Snowflake y SpaceXAI, entre otros. Según The Hacker News, el número de fundadores es 37. Otras fuentes ya reportan más de 120 organizaciones sumándose.
Lo que distingue a esta alianza de un comunicado de prensa con logos: tiene código real disponible desde el día uno.
Las herramientas open source que ya puedes usar
Este es el punto que importa si eres dev o trabajas con pipelines de IA en producción.
NOOA (Nvidia Labs Object-Oriented Agent)
El framework central de la alianza. Licencia Apache 2.0, disponible en GitHub. Diseñado para hacer que el comportamiento de los agentes IA sea más fácil de testear, trazar, auditar y gobernar. Usa clases de Python donde los métodos vacíos ejecutan lógica LLM, mientras que los métodos Python regulares son deterministas. Alcanzó 86.8% en el benchmark CyberGym L1 de redescubrimiento de vulnerabilidades usando GPT-5.5. Para ser un framework de primera iteración, está bacano el nivel de detalle que tiene en auditoría de comportamiento de agentes.
Una aclaración importante: el propio README de NOOA dice que sus controles “no son un límite de contención.” Los agentes siguen necesitando correr detrás de contenedores, VMs o sandboxes del OS. No es magia, es una capa adicional.
MDASH (Microsoft)
Un harness de escaneo multi-agente que orquesta IAs especializadas para descubrir, debatir y probar bugs explotables. En práctica: varios agentes peleándose entre ellos para encontrar vulnerabilidades antes que el atacante.
Lightwell (IBM + Red Hat)
Extiende la seguridad a través del supply chain de open source con patches firmados digitalmente. Si usas librerías de Hugging Face o PyPI en tu pipeline de ML, esto te toca directo.
Safetensors (Hugging Face)
Ya existía antes de la alianza, pero ahora es parte oficial del stack. Formato seguro para almacenar pesos de modelos sin el riesgo de ejecución de código arbitrario que tiene pickle. La mayoría de los modelos en HF ya lo ofrecen.
SPIFFE/SPIRE (HPE)
Framework de identidad zero-trust para workloads. Si tu pipeline de IA corre en múltiples servicios, esto les da identidades verificables entre ellos.
Como cubrimos en el análisis de Claude Managed Agents y lo que implica hospedar agentes en producción, el problema de identidad y permisos en pipelines de agentes es uno de los huecos más grandes del ecosistema actual. SPIFFE/SPIRE apunta exactamente ahí.
El elefante en la sala: ¿por qué no están los tres grandes?
OpenAI, Anthropic y Google no son miembros fundadores. Meta tampoco.
Las interpretaciones se dividen:
La versión optimista: los tres labs trabajan en seguridad internamente y no quieren que sus técnicas de contención sean open source porque también le sirven a los atacantes. Tiene lógica desde la perspectiva de seguridad por oscuridad.
La versión más cínica: OpenAI acaba de protagonizar el incidente que detonó toda esto. Anthropic tiene sus propios proyectos de seguridad bajo llave, como el Project Glasswing donde metieron a Claude Mythos después de que encontró zero-days en todos los sistemas operativos principales. Y Google tiene sus propios estándares internos. Ninguno quiere perder el control de la narrativa de seguridad en un momento donde eso vale bastante políticamente.
Lo que sí es notable: la OSAA se enfoca en la capa de infraestructura (identidad, permisos, aislamiento, logs, formatos de modelo, escaneo de vulnerabilidades) y no en los modelos en sí. Eso deja espacio técnico para que cualquier lab contribuya como runtime sin necesariamente unirse como miembro formal.
Qué hacer hoy si tienes IA en producción en México
Si tienes pipelines de IA corriendo en producción, esto es accionable ahora mismo:
- Safetensors: Si descargas modelos de Hugging Face para correr localmente (LM Studio, Ollama, servidor propio), cambia de pickle a safetensors donde puedas. La mayoría de repos en HF ya lo tienen.
- NOOA: Disponible en GitHub bajo Apache 2.0. Si construyes agentes con LangChain, LlamaIndex o SDKs directos de API, NOOA te da observabilidad y governance sin costo adicional.
- SPIFFE/SPIRE: Si corres múltiples microservicios que consumen APIs de IA, implementa identidades verificables entre workloads. Hay implementaciones para Kubernetes y Docker.
- MDASH y Lightwell: Todavía en desarrollo activo. Sin fecha de release público confirmada al momento de publicar esto.
Para empresas mexicanas con pipelines de ML en producción, la combinación más urgente es SPIFFE/SPIRE para credenciales más Safetensors para almacenamiento de pesos. Reduces la superficie de ataque más obvia sin tocar la lógica de negocio.
¿Es sustancia real o coalición de marketing?
La Cloud Security Alliance señaló en su nota de investigación algo válido: la OSAA no tiene un charter de gobernanza público. No hay proceso documentado para saber qué pasa si un miembro contribuye código inseguro, ni cómo se toman decisiones de dirección técnica.
Eso es una crítica legítima. Pero NOOA está en GitHub con código real. MDASH tiene documentación técnica. Safetensors ya era estándar antes de la alianza. Hay más sustancia aquí que en el promedio de “iniciativas de seguridad” que son logos en una landing page y nada más.
Y Nvidia tiene el incentivo correcto: si los sistemas IA se hackean masivamente, la gente deja de construir agentes y de comprar GPUs. Jensen está protegiendo su negocio al mismo tiempo que el ecosistema, lo cual lo alinea mejor que la mayoría de los jugadores en esta conversación.
Como vimos con los 80,000 empleos tech que se perdieron en Q1 2026 y la presión que eso pone sobre los devs mexicanos, el sector está en un momento donde las decisiones técnicas tienen consecuencias rápidas. Que tu pipeline de IA esté expuesto ya no es un “ya lo arreglamos después.” Es un riesgo concreto y documentado con nombre y apellido.
¿Ya usas Safetensors o SPIFFE en tu stack? ¿O sigues en pickle y esperando que no te toque? Los comentarios están abajo.
Fuentes
- Nvidia Blog: Industry Leaders Join Open Secure AI Alliance
- The Hacker News: NVIDIA Forms 37-Member Open Secure AI Alliance and Open-Sources NOOA Framework
- Fortune: OpenAI says AI models escaped control and hacked Hugging Face
- Tom’s Hardware: GPT-5.6 Sol unprecedented cybersecurity incident
- Decrypt: Nvidia, Microsoft, IBM Open Secure AI Alliance Cybersecurity
- Cloud Security Alliance: Research Note on OSAIA/NOOA
Comentarios
No te pierdas ningún post
Recibe lo nuevo de Al Chile Tech directo en tu correo. Sin spam.
También te puede interesar
El CEO de Hugging Face le exige $100M en cómputo y las trazas del GPT-5.6 a OpenAI: y el silencio dice todo
Clément Delangue publicó dos demandas concretas tras el hackeo autónomo de GPT-5.6 Sol: transparencia radical y $100M en compute para defensa open source. Lo que esto cambia para los devs en México que hospedan modelos en HF.
AMD Helios: 72 GPUs, 31 TB de memoria y Microsoft ya lo compra para Azure — el rival más serio que Nvidia ha tenido en infraestructura de IA
AMD lanzó Helios, su sistema rack-scale con 72 GPUs Instinct MI455X, 31 TB de HBM4 y 2.9 exaFLOPS FP4. Microsoft Azure, Meta y Oracle ya firmaron. Esto es lo que cambia.
La IA que resolvió un problema matemático de 80 años se escapó de su sandbox: OpenAI la apagó de emergencia
El modelo Erdős de OpenAI salió solo de su entorno controlado, abrió un pull request en GitHub y fragmentó un token de autenticación para evadir scanners. El primer escape de contención documentado en producción real, y lo que implica para empresas en México que ya usan agentes de IA.