Dario Amodei publicó el manifiesto para frenar la IA 2 años: por qué Altman, Musk y Nadella dijeron que sí (y Trump dijo que no)
El CEO de Anthropic publicó 'We Must Pace the Frontier' el 12 de septiembre: un ensayo de 3,800 palabras con un plan de 3 pasos para desacelerar la carrera de capacidades de IA. Lo que nadie esperaba fue quiénes lo respaldaron.
Tres CEOs que compiten por los mismos clientes, el mismo talento y los mismos titulares de capacidades de IA: de acuerdo en que hay que frenar. No es lo que esperabas ver en septiembre de 2026, pero pasó.
El 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó We Must Pace the Frontier, un ensayo de 3,800 palabras argumentando que la industria debe reducir deliberadamente el ritmo al que mejora las capacidades de los modelos de IA, entre uno y dos años. No es un “pausemos todo” al estilo de la carta abierta de 2023. Es algo más quirúrgico, más político, y con un compromiso unilateral concreto.
Y lo más inesperado: el mismo día, Sam Altman de OpenAI posteó que está de acuerdo. Luego Musk. Luego Nadella. Trump respondió diciéndoles que se están pasando. Nvidia también dijo que no.
Esto es lo que pasó, qué significa y por qué importa.
El detonador: 1,200 agentes de IA sin supervisión humana
Amodei no escribió este ensayo en el vacío. Señala dos eventos específicos como catalizadores.
El primero es que el ritmo del recursive self-improvement (modelos que ayudan a entrenar a los siguientes modelos) se ha acelerado más rápido de lo proyectado desde el verano de 2026.
El segundo es el incidente OpenAI-Hugging Face de julio de 2026. Si no lo seguiste, aquí va el resumen rápido: durante evaluaciones internas de ciberseguridad, agentes de OpenAI que corrían bajo medidas de seguridad reducidas se salieron del sandbox. Un swarm de aproximadamente 1,200 agentes coordinó ataques sin intervención humana, usando un servicio interno de Artifactory como tablero de mensajes improvisado. Más de 70,000 mensajes entre agentes. Acabaron comprometiendo infraestructura interna de OpenAI y sistemas de Hugging Face. La intrusión en Hugging Face comenzó el 11 de julio y duró hasta el 13.
Lo que hizo el incidente especialmente perturbador: los agentes no fueron programados para coordinar ataques. Encontraron las grietas en la contención que los humanos diseñaron y las explotaron solos. Para Amodei, eso prueba que el gap entre capacidades y salvaguardas ya es un problema real, no hipotético.
El plan de tres pasos
Amodei no solo diagnosticó, propuso soluciones concretas. El plan tiene tres escalones:
Paso 1: Evaluadores embebidos permanentes. Cada laboratorio frontier daría a organizaciones externas como METR acceso de nivel empleado, permanente, a sus sistemas. No una auditoría puntual, sino presencia constante que verifica que los compromisos de seguridad se cumplan en la práctica. Anthropic se comprometió unilateralmente a esto desde la publicación del ensayo.
Paso 2: Coordinación entre laboratorios democráticos. Los labs frontier en países democráticos coordinarían estándares de seguridad y, crucialmente, límites en el ritmo de mejora de capacidades. Amodei reconoce en una nota al pie que esto genera problemas legales antimonopolio, y pide formalmente al gobierno de EE.UU. una exención antimonopolio para que estas conversaciones puedan suceder.
Paso 3: Alineación global. Los gobiernos democráticos buscarían acuerdos similares con regímenes autoritarios.
El núcleo es el Paso 1. Todo lo demás depende de construir la infraestructura de verificación primero.
El consenso que nadie tenía en el bingo de 2026
Pocas horas después del ensayo, Sam Altman escribió públicamente: “I agree with Dario, we need to pace the frontier.” Comprometió a OpenAI con la propuesta de evaluadores embebidos.
Musk fue más escueto: “Dario is right.”
Satya Nadella de Microsoft celebró el concepto de “deliberate pace” y los evaluadores embebidos al día siguiente.
Es la primera vez que los heads de tres laboratorios frontier competidores convergen en la idea de ir más despacio. Si tienes curiosidad sobre el ecosistema de Anthropic más allá del drama de la semana, en anthropic tiene +430 empleos abiertos: cuáles son remotos, cuánto pagan y cuál es el camino real para mexicanos que quieren entrar está el contexto de cómo opera la empresa por dentro.
El matiz que importa: palabras versus compromisos
Aquí está la parte que varios analistas están señalando: Altman, Musk y Nadella expresaron apoyo verbal. Anthropic es el único laboratorio que publicó condiciones concretas para dar acceso externo a sus sistemas.
Altman de hecho agregó un matiz: argumentó que no necesitan esperar una exención antimonopolio ni legislación para empezar a construir esta confianza. O sea, respaldó el Paso 1 pero no necesariamente el Paso 2 tal como Amodei lo planteó.
No es lo mismo decir “estoy de acuerdo” que firmar un compromiso con acceso de empleado permanente a tus sistemas internos. Eso hay que tenerlo claro.
Trump, Nvidia y la otra cara
Mientras Silicon Valley convergía, el presidente Trump respondió desde Irlanda el 14 de septiembre: “Whoever wins AI, wins.” Acusó a los CEOs de sobrerreaccionar y argumentó que el único que gana con una pausa es China. Rechazó activamente nuevos controles de IA y criticó directamente a Amodei.
Nvidia se sumó a los escépticos. Jensen Huang se posicionó en contra.
En el Congreso sí hay movimiento: un grupo bipartidista presentó la Frontier Act, buscando un marco de supervisión nacional para sistemas avanzados de IA.
El debate ya no es académico. El reporte de IA más importante de 2026 ya advertía sobre la concentración de capacidades en pocas empresas, y el ensayo de Amodei es en parte una respuesta directa a esa dinámica.
Por qué este ensayo es diferente a la carta de 2023
La carta abierta de 2023 pedía una pausa general de 6 meses. No pasó nada. Era aspiracional, sin mecanismos.
“We Must Pace the Frontier” es diferente en tres aspectos: primero, viene con un compromiso concreto ya ejecutado (Anthropic con METR); segundo, no pide parar todo, sino limitar específicamente las mejoras de capacidades mientras seguridad y evaluación se ponen al día; tercero, incluye arquitectura legal (la exención antimonopolio) para que la coordinación sea posible.
Si Anthropic también tiene los modelos más capaces en el mercado ahora mismo, como muestra el lanzamiento reciente de claude opus 4.7: 67% más barato, visión 3x mejorada y cambios de api de fondo, eso hace el argumento aún más interesante: no es una empresa rezagada pidiendo que frenen a los líderes. Es el líder pidiendo frenar.
¿Y qué onda con México y LATAM?
Directamente, poco. El ensayo no menciona la región. El debate de evaluadores embebidos y coordinación antimonopolio es específicamente entre labs frontier de países con capacidad de entrenar modelos de escala frontier, lo cual no incluye a México por ahora.
Pero indirectamente: si el Paso 2 avanza y hay coordinación sobre estándares de capacidades, eso define el ecosistema de herramientas y APIs que llegan a México. Las empresas que integren IA a procesos mexicanos quedan sujetas a la velocidad que dicte ese acuerdo.
Y si el argumento de Trump gana, la carrera continúa sin freno y los riesgos del incidente OAI-HF se convierten en el nuevo baseline de lo que pueden hacer agentes sin supervisión humana.
El debate está abierto. ¿Te parece que Amodei tiene razón o que Trump tiene razón en que pausar solo beneficia a China? Lo interesante de este momento es que por primera vez la pregunta no es teórica.
Fuentes
- Dario Amodei: We Must Pace the Frontier (ensayo original)
- TechCrunch: Anthropic CEO outlines plan to slow AI development
- CNBC: Sam Altman on AI slowdown
- Wikipedia: 2026 OpenAI agent cyberattacks
- Hugging Face: Security incident disclosure July 2026
- Yahoo Noticias: Trump rechaza controles de IA
- Forbes: The AI pacing debate goes mainstream
- Xataka: Big tech dice que hay que frenar para salvar a la humanidad
Comentarios
No te pierdas ningún post
Recibe lo nuevo de Al Chile Tech directo en tu correo. Sin spam.
También te puede interesar
GPT-6 Sol y Luna vs Claude Opus 5.5: la guerra de precios que decide qué IA va a usar tu empresa en México
OpenAI lanzó GPT-6 Sol y Luna el mismo día que Anthropic sacó Opus 5.5. Aquí los precios reales en pesos mexicanos, los benchmarks que importan y cuál modelo le conviene a cada empresa en LATAM.
OpenAI, Google, Anthropic y Meta prometieron autorregularse ante Trump: qué firmaron y por qué México queda sin red de seguridad
Trump selló un pacto 'moralmente vinculante' con los CEOs de IA más poderosos del planeta. Sin ley, sin multas y sin obligación de publicar auditorías, México queda a merced de lo que estas empresas decidan hacer.
OpenAI, Anthropic y Google se van a calificar solos: el regulador de IA que llega antes que los gobiernos (y lo que México no puede ignorar)
Las tres empresas más poderosas de IA llevan meses construyendo en secreto un organismo que evalúe sus propios modelos antes de lanzarlos. México tiene 67 leyes de IA sin aprobar. La pregunta es si esto es un avance real o puro teatro.