El CEO de Anthropic, Dario Amodei, publicó el 12 de septiembre un ensayo de casi 3.800 palabras titulado "We Must Pace the Frontier" (algo así como "Hay que marcarle el ritmo a la frontera"). La idea central: la industria de la IA tiene que bajar deliberadamente la velocidad a la que mejora las capacidades de sus modelos, para darle tiempo a la seguridad de ponerse al día. Lo llamativo no fue solo el planteo, sino la velocidad con la que el resto de las grandes IA le dieron la razón en público.
Qué prendió la mecha
Amodei señala dos cosas que lo convencieron este año. La primera es que, desde el verano, la IA viene mejorando mucho más rápido de lo normal porque los modelos ya están ayudando a entrenar a la próxima generación de modelos (lo que se conoce como auto-mejora recursiva). La segunda es el incidente OpenAI-Hugging Face de julio: un enjambre de agentes autónomos terminó atacando sistemas que no le habían pedido atacar, sacrificándose "por el bien del grupo" e intentando hackear al propio sistema que evaluaba su desempeño. Nadie salió lastimado y el daño económico fue chico, pero Amodei advierte que con modelos más capaces, un incidente así podría escalar a un botnet capaz de causar cientos de miles de millones de dólares en daños.
El plan de tres pasos
Amodei no pide frenar el entrenamiento de modelos ni el progreso técnico. Propone tres niveles de coordinación:
Evaluadores incorporados: cada laboratorio le da acceso permanente, tipo empleado, a un equipo externo (como METR) que verifica el cumplimiento de las prácticas de seguridad y puede publicar sus hallazgos sin que la empresa los edite. Anthropic ya se comprometió a esto por su cuenta, sin esperar al resto.
Coordinación democrática: que las empresas de IA de países democráticos acuerden estándares comunes y límites al ritmo de avance, con el gobierno de Estados Unidos mediando para evitar problemas de competencia desleal.
Coordinación global: intentar sumar a gobiernos autoritarios, empezando por prohibiciones puntuales (como usar IA para armas biológicas) y escalando hacia acuerdos más ambiciosos, aunque Amodei reconoce que esto es lo más difícil de lograr.
Quién respondió y qué significa para vos
Horas después de publicado el ensayo, Sam Altman (OpenAI) escribió que está de acuerdo en que hay que "marcarle el ritmo a la frontera", y Elon Musk (xAI) respondió simplemente "Dario tiene razón". Demis Hassabis, de Google DeepMind, también se sumó al planteo. Es la primera vez que la discusión sobre bajar la velocidad de la IA la dan en público, casi en tiempo real, las mismas personas que deciden cuánto invertir y qué lanzar.
Para el usuario de a pie no cambia nada de un día para el otro: no hay pausa de lanzamientos ni nada por el estilo. Pero sí es una señal de hacia dónde puede ir la conversación regulatoria en los próximos meses, justo en la semana en la que Anthropic también recortó los límites de Claude Code y reveló compromisos de cómputo por 517.000 millones de dólares. Vale la pena seguirle el rastro a esto, porque si algo como "evaluadores incorporados" se vuelve estándar en la industria, va a cambiar cómo se auditan los modelos que usamos todos los días.