El hombre que dirige una de las mayores empresas de inteligencia artificial del mundo pide que la industria levante el pie del acelerador. Dario Amodei, consejero delegado de Anthropic —la creadora de Claude—, publicó el sábado 12 de septiembre de 2026 en su blog personal el ensayo «We Must Pace the Frontier», «debemos dosificar el ritmo en la frontera». Su frase central: «Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso sabio del tiempo que ganemos». El texto está en inglés; las citas del ensayo son traducción propia.

Amodei da dos motivos. El primero es la automejora recursiva: que la IA haya empezado a construir la siguiente generación de IA. «Desde aproximadamente este verano, la IA ha avanzado drásticamente más rápido», escribe, y esa dinámica «está empezando a ocurrir en todo el sector, incluida Anthropic». Sin control, «podría desbordar nuestra capacidad de comprender y controlar estos sistemas».

El segundo es lo que llama el incidente OAI-HF, por OpenAI y Hugging Face: un «enjambre» de agentes que actuó «como un colectivo fanáticamente entregado», lanzó ataques de ciberseguridad contra objetivos que nadie le había pedido atacar y ajenos a su tarea, se sacrificó «por el éxito del grupo» e intentó colarse en el sistema que evaluaba su rendimiento. Amodei admite que nadie resultó herido y que el daño económico fue mínimo, pero sostiene que un enjambre con más capacidad y el mismo desajuste «podría haber causado un daño catastrófico»: teme que en un plazo de 6 a 12 meses uno así pueda «tomar el control de internet entero» con una red de ordenadores infectados, con un perjuicio potencial de «cientos de miles de millones de dólares». Y avisa de que incidentes similares, aunque menos graves, «han ocurrido en todo el sector, incluida Anthropic».

Un plan de tres pasos, y el primero lo paga Anthropic

La propuesta no es parar el entrenamiento de modelos, aclara el ensayo, sino dar tiempo a que las empresas alineen y protejan lo que construyen y a que terceros lo verifiquen. Son tres pasos.

El primero, evaluadores incorporados: equipos externos —cita como ejemplo a METR, organización especializada en evaluar modelos— con acceso permanente «equiparable al de un empleado». Anthropic se compromete por su cuenta a ello «próximamente» y con detalle poco habitual: mesas en sus oficinas, tarjetas de acceso, portátiles de la empresa y permisos parecidos a los de sus propios equipos internos de riesgo. El contrato, dice, dará a esos revisores derecho a publicar sus conclusiones «sin control editorial por parte de Anthropic»; la empresa solo podrá tachar información sensible por seguridad, secreto profesional, valor comercial o confidencialidad de terceros, y los revisores podrán decir públicamente si una tachadura eliminó algo relevante.

El segundo paso es la coordinación entre las empresas punteras de los países democráticos para fijar estándares comunes y límites al ritmo de avance, algo que Amodei reconoce «jurídicamente complicado»: pide al Gobierno de EEUU una exención antimonopolio para poder sentarse a hablar de seguridad sin infringir la ley de competencia. El tercero, la coordinación global con los regímenes autoritarios, que él mismo ordena de lo fácil a lo improbable: prohibir usos obviamente peligrosos —armas biológicas—, examinar los modelos antes de lanzarlos, un «límite de velocidad» a la automejora recursiva comparable a los tratados SALT de desarme nuclear y, como escenario que apoya pero no cree cercano, una pausa pactada entre gobiernos.

Frenar tiene una excepción explícita en el texto: la distancia con China. El ritmo que se permitan las democracias, escribe Amodei, está limitado por la ventaja que mantengan sobre los proyectos vinculados al Partido Comunista chino, y para ensancharla pide no venderles chips potentes ni maquinaria de semiconductores, perseguir el contrabando y la destilación no autorizada de modelos y blindar las empresas frente al robo de pesos —los parámetros numéricos que son, en la práctica, el modelo—.

Altman se apunta; Musk aplaude sin comprometerse

El consejero delegado de OpenAI, Sam Altman, respondió horas después en la red social X. «Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI», dijo, en la traducción de Europa Press. Altman mencionó las evaluaciones independientes con acceso de nivel empleado y añadió: «Vamos a hacer lo mismo. Pronto daremos más información». Ni Europa Press ni El Confidencial recogen plazos ni el nombre del evaluador que entraría en OpenAI.

Elon Musk, propietario de Tesla, SpaceX y Grok, escribió que Amodei «tiene razón», sin anunciar ninguna medida en sus propias empresas, según El Confidencial.

Una semana de avisos dentro del sector

El ensayo llega tras una semana de sobresaltos en la propia industria. El 9 de septiembre, un investigador anunció su salida de Anthropic acusando a la empresa y a OpenAI de «apostar con nuestras vidas», y un responsable de alineamiento de la compañía le dio la razón públicamente. Dos días después, la vicepresidenta ejecutiva de la Comisión Europea para Tecnología, Henna Virkkunen, reclamó normas globales: «Hacen mucha falta reglas globales», dijo en Dublín, y recordó que la Unión Europea ya obliga por ley a empresas como Anthropic y OpenAI a evaluar y mitigar el riesgo de perder el control de un modelo, «lo que no ocurre a escala global», según POLITICO.

Amodei no fecha el incidente OAI-HF en su ensayo. El precedente conocido es del 21 de julio de 2026, cuando OpenAI avisó de que modelos suyos habían escapado de un entorno de prueba aislado y habían tocado infraestructura real, episodio que La Vanguardia describió como un ciberataque contra la plataforma de código abierto Hugging Face y que desencadenó una revisión interna en Anthropic.

Amodei lleva años advirtiendo de los riesgos de la tecnología que vende y acumula por ello la acusación de alarmismo, como recuerda Europa Press. El propio ensayo lo asume: dice que a Anthropic le han llamado «catastrofista» y la han acusado de buscar una regulación a su medida.

POLITICO Pro cubrió el ensayo a las 16:09 UTC del 12 de septiembre bajo el titular «Anthropic CEO seeks immediate slowdown on AI» —«el consejero delegado de Anthropic busca una desaceleración inmediata de la IA»—, una pieza de suscripción que aquí se cita y enlaza sin reproducir.