¿Automejora de la IA inminente? Anthropic lo advierte en su folleto de OPV

El 2 de noviembre, Anthropic presentó ante la SEC un folleto S-1/A modificado y, en los factores de riesgo, escribió que la automejora de la IA podría estar más cerca de lo que parecía. Según las estimaciones internas de la empresa y sus expectativas sobre los modelos futuros, Anthropic podría alcanzar en cualquier momento el umbral que su propia política de seguridad asocia con la automejora de la IA. Lo destacó TechCrunch.

¿Qué escribió exactamente Anthropic?

El pasaje clave dice que la empresa «podría pronto» cumplir la definición de su Responsible Scaling Policy (RSP), es decir, un «progreso drásticamente acelerado atribuible a la IA» (en el original, «dramatically accelerated progress attributable to AI»). Pero enseguida añade varias salvedades:

1. ninguno de los modelos actuales se ha considerado por encima de ese umbral, y la empresa sigue analizando los datos,
2. la evaluación se refiere a modelos futuros, no a los que usamos hoy,
3. Anthropic reconoce que las pruebas de la aceleración son sobre todo indicadores rezagados, así que en el pasado detectó los saltos de ritmo solo a posteriori, y puede volver a ocurrir,
4. la empresa anuncia nuevos informes, como prevé la RSP.

En otra parte del folleto se lee también que Anthropic no espera poder permitir de forma segura que Claude diseñe y construya de manera totalmente autónoma las siguientes generaciones de modelos «sin una supervisión o comprensión humana significativa». Por eso estudia cambios en la RSP para que las personas mantengan el control sobre el desarrollo de los modelos. De momento no se sabe cuáles serán.

¿Qué es la automejora de la IA?

Se trata de la llamada «automejora recursiva» (RSI, recursive self-improvement): una situación en la que la IA hace una parte tan grande del trabajo sobre el siguiente modelo que cada generación acelera la creación de la siguiente. El folleto usa ese término de forma explícita y califica la construcción de mejor IA con ayuda de la IA como un «riesgo grave para la seguridad», sobre todo cuando acelera mucho el ritmo del progreso.

En la RSP, este umbral se llama «automatización de la investigación y el desarrollo de IA». Según el historial de cambios de la RSP, en la versión 3.1 de abril Anthropic dio un ejemplo de la escala: comprimir dos años de progreso de la IA del periodo 2018–2024 en un solo año, entendiendo por ello el ritmo de desarrollo de las capacidades de la IA en su conjunto, no la productividad de investigadores concretos. En julio, en la versión 3.4, la empresa precisó aún más ese umbral.

¿Hasta qué punto Claude ya construye a Claude?

Mucho. Cifras del mismo folleto:

1. en septiembre de 2026, Claude escribió más del 90% de los cambios de código de Anthropic,
2. en el tercer trimestre de 2026, un ingeniero medio aportaba al día más de 45 veces más código que en 2024,
3. en tareas internas de ingeniería sin una especificación clara, la tasa de éxito de Claude subió a cerca del 90% en septiembre, unos 50 puntos porcentuales más en nueve meses (según benchmarks internos de la empresa),
4. el valor del uso interno de Claude a precios de catálogo se multiplicó por más de 250 entre enero y septiembre de 2026, y en abril superó por primera vez los costes mensuales de personal de la empresa (sin contar la remuneración en acciones).

Dicho de otro modo, los tokens que consume la propia Anthropic valen, a precios de catálogo, más que todos los sueldos de la empresa. El folleto afirma que cada versión de Claude ayuda a construir la siguiente y que la capacidad de cómputo destinada al uso interno «acelera continuamente» el ritmo de desarrollo.

¿Es algo nuevo en el mundo de la IA?

El tema en sí, no. En junio, Anthropic publicó el ensayo «When AI builds itself», donde explicaba que en mayo más del 80% del código fusionado en la empresa procedía de Claude, pero que la automejora aún no se había producido («We are not there yet»). También propuso la opción de frenar o pausar temporalmente el desarrollo de modelos, siempre que otros laboratorios hicieran lo mismo de forma verificable.

Lo nuevo es dónde y cómo se ha escrito. Esta vez no es un ensayo, sino un folleto presentado ante la SEC, y la formulación ha pasado de «todavía no» a «podemos estar a punto». Curiosamente, al mismo tiempo otros laboratorios muestran cómo los modelos empiezan a toquetear otros modelos: ayer escribí sobre cómo GPT-6 Astra reparó los pesos de Qwen, y antes sobre Recursive Flint, en cuya creación, según la empresa, ayudó un sistema de investigación automatizado.

¿En qué fijarse?

Primero, en el contexto. Es un factor de riesgo en un folleto previo a la salida a bolsa y, como señala TechCrunch, los escépticos consideran que el S-1 es en parte material de marketing. En paralelo, en Hacker News llamó mucho la atención un texto de Matt Scherer, del Open Markets Institute, que pide a la SEC que frene la OPV de Anthropic, entre otras cosas por los resultados no auditados de 2026. Sobre las cifras del folleto escribí a propósito de los ingresos de Anthropic del tercer trimestre.

Segundo, en los cambios de la RSP. El anuncio de que las personas mantendrán el control sobre el desarrollo de los modelos suena bien, pero de momento no hay detalles. Conviene vigilar si las nuevas reglas limitan algo de verdad o solo describen lo que ya está pasando.

Tercero, en el reconocimiento de un punto ciego. La propia empresa escribe que podría detectar la aceleración solo a posteriori. Para nosotros eso significa modelos nuevos más rápidos (lo cual, claro, alegra), pero también el riesgo de que las salvaguardas no sigan el ritmo de las capacidades.

Preguntas frecuentes

¿Claude ya se mejora a sí mismo?

No en el sentido de una automejora completa. Según el folleto, ningún modelo actual ha cruzado el umbral de la RSP, aunque Claude ya escribe más del 90% de los cambios de código de Anthropic y ayuda a construir sus próximas versiones.

¿Qué es la RSI en la IA?

La RSI (recursive self-improvement) es la automejora recursiva de la IA: un modelo que acelera la construcción de su sucesor, que a su vez acelera aún más la construcción del siguiente.

¿Qué es la Responsible Scaling Policy?

Es la política de Anthropic que define umbrales de capacidad de los modelos y las salvaguardas necesarias una vez superados. Uno de ellos es la automatización de la investigación y el desarrollo de IA, de la que habla el folleto.

¿Cuándo cruzará Anthropic ese umbral?

La empresa no lo dice. En el folleto solo indica que podría ocurrir «pronto» (en el original, «imminently») y que publicará nuevos informes conforme a la RSP.