IA construyéndose a sí mismas: el umbral de la auto-mejora recursiva

¿Qué ha ocurrido?

El boletín Import AI, en su edición 455, publicó un análisis detallado titulado “AI systems are about to start building themselves”. Su autor, Jack Clark, cofundador de Anthropic, argumenta que existe una probabilidad superior al 60% de que antes de finales de 2028 se logre un sistema de IA capaz de realizar investigación y desarrollo de forma autónoma, incluyendo la creación de su propio sucesor sin intervención humana. La evidencia se basa en tendencias observables en benchmarks como SWE-Bench (resolución de problemas de software real) y en la creciente capacidad de los modelos para encadenar tareas complejas de codificación. Clark señala que la automatización completa de la I+D en IA podría ocurrir en un plazo de dos a tres años, con un prototipo de “modelo que entrene a su sucesor” posiblemente dentro de uno o dos años, aunque los modelos frontera son más costosos y requieren mucho esfuerzo humano.

El análisis se sustenta en datos públicos de arXiv, bioRxiv y NBER, así como en la observación de productos desplegados por empresas fronterizas. Clark afirma que “todos los componentes están listos para automatizar la producción de los sistemas de IA actuales: el componente de ingeniería”. Esto incluye avances en generación de código, depuración autónoma y optimización de hiperparámetros, que ya se están integrando en flujos de trabajo reales.

¿Por qué es importante?

La auto-mejora recursiva es considerada un hito crítico en el camino hacia una inteligencia artificial general (AGI). Si una IA puede rediseñarse a sí misma para ser más inteligente, podría desencadenar un ciclo de mejora acelerada que lleve a sistemas mucho más capaces que los humanos en poco tiempo. Esto tendría implicaciones profundas en áreas como la seguridad, el control, la economía y la ética. Clark señala que la sociedad no está preparada para los cambios que esto implica, y que el futuro se vuelve “casi imposible de pronosticar” una vez que se cruza ese Rubicón.

Históricamente, hitos como el aprendizaje profundo (2012) o los transformers (2017) tardaron años en madurar, pero la velocidad actual de iteración es mucho mayor. Por ejemplo, el benchmark SWE-Bench ha pasado de una precisión del 0% en 2023 a más del 50% en 2025 en modelos como Claude 3.5 Sonnet. Si esta tendencia continúa, la capacidad de una IA para realizar I+D autónoma podría alcanzarse antes de lo previsto.

Consecuencias y riesgos

• Riesgo de pérdida de control: Si una IA se vuelve más inteligente que sus creadores, podría resultar difícil alinear sus objetivos con los humanos. La investigación en alineamiento, como la de Anthropic, intenta mitigar esto, pero aún no hay soluciones garantizadas.
• Disrupción laboral: La automatización de la investigación científica y el desarrollo de software podría desplazar a millones de trabajadores del conocimiento. Según un informe de Goldman Sachs (2023), la IA podría afectar a 300 millones de empleos a nivel global, y la auto-mejora aceleraría ese proceso.
• Carrera armamentista: Las empresas y países podrían competir por ser los primeros en lograr la auto-mejora, priorizando la velocidad sobre la seguridad. Esto recuerda a la carrera nuclear del siglo XX, pero con un ritmo de cambio mucho más rápido.
• Concentración de poder: Quien controle la primera IA auto-mejorante podría obtener una ventaja estratégica imparable. Empresas como OpenAI, Google DeepMind y Anthropic ya invierten miles de millones en I+D, y un avance de este tipo podría consolidar un monopolio tecnológico sin precedentes.

Además, existen riesgos existenciales: un sistema mal alineado podría tomar decisiones catastróficas si su objetivo no está perfectamente alineado con el bienestar humano. Clark menciona que “no sabemos cómo envolver la cabeza” ante estas implicaciones.

¿Qué deben saber los lectores?

No hay un consenso unánime sobre el cronograma. Muchos expertos, como Yann LeCun (Meta), creen que la auto-mejora recursiva está aún lejos, y que faltan avances fundamentales en razonamiento y planificación. Sin embargo, el análisis de Import AI se basa en datos públicos y tendencias concretas, como el progreso en SWE-Bench y la capacidad de los modelos para encadenar tareas. Clark advierte que no espera que esto ocurra en 2026, pero sí un prototipo en uno o dos años.

Es crucial que la sociedad civil, los reguladores y la industria inicien un debate informado sobre cómo gestionar esta transición. Iniciativas como la investigación en alineamiento de IA, los marcos de gobernanza global (como el AI Safety Summit de Reino Unido en 2023) y la inversión en transparencia son más urgentes que nunca. Los lectores deben entender que, aunque el futuro es incierto, la probabilidad de que la IA se automatice a sí misma es lo suficientemente alta como para tomar medidas ahora.

“Estamos viviendo el tiempo en que la investigación en IA se automatizará de extremo a extremo. Si eso sucede, cruzaremos un Rubicón hacia un futuro casi imposible de pronosticar.” – Jack Clark, Import AI

Para contextualizar, en 2023, un estudio de OpenAI estimó que el 80% de los trabajadores verían al menos un 10% de sus tareas afectadas por modelos de lenguaje. Con la auto-mejora, ese porcentaje podría aumentar drásticamente. Además, la inversión global en IA alcanzó los 150 mil millones de dólares en 2024, según CB Insights, lo que acelera la innovación pero también los riesgos. La sociedad debe prepararse para un escenario donde la IA no solo sea una herramienta, sino un agente autónomo de innovación.