Más de 1.000 expertos en IA piden a EE.UU. frenar el desarrollo: ¿qué significa?

¿Qué ha ocurrido?

El 29 de julio de 2025, un grupo de 1.134 empleados de las principales empresas de inteligencia artificial —OpenAI, Google DeepMind, Anthropic, y otras— firmaron una carta abierta titulada Pacing the Frontier. En ella, instan al gobierno de Estados Unidos a apoyar un esfuerzo internacional para ralentizar el desarrollo de los modelos de IA más avanzados, conocidos como 'fronterizos'. La carta, publicada en el sitio web de la iniciativa, no exige una moratoria total, sino que propone mecanismos de 'pacing' (marcar el ritmo) que incluyen regulaciones, estándares de seguridad y cooperación global. Los firmantes argumentan que la velocidad actual del progreso supera la capacidad de la sociedad para comprender y mitigar los riesgos asociados.

Este evento se produce en un contexto histórico donde las preocupaciones sobre la seguridad de la IA han ido en aumento. Desde el lanzamiento de ChatGPT en 2022, la industria ha visto una aceleración sin precedentes, con modelos como GPT-4, Gemini Ultra y Claude 3 superando pruebas de razonamiento general. Incidentes como la difusión de desinformación generada por IA en elecciones de 2024, el uso de modelos para ciberataques sofisticados y la falta de transparencia en los datos de entrenamiento han alimentado el debate público. La carta representa una señal de alarma desde dentro de la propia industria, algo inédito en su escala.

¿Por qué es importante?

Es la primera vez que un grupo tan numeroso de insiders de la IA —personas que trabajan directamente en su creación— se pronuncian de forma coordinada pidiendo límites. Históricamente, las voces críticas provenían de académicos externos, como el filósofo Nick Bostrom, o de organizaciones como el Future of Life Institute, que en 2023 publicó una carta pidiendo una pausa de seis meses en el entrenamiento de modelos más potentes que GPT-4. Esa carta fue firmada por figuras como Elon Musk y Steve Wozniak, pero contó con pocos empleados de las empresas líderes. Ahora, son los propios ingenieros y científicos quienes alertan, lo que otorga un peso diferente a la advertencia.

La carta se enmarca en un contexto de creciente regulación global. La Unión Europea ya aprobó en 2024 la Ley de IA, que clasifica los sistemas según su riesgo. Estados Unidos, en cambio, ha avanzado de manera fragmentada: órdenes ejecutivas de la Casa Blanca, como la de octubre de 2023, y propuestas legislativas en el Congreso que aún no se han consolidado. La Cumbre de Seguridad de la IA celebrada en Bletchley Park (Reino Unido) en noviembre de 2023 sentó las bases para la cooperación internacional, pero sin acuerdos vinculantes. La carta de julio de 2025 presiona para que se tomen medidas concretas antes de la próxima cumbre prevista para otoño en San Francisco.

"La velocidad a la que avanzamos es incompatible con la seguridad. Necesitamos que los gobiernos nos ayuden a poner frenos de emergencia." — Fragmento de la carta, citado por The Next Web.

El impacto en el mercado es significativo. Las acciones de las empresas de IA podrían experimentar volatilidad a corto plazo, ya que los inversores interpretan la carta como un riesgo regulatorio. Sin embargo, también podría beneficiar a startups enfocadas en IA segura y ética, que podrían atraer talento y financiación. Para los usuarios empresariales, la señal es ambivalente: por un lado, sugiere que los propios creadores dudan de la madurez de la tecnología; por otro, podría traducirse en productos más fiables y con mejores garantías de seguridad a largo plazo.

¿Qué consecuencias tendrá?

El impacto inmediato es político: la carta presiona a la administración estadounidense para que acelere sus planes regulatorios. La Casa Blanca ya ha anunciado que evaluará las propuestas de la carta, y se espera que influya en la Cumbre de Seguridad de la IA de otoño de 2025. Además, podría fomentar la creación de un organismo internacional similar al Panel Intergubernamental sobre Cambio Climático (IPCC), pero para la IA, como han sugerido algunos expertos.

En el ámbito empresarial, la carta refleja divisiones internas. Mientras los CEOs como Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic) han pedido regulación en el pasado, nunca habían contado con un respaldo tan explícito de sus equipos. Esto podría forzar a las empresas a adoptar voluntariamente estándares más estrictos para evitar una fuga de talento hacia startups de IA segura, como Anthropic (fundada por ex empleados de OpenAI precisamente por diferencias en seguridad). De hecho, según The Next Web, algunos firmantes han declarado que consideran dejar sus puestos si no se implementan medidas de seguridad más robustas.

Para los usuarios y empresas que adoptan IA, la carta tiene implicaciones prácticas. A corto plazo, es probable que se intensifiquen los debates sobre la transparencia de los modelos y el acceso público a evaluaciones de seguridad. Las empresas podrían verse presionadas a publicar 'fichas técnicas' más detalladas, como ya hizo Meta con su modelo Llama 3. Además, los clientes empresariales podrían exigir cláusulas contractuales que garanticen la seguridad y la auditoría independiente de los modelos que utilizan.

¿Qué deben saber los lectores?

• La carta no es vinculante: es una declaración de intenciones, no una regulación. Su efectividad dependerá de la respuesta del gobierno y de las empresas.
• Los firmantes representan una fracción minoritaria del total de empleados del sector. Se estima que solo OpenAI, Google DeepMind y Anthropic suman más de 10.000 trabajadores, por lo que 1.134 firmas son alrededor del 10% de esa base. Sin embargo, el hecho de que se hayan organizado públicamente es significativo.
• Existen críticas internas: algunos ingenieros consideran que la carta es alarmista o que pide un control que podría frenar la innovación beneficiosa en áreas como medicina, clima y educación. Por ejemplo, modelos de IA ya se utilizan para descubrir fármacos o predecir fenómenos climáticos extremos, y una ralentización podría retrasar estos avances.
• Organizaciones como la Partnership on AI han acogido la carta con cautela, pidiendo más concreción en las propuestas. En un comunicado, señalaron que "el pacing debe equilibrarse con la necesidad de seguir investigando en seguridad y beneficios sociales".
• Comparado con eventos anteriores, como la carta de 2023 que pedía una pausa, esta nueva iniciativa es más moderada en sus demandas pero más amplia en su base de apoyo. Refleja una madurez en el movimiento por la seguridad de la IA, que pasa de pedir una moratoria total a proponer mecanismos graduales de control.

En resumen, Pacing the Frontier es un síntoma de la madurez de la industria: cuando los propios constructores piden freno, la conversación pública sobre la IA cambia de tono. La pelota está ahora en el tejado de los reguladores, pero también en el de las empresas, que deberán decidir si adoptan medidas voluntarias o esperan a que la legislación les obligue. Para los lectores, la lección es clara: la IA avanza más rápido que nuestra capacidad de gobernarla, y quienes mejor la conocen son los primeros en pedir cautela.