Regulación de IA al estilo FAA: la propuesta de Anthropic que cambiará las reglas del juego

¿Qué ha ocurrido?

Dario Amodei, cofundador y CEO de Anthropic, ha publicado un ensayo titulado Policy on the AI Exponential en el que propone un nuevo marco regulatorio para los modelos de inteligencia artificial más potentes. La propuesta compara la industria de la IA con la aviación comercial, sugiriendo que los modelos de frontera deberían estar sujetos a pruebas técnicas y auditorías obligatorias, y que su lanzamiento podría ser bloqueado o revertido si no cumplen con estándares de seguridad elevados, de forma similar a como la FAA regula los aviones.

Junto al ensayo, Anthropic publicó dos hojas de ruta: un Advanced AI Framework centrado en riesgos catastróficos, y un Economic Policy Framework para abordar el desplazamiento laboral, respaldado por 350 millones de dólares en nueva financiación. La propuesta llega justo después del lanzamiento de Claude Fable 5 y Claude Mythos 5, los modelos más potentes de la compañía, que incluyen capacidades avanzadas de ciberseguridad ofensiva y defensiva.

¿Por qué es importante?

Esta propuesta marca un punto de inflexión en el debate sobre la regulación de la IA. Hasta ahora, Anthropic había abogado por requisitos de transparencia, pero Amodei afirma que “eso ya no es suficiente”. La comparación con la FAA implica un nivel de intervención gubernamental sin precedentes en el sector, que podría afectar la cadena de suministro de las empresas que dependen de modelos de IA de frontera.

Para los líderes tecnológicos, CIOs y arquitectos empresariales, el ensayo no es solo una declaración política, sino un adelanto de las restricciones operativas, regulatorias y laborales que gobernarán la próxima generación de tecnología empresarial.

Detalles clave de la propuesta

Umbrales de regulación

Anthropic propone que los modelos entrenados con más de 10^25 operaciones de punto flotante (FLOPs), o desarrollados por empresas con más de 500 millones de dólares en ingresos de IA o 1.000 millones en I+D de IA, deben someterse a pruebas obligatorias por terceros. Si estos modelos presentan riesgos graves en biología, ciberseguridad o autonomía, el gobierno tendría autoridad legal para bloquear, retrasar o revertir su despliegue.

Implicaciones empresariales

Si su empresa licencia modelos fundacionales para infraestructura crítica, debe planificar la volatilidad de la cadena de suministro. Una actualización muy esperada de un proveedor de IA podría retrasarse indefinidamente por los reguladores, o un modelo existente podría ser revocado si las pruebas posteriores al lanzamiento revelan amenazas autónomas. Los líderes tecnológicos deben diseñar arquitecturas multimodelo que eviten la dependencia de un solo proveedor, asegurando la continuidad del negocio si el modelo estrella de un proveedor es bloqueado por una agencia federal.

Ciberseguridad como infraestructura crítica

La propuesta de Anthropic está motivada en gran parte por la escalada de amenazas de ciberseguridad impulsadas por IA. Amodei menciona explícitamente que Claude Mythos Preview es capaz de descubrir vulnerabilidades de alta gravedad. Esto subraya la necesidad de que las empresas traten la seguridad de la IA como un componente crítico de su infraestructura.

Consecuencias y próximos pasos

La propuesta de Anthropic no es vinculante, pero establece un marco que podría influir en la legislación futura. Los reguladores de todo el mundo están observando de cerca. Si se adopta, las empresas deberán adaptarse a un entorno donde la innovación en IA podría estar sujeta a aprobaciones previas, similar a cómo se regulan los medicamentos o los aviones.

Además, el Economic Policy Framework aborda el impacto laboral, proponiendo medidas como la recapacitación y un seguro de ingresos, lo que podría cambiar la forma en que las empresas gestionan su fuerza laboral en la era de la automatización.

¿Qué deben saber los lectores?

• Prepararse para la regulación: Las empresas deben comenzar a evaluar su dependencia de modelos de IA de frontera y considerar alternativas.
• Diversificar proveedores: No depender de un solo modelo o proveedor; diseñar sistemas que puedan cambiar entre modelos si uno es bloqueado.
• Invertir en seguridad: La ciberseguridad de la IA será un requisito regulatorio, no solo una buena práctica.
• Monitorear el panorama regulatorio: La propuesta de Anthropic podría ser un precursor de regulaciones más estrictas a nivel global.

“Frontier AI models, like airplanes, should be required to go through technical testing and auditing, and their release should be blocked or reversed as a threat to public safety if they do not meet high standards of safety.” — Dario Amodei