DeepMind propone un organismo independiente para regular la IA fronteriza

¿Qué ha ocurrido?

El 14 de julio de 2026, Demis Hassabis, CEO de Google DeepMind y premio Nobel, publicó un artículo en X (antes Twitter) donde propone la creación de un organismo independiente de estándares para regular la inteligencia artificial fronteriza. La propuesta, recogida por TechCrunch y Slashdot, sugiere un modelo similar a la Autoridad Reguladora de la Industria Financiera (FINRA) de Estados Unidos, que supervisa los mercados de valores. Hassabis, quien ha sido una voz prominente en la seguridad de la IA desde la fundación de DeepMind en 2010, argumenta que se necesita una acción urgente para abordar los riesgos asociados con la inteligencia artificial general (AGI), el punto en el que la IA iguala o supera la inteligencia humana. Según CNBC, Hassabis declaró que 'ya hemos visto los desafíos que los modelos fronterizos plantean para la ciberseguridad, y otras amenazas, incluidos los riesgos nucleares y biológicos, pueden surgir pronto a medida que las capacidades continúan avanzando'.

El organismo propuesto sería una asociación público-privada supervisada federalmente, similar a FINRA, que regula corredores de bolsa y mercados de valores en EE.UU. Inicialmente, las empresas compartirían voluntariamente sus modelos con hasta 30 días de antelación; posteriormente, la revisión sería obligatoria para su despliegue en el mercado estadounidense. Hassabis enfatizó que EE.UU. está bien posicionado para liderar este marco regulatorio 'dado su estatus económico y técnico'.

¿Por qué es importante?

Hassabis advierte que los modelos fronterizos ya plantean desafíos en ciberseguridad y que pronto podrían surgir amenazas nucleares o biológicas a medida que avancen las capacidades. La propuesta llega en un momento donde la IA generativa y los agentes autónomos se expanden rápidamente, y donde no existe un marco regulatorio global armonizado. A diferencia de regulaciones sectoriales como la FDA para medicamentos o la FAA para aviación, la IA carece de un organismo equivalente que evalúe riesgos antes del despliegue. La iniciativa de DeepMind es significativa porque proviene de uno de los laboratorios líderes en IA, lo que indica un reconocimiento interno de la necesidad de control externo. Además, alinearse con un modelo autorregulatorio como FINRA podría encontrar apoyo en la industria tecnológica, que tradicionalmente prefiere la autorregulación a la intervención gubernamental directa.

Contexto histórico: desde la carta abierta del Future of Life Institute en 2023 pidiendo una pausa en el entrenamiento de modelos gigantes, hasta la Orden Ejecutiva de Biden en 2023 y el AI Safety Institute del Reino Unido en 2024, la comunidad ha buscado mecanismos de supervisión. Sin embargo, ninguna propuesta había llegado tan lejos como para sugerir un organismo con poder de veto sobre lanzamientos. La propuesta de Hassabis también se diferencia de enfoques voluntarios como los compromisos de la Casa Blanca de 2023, que carecían de mecanismos de cumplimiento.

¿Qué consecuencias tendrá?

Si se implementa, el organismo podría retrasar el lanzamiento de nuevos modelos hasta que superen las pruebas de seguridad, afectando la velocidad de innovación. También podría establecer estándares globales de facto, dado el peso de Estados Unidos en el sector. Sin embargo, la financiación sería un desafío: Hassabis menciona que necesitaría fondos sustanciales para atraer talento técnico y recursos de cómputo, y que probablemente provendrían de la industria, lo que podría generar conflictos de interés. FINRA se financia mediante tarifas a las empresas reguladas, pero su presupuesto anual de aproximadamente $1,000 millones es pequeño comparado con lo que requeriría un organismo de IA para probar modelos masivos. Además, la propuesta especifica que se necesitarían 'recursos de cómputo para pruebas a gran escala', lo que implica acceso a clusters de GPUs o TPUs, un recurso escaso y costoso.

La propuesta también abre interrogantes sobre la participación de actores internacionales y el alcance de la regulación. ¿Incluirá modelos de código abierto? Hassabis sugiere que el organismo tendría representantes de la comunidad open-source, pero no detalla cómo se manejarían los modelos descentralizados. Esto es crucial, ya que modelos como Llama de Meta o Mistral han sido ampliamente descargados y modificados, lo que dificulta su control. Además, la propuesta se centra en EE.UU., pero los riesgos de la IA son globales; sin coordinación internacional, las empresas podrían relocalizar sus operaciones en países con regulaciones laxas, un fenómeno similar a la 'carrera hacia el fondo' en la regulación financiera.

¿Qué deben saber los lectores?

Este movimiento de DeepMind se suma a otras iniciativas de autorregulación, como los compromisos voluntarios de la Casa Blanca en 2023 o el AI Safety Institute del Reino Unido. Sin embargo, la propuesta de un organismo independiente con poder de veto sobre lanzamientos es más ambiciosa. Los lectores deben estar atentos a cómo reaccionan otros actores como OpenAI, Anthropic o Meta, y si la administración estadounidense actual (2026) respalda la idea. Cabe recordar que en 2024, la administración Biden había propuesto un 'AI Bill of Materials' y requisitos de transparencia, pero no un organismo regulador independiente. La postura de la administración Trump, que asumió en 2025, ha sido menos intervencionista en tecnología, aunque Hassabis busca apoyo bipartidista.

Además, la propuesta resalta la urgencia de abordar los riesgos existenciales de la IA, un tema que Hassabis ha priorizado desde la fundación de DeepMind. Para las empresas, implicaría costos de cumplimiento y posibles retrasos; para los usuarios, mayor seguridad pero quizás menos acceso inmediato a nuevas capacidades. Un estudio de 2025 del McKinsey Global Institute estimó que la IA generativa podría agregar $4.4 billones anuales a la economía global, pero los retrasos regulatorios podrían reducir ese impacto en un 10-20% si se implementan controles estrictos. Por otro lado, la falta de regulación podría llevar a incidentes graves que erosionen la confianza pública, como ya se vio con deepfakes en elecciones o ataques cibernéticos asistidos por IA.

En cuanto a la viabilidad técnica, Hassabis propone pruebas específicas para agentes autónomos, como intentos de eludir barreras de seguridad o signos de engaño, y mejores prácticas como marcas de agua digitales en imágenes generadas por IA y tokens de salida legibles para humanos. Estas medidas ya son discutidas en la comunidad técnica, pero su implementación a escala requiere estandarización. El organismo también podría establecer benchmarks de seguridad, similares a los de ImageNet para visión, pero enfocados en riesgos existenciales.

Finalmente, los lectores deben considerar el timing: la propuesta llega justo después de que DeepMind lanzara Gemini 3.0, un modelo con capacidades de razonamiento avanzado, y en medio de un debate sobre si la AGI está cerca. Hassabis, como Nobel de Química 2024 por AlphaFold, tiene credibilidad científica, pero su rol como ejecutivo de Google genera escepticismo sobre si la propuesta busca adelantarse a regulaciones más estrictas. En cualquier caso, la conversación sobre cómo gobernar la IA fronteriza ha dado un paso concreto hacia un modelo con dientes.