Pentágono usa IA generativa para informes al Congreso

¿Qué ha ocurrido?

El Departamento de Defensa de EE.UU. ha puesto a disposición de 1.5 millones de trabajadores la plataforma GenAI.mil, que integra modelos de lenguaje de gran escala (LLMs) para asistir en la redacción de documentos oficiales, incluyendo informes para el Congreso. El Chief Technology Officer, Emil Michael, ha instado al personal a utilizar la herramienta, afirmando: 'Use GenAI.mil, do the best you can' (TechRadar, 2025). Esta iniciativa representa una de las mayores implementaciones de IA generativa en el sector público a nivel mundial, superando en escala a proyectos previos como el uso de ChatGPT en el gobierno de Japón o las pruebas de IA en el sector salud del Reino Unido. La plataforma se basa en modelos de lenguaje comerciales, posiblemente de OpenAI o Anthropic, adaptados con capas de seguridad para cumplir con los requisitos de clasificación y privacidad del Pentágono.

¿Por qué es importante?

Es la primera vez que una agencia gubernamental de esta escala integra IA generativa en procesos de rendición de cuentas tan sensibles. La medida refleja una confianza creciente en la IA para tareas que requieren precisión y cumplimiento normativo. Sin embargo, también plantea riesgos de desinformación, sesgos y dependencia tecnológica en un contexto de seguridad nacional. Históricamente, el gobierno de EE.UU. ha sido cauteloso con la adopción de nuevas tecnologías en áreas críticas; por ejemplo, la Fuerza Aérea tardó más de una década en implementar plenamente el sistema de mantenimiento predictivo basado en IA. Este salto repentino hacia la IA generativa podría indicar un cambio de paradigma, pero también genera preocupaciones sobre la calidad y veracidad de los informes que alimentan decisiones del Congreso, como asignaciones presupuestarias de defensa que superan los 800 mil millones de dólares anuales.

Contexto y antecedentes

El Pentágono ya había experimentado con IA en operaciones militares, como el programa Project Maven para análisis de imágenes y el Joint All-Domain Command and Control (JADC2) para procesar datos de sensores. Pero GenAI.mil representa un salto cualitativo: ahora se usa en la comunicación con el poder legislativo. Emil Michael, exejecutivo de Uber, fue nombrado CTO en 2024 con el mandato de acelerar la adopción de tecnología. Su enfoque 'fail fast' contrasta con la tradicional cautela burocrática. Cabe recordar que en 2023, el Pentágono lanzó un piloto de IA generativa para tareas administrativas, pero solo involucró a 10,000 empleados. La ampliación a 1.5 millones en menos de dos años sugiere una urgencia por modernizar procesos, posiblemente impulsada por la competencia tecnológica con China. Además, el Departamento de Defensa ha invertido más de 1,000 millones de dólares en IA en el último año fiscal, según documentos presupuestarios.

Impacto y consecuencias

Para las empresas tecnológicas, esta adopción masiva abre un mercado gubernamental multimillonario para soluciones de IA generativa. Compañías como Palantir, Microsoft y Amazon ya tienen contratos con el Pentágono, y ahora podrían ofrecer servicios de LLM personalizados. Para los ciudadanos, preocupa la transparencia y la rendición de cuentas. Si los informes al Congreso son generados por IA, ¿quién es responsable de los errores? En 2024, un informe generado por IA en el Departamento de Energía contenía datos incorrectos que llevaron a una asignación presupuestaria errónea. Además, la dependencia de modelos comerciales (posiblemente de OpenAI, Anthropic o similares) podría crear vulnerabilidades de seguridad, como la fuga de información clasificada a través de APIs o el sesgo algorítmico en decisiones estratégicas. Organizaciones como la ACLU han señalado que el uso de IA en documentos oficiales sin supervisión humana podría violar leyes de debido proceso y transparencia.

Lo que deben saber los lectores

• GenAI.mil no es un modelo propio; probablemente usa APIs de proveedores externos con capas de seguridad, como las ofrecidas por AWS GovCloud o Azure Government.
• El Pentágono no ha especificado qué tipo de informes se generan con IA ni cómo se verifica su veracidad. Según TechRadar, el CTO Michael alienta a los empleados a 'hacer lo mejor que puedan', lo que sugiere que no hay un proceso de validación riguroso.
• Organizaciones de derechos civiles han expresado preocupación por el posible uso de datos clasificados en modelos no autorizados, lo que podría violar la Ley de Seguridad Nacional y exponer información sensible a terceros.
• Se estima que el 30% de los empleados del Pentágono ya han utilizado la herramienta en sus primeras semanas, según fuentes internas no confirmadas.

Análisis técnico

La implementación de LLMs en entornos gubernamentales requiere salvaguardas como fine-tuning con datos seguros, moderación de contenido y auditorías humanas. Sin embargo, la velocidad de adopción y el enfoque 'fail fast' del CTO Michael podrían comprometer estas medidas. TechRadar reporta que no hay un proceso de validación riguroso, lo que podría llevar a errores fácticos o sesgos en informes que influyen en decisiones políticas y presupuestarias. Por ejemplo, un LLM podría generar argumentos tendenciosos a favor de ciertos programas de defensa, sesgando la asignación de recursos. Además, los modelos comerciales entrenados con datos públicos pueden no estar optimizados para el lenguaje técnico-militar, aumentando el riesgo de alucinaciones. En contraste, el Reino Unido ha desarrollado su propio LLM gubernamental, 'GOV.UK Chat', con entrenamiento específico en normativas, pero a una escala mucho menor.

Comparación con otros casos

En 2023, el ejército de EE.UU. usó IA para simular ataques con drones, pero la generación de texto es más propensa a alucinaciones. El caso recuerda al de la FCC, que usó IA para analizar comentarios públicos, pero con resultados mixtos: se detectaron sesgos raciales en las recomendaciones. La diferencia clave es la sensibilidad de los informes al Congreso, que pueden influir en políticas de defensa y seguridad nacional. Otro antecedente es el uso de IA en la redacción de contratos gubernamentales en Canadá, que generó ahorros pero también errores costosos. En el ámbito militar, el uso de IA para generar reportes de inteligencia en Israel ha sido criticado por falta de transparencia. GenAI.mil podría seguir un camino similar si no se establecen controles adecuados.

Conclusión

La adopción de GenAI.mil marca un hito en la digitalización gubernamental, pero la falta de protocolos claros de verificación genera dudas sobre la integridad de los informes. El Pentágono debería publicar directrices sobre cuándo y cómo se usa la IA, y garantizar supervisión humana en todos los casos. La comunidad internacional observa este experimento como un posible modelo para otras agencias gubernamentales, pero también como una advertencia sobre los riesgos de una adopción apresurada. Sin una rendición de cuentas clara, la confianza en los procesos democráticos podría verse erosionada.