Ejército chino entrena IA de defensa con modelos de OpenAI y Anthropic

Una nueva investigación ha destapado que investigadores militares chinos han estado utilizando modelos de inteligencia artificial estadounidenses, incluyendo los de OpenAI y Anthropic, para entrenar sistemas de defensa. El hallazgo, basado en una revisión de más de 80 documentos académicos y patentes chinas, fue publicado inicialmente por Reuters y ha generado un intenso debate sobre la eficacia de los controles de exportación tecnológica de Estados Unidos.

¿Qué ha ocurrido?

La investigación, realizada por la Fundación Jamestown con sede en Washington y verificada de forma independiente por Reuters, encontró que investigadores vinculados al Ejército Popular de Liberación (EPL) han utilizado la técnica conocida como destilación de modelos. Este proceso consiste en utilizar las salidas de un modelo grande y capaz (como GPT-4 o Claude) como datos de entrenamiento para un modelo más pequeño y eficiente. El modelo resultante hereda comportamientos específicos del modelo original, pero puede ejecutarse en hardware local mucho más modesto.

Según el análisis, los investigadores chinos han estado destilando outputs de modelos de OpenAI y Anthropic para crear sistemas que puedan ser desplegados en entornos militares, donde el acceso a la nube o a chips avanzados puede ser limitado. Uno de los casos más destacados es el del modelo Kimi K3, desarrollado por el laboratorio chino Moonshot AI, que según afirmaciones del gobierno de Trump habría destilado el modelo Fable de Anthropic.

¿Por qué es importante?

Esta revelación pone de manifiesto una laguna fundamental en los controles de exportación de Estados Unidos. Las restricciones actuales se centran en limitar el acceso de China a los chips avanzados necesarios para entrenar modelos de IA de vanguardia. Sin embargo, la destilación no requiere esos chips, ya que el costoso proceso de entrenamiento ya ha sido realizado por la empresa estadounidense. Como explica Sunny Cheung, analista de la Fundación Jamestown, el valor no está en las respuestas, sino en el razonamiento: "Enseñar a un modelo a producir la respuesta correcta es relativamente fácil, pero enseñarle el razonamiento detrás de la respuesta es mucho más difícil".

La destilación permite transferir ese conocimiento propietario a sistemas pequeños que pueden ejecutarse localmente, sin necesidad de conexión a internet ni de hardware de gama alta. Esto socava la lógica de los controles de exportación, que se basan en regular objetos físicos como chips, pero no pueden regular el texto generado por los modelos.

Consecuencias para la industria y la geopolítica

Este caso tiene implicaciones de gran alcance. En primer lugar, evidencia una asimetría en la estrategia de Beijing: mientras China ha restringido el acceso de sus ciudadanos a modelos occidentales por razones de seguridad y ha presionado a sus laboratorios para que desarrollen chips propios, sus investigadores militares han estado aprovechando los outputs de los modelos estadounidenses. Esta doble moral podría tensar aún más las relaciones entre ambas potencias.

Para las empresas estadounidenses como OpenAI y Anthropic, la noticia es preocupante. A pesar de que sus términos de servicio prohíben el uso militar y la reventa de outputs, la destilación dificulta el rastreo y la aplicación de estas políticas. Esto podría llevar a un endurecimiento de las medidas de seguridad, como la implementación de marcas de agua o la limitación de acceso a ciertos usuarios, aunque estas medidas aún no son efectivas.

Además, esta situación podría acelerar la carrera por la soberanía tecnológica. Si Estados Unidos no puede impedir que sus modelos sean utilizados por adversarios, podría verse tentado a restringir aún más el acceso a sus tecnologías, lo que afectaría a la colaboración global en IA. Por otro lado, China podría ver este caso como una justificación para intensificar sus esfuerzos en el desarrollo de modelos propios, reduciendo su dependencia de Occidente.

¿Qué deben saber los lectores?

Para los profesionales y empresas que utilizan IA, este caso subraya la importancia de comprender los riesgos de la destilación. Si bien es una técnica legítima para optimizar modelos, también puede ser utilizada de manera indebida. Las empresas deberían revisar sus políticas de uso y considerar medidas de protección adicionales, como la monitorización de accesos o la implementación de tecnologías de detección de destilación.

Asimismo, este caso refleja la necesidad de repensar los mecanismos de control en la era de la IA. Los acuerdos internacionales y las regulaciones deben adaptarse a la naturaleza intangible de los modelos y sus outputs, algo que los marcos actuales no contemplan adecuadamente.

En definitiva, la destilación de modelos se ha convertido en una herramienta estratégica que desafía las fronteras tradicionales. La comunidad internacional deberá buscar nuevas formas de equilibrar la innovación con la seguridad, un desafío que definirá el futuro de la geopolítica tecnológica.