OpenAI acusa a China de campaña de influencia sobre IA en EE.UU.

¿Qué ha ocurrido?

El 11 de junio de 2025, OpenAI publicó un informe detallando la detección de dos clusters de usuarios de ChatGPT que, presuntamente desde China, generaban contenido para campañas de influencia encubiertas dirigidas a audiencias estadounidenses. Según Ben Nimmo, investigador principal de inteligencia y análisis de OpenAI, estos usuarios empleaban ChatGPT para crear imágenes y comentarios que luego eran publicados por lotes de cuentas que simulaban ser estadounidenses. Las narrativas promovidas incluían que la construcción de centros de datos de IA eleva los costos de electricidad para las familias, y que el presidente Donald Trump había utilizado aranceles para mantener a EE.UU. a la cabeza en la carrera tecnológica. Un segundo cluster se centró en criticar los aranceles de Trump como un intento de 'dominar la competencia tecnológica'. Las instrucciones se daban en chino simplificado y pedían explícitamente no mencionar al presidente chino Xi Jinping, lo que según OpenAI es un indicio del origen chino de la operación. Ambas campañas fueron neutralizadas y las cuentas eliminadas.

Este incidente no es un caso aislado. En 2024, OpenAI ya había reportado la eliminación de cuentas vinculadas a operaciones de influencia de Irán y Rusia que usaban ChatGPT para generar desinformación. Sin embargo, el uso de IA generativa por parte de actores estatales para campañas de influencia ha ido en aumento. Según un informe de la empresa de ciberseguridad Recorded Future de marzo de 2025, al menos 12 países han utilizado herramientas de IA en operaciones de influencia en el último año, con China siendo el más activo. La campaña detectada por OpenAI es particularmente significativa porque se enfoca en un tema estratégico: la infraestructura de IA, un área donde EE.UU. y China compiten ferozmente por el liderazgo tecnológico.

¿Por qué es importante?

Este caso es relevante por varias razones. Primero, muestra cómo actores estatales pueden utilizar herramientas de IA generativa para amplificar sus mensajes de manera eficiente y a escala. La capacidad de generar contenido personalizado y en múltiples formatos (texto, imágenes) reduce drásticamente el costo y el tiempo necesarios para lanzar campañas de desinformación. Segundo, pone de manifiesto la vulnerabilidad de los sistemas de IA ante usos malintencionados, incluso por parte de los propios creadores de la tecnología. Aunque OpenAI ha implementado filtros de seguridad, los operadores lograron eludirlos mediante instrucciones en chino simplificado y evitando términos prohibidos. Tercero, la campaña buscaba influir en la política estadounidense sobre infraestructura de IA, un tema crítico para la competitividad del país. Según Nimmo, la campaña amplificó el descontento público existente contra la creación de nuevos centros de datos de IA, que ha resultado en docenas de moratorias propuestas a nivel local, estatal y nacional. Aunque el impacto real fue mínimo —Nimmo señaló que 'ninguna de las dos campañas parece haber obtenido una participación auténtica significativa'—, revela las intenciones y las narrativas que los operadores chinos están probando. Esto ocurre en un contexto de creciente tensión geopolítica por el liderazgo en IA, donde EE.UU. y China compiten ferozmente. En abril de 2025, el gobierno de EE.UU. impuso nuevas restricciones a la exportación de chips de IA a China, y Pekín respondió con limitaciones a la exportación de minerales críticos. La desinformación generada por IA podría convertirse en un arma más en esta guerra tecnológica.

Además, el caso subraya la dificultad de atribuir operaciones de influencia. OpenAI basó su conclusión en indicios como el uso de chino simplificado en los prompts y la instrucción de no mencionar a Xi Jinping, pero no proporcionó pruebas concluyentes del vínculo directo con el gobierno chino. Esto abre la puerta a interpretaciones alternativas y posibles negaciones por parte de Pekín. La atribución en el ciberespacio sigue siendo un desafío, y las empresas tecnológicas deben ser cautelosas al hacer acusaciones sin evidencia sólida.

¿Qué consecuencias tendrá?

Las consecuencias inmediatas incluyen un mayor escrutinio sobre el uso de IA en campañas de desinformación y posibles llamados a regular más estrictamente el acceso a modelos de lenguaje. Legisladores estadounidenses, como el senador Mark Warner (presidente del Comité de Inteligencia del Senado), ya han solicitado audiencias sobre el tema. A largo plazo, podría endurecer las posturas de ambos países en el ámbito tecnológico, con más restricciones a la exportación de tecnología y mayor inversión en ciberseguridad. Para las empresas de IA como OpenAI, este incidente subraya la necesidad de implementar salvaguardas más robustas y sistemas de detección de abusos. OpenAI ya ha anunciado que mejorará sus sistemas de monitoreo y colaborará más estrechamente con agencias gubernamentales. También podría influir en la opinión pública y en los legisladores estadounidenses a la hora de aprobar fondos para infraestructura de IA, ya que la campaña intentaba precisamente generar oposición a los centros de datos. Sin embargo, el efecto podría ser contraproducente: al revelar la interferencia, es posible que se genere un mayor apoyo a las inversiones en IA como medida de seguridad nacional.

En el ámbito internacional, este caso podría impulsar iniciativas multilaterales para la gobernanza de la IA. La Cumbre de Seguridad de la IA celebrada en París en febrero de 2025 ya había establecido principios para prevenir el uso malicioso de la IA, pero carece de mecanismos de cumplimiento. Incidentes como este podrían acelerar la creación de un organismo internacional de vigilancia, similar al OIEA para la energía nuclear, pero centrado en la IA. Por otro lado, China podría utilizar este informe para acusar a EE.UU. de difamación y aumentar sus propias restricciones a las empresas tecnológicas extranjeras.

¿Qué deben saber los lectores?

Los lectores deben ser conscientes de que la desinformación generada por IA es una amenaza real y en evolución. Aunque esta campaña no logró gran repercusión, sienta un precedente peligroso. La facilidad con la que se pueden crear contenidos falsos y personalizados hace que sea más difícil para el público discernir la verdad. Es importante verificar la autenticidad de contenidos virales, especialmente aquellos que aviven divisiones políticas o económicas. Herramientas como la verificación de fuentes, el análisis de metadatos y la consulta de medios confiables son esenciales. Las empresas tecnológicas deben colaborar con gobiernos y organizaciones de la sociedad civil para desarrollar contramedidas, como la creación de sistemas de detección automática de contenido generado por IA y la promoción de la alfabetización mediática. Finalmente, este caso refuerza la necesidad de una cooperación internacional en la gobernanza de la IA, para evitar que la tecnología sea utilizada como arma en conflictos geopolíticos. La comunidad global debe establecer normas claras y mecanismos de rendición de cuentas para prevenir abusos, al tiempo que se fomenta la innovación responsable.