IA de escritura modifica opinión pública sin que lo notes

¿Qué ha ocurrido?

Investigadores del Oxford Internet Institute (OII) han publicado un estudio que demuestra que las herramientas de escritura asistida por inteligencia artificial —como las que corrigen gramática, sugieren sinónimos o reformulan frases— pueden modificar sutilmente el contenido original. Esas modificaciones, aunque mínimas, se propagan y acumulan, logrando desplazar la opinión pública sobre temas concretos. El trabajo, titulado 'AI-mediated communication can steer public opinion', fue publicado en la revista PNAS y recogido por The Next Web.

El estudio, liderado por el profesor Fabian Ferrari, se realizó en dos fases. En la primera, los investigadores reclutaron a 1.500 participantes y les pidieron que redactaran argumentos a favor o en contra de un tema controvertido (como la despenalización de las drogas o el cambio climático). Luego, algunos de esos textos fueron procesados por un modelo de lenguaje similar a GPT-3, que los 'mejoraba' para hacerlos más claros o persuasivos. En la segunda fase, otros 1.400 participantes evaluaron los textos originales y los editados, y se midió su cambio de opinión. Los resultados mostraron que los textos modificados por IA lograban un desplazamiento de la opinión media de hasta 0,5 puntos en una escala de 7 puntos, un efecto significativo en términos de persuasión.

¿Por qué es importante?

Hasta ahora, el debate sobre la influencia de la IA se centraba en los deepfakes o la desinformación generada explícitamente. Este estudio revela un canal mucho más sutil: las herramientas de escritura que millones de personas usan a diario (Grammarly, ChatGPT, asistente de Google, etc.) pueden 'enderezar' un texto de forma que cambie su tono, énfasis o incluso su significado. Dado que estas herramientas son percibidas como neutrales y útiles, los usuarios no suelen revisar críticamente los cambios. El efecto acumulativo en la esfera pública podría ser comparable al de los algoritmos de recomendación que ya han sido señalados por polarizar opiniones.

Según datos de Statista, Grammarly tiene más de 30 millones de usuarios activos diarios, y ChatGPT superó los 100 millones de usuarios mensuales en enero de 2023. Si cada uno de esos usuarios recibe sugerencias que alteran ligeramente el contenido de sus publicaciones, el impacto agregado es inmenso. El estudio de Oxford cuantifica este efecto: en un experimento con un tema político, el texto editado por IA logró que un 10% más de participantes cambiara su postura hacia la dirección sugerida, en comparación con el texto original. Esto supera el efecto de muchos anuncios políticos tradicionales.

¿Qué consecuencias tendrá?

• Para los usuarios: perderán autonomía sobre su propio mensaje, cediendo el control a modelos de lenguaje que no son transparentes ni auditables. Un usuario que escribe un comentario crítico sobre una política pública podría verlo suavizado por la herramienta, reduciendo su impacto.
• Para las empresas tecnológicas: aumentará la presión regulatoria para que revelen cómo sus herramientas modifican el contenido y ofrezcan modos 'sin alteración'. Ya en la Unión Europea, la Ley de Servicios Digitales exige transparencia en los sistemas de recomendación; podría extenderse a las herramientas de escritura. Empresas como OpenAI y Grammarly podrían enfrentarse a auditorías de sesgo.
• Para la democracia: se abre un nuevo vector de manipulación política, donde actores malintencionados podrían explotar estas herramientas para sesgar debates sin necesidad de crear contenido falso. Por ejemplo, un partido político podría alentar a sus seguidores a usar una herramienta de IA que sesgue sus argumentos a favor de ciertas posiciones, de forma encubierta.
• Para los medios y creadores de contenido: deberán reconsiderar el uso de IA en la redacción editorial, estableciendo políticas de transparencia. Medios como CNET ya han sido criticados por usar IA para generar artículos sin supervisión adecuada, lo que llevó a errores y falta de atribución. Este estudio añade una capa de preocupación sobre la influencia en la audiencia.

¿Qué deben saber los lectores?

El estudio de Oxford se suma a investigaciones previas sobre el 'framing' algorítmico. No se trata de una conspiración, sino de un efecto colateral de la optimización para 'mejorar' textos. Los usuarios deben ser conscientes de que ninguna herramienta de IA es neutral: cada sugerencia refleja sesgos de entrenamiento. Para protegerse, se recomienda revisar siempre los cambios propuestos, usar herramientas que ofrezcan control granular y exigir transparencia a los proveedores. Como dijo el coautor del estudio, el profesor Fabian Ferrari: 'El poder de la IA para cambiar opiniones no está solo en generar desinformación, sino en cómo modifica mensajes que ya son verídicos'.

Además, los lectores pueden adoptar hábitos críticos: comparar versiones original y editada, desactivar sugerencias automáticas cuando sea posible, y preferir herramientas que documenten los cambios realizados. A nivel social, sería recomendable que las plataformas de redes sociales etiqueten los contenidos que han sido modificados por IA, de manera similar a como ya se etiquetan los deepfakes.

Contexto histórico

Este hallazgo recuerda al 'efecto de tercera persona' en comunicación, donde la gente subestima la influencia de los medios en sí mismos. También se inscribe en la tradición de estudios sobre 'persuasión sutil' como el experimento de 'priming' de los años 80. La diferencia es la escala: la IA puede aplicar estos sesgos a millones de textos en tiempo real. Comparado con el escándalo de Cambridge Analytica, que explotó datos personales para microsegmentar anuncios políticos, este nuevo mecanismo es aún más insidioso porque no requiere datos personales: actúa directamente sobre el mensaje, y el usuario es cómplice sin saberlo.

El estudio también se relaciona con investigaciones previas sobre 'sesgo de automatización', donde las personas tienden a confiar en las recomendaciones de sistemas automatizados incluso cuando son incorrectas. Un experimento de 2019 mostró que los usuarios aceptaban el 90% de las sugerencias de un corrector gramatical, aunque muchas eran innecesarias. Esta confianza ciega amplifica el efecto de las modificaciones sutiles.

“El poder de la IA para cambiar opiniones no está solo en generar desinformación, sino en cómo modifica mensajes que ya son verídicos.” — Fabian Ferrari, Oxford Internet Institute