La IA te hace más confiado pero tres veces menos preciso

¿Qué ha ocurrido?

Un equipo de investigadores de las universidades de Ca' Foscari (Venecia), Bocconi (Milán) y Sciences Po (París) publicó un estudio en el que evaluó cómo el asesoramiento de inteligencia artificial afecta la precisión y la confianza de las personas al responder preguntas. Los participantes realizaron tareas de conocimiento general con y sin acceso a consejos generados por IA. Los resultados, reportados por The Next Web, son alarmantes: la precisión cayó del 27% al 9%, mientras que la confianza aumentó del 30% al 76%. La disposición a admitir ignorancia se derrumbó del 44% al 3%. El estudio, aún no publicado en una revista revisada por pares, fue presentado en la conferencia ACM Collective Intelligence 2025, según confirmaron los autores a medios especializados.

¿Por qué es importante?

Este fenómeno, denominado por los autores como 'supresión del pensamiento crítico', revela un sesgo cognitivo peligroso: las personas tienden a delegar su juicio en la IA sin cuestionarla, incluso cuando esta proporciona respuestas incorrectas. En un contexto donde la IA se integra cada vez más en diagnósticos médicos, asesoría legal, decisiones financieras y procesos empresariales, este estudio sugiere que la sobreconfianza inducida por la IA podría llevar a errores graves con consecuencias reales. El hallazgo se alinea con investigaciones previas sobre el sesgo de automatización, documentado desde los años 90 en entornos de control de tráfico aéreo y diagnóstico médico. Sin embargo, la magnitud del efecto observado —la precisión se reduce a un tercio mientras la confianza se duplica— supera lo reportado en estudios anteriores, que solían encontrar incrementos de confianza del 10-20% no acompañados de caídas de precisión tan drásticas.

Consecuencias para empresas y usuarios

Para las empresas, la implementación de asistentes de IA sin mecanismos de verificación humana puede resultar en una reducción neta de la calidad de las decisiones. Los empleados podrían volverse más rápidos pero menos precisos, y además sentirse injustificadamente seguros de sus respuestas. Un caso paralelo es el de los sistemas de recomendación en plataformas de contenido, donde el sesgo de automatización ha llevado a burbujas de filtro y desinformación. En el ámbito corporativo, la dependencia acrítica de la IA ya ha causado incidentes: en 2023, un bufete de abogados estadounidense fue sancionado por presentar documentos legales generados por ChatGPT que contenían citas falsas, y los abogados no verificaron la información. Para los usuarios individuales, el riesgo es similar: confiar ciegamente en recomendaciones de IA en áreas como salud, finanzas o educación puede llevar a malas decisiones. Los autores sugieren que el diseño de sistemas de IA debería incluir 'fricciones' que fomenten la verificación humana, como mostrar niveles de incertidumbre o solicitar confirmación explícita antes de aceptar una recomendación. Además, proponen que las interfaces de usuario incorporen recordatorios periódicos sobre las limitaciones de la IA, una práctica ya adoptada por algunos asistentes virtuales como Alexa, que ocasionalmente advierte que no es infalible.

¿Qué deben saber los lectores?

El estudio no es aislado. Investigaciones anteriores sobre sesgo de automatización ya mostraban que las personas tienden a sobrevalorar las recomendaciones de sistemas automatizados. Lo novedoso aquí es la magnitud del efecto: la precisión se reduce a un tercio mientras la confianza se duplica. Esto implica que no solo la IA puede estar equivocada, sino que además nos hace menos capaces de detectar sus errores. Para contrarrestarlo, los expertos recomiendan: 1) entrenar a los usuarios en pensamiento crítico; 2) diseñar interfaces que muestren explícitamente las limitaciones de la IA; 3) implementar procesos de doble verificación humana en decisiones de alto riesgo. Algunas empresas tecnológicas ya están experimentando con soluciones: Microsoft, por ejemplo, ha incorporado en su suite Copilot una función que resalta cuándo una respuesta tiene baja confianza, y Google ha lanzado herramientas de verificación de hechos asistidas por IA que el usuario debe activar manualmente. Sin embargo, el estudio sugiere que estas medidas podrían ser insuficientes si no se aborda la tendencia psicológica a delegar el pensamiento crítico. En palabras de uno de los investigadores, citado por The Next Web: "La gente se volvió mucho peor, la precisión era solo un tercio, pero tenían el doble de confianza". Este desajuste entre rendimiento y confianza es el núcleo del problema y el mayor desafío para el futuro de la colaboración humano-IA.