La IA reduce la humildad intelectual: más confianza, menos precisión

¿Qué ha ocurrido?

Investigadores de la Universidad de Milano-Bicocca, la École Normale Supérieure y la Universidad Sapienza de Roma publicaron un estudio titulado “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized”. En él, demostraron que cuando los participantes tenían acceso a consejos de un modelo de lenguaje grande (LLM), la disposición a admitir ignorancia se desplomó del 44% al 3%, mientras que la precisión cayó del 27% al 9%. A pesar de obtener peores resultados, la confianza en las respuestas aumentó del 30% al 76%. Este fenómeno, documentado en un artículo de The Register, revela un peligroso sesgo de sobreconfianza inducido por la IA, que persiste incluso cuando los usuarios son advertidos de que el modelo puede estar equivocado.

Diseño del experimento

Los investigadores seleccionaron preguntas sobre detalles visuales de películas (como el color del uniforme en Bend It Like Beckham o el vehículo de Mónica en Like a Cat on a Highway), sabiendo que los LLM suelen fallar en esos datos. Usaron el modelo Step 3.5 Flash, que daba respuestas erróneas en la mayoría de los casos, para asegurarse de que cualquier reducción en el juicio no se debiera a una delegación sensata a una herramienta fiable. Además, probaron modelos frontera recientes (GPT-5.5, Claude Sonnet 4.6, Gemini 3.5 Flash), que fallaban en la pregunta del vehículo pero acertaban otros detalles, confirmando que el problema es generalizado. El experimento incluyó un grupo de control sin acceso a IA y un grupo experimental que podía consultar al modelo. Para evaluar el efecto de los incentivos, se repitió con recompensas económicas por respuestas correctas. Incluso así, la disposición a admitir ignorancia solo subió al 8% y la precisión al 16%, muy por debajo del 44% y 27% iniciales. Esto indica que el sesgo es robusto y no se corrige fácilmente con motivación externa.

Por qué es importante

El hallazgo clave es que la IA no solo no mejora la precisión, sino que suprime la humildad intelectual. Las personas dejan de cuestionar y aceptan respuestas incorrectas con alta confianza. Esto tiene implicaciones profundas en la educación, la toma de decisiones y la formación de opiniones. Valerio Capraro, coautor del estudio, señaló: “Para los humanos, la capacidad de decir ‘no sé’ es muy importante porque representa el reconocimiento de los límites de nuestro conocimiento”. La IA, al proporcionar respuestas fáciles, elimina ese proceso de reflexión. Este fenómeno recuerda a sesgos cognitivos clásicos como el exceso de confianza o el sesgo de autoridad, pero amplificado por la aparente infalibilidad de la tecnología. En un contexto histórico, la llegada de la calculadora no suprimió la capacidad de estimar mentalmente, pero la IA generativa actúa sobre la confianza epistémica de manera más profunda.

Consecuencias esperadas

• Educación: Los niños que crecen con asistentes de IA podrían no desarrollar el pensamiento crítico necesario para evaluar información. Estudios previos sobre el uso de motores de búsqueda ya mostraban una reducción en la memoria y el razonamiento, pero la IA agrava el problema al ofrecer respuestas directas sin necesidad de filtrar fuentes.
• Entornos laborales: Profesionales que confían ciegamente en la IA podrían tomar decisiones erróneas con exceso de confianza. Por ejemplo, en diagnóstico médico o asesoría legal, donde la precisión es crítica, la sobreconfianza podría tener consecuencias graves. Un informe de Gartner de 2025 estima que el 40% de las empresas ya usan IA generativa en procesos clave, y la falta de verificación humana podría aumentar los errores.
• Sociedad: La difusión de información incorrecta podría acelerarse si las personas no verifican ni dudan de las respuestas generadas por IA. Durante la pandemia de COVID-19, la desinformación se propagó rápidamente; con la IA, el riesgo es que las falsedades se presenten con apariencia de autoridad, reduciendo el escepticismo público.

Incluso con incentivos monetarios, la mejora fue marginal: la disposición a admitir ignorancia subió al 8% y la precisión al 16%, aún muy por debajo de los niveles base. Esto sugiere que el problema no es solo de pereza cognitiva, sino de un sesgo arraigado en la forma en que procesamos la información automatizada.

Qué deben saber los lectores

El problema no es solo de los modelos, sino de cómo los usamos. Los investigadores recomiendan alfabetización en IA desde edades tempranas y políticas educativas que fomenten el escepticismo saludable. Capraro advirtió: “Los incentivos de los proveedores de modelos no están alineados con la precisión; la solución debe venir de la educación”. Comparado con la introducción de la imprenta, que democratizó el conocimiento pero también propagó errores, la IA requiere un nuevo contrato social: enseñar a los usuarios a dudar de las máquinas. Iniciativas como la de la UNESCO para integrar pensamiento crítico digital en currículos escolares son un paso en la dirección correcta. Mientras tanto, los lectores deben recordar que la IA es una herramienta falible y que la humildad intelectual sigue siendo un activo invaluable.

“La capacidad de decir ‘no sé’ es fundamental para el conocimiento humano. La IA, al ofrecer respuestas fáciles, puede erosionar esa capacidad.”

En resumen, la IA puede ser una herramienta poderosa, pero su uso sin criterio puede debilitar nuestra habilidad para reconocer la incertidumbre. La humildad intelectual es un activo que debemos preservar. Como sociedad, necesitamos repensar la relación con la tecnología para no delegar ciegamente nuestra capacidad de juicio.