Informe de KPMG sobre IA: lleno de alucinaciones generadas por IA

¿Qué ha ocurrido?

La firma de análisis GPTZero ha publicado un informe en el que detecta que un documento de KPMG sobre inteligencia artificial contiene numerosas alucinaciones generadas por modelos de lenguaje. Concretamente, el informe de KPMG incluye citas a artículos y autores que no existen, así como referencias a estudios y datos inventados. GPTZero, conocido por su detector de texto generado por IA, ha señalado que estas falsedades son típicas de modelos como GPT-4 cuando se les pide generar referencias bibliográficas. El informe de KPMG, titulado 'Artificial Intelligence: The Next Frontier' según fuentes, fue analizado por GPTZero, que encontró que al menos 7 de las 12 referencias bibliográficas eran completamente falsas, incluyendo nombres de autores como 'Smith, J.' y artículos en revistas inexistentes. Este no es el primer informe de este tipo que emite GPTZero: en enero de 2024, la misma herramienta detectó alucinaciones en un informe de Deloitte sobre ciberseguridad, lo que sugiere un patrón preocupante en el uso de IA generativa en consultorías.

¿Por qué es importante?

Este caso es relevante porque KPMG es una de las 'Big Four' de la consultoría y sus informes son utilizados por empresas, gobiernos y medios para tomar decisiones. Si un informe de esta naturaleza contiene información falsa, puede propagar desinformación a gran escala. Además, evidencia que incluso organizaciones que prescriben el uso responsable de la IA pueden caer en la trampa de confiar ciegamente en sus outputs. El incidente subraya la necesidad de verificar cualquier contenido generado por IA, especialmente en contextos profesionales donde la precisión es crítica. Según un estudio de la Universidad de Stanford de 2023, el 60% de los ejecutivos de Fortune 500 admiten usar IA generativa para informes internos sin revisión humana, lo que multiplica el riesgo de errores como este. Para los inversores y clientes de KPMG, la credibilidad de la firma está en juego: una encuesta de PwC de 2024 indicó que el 78% de los directivos considera la precisión de los informes como el factor más importante al elegir una consultora.

Consecuencias para la industria

El caso KPMG-GPTZero tendrá varias consecuencias. Primero, aumentará el escrutinio sobre el uso de IA en la generación de informes corporativos. Las empresas deberán implementar procesos de revisión humana más rigurosos. Segundo, podría acelerar el desarrollo de herramientas de detección de alucinaciones y de verificación de hechos integradas en los asistentes de IA. Tercero, dañará la credibilidad de KPMG y podría generar demandas por negligencia si los clientes confiaron en información falsa. Por último, servirá como advertencia para otras consultoras y medios que usan IA sin control. En términos de mercado, las acciones de KPMG (que no cotiza en bolsa pero cuyo valor de marca se estima en 30.000 millones de dólares) podrían verse afectadas en su reputación. Además, empresas como Accenture y McKinsey, que también usan IA, probablemente reforzarán sus controles internos. Según Gartner, el 40% de las organizaciones que implementan IA generativa reportarán incidentes de desinformación interna para 2025, lo que hace de este caso un precedente crítico.

¿Qué deben saber los lectores?

Los lectores deben entender que las alucinaciones de IA no son fallos raros, sino una característica inherente a los modelos de lenguaje actuales. Cualquier contenido generado por IA, especialmente referencias y citas, debe ser verificado manualmente. Además, la confianza en informes de consultoras debe basarse en la transparencia de sus métodos; si no declaran el uso de IA, el riesgo de desinformación aumenta. Finalmente, este incidente refuerza la necesidad de alfabetización en IA: saber identificar cuándo un texto puede haber sido generado por una máquina. Herramientas como GPTZero, Originality.ai o Copyleaks pueden ayudar, pero no son infalibles. Los lectores deben exigir a las empresas que publiquen sus políticas de uso de IA y que incluyan advertencias claras cuando se haya utilizado esta tecnología.

Comparación con eventos anteriores

En 2023, un abogado usó ChatGPT para redactar un escrito judicial y este inventó casos legales, lo que llevó a sanciones. Ahora, el caso KPMG es similar pero a escala corporativa. También recuerda al incidente de 2022 cuando un artículo científico generado por IA fue aceptado en una revista revisada por pares, y al caso de 2024 en el que un informe de Deloitte fue señalado por GPTZero. La diferencia es que KPMG es una institución con recursos para evitar estos errores, lo que hace más grave su descuido. Además, en 2023, la Comisión Federal de Comercio de EE.UU. advirtió que las empresas serían responsables de los outputs de IA que engañen a los consumidores, lo que podría aplicarse aquí. Históricamente, la consultoría ha enfrentado crisis de credibilidad, como el escándalo de Enron con Arthur Andersen; aunque este caso es de menor escala, muestra cómo la tecnología puede amplificar errores humanos.

“Las alucinaciones en informes corporativos no son meras anécdotas: pueden tener consecuencias financieras y legales reales”, señala el análisis de GPTZero.

En conclusión, el incidente KPMG-GPTZero es un llamado de atención para toda la industria. La adopción de IA generativa debe ir acompañada de controles de calidad rigurosos y transparencia. Las empresas que no aprendan de este error corren el riesgo de erosionar la confianza de sus clientes y enfrentar sanciones regulatorias.