Policía británico acusado de usar IA para falsificar pruebas

¿Qué ha ocurrido?

La policía de Derbyshire (Inglaterra) ha iniciado una investigación criminal contra uno de sus oficiales acusado de utilizar inteligencia artificial para crear material probatorio falso en varios casos, según informó The Sunday Times. La Fiscalía de la Corona (CPS) confirmó que está colaborando con los abogados defensores y los tribunales para revisar los casos potencialmente afectados. Se trata de la primera denuncia conocida de mal uso de IA por parte de la policía en un caso penal en el Reino Unido. El oficial está siendo investigado por un delito de perversión de la justicia, que conlleva penas de hasta cadena perpetua. La CPS no ha revelado el número de casos afectados, pero se sabe que el material generado por IA incluía imágenes, documentos y posiblemente grabaciones de audio fabricadas para incriminar a sospechosos.

Antecedentes preocupantes

Este incidente no es aislado. En 2023, la policía de West Midlands utilizó material generado por inteligencia artificial que fabricó un partido de fútbol entre el Maccabi Tel Aviv y otro equipo. Ese material se empleó como inteligencia para respaldar una propuesta de prohibición de asistencia de aficionados visitantes en un partido contra el Aston Villa. Aunque en aquel caso no hubo acusación directa contra un agente, evidencia una tendencia preocupante. Además, en 2022, un tribunal de Países Bajos anuló una condena por tráfico de drogas después de que se descubriera que la policía había utilizado software de reconocimiento facial no regulado para identificar al acusado. En Estados Unidos, varios casos de uso indebido de tecnología de reconocimiento facial por parte de la policía han llevado a arrestos erróneos, como el de Robert Williams en Detroit en 2020, quien pasó 30 horas en la cárcel por un error del software. Estos antecedentes muestran que el problema no es nuevo, pero la generación activa de pruebas falsas mediante IA representa un salto cualitativo en el riesgo para la justicia.

¿Por qué es importante?

Este caso sienta un precedente crítico sobre la admisibilidad de pruebas generadas o modificadas por IA en procesos judiciales. Si se confirma que un oficial ha utilizado IA para falsificar evidencias, se pondría en entredicho la fiabilidad de todo el sistema de justicia penal, que depende de la integridad de las pruebas presentadas. Además, abre la puerta a que defensores cuestionen cualquier evidencia digital, ralentizando procesos y generando incertidumbre. Según un portavoz de la CPS, “es la primera vez que tenemos constancia de que un agente es acusado de usar IA para falsificar pruebas en un caso penal. Esto podría tener implicaciones de gran alcance para la confianza pública en el sistema judicial”. El impacto en la confianza pública es inmediato: una encuesta de YouGov de 2024 reveló que el 68% de los británicos confía en la policía, pero este escándalo podría erosionar esa confianza, especialmente entre las comunidades minoritarias que ya desconfían de las fuerzas del orden.

Consecuencias potenciales

• Revisión de casos pasados: la CPS deberá examinar todos los casos en los que el oficial implicado haya participado, lo que podría llevar a anulaciones de condenas o nuevas apelaciones. En casos similares de mala conducta policial, como el escándalo de los oficiales de la Policía Metropolitana que fabricaron pruebas en casos de drogas en 2020, se revisaron más de 1,000 condenas, y decenas fueron anuladas.
• Protocolos más estrictos: es probable que los cuerpos policiales implementen controles más rigurosos para verificar la autenticidad de las pruebas digitales, incluyendo auditorías de IA. La College of Policing ya ha publicado directrices sobre el uso de IA, pero este caso podría acelerar la adopción de estándares obligatorios de verificación forense digital.
• Debate legislativo: podría impulsar leyes específicas que regulen el uso de IA en la obtención y presentación de pruebas. El gobierno del Reino Unido ya está considerando una Ley de IA, y este caso podría añadir urgencia a la inclusión de disposiciones sobre evidencia generada por IA.
• Impacto en el mercado de software forense: empresas como Cellebrite y Magnet Forensics, que ofrecen herramientas de análisis digital, podrían enfrentar una mayor demanda de funciones de verificación de autenticidad, así como un escrutinio regulatorio más estricto.

¿Qué deben saber los lectores?

La inteligencia artificial es una herramienta poderosa que, en manos equivocadas, puede socavar la justicia. No todas las pruebas digitales son fiables; la procedencia y la cadena de custodia de los datos generados por IA deben ser examinadas con lupa. Los ciudadanos deben estar atentos a cómo las instituciones utilizan estas tecnologías y exigir transparencia. Por ahora, el caso está en fase de investigación, y se espera que la policía de Derbyshire publique más detalles en las próximas semanas. Mientras tanto, los defensores penales ya están preparando impugnaciones basadas en este caso, y es probable que veamos un aumento en las solicitudes de descubrimiento de metadatos y logs de IA en todos los procesos penales que involucren evidencia digital. Este caso también subraya la necesidad de que los fiscales y jueces reciban formación específica sobre los riesgos de la IA generativa, algo que actualmente no es obligatorio en el Reino Unido.

“Es la primera vez que tenemos constancia de que un agente es acusado de usar IA para falsificar pruebas en un caso penal. Esto podría tener implicaciones de gran alcance para la confianza pública en el sistema judicial”, declaró un portavoz de la CPS.