Falso reconocimiento facial lleva a arresto erróneo por secuestro infantil

¿Qué ha ocurrido?

Robert Dillon, un residente de Florida, fue arrestado por intento de secuestro de un menor en una ciudad que nunca había visitado. La única evidencia que lo vinculaba al crimen era un reconocimiento facial realizado por el software de la policía, que indicó un 93% de coincidencia con el sospechoso captado en video de seguridad. Sin embargo, la imagen utilizada era una fotografía de baja resolución tomada con un teléfono móvil desde la pantalla de una cámara, con el rostro parcialmente sombreado y en ángulo. Según la demanda presentada por la ACLU (PDF), el oficial que respondió a la escena no obtuvo una copia directa del video, sino que tomó fotos de la pantalla con su teléfono celular. Esas imágenes granuladas de segunda mano fueron las que se ingresaron al sistema de reconocimiento facial del alguacil del condado de Jacksonville, a pesar de que la calidad era manifiestamente insuficiente para una identificación fiable. El sistema, operado por el investigador del alguacil, arrojó un 93% de confianza en que el sospechoso era Dillon, y con base en ese resultado se obtuvo una orden de arresto.

¿Por qué es importante?

Este caso evidencia los graves riesgos de confiar en el reconocimiento facial como prueba única para obtener órdenes de arresto. El propio alguacil del condado, T.K. Waters, admitió que un "hit" de reconocimiento facial no es suficiente para establecer causa probable. En declaraciones a medios locales, Waters afirmó: "Si vienes a mí con un resultado de reconocimiento facial y esa es tu causa probable, probablemente te echaría de mi oficina porque así no funcionan las cosas". Sin embargo, en la práctica, su oficina actuó precisamente así: el investigador utilizó la coincidencia facial como base para recomendar el arresto. La demanda de la ACLU subraya que la precisión del sistema depende críticamente de la calidad de la imagen, y que usar imágenes de baja calidad puede llevar a identificaciones falsas. El caso se suma a una creciente lista de errores de reconocimiento facial que han afectado desproporcionadamente a personas de color, aunque en este caso Dillon es blanco. Un estudio de 2019 del Instituto Nacional de Estándares y Tecnología (NIST) encontró que muchos sistemas de reconocimiento facial tienen tasas de error más altas con personas de ciertos grupos demográficos, pero el error fundamental aquí es la dependencia de imágenes de baja calidad, un problema que afecta a todos por igual.

¿Qué consecuencias tendrá?

El caso podría sentar un precedente legal sobre el uso de inteligencia artificial en investigaciones policiales. Si la demanda prospera, podría obligar a las agencias a adoptar estándares más estrictos para el uso de reconocimiento facial, como exigir imágenes de alta calidad y corroboración con otras pruebas. Además, refuerza el llamado a una moratoria en el uso de esta tecnología por parte de la policía hasta que se establezcan salvaguardas adecuadas. Ciudades como San Francisco, Boston y Portland ya han prohibido el uso de reconocimiento facial por parte de la policía, mientras que otras, como Nueva York, han impuesto restricciones. Este caso podría acelerar esas iniciativas a nivel estatal. También podría influir en la legislación federal: actualmente, el Congreso debate varias propuestas para regular la IA, incluyendo el Algoritmic Accountability Act. El caso Dillon ilustra vívidamente por qué se necesitan reglas claras. Además, la demanda podría resultar en indemnizaciones para Dillon y cambios en los protocolos de la policía de Jacksonville Beach. Si se demuestra que los oficiales actuaron con negligencia, podrían enfrentar sanciones disciplinarias y capacitación obligatoria sobre los límites de la IA.

¿Qué deben saber los lectores?

• El reconocimiento facial no es infalible, especialmente con imágenes de baja calidad. Según la ACLU, la precisión del sistema "depende significativamente de la calidad de la imagen de prueba; imágenes de menor calidad contienen menos datos faciales interpretables, degradando la capacidad del sistema para producir una plantilla confiable".
• La policía no debe basar una orden de arresto únicamente en un resultado de reconocimiento facial. El alguacil Waters lo reconoció implícitamente, pero su oficina actuó en contrario.
• La ACLU está demandando a la ciudad de Jacksonville Beach, al alguacil T.K. Waters y a varios oficiales por violación de derechos civiles, incluyendo arresto falso y violación del debido proceso.
• Este caso se suma a otros incidentes de identificaciones erróneas por IA, como el de Robert Williams en Detroit, quien fue arrestado erróneamente en 2020 después de que el reconocimiento facial lo identificara como un ladrón de relojes. Williams pasó 30 horas en la cárcel antes de que las pruebas de ADN lo exoneraran. En 2022, otro hombre, Michael Oliver, fue arrestado injustamente en Nueva Jersey por un error similar. Estos casos muestran un patrón de confianza excesiva en la tecnología sin la debida verificación.
• La tecnología de reconocimiento facial tiene un historial de sesgo racial. Un estudio de 2018 del MIT Media Lab encontró que los sistemas de Microsoft, IBM y Face++ tenían tasas de error de hasta el 35% para mujeres de piel oscura, frente a menos del 1% para hombres de piel clara. Aunque Dillon es blanco, el problema sistémico persiste.
• La demanda busca que se declaren inconstitucionales las prácticas actuales y se impongan medidas correctivas, como la exigencia de que cualquier identificación por reconocimiento facial sea corroborada por evidencia independiente antes de solicitar una orden de arresto.

"Si vienes a mí con un resultado de reconocimiento facial y esa es tu causa probable, probablemente te echaría de mi oficina porque así no funcionan las cosas", declaró el alguacil T.K. Waters.

Este caso es un recordatorio de que la IA es una herramienta, no un sustituto del juicio humano. La policía debe utilizar el reconocimiento facial con precaución, garantizando que las imágenes sean de alta calidad y que los resultados se verifiquen con otras pruebas. De lo contrario, se corre el riesgo de arrestar a personas inocentes, erosionando la confianza pública en el sistema de justicia. Como señaló la ACLU, "la tecnología debe servir a la justicia, no socavarla".