Venta de IA a la policía: el negocio de la vigilancia digital

En la reciente conferencia tecnológica de la Asociación Internacional de Jefes de Policía (IACP) en Fort Worth, Texas, se presentó lo que se denominó 'el futuro de la vigilancia en la era digital'. Empresas emergentes y gigantes tecnológicos exhibieron sistemas de inteligencia artificial diseñados para automatizar tareas críticas del trabajo policial, como la redacción de informes, el análisis de pruebas y la vigilancia predictiva. Sin embargo, el evento estuvo marcado por la controversia: la prensa no pudo ingresar, y los asistentes describieron un entorno donde la promesa de eficiencia choca con preocupaciones sobre sesgos algorítmicos, privacidad y el debido proceso.

El auge de la IA policial en Fort Worth: contexto histórico y tecnológico

La conferencia IACP de 2025 representa un hito en la creciente integración de la inteligencia artificial en la vigilancia policial, una tendencia que se remonta a la década de 2010 con la adopción temprana de sistemas de reconocimiento facial y análisis predictivo. Empresas como Axon, conocida por sus cámaras corporales Taser, han expandido su oferta a plataformas de IA como Axon AI, que transcribe automáticamente las grabaciones de las cámaras y genera informes preliminares. Palantir, famosa por su trabajo con agencias de inteligencia, ofrece su plataforma Gotham para integrar datos de múltiples fuentes y generar alertas en tiempo real. ShotSpotter, ahora parte de SoundThinking, utiliza sensores acústicos para detectar disparos y desplegar recursos policiales de manera más rápida. Según The Verge, estas tecnologías prometen reducir la carga administrativa de los agentes, pero también plantean riesgos de discriminación y errores si no se supervisan adecuadamente. La exclusión de la prensa en el evento ha generado críticas, ya que limita la transparencia sobre las capacidades reales y los sesgos potenciales de estos sistemas.

¿Qué se está vendiendo exactamente? Detalle de las herramientas

Los sistemas presentados incluyen varias categorías clave: reconocimiento facial, análisis de video en tiempo real, algoritmos de predicción del delito y automatización de informes. El reconocimiento facial, ofrecido por empresas como Clearview AI y NEC, permite identificar sospechosos a partir de imágenes de cámaras de vigilancia o redes sociales. Sin embargo, un estudio del Instituto Nacional de Estándares y Tecnología (NIST) de 2019 encontró que muchos algoritmos tienen tasas de error significativamente más altas para personas de raza negra y asiática, con falsos positivos hasta 100 veces más frecuentes en algunos casos. El análisis de video en tiempo real, como el sistema de BriefCam, resume horas de grabación en minutos y detecta objetos o comportamientos sospechosos. Los algoritmos de predicción del delito, como PredPol (ahora parte de SoundThinking), utilizan datos históricos para pronosticar áreas con mayor probabilidad de incidentes, pero investigaciones como la de la RAND Corporation han cuestionado su efectividad, señalando que a menudo simplemente refuerzan patrones de vigilancia existentes sin reducir el crimen. La automatización de informes, ejemplificada por productos como el de Axon, utiliza procesamiento de lenguaje natural para redactar documentos legales a partir de transcripciones, lo que podría ahorrar horas de trabajo, pero también introduce riesgos de errores fácticos o sesgos lingüísticos. Según Wired, estos sistemas a menudo se entrenan con datos históricos que pueden contener sesgos raciales, perpetuando desigualdades.

Impacto en el sistema de justicia: aceleración vs. sesgo

La automatización de pasos legales críticos, como la redacción de informes de incidentes o la identificación de sospechosos, podría acelerar procesos pero también introducir sesgos. Por ejemplo, un informe de la ACLU de 2021 documentó casos en los que el reconocimiento facial llevó a arrestos erróneos de personas inocentes, como el caso de Robert Williams en Detroit, quien fue detenido incorrectamente debido a un falso positivo. Además, la falta de transparencia en estos sistemas dificulta la rendición de cuentas: los algoritmos propietarios no son auditables públicamente, y las agencias policiales a menudo firman acuerdos de confidencialidad con los proveedores. Esto contrasta con eventos anteriores, como la adopción de la videovigilancia en los años 90, que también generó debates sobre privacidad pero permitió una mayor supervisión judicial. La IA policial introduce un nivel de opacidad sin precedentes, ya que las decisiones algorítmicas pueden ser difíciles de impugnar en los tribunales. Un estudio de la Universidad de Stanford de 2022 encontró que los fiscales utilizan cada vez más informes generados por IA como evidencia, sin cuestionar su precisión o sesgos potenciales.

Consecuencias para la sociedad: confianza pública y vigilancia predictiva

Si bien la IA puede mejorar la eficiencia policial, su implementación sin marcos legales sólidos podría erosionar la confianza pública. Organizaciones de derechos civiles, como la Electronic Frontier Foundation, han señalado que la vigilancia predictiva puede llevar a una sobrerrepresentación de ciertas comunidades, creando un círculo vicioso de vigilancia y criminalización. Por ejemplo, en Los Ángeles, el uso de PredPol en 2018 resultó en un aumento de las paradas policiales en vecindarios de minorías, sin una reducción correspondiente en la tasa de criminalidad. La venta de estas tecnologías representa un negocio multimillonario: según MarketsandMarkets, el mercado de IA en vigilancia alcanzó los 12 mil millones de dólares en 2025, con un crecimiento anual del 20%. Sin embargo, la regulación federal en Estados Unidos sigue siendo fragmentada. Mientras que ciudades como San Francisco y Boston han prohibido el reconocimiento facial, otras como Fort Worth lo han adoptado sin restricciones. El lobby de la industria es fuerte: según OpenSecrets, las empresas de tecnología policial gastaron más de 50 millones de dólares en cabildeo en 2024. Esto contrasta con la Unión Europea, donde la Ley de IA de 2024 clasifica el reconocimiento facial en vivo como de alto riesgo y exige evaluaciones de conformidad.

Lo que deben saber los lectores: acciones y perspectivas

Es crucial que los ciudadanos exijan transparencia sobre cómo se utilizan estas herramientas. Algunas ciudades ya han implementado auditorías independientes, como la de la Oficina del Inspector General de la Policía de Seattle, que revisa los sistemas de IA anualmente. Los lectores deben informarse sobre las políticas de sus departamentos policiales locales y abogar por marcos legales que incluyan la revisión humana de todas las decisiones automatizadas. Además, la educación pública sobre los sesgos algorítmicos es fundamental: organizaciones como la Algorithmic Justice League ofrecen recursos para entender cómo funcionan estos sistemas. Finalmente, la presión política puede marcar la diferencia: en 2024, una petición ciudadana en Austin, Texas, logró que el concejo municipal aprobara una ordenanza que requiere la aprobación previa de cualquier tecnología de vigilancia. El futuro de la vigilancia en la era digital no está escrito; depende de la participación activa de la sociedad para garantizar que la IA sirva a la justicia, no a la opresión.