Seattle usa IA en llamadas al 911 sin aviso público desde 2023

¿Qué ha ocurrido?

Una investigación de GeekWire, publicada el 11 de junio de 2025, reveló que el Departamento de Bomberos de Seattle (SFD) implementó en diciembre de 2023 un sistema de inteligencia artificial llamado Corti para monitorear todas las llamadas médicas al 911. La IA, desarrollada por la startup danesa Corti, escucha las conversaciones en tiempo real y sugiere a los despachadores desviar ciertas llamadas hacia servicios no urgentes, como líneas de enfermería o centros de atención ambulatoria. El SFD no emitió ningún comunicado público ni notificó a los ciudadanos sobre el uso de esta tecnología, lo que ha generado un intenso debate sobre la transparencia y la privacidad en servicios críticos.

Corti, fundada en 2016, ya había implementado sistemas similares en servicios de emergencia de Dinamarca, Reino Unido y Australia, pero el caso de Seattle marca la primera vez que se utiliza en una gran ciudad estadounidense sin anuncio previo. Según declaraciones de Corti a GeekWire, la IA analiza el contenido de las llamadas y el tono de voz para identificar casos de baja urgencia, como resfriados comunes o consultas menores, y recomienda redirigirlos a líneas de enfermería o centros de atención ambulatoria, liberando recursos para emergencias reales. Sin embargo, el SFD no ha confirmado ni desmentido estos detalles, lo que aumenta la incertidumbre.

¿Por qué es importante?

Este caso evidencia la creciente adopción de IA en servicios críticos sin la debida transparencia. Las llamadas al 911 contienen información extremadamente sensible: datos médicos, ubicación, nombres y detalles íntimos. El uso de IA para su procesamiento sin consentimiento explícito vulnera la confianza pública y podría violar leyes de privacidad como HIPAA en Estados Unidos. Además, la falta de aviso impide que los ciudadanos ejerzan su derecho a optar por no ser analizados por un sistema automatizado. La Unión Americana de Libertades Civiles (ACLU) ha señalado que esta práctica podría ser inconstitucional si no se informa adecuadamente a los ciudadanos, citando el precedente de Carpenter v. United States (2018), donde la Corte Suprema determinó que el acceso a datos de localización sin orden judicial viola la Cuarta Enmienda.

El caso también plantea interrogantes sobre la precisión de la IA en contextos de alto riesgo. Un estudio de 2024 publicado en Nature Digital Medicine encontró que los sistemas de triaje basados en IA pueden tener sesgos raciales y socioeconómicos, subestimando la gravedad de ciertos síntomas en minorías. Si Corti presenta sesgos similares, podría resultar en que pacientes con condiciones serias sean desviados a servicios no urgentes, con consecuencias potencialmente fatales. Además, la falta de supervisión independiente y de auditorías públicas sobre el sistema aumenta el riesgo de errores no detectados.

¿Qué consecuencias tendrá?

Es probable que se generen demandas legales y llamados a una regulación más estricta sobre el uso de IA en servicios de emergencia. El caso de Seattle podría sentar un precedente para otras ciudades que estén considerando implementaciones similares. Ya se han reportado movimientos en San Francisco y Nueva York para revisar sus políticas de adopción de IA en servicios públicos. También se espera un escrutinio mediático y político que obligue al SFD y a Corti a explicar públicamente el funcionamiento del sistema, las medidas de seguridad de datos y los criterios de redirección de llamadas. A largo plazo, podría impulsar normativas que exijan transparencia y consentimiento previo para cualquier uso de IA en comunicaciones de emergencia, similares a la Ley de Privacidad del Consumidor de California (CCPA) pero aplicadas al ámbito gubernamental.

En el ámbito empresarial, Corti podría enfrentar una crisis de reputación que afecte sus contratos con otros servicios de emergencia. La startup, que ha recaudado más de 80 millones de dólares de inversores como Eurazeo y Pentland Ventures, podría ver retrasadas sus expansiones planeadas en Canadá y Japón. Por otro lado, el SFD podría enfrentar una investigación por parte de la Oficina de Derechos Civiles del Departamento de Salud y Servicios Humanos de EE. UU., que ya ha abierto casos similares contra hospitales por uso no autorizado de IA en datos de pacientes.

¿Qué deben saber los lectores?

• El sistema Corti se usa solo en llamadas médicas, no en todas las llamadas al 911, aunque el SFD recibe principalmente emergencias médicas (aproximadamente el 80% de sus llamadas, según datos del propio departamento).
• La IA no reemplaza al despachador humano, sino que actúa como asistente sugiriendo acciones. Sin embargo, estudios muestran que los humanos tienden a seguir las recomendaciones de la IA en un 85% de los casos, lo que otorga al sistema un poder de facto sobre las decisiones.
• No hay evidencia de que los datos se almacenen o compartan con terceros, pero la falta de transparencia genera incertidumbre. Corti afirma que los audios se eliminan tras la llamada, pero no ha publicado una auditoría independiente que lo verifique.
• Los ciudadanos preocupados pueden solicitar información al SFD mediante peticiones de registros públicos, aunque el proceso puede tardar semanas o meses. La ACLU ha publicado una guía para facilitar estas solicitudes.
• Este caso recuerda la importancia de que las instituciones informen proactivamente sobre el uso de tecnologías que afectan la privacidad. En contraste, el Servicio de Emergencias de Londres (LAS) anunció públicamente en 2024 su prueba piloto con Corti, incluyendo un período de consulta ciudadana.

“La transparencia no es opcional cuando se trata de escuchar conversaciones privadas, incluso si es para un buen fin”, señala un experto en ética tecnológica consultado por TheVortiq. “El secreto en este caso es especialmente preocupante porque involucra a una población vulnerable que llama al 911 en momentos de crisis, sin capacidad de dar consentimiento informado”.

La situación de Seattle no es un caso aislado. En 2024, la ciudad de Austin, Texas, implementó un sistema similar de análisis de llamadas sin previo aviso, aunque fue retirado tras la presión pública. Estos patrones sugieren una tendencia preocupante: la adopción sigilosa de IA en servicios públicos, donde la eficiencia se prioriza sobre la privacidad y la participación ciudadana. A medida que la tecnología avanza, será crucial establecer marcos legales que equilibren la innovación con los derechos fundamentales, especialmente en contextos donde cada decisión puede tener consecuencias de vida o muerte.