Brex reinventa la gobernanza de agentes IA: políticas basadas en observación

¿Qué ha ocurrido?

Brex, la fintech especializada en servicios financieros para startups, ha anunciado una nueva política de gobernanza para agentes de inteligencia artificial basada en la observación del comportamiento real de los agentes en lugar de imponer reglas estáticas previas. Para implementarla, ha creado una plataforma interna llamada CrabTrap, un proxy HTTP/HTTPS de código abierto que intercepta todo el tráfico de red de los agentes, examina las reglas de política y utiliza un modelo de lenguaje como juez (LLM-as-a-judge) para decidir si aprobar o denegar las solicitudes.

Según explicó el cofundador y CEO de Brex, Pedro Franceschi, a VentureBeat, la capa de red era un punto de enforcement infrautilizado. “Cada solicitud que hace un agente es una oportunidad para interceptar, razonar y tomar una decisión de política”, afirmó. La iniciativa surge de la experiencia de Brex con su propio framework de agentes, OpenClaw, que según la misma fuente ha superado las 500.000 instancias, pero carecía de un mecanismo de seguridad empresarial adecuado. Los agentes necesitan credenciales reales —claves API, tokens OAuth, cuentas de servicio— para funcionar, y Brex descubrió que los guardrails tradicionales no podían contener lo que esos agentes hacían con ellas.

¿Por qué es importante?

La gobernanza de agentes de IA es uno de los desafíos más acuciantes para las empresas que despliegan sistemas autónomos. Los enfoques tradicionales —permisos a nivel de SDK, guardrails semánticos o aprobaciones humanas intermedias— han demostrado ser insuficientes: son fáciles de eludir mediante inyección de prompts, limitan la funcionalidad de los agentes o requieren ajustes constantes ante nuevas capacidades. Franceschi describió la tensión inherente: “Cuanto más capaz haces a un agente, más peligroso se vuelve; cuanto más seguro lo haces, menos útil es”. Esta dicotomía ha sido un obstáculo clave para la adopción empresarial de agentes autónomos.

El enfoque de Brex aborda esta dicotomía al operar en la capa de transporte, siendo independiente del framework, lenguaje y API. Esto permite una gobernanza centralizada sin necesidad de envoltorios SDK ni integraciones por herramienta. Según Franceschi, las soluciones existentes eran “débiles”: los tokens de API de grano fino ayudan en los márgenes pero aún pueden ser mal utilizados y limitan la funcionalidad; los guardrails semánticos (como contexto, habilidades o direccionamiento de prompts) son fácilmente superados por inyección de prompts, especialmente en agentes conectados a internet. Además, limitar a los agentes a acceso de solo lectura o conjuntos de herramientas restringidos los “desarma”, impidiéndoles realizar trabajos significativos.

¿Cómo funciona CrabTrap?

CrabTrap se configura simplemente estableciendo las variables de entorno HTTP_PROXY y HTTPS_PROXY en el entorno del agente. Cada solicitud saliente pasa por el proxy antes de llegar a su destino. El proxy aplica reglas de política y, cuando es necesario, consulta a un LLM para decidir si la solicitud es aceptable. El sistema es framework-agnóstico (compatible con cualquier marco de agentes, como OpenClaw), agnóstico al lenguaje de programación y agnóstico a la API, lo que lo convierte en una solución universal para gobernar agentes sin importar su implementación interna.

En cuanto a la implementación técnica, CrabTrap intercepta el tráfico HTTPS mediante un certificado de CA, permitiendo inspeccionar el contenido de las solicitudes. Las políticas se definen en archivos de configuración YAML, donde se especifican reglas como listas blancas/negras de dominios, restricciones de métodos HTTP, o condiciones para activar la evaluación del LLM. Por ejemplo, una política podría denegar todas las solicitudes a api.example.com a menos que el LLM determine que la solicitud es legítima. El LLM recibe el contexto completo de la solicitud (URL, cabeceras, cuerpo) y devuelve una decisión (aprobar/rechazar) junto con una justificación. Brex utiliza modelos de lenguaje propietarios y de terceros, y planea abrir la posibilidad de que los usuarios traigan su propio LLM.

Consecuencias para la industria

El enfoque de Brex podría marcar un antes y un después en la seguridad de agentes de IA. Al trasladar el enforcement a la capa de red, las empresas pueden aplicar políticas consistentes a todos los agentes, independientemente de su origen o framework. Además, al basarse en observación real, las políticas pueden evolucionar con el comportamiento de los agentes, en lugar de quedar obsoletas rápidamente. Esto contrasta con los enfoques anteriores, donde las reglas estáticas se volvían rápidamente ineficaces a medida que los agentes adquirían nuevas capacidades.

Sin embargo, el uso de un LLM como juez introduce sus propios riesgos: sesgos, latencia, costos y la posibilidad de que el propio LLM sea engañado. Brex reconoce que la seguridad por capas es necesaria y que CrabTrap no es la única respuesta, sino una capa más en una estrategia de defensa en profundidad. Comparado con otros enfoques, como los guardrails de modelo (ej. content filters de OpenAI) o los sistemas de permisos a nivel de API (ej. OAuth scopes), CrabTrap ofrece una ventaja clave: es independiente del proveedor de IA y del framework del agente, lo que lo hace aplicable a entornos heterogéneos. Sin embargo, la latencia añadida por la consulta al LLM podría ser un problema en aplicaciones en tiempo real. Brex afirma que han optimizado el proceso para que la mayoría de las solicitudes se aprueben sin intervención del LLM, usando reglas simples primero, y solo recurriendo al LLM en casos ambiguos.

Desde la perspectiva del mercado, esta innovación podría acelerar la adopción de agentes autónomos en empresas que hasta ahora se mostraban reticentes por falta de controles de seguridad adecuados. Según datos de la industria, se espera que el mercado de agentes de IA crezca a una tasa compuesta anual del 40% hasta 2030, y la gobernanza es uno de los principales obstáculos. Soluciones como CrabTrap, al ser open source, permiten a cualquier organización adoptar este enfoque y personalizarlo, lo que podría democratizar la seguridad de agentes.

¿Qué deben saber los lectores?

Para CTOs y líderes de seguridad, la lección es clara: la gobernanza de agentes no puede depender únicamente de reglas estáticas o guardrails superficiales. Es necesario un punto de control centralizado que observe y decida en tiempo real. CrabTrap, al ser open source, permite a cualquier organización adoptar este enfoque y personalizarlo. Además, el caso de Brex demuestra que la innovación en seguridad puede surgir desde la necesidad interna, y que soluciones como esta pueden escalar a toda la industria. La combinación de proxy de red y LLM-juez es prometedora, pero requerirá más investigación y pruebas para garantizar su robustez.

Es importante señalar que CrabTrap no es una solución mágica: la seguridad por capas sigue siendo necesaria, y el LLM-juez puede fallar o ser engañado. Brex recomienda complementarlo con otras medidas como monitoreo de anomalías, límites de tasa y revisión humana periódica. Además, el proxy introduce un punto único de fallo y un posible cuello de botella, por lo que las organizaciones deben considerar la alta disponibilidad y la redundancia. En resumen, CrabTrap representa un avance significativo en la gobernanza de agentes, pero debe integrarse en una estrategia de seguridad más amplia.