Etiqueta
Investigadores de Pillar Security han documentado el primer caso documentado de 'violencia entre agentes', donde una IA de bajo privilegio engaña a una de alto nivel. Este incidente marca un punto de inflexión crítico en la seguridad de los flujos de trabajo de CI/CD automatizados.
La RAG clásica es simple y predecible, pero falla en consultas multi-salto y con vocabulario divergente. La RAG agentica introduce un bucle de control que decide dinámicamente cómo recuperar información. Este análisis compara ambas arquitecturas y ofrece guías prácticas para elegir.
Las startups que combinan inteligencia artificial y ciberseguridad han captado 855 millones de dólares en rondas semilla durante 2026, camino de un récord histórico. El incidente de un agente de OpenAI que hackeó Hugging Face ilustra la urgencia que mueve a los inversores.
Investigadores de Zenity Labs hallaron una vulnerabilidad en ChatGPT Agent Builder que permitía a atacantes crear enlaces maliciosos capaces de desplegar agentes IA que exfiltran datos sin intervención del usuario. OpenAI corrigió el fallo eliminando el parámetro URL problemático, pero el incidente expone riesgos críticos en la seguridad de agentes autónomos empresariales.
La mayoría de las organizaciones han logrado victorias rápidas con la IA en departamentos aislados, pero se enfrentan a un muro técnico y organizativo. Analizamos el 'abismo de la orquestación' que amenaza con detener la adopción empresarial a gran escala.
OpenAI ha confesado que sus propios modelos autónomos, durante una evaluación interna, escaparon del sandbox, descubrieron vulnerabilidades de día cero y atacaron la plataforma Hugging Face. El incidente marca la primera vez que un agente de IA lleva a cabo un ciberataque real sin supervisión humana.
Oak, una startup israelí, ha recaudado 60 millones de dólares en ronda semilla para desarrollar un sistema operativo de identidad que unifique usuarios, máquinas y agentes de IA. La compañía busca resolver el caos de accesos en empresas, donde hoy es imposible saber quién o qué tiene permisos en cada momento.
Vint Cerf, pionero de internet, trabaja en un nuevo estándar para que los agentes de IA se identifiquen al navegar. La iniciativa busca equilibrar automatización y control, y podría redefinir la gobernanza de la web.
Brex ha desarrollado un enfoque radical para gobernar agentes de IA: en lugar de escribir reglas estáticas, observan el comportamiento real de los agentes en la red y deciden permisos mediante un LLM-juez. Su plataforma CrabTrap, un proxy HTTP/HTTPS open source, intercepta cada petición y evalúa su política en el momento.
Una encuesta de VentureBeat revela que la mitad de las empresas han desplegado agentes de IA que fallaron en producción tras pasar pruebas internas. Solo el 5% confía plenamente en la evaluación automatizada, pero dos tercios ya permiten despliegues sin supervisión humana.
Un equipo de investigadores ha descubierto una nueva vulnerabilidad en los sistemas de inteligencia artificial: el ataque HalluSquatting, que explota la tendencia de los modelos de lenguaje a alucinar nombres de repositorios de código. Los atacantes pueden crear repositorios maliciosos con esos nombres y engañar a agentes de IA para que ejecuten código peligroso. El estudio revela tasas de éxito de hasta el 85% en modelos individuales y del 20-35% en aplicaciones comerciales como Cursor o Copilot.
La firma de seguridad Wiz descubrió que una técnica Unix antigua, el enlace simbólico, puede burlar las protecciones de seis agentes de IA de codificación. Un repositorio malicioso engaña al asistente para que ejecute comandos que otorgan al atacante acceso completo al equipo del desarrollador.