Etiqueta
Investigadores de Adversa AI descubrieron GuardFall, una vulnerabilidad que afecta a la mayoría de agentes de IA para codificación. Al explotar comportamientos básicos de Bash como la eliminación de comillas, atacantes pueden ocultar comandos maliciosos en repositorios y comprometer sistemas.
Investigadores de Tenet Security demostraron un ataque de 'agentjacking' que, mediante una credencial pública de Sentry, logra que agentes como Claude Code ejecuten código malicioso con los privilegios del desarrollador. El 85% de los agentes probados fueron vulnerables, y más de 2.300 organizaciones exponen credenciales que permitirían el ataque a escala.
La industria de la inteligencia artificial que financió la campaña de Donald Trump para que eliminara las regulaciones de Biden ahora pide desesperadamente un marco normativo. El caos regulatorio actual está paralizando inversiones y generando incertidumbre.
Meta contrató a cientos de trabajadores para que, fingiendo ser adolescentes, pusieran a prueba chatbots de la competencia como Gemini y ChatGPT con temas de alto riesgo. La iniciativa busca mejorar la seguridad de sus propios modelos, pero plantea dudas éticas sobre privacidad y manipulación.
La Casa Blanca ha solicitado a OpenAI que retrase el lanzamiento público de GPT-5.6 por preocupaciones de seguridad. En respuesta, la compañía planea compartir el modelo solo con un grupo reducido de socios. Este movimiento marca un hito en la regulación de la inteligencia artificial.
El gobierno de Estados Unidos ha solicitado a Meta que comparta sus modelos de inteligencia artificial para su revisión, en medio de un debate global sobre los riesgos de la IA. Este movimiento podría sentar un precedente regulatorio significativo.
OpenAI ha anunciado su apoyo a la creación de estándares compartidos para inteligencia artificial avanzada, colaborando con la Fundación Appia para desarrollar marcos de evaluación, prácticas de seguridad y cooperación global. Este movimiento busca evitar la fragmentación regulatoria y promover un desarrollo responsable de la IA.
NeuralTrust, startup con sede en Barcelona, ha levantado 17,2 millones de euros en una ronda seed para su plataforma de seguridad y gobernanza de agentes de IA empresarial. La firma asegura que es la mayor ronda de financiación inicial en ciberseguridad de la Unión Europea hasta la fecha.
Investigadores de la Universidad de Stanford lograron eludir las restricciones de ChatGPT para generar imágenes sexualizadas y violentas. El hallazgo expone debilidades en los filtros de seguridad de OpenAI y plantea serias preguntas sobre el control de contenido en modelos generativos.
Microsoft parcheó una vulnerabilidad crítica en Copilot que permitía a atacantes robar códigos 2FA y otros datos confidenciales de correos electrónicos. El fallo, descubierto por investigadores, explota la incapacidad de los LLM para distinguir entre instrucciones del usuario y contenido malicioso incrustado en terceros.
Estados Unidos ha activado un 'interruptor de apagado' regulatorio para la inteligencia artificial más avanzada. Mientras el mundo observa, Europa se enfrenta a la disyuntiva de seguir el ritmo estadounidense o trazar su propio camino. Analizamos las implicaciones para startups, inversores y la autonomía tecnológica del continente.
NVIDIA presenta Nemotron 3.5 Content Safety, un modelo de seguridad multimodal entrenado con datos sintéticos que ofrece personalización de políticas de contenido para empresas globales. El modelo permite a las organizaciones adaptar la moderación a sus necesidades regulatorias y culturales, marcando un avance en la gobernanza de IA.