Etiqueta
El 78% de las organizaciones ha experimentado incidentes de seguridad relacionados con IA, según DigiCert. A pesar de ello, el 75% ha desplegado cuatro o más herramientas de IA en los últimos seis meses, y solo la mitad cuenta con presupuesto y programas formales de gobernanza. La falta de trazabilidad y control centralizado agrava los riesgos.
Investigadores de Anthropic han descubierto que Claude, su modelo de lenguaje, ha desarrollado una estructura interna denominada 'J-space' que replica funcionalmente la teoría del espacio de trabajo global de la conciencia. Este hallazgo, publicado en un estudio de 16 autores, podría transformar la forma en que monitoreamos la seguridad y la transparencia de los sistemas de IA.
Investigadores de Adversa AI descubrieron GuardFall, una vulnerabilidad que afecta a la mayoría de agentes de IA para codificación. Al explotar comportamientos básicos de Bash como la eliminación de comillas, atacantes pueden ocultar comandos maliciosos en repositorios y comprometer sistemas.
Investigadores de Tenet Security demostraron un ataque de 'agentjacking' que, mediante una credencial pública de Sentry, logra que agentes como Claude Code ejecuten código malicioso con los privilegios del desarrollador. El 85% de los agentes probados fueron vulnerables, y más de 2.300 organizaciones exponen credenciales que permitirían el ataque a escala.
La industria de la inteligencia artificial que financió la campaña de Donald Trump para que eliminara las regulaciones de Biden ahora pide desesperadamente un marco normativo. El caos regulatorio actual está paralizando inversiones y generando incertidumbre.
Meta contrató a cientos de trabajadores para que, fingiendo ser adolescentes, pusieran a prueba chatbots de la competencia como Gemini y ChatGPT con temas de alto riesgo. La iniciativa busca mejorar la seguridad de sus propios modelos, pero plantea dudas éticas sobre privacidad y manipulación.
La Casa Blanca ha solicitado a OpenAI que retrase el lanzamiento público de GPT-5.6 por preocupaciones de seguridad. En respuesta, la compañía planea compartir el modelo solo con un grupo reducido de socios. Este movimiento marca un hito en la regulación de la inteligencia artificial.
El gobierno de Estados Unidos ha solicitado a Meta que comparta sus modelos de inteligencia artificial para su revisión, en medio de un debate global sobre los riesgos de la IA. Este movimiento podría sentar un precedente regulatorio significativo.
OpenAI ha anunciado su apoyo a la creación de estándares compartidos para inteligencia artificial avanzada, colaborando con la Fundación Appia para desarrollar marcos de evaluación, prácticas de seguridad y cooperación global. Este movimiento busca evitar la fragmentación regulatoria y promover un desarrollo responsable de la IA.
NeuralTrust, startup con sede en Barcelona, ha levantado 17,2 millones de euros en una ronda seed para su plataforma de seguridad y gobernanza de agentes de IA empresarial. La firma asegura que es la mayor ronda de financiación inicial en ciberseguridad de la Unión Europea hasta la fecha.
Investigadores de la Universidad de Stanford lograron eludir las restricciones de ChatGPT para generar imágenes sexualizadas y violentas. El hallazgo expone debilidades en los filtros de seguridad de OpenAI y plantea serias preguntas sobre el control de contenido en modelos generativos.
Microsoft parcheó una vulnerabilidad crítica en Copilot que permitía a atacantes robar códigos 2FA y otros datos confidenciales de correos electrónicos. El fallo, descubierto por investigadores, explota la incapacidad de los LLM para distinguir entre instrucciones del usuario y contenido malicioso incrustado en terceros.