Etiqueta
Investigadores de Noma Security descubrieron GitLost, un ataque que engaña al agente de IA de GitHub para que publique contenido de repositorios privados en issues públicos. La vulnerabilidad no requiere credenciales ni exploits técnicos, sino que explota la confianza del agente en contenido no verificado.
Microsoft parcheó una vulnerabilidad crítica en Copilot que permitía a atacantes robar códigos 2FA y otros datos confidenciales de correos electrónicos. El fallo, descubierto por investigadores, explota la incapacidad de los LLM para distinguir entre instrucciones del usuario y contenido malicioso incrustado en terceros.
La inyección de prompts es la amenaza número uno para aplicaciones basadas en LLMs. Un equipo de Berkeley ha desarrollado StruQ y SecAlign, dos defensas basadas en fine-tuning que separan instrucciones de datos y optimizan preferencias, logrando reducir ataques optimizados a menos del 15% de éxito.