TheVortiq

Etiqueta

inyección de prompts

red and black love lock
Inteligencia Artificial16 de junio de 2026 · 5 min

Vulnerabilidad crítica en Copilot permite robar códigos 2FA

Microsoft parcheó una vulnerabilidad crítica en Copilot que permitía a atacantes robar códigos 2FA y otros datos confidenciales de correos electrónicos. El fallo, descubierto por investigadores, explota la incapacidad de los LLM para distinguir entre instrucciones del usuario y contenido malicioso incrustado en terceros.

black and white checked textile
Inteligencia Artificial13 de junio de 2026 · 3 min

StruQ y SecAlign: dos defensas contra inyección de prompts en LLMs

La inyección de prompts es la amenaza número uno para aplicaciones basadas en LLMs. Un equipo de Berkeley ha desarrollado StruQ y SecAlign, dos defensas basadas en fine-tuning que separan instrucciones de datos y optimizan preferencias, logrando reducir ataques optimizados a menos del 15% de éxito.