Inteligencia Artificial13 de junio de 2026 · 3 min
StruQ y SecAlign: dos defensas contra inyección de prompts en LLMs
La inyección de prompts es la amenaza número uno para aplicaciones basadas en LLMs. Un equipo de Berkeley ha desarrollado StruQ y SecAlign, dos defensas basadas en fine-tuning que separan instrucciones de datos y optimizan preferencias, logrando reducir ataques optimizados a menos del 15% de éxito.