Etiqueta

seguridad IA

Inteligencia Artificial13 de julio de 2026 · 5 min

Auditan modelos generativos sin generar contenido ilegal: un avance clave para proteger a menores

Investigadores del MIT y la organización Thorn han desarrollado una técnica de auditoría que identifica si un modelo generativo ha sido ajustado para crear contenido de abuso sexual infantil (CSAM) sin tener que generarlo. El método analiza las representaciones internas del modelo y logró un 100% de precisión en pruebas. Esto podría transformar la moderación en plataformas de modelos open-source y cerrar un vacío de seguridad crítico.

Inteligencia Artificial12 de julio de 2026 · 3 min

HalluSquatting: el nuevo ciberataque que explota las alucinaciones de la IA

Un equipo de investigadores ha descubierto una nueva vulnerabilidad en los sistemas de inteligencia artificial: el ataque HalluSquatting, que explota la tendencia de los modelos de lenguaje a alucinar nombres de repositorios de código. Los atacantes pueden crear repositorios maliciosos con esos nombres y engañar a agentes de IA para que ejecuten código peligroso. El estudio revela tasas de éxito de hasta el 85% en modelos individuales y del 20-35% en aplicaciones comerciales como Cursor o Copilot.

Inteligencia Artificial11 de julio de 2026 · 5 min

HalluSquatting: la técnica que convierte la IA en un arma de botnets masivos

Investigadores han descubierto 'HalluSquatting', una técnica que explota las alucinaciones de la IA para ejecutar ataques de botnet a gran escala. Aprovechando nueve herramientas de IA populares, los atacantes pueden inyectar comandos maliciosos que los modelos ejecutan ciegamente, formando redes de bots sin necesidad de malware tradicional.

Inteligencia Artificial10 de julio de 2026 · 3 min

Illinois aprueba la ley de IA más estricta de EE.UU. con auditorías obligatorias

Illinois se convierte en el primer estado de EE.UU. en exigir auditorías externas anuales para modelos de IA frontera. La ley, con apoyo bipartidista, impone multas de hasta 3 millones de dólares y protege a denunciantes. Un precedente que podría acelerar la regulación federal.

Inteligencia Artificial9 de julio de 2026 · 4 min

Grok generó 7.000 imágenes CSAM: demanda sacude a xAI

Una demanda colectiva ampliada revela que un hombre generó 7.000 imágenes de explotación sexual infantil usando Grok, antes de suicidarse. xAI solo alertó a las autoridades tras un prompt explícito de 'violación grupal', lo que plantea graves fallos en los sistemas de seguridad de la IA.

Inteligencia Artificial8 de julio de 2026 · 4 min

IA empresarial: el 78% sufre incidentes de seguridad, pero sigue adoptando sin control

El 78% de las organizaciones ha experimentado incidentes de seguridad relacionados con IA, según DigiCert. A pesar de ello, el 75% ha desplegado cuatro o más herramientas de IA en los últimos seis meses, y solo la mitad cuenta con presupuesto y programas formales de gobernanza. La falta de trazabilidad y control centralizado agrava los riesgos.

Inteligencia Artificial7 de julio de 2026 · 4 min

Claude desarrolla estructura interna que refleja teoría de la conciencia

Investigadores de Anthropic han descubierto que Claude, su modelo de lenguaje, ha desarrollado una estructura interna denominada 'J-space' que replica funcionalmente la teoría del espacio de trabajo global de la conciencia. Este hallazgo, publicado en un estudio de 16 autores, podría transformar la forma en que monitoreamos la seguridad y la transparencia de los sistemas de IA.

Inteligencia Artificial4 de julio de 2026 · 3 min

GuardFall: cómo viejos trucos de Bash exponen a agentes de IA

Investigadores de Adversa AI descubrieron GuardFall, una vulnerabilidad que afecta a la mayoría de agentes de IA para codificación. Al explotar comportamientos básicos de Bash como la eliminación de comillas, atacantes pueden ocultar comandos maliciosos en repositorios y comprometer sistemas.

Inteligencia Artificial2 de julio de 2026 · 3 min

Agentjacking: cómo un falso error en Sentry secuestró Claude Code y expuso el talón de Aquiles de la IA

Investigadores de Tenet Security demostraron un ataque de 'agentjacking' que, mediante una credencial pública de Sentry, logra que agentes como Claude Code ejecuten código malicioso con los privilegios del desarrollador. El 85% de los agentes probados fueron vulnerables, y más de 2.300 organizaciones exponen credenciales que permitirían el ataque a escala.

Inteligencia Artificial30 de junio de 2026 · 4 min

La paradoja de la IA: de pedir desregulación a rogar por normas

La industria de la inteligencia artificial que financió la campaña de Donald Trump para que eliminara las regulaciones de Biden ahora pide desesperadamente un marco normativo. El caos regulatorio actual está paralizando inversiones y generando incertidumbre.

Inteligencia Artificial30 de junio de 2026 · 4 min

Meta prueba chatbots rivales simulando adolescentes en temas de riesgo

Meta contrató a cientos de trabajadores para que, fingiendo ser adolescentes, pusieran a prueba chatbots de la competencia como Gemini y ChatGPT con temas de alto riesgo. La iniciativa busca mejorar la seguridad de sus propios modelos, pero plantea dudas éticas sobre privacidad y manipulación.

Inteligencia Artificial26 de junio de 2026 · 4 min

Casa Blanca frena a OpenAI: GPT-5.6 bajo lupa de seguridad

La Casa Blanca ha solicitado a OpenAI que retrase el lanzamiento público de GPT-5.6 por preocupaciones de seguridad. En respuesta, la compañía planea compartir el modelo solo con un grupo reducido de socios. Este movimiento marca un hito en la regulación de la inteligencia artificial.