Etiqueta
Un equipo de investigadores de Toronto, Cambridge y ServiceNow ha demostrado un gusano informático que utiliza modelos de lenguaje de código abierto para comprometer sistemas, robar recursos GPU y propagarse de forma autónoma. Este hito confirma que las amenazas cibernéticas impulsadas por IA ya no son teoría, sino una realidad inminente.
GraphRAG promete respuestas más precisas al construir grafos de conocimiento, pero un análisis de cuatro estudios independientes muestra que solo supera al vector RAG en preguntas globales y de conexión de información. Para consultas locales y simples, el vector RAG sigue siendo más eficiente y económico.
Un análisis de Towards Data Science revela que mientras la ingeniería de prompts ha madurado, la gestión de prompts en producción sigue siendo un desafío no resuelto. Cambios aparentemente inocuos —como renombrar una variable— pueden romper todas las llamadas activas sin previo aviso. Se propone un enfoque de análisis estático que trata los prompts como contratos.
Linus Torvalds rectifica su famosa predicción de que los LLMs multiplicarían por 10 la productividad de los programadores. En la Open Source Summit India 2026, calificó esa cifra de 'no científica' y detalló cómo la IA genera más parches inservibles que código útil, aunque reconoce su valor para encontrar bugs y prototipar.
Investigadores han descubierto 'HalluSquatting', una técnica que explota las alucinaciones de la IA para ejecutar ataques de botnet a gran escala. Aprovechando nueve herramientas de IA populares, los atacantes pueden inyectar comandos maliciosos que los modelos ejecutan ciegamente, formando redes de bots sin necesidad de malware tradicional.
Anthropic ha identificado un conjunto de activaciones internas en Claude, denominado J-space, donde el modelo representa conceptos antes de escribirlos o incluso sin que aparezcan en la respuesta final. El hallazgo, publicado el 7 de julio, supone la observación más concreta hasta la fecha del funcionamiento interno de un gran modelo de lenguaje.
Un equipo de investigadores ha descubierto una vulnerabilidad crítica en los modelos de lenguaje: el ataque CoT Forgery. Al inyectar razonamiento falso que imita el estilo de la cadena de pensamiento del modelo, logran que este ignore las restricciones de seguridad y ejecute instrucciones peligrosas. El hallazgo revela que la seguridad de los LLMs depende de etiquetas de rol fácilmente eludibles.
Los grandes modelos de lenguaje (LLM) tienden a dar respuestas predecibles y similares, un problema de 'pensamiento grupal'. La startup australiana Springboards ha desarrollado Flint, un modelo diseñado para ofrecer mayor variedad y creatividad en tareas abiertas como planificación de viajes o lluvia de ideas.
Un artículo técnico de Towards Data Science describe cómo ejecutar tres LLMs diferentes en una sola GPU de 8 GB usando multiplexación de capas en C++ y control de admisión. Esta técnica permite superar la limitación de VRAM y habilita sistemas multiagente en hardware modesto.
JetBrains ha presentado Mellum, un modelo de lenguaje grande (LLM) diseñado para tareas de desarrollo con requisitos de baja latencia. La herramienta, listada en Product Hunt, apunta a integrarse en entornos de desarrollo existentes y competir con soluciones como GitHub Copilot.
La startup miamense Subquadratic ha presentado resultados independientes que respaldan su afirmación de haber roto la atención cuadrática, el cuello de botella matemático que limita los modelos de lenguaje. Su modelo SubQ logra una ventana de contexto de 12 millones de tokens con escalado sublineal, un avance que podría redefinir el procesamiento de textos largos en IA.
Evaluar LLMs y agentes de IA requiere métricas específicas más allá de la precisión. InfoWorld recopila 33 indicadores que abarcan velocidad, calidad, coste y robustez. Este artículo analiza las más relevantes para empresas y desarrolladores.