Etiqueta
JetBrains ha presentado Mellum, un modelo de lenguaje grande (LLM) diseñado para tareas de desarrollo con requisitos de baja latencia. La herramienta, listada en Product Hunt, apunta a integrarse en entornos de desarrollo existentes y competir con soluciones como GitHub Copilot.
La startup miamense Subquadratic ha presentado resultados independientes que respaldan su afirmación de haber roto la atención cuadrática, el cuello de botella matemático que limita los modelos de lenguaje. Su modelo SubQ logra una ventana de contexto de 12 millones de tokens con escalado sublineal, un avance que podría redefinir el procesamiento de textos largos en IA.
Evaluar LLMs y agentes de IA requiere métricas específicas más allá de la precisión. InfoWorld recopila 33 indicadores que abarcan velocidad, calidad, coste y robustez. Este artículo analiza las más relevantes para empresas y desarrolladores.
Un análisis de Towards Data Science muestra que los sistemas RAG con ventanas de contexto más grandes no mejoran la precisión en tareas de agregación sobre grandes conjuntos de datos. La solución propuesta combina RAG para búsqueda semántica con un motor de escaneo completo para consultas computacionales, logrando un 100% de precisión en benchmarks.
Los chatbots basados en LLM mejoran en pruebas estándar, pero la experiencia de usuario no avanza al mismo ritmo. La clave perdida es el diálogo con propósito: conversaciones multi-turno orientadas a un objetivo, que permitan iterar, negociar y construir entendimiento mutuo.
Un equipo multidisciplinario ha desarrollado los Latent Context Language Models (LCLM), una nueva arquitectura que comprime el contexto de entrada hasta 16x sin pérdida significativa de precisión. Esto resuelve el cuello de botella computacional de las ventanas de contexto en LLMs, especialmente en agentes autónomos.
Un artículo de IBM Research en el blog de Hugging Face sostiene que los LLM sin agencia son insuficientes para la adopción empresarial escalable. Los agentes de IA, que combinan razonamiento, planificación y ejecución autónoma, emergen como el componente crítico para desbloquear el valor real de la inteligencia artificial en las organizaciones.