TheVortiq

Etiqueta

RTX 3090

a rack of electronic equipment in a dark room
Inteligencia Artificial14 de julio de 2026 · 4 min

Ejecutar LLMs en local: el coste real por token en GPU

Un estudio de Towards Data Science cuantifica el coste eléctrico real de ejecutar modelos de lenguaje grandes (LLMs) en una GPU local. Los resultados muestran que el coste por millón de tokens varía significativamente entre modelos, y que la eficiencia no siempre se correlaciona con el tamaño del modelo.