El fin de la era del despilfarro: empresas racionan tokens de IA

¿Qué ha ocurrido?

Según un reporte de TechCrunch, numerosas empresas están adoptando medidas para limitar el consumo de tokens de IA por parte de sus empleados, después de detectar un uso excesivo en tareas menores como resumir correos electrónicos o generar memes. El fenómeno, denominado tokenmaxxing, ha llevado a que los presupuestos de IA se agoten rápidamente, forzando a las organizaciones a racionar el acceso a modelos de lenguaje grandes (LLMs). Este patrón no es nuevo: durante el boom de las puntocom, empresas como Enron o WorldCom también vieron cómo el uso desmedido de recursos tecnológicos (ancho de banda, almacenamiento) llevó a racionamientos. Sin embargo, la diferencia clave es que el costo de los tokens de IA es variable y se suma a la infraestructura existente, lo que agrava el problema. TechCrunch reporta que empresas como Salesforce, JPMorgan y Microsoft ya han implementado topes. Salesforce, por ejemplo, estableció un límite mensual de 100,000 tokens por usuario para su asistente Einstein GPT, según fuentes internas. JPMorgan restringió el uso de ChatGPT a tareas previamente aprobadas por supervisores, y Microsoft ajustó los límites de tokens en Azure OpenAI Service, reduciendo el máximo de 8,000 a 4,000 tokens por solicitud en algunos planes.

¿Por qué es importante?

Este cambio refleja la maduración del mercado de IA empresarial. Durante la fase inicial de adopción, muchas compañías ofrecieron acceso ilimitado a herramientas como ChatGPT o asistentes internos, subestimando el costo real por token. Ahora, con modelos de pago por uso y APIs costosas, las empresas buscan maximizar el retorno de inversión. El racionamiento no solo afecta la productividad, sino que también redefine cómo se evalúa el valor de la IA en el lugar de trabajo. Según datos de Gartner, el gasto mundial en IA empresarial alcanzará los 150 mil millones de dólares en 2025, pero hasta un 30% de ese gasto se desperdicia en usos no productivos. El tokenmaxxing es un síntoma de la falta de políticas de uso claras. En comparación con la adopción de la nube en la década de 2010, donde el 'shadow IT' llevó a controles similares, ahora vemos un 'shadow AI' que requiere gobernanza. Además, el racionamiento puede frenar la innovación: un estudio de McKinsey sugiere que el 60% de los empleados que usan IA para tareas creativas reportan mejoras en su desempeño, pero con límites estrictos, ese beneficio podría desaparecer.

Consecuencias y recomendaciones

Los expertos anticipan que esta tendencia impulsará el desarrollo de herramientas de IA más especializadas y eficientes, así como políticas de uso más claras. Para los lectores, es clave entender que el acceso ilimitado a la IA fue una fase transitoria. Las empresas deberán invertir en formación para que los empleados distingan entre tareas que realmente requieren un LLM y aquellas que pueden resolverse con métodos tradicionales. Además, se espera un auge en soluciones de token budgeting y monitoreo de uso. Startups como Tokeet o BudgetAI ya ofrecen paneles que muestran el consumo en tiempo real y alertan cuando se acerca al límite. A nivel de mercado, esto podría fragmentar el ecosistema: los LLMs generalistas (GPT-4, Claude) perderán terreno frente a modelos más pequeños y especializados (como los de Hugging Face o los modelos de código abierto ajustados). Empresas como Salesforce ya están desarrollando modelos más eficientes para tareas específicas. También se espera que las empresas renegocien contratos con proveedores de nube, exigiendo descuentos por volumen o tarifas planas.

“El tokenmaxxing era breve. Ahora entramos en la era del racionamiento de tokens”, señala TechCrunch en su análisis.

Empresas afectadas

• Salesforce: implementó topes mensuales por usuario (100,000 tokens) para Einstein GPT, y está desarrollando un modelo interno más ligero para tareas de CRM.
• JPMorgan: restringió el uso de ChatGPT a tareas aprobadas, y creó un comité de revisión de casos de uso para aprobar solicitudes.
• Microsoft: ajustó los límites de tokens en Azure OpenAI Service, reduciendo el máximo de 8,000 a 4,000 tokens por solicitud en algunos planes, y lanzó una herramienta de monitoreo llamada AI Usage Dashboard.
• Amazon: está probando un sistema de asignación de tokens por departamento en su asistente interno CodeWhisperer, según fuentes de Reuters.
• Google: ha limitado el uso de Bard para empleados en proyectos no relacionados con el trabajo, y está experimentando con modelos más pequeños como PaLM 2 Lite.

En conclusión, el racionamiento de tokens es una señal de que la IA generativa está pasando de la experimentación a la integración real en los flujos de trabajo. Las empresas que logren equilibrar el control de costos con la productividad serán las que obtengan ventajas competitivas. Para los usuarios individuales, la recomendación es priorizar el uso de IA en tareas de alto valor y aprender a identificar cuándo un LLM es realmente necesario. El mercado de herramientas de monitoreo y optimización de tokens crecerá rápidamente, y veremos una consolidación de proveedores que ofrezcan modelos más eficientes. El tokenmaxxing fue un breve exceso; la madurez trae consigo la disciplina.