Etiqueta
Según Reuters, DeepSeek está desarrollando un chip de inteligencia artificial propio, enfocado en inferencia. El movimiento busca reducir la dependencia de NVIDIA y Huawei, y abaratar la ejecución de modelos a escala. El proyecto está en fase temprana y no ha sido confirmado oficialmente.
Nvidia presenta su CPU Vera como un 'CPU de máximo rendimiento monohilo a escala', diseñado para cargas de trabajo de IA agente que dependen de la velocidad secuencial. Con 88 núcleos Olympus y 176 hilos, Vera compite con AMD EPYC e Intel Xeon, pero su verdadera apuesta es el rendimiento por núcleo y la baja latencia.
Baseten, empresa de infraestructura para despliegue de modelos de IA, ha anunciado una ronda Serie F de 1.500 millones de dólares que la valora en hasta 13.000 millones. La inversión, la mayor de la australiana Blackbird VC, refleja la creciente demanda de plataformas de inferencia escalables.
Ante el aumento de tarifas de APIs de IA y las limitaciones en la construcción de nuevos centros de datos, está surgiendo una tendencia de migración de cargas de trabajo de IA desde la nube hacia entornos locales. Usuarios reportan ahorros significativos al procesar millones de tokens diarios con hardware modesto, lo que plantea interrogantes sobre el futuro del mercado de inferencia en la nube.