inferencia LLM

OpenAI y Broadcom presentan Jalapeño: chip personalizado para inferencia de LLMs

OpenAI y Broadcom han lanzado Jalapeño, un chip ASIC diseñado exclusivamente para inferencia de grandes modelos de lenguaje. El anuncio marca un hito en la estrategia de hardware propio de OpenAI y podría redefinir la economía de la IA.