OpenAI y Broadcom presentan Jalapeño, un chip propio para inferencia de modelos de lenguaje
OpenAI y Broadcom presentaron Jalapeño, un chip de silicio a medida diseñado específicamente para la inferencia de grandes modelos de lenguaje, con el fin de mejorar el rendimiento, la eficiencia y la escalabilidad.
OpenAI y Broadcom han presentado Jalapeño, un chip de IA a medida diseñado específicamente para la inferencia de grandes modelos de lenguaje. Según las compañías, el chip está optimizado para mejorar el rendimiento, la eficiencia y la escalabilidad de los sistemas de IA modernos.
El movimiento refleja la creciente apuesta de OpenAI por el hardware propio, lo que reduce su dependencia de aceleradores de uso general en un momento de fuerte aumento de la demanda de inferencia. Al adaptar el diseño del chip a las exigencias reales de las cargas de trabajo de los modelos de lenguaje, la alianza busca reducir el coste y la huella energética de ejecutar IA a gran escala.