OpenAI presenta Jalapeño, su primer chip para acelerar la inferencia de IA

OpenAI ha lanzado jalapeño, un nuevo procesador diseñado para acelerar la inferencia de IA, especialmente en modelos como GPT-3. Este chip, desarrollado junto a Broadcom y Celestica, busca reducir costos y mejorar el rendimiento de estos modelos, optimizando su arquitectura para tareas de inferencia que consumen mucha energía. Jalapeño está diseñado para funcionar con LLMs actuales y futuras generaciones de IA, lo que permitirá una mayor velocidad y menor latencia en servicios de IA generativa.