Primele rezultate ale Jalapeño arată viteză și eficiență de lider în industrie în inferența AI

Jalapeño este un cip personalizat de inferență de la OpenAI, care oferă performanțe mai rapide și eficiente energetic pentru inferența AI. Acesta permite un debit mai mare și o latență mai scăzută pentru modelele moderne.