Chipul Jalapeño de la OpenAI este construit pentru inferență rapidă la scară, arată benchmark-urile

Jalapeño a fost testat utilizând benchmark-ul InferenceX de la SemiAnalysis și a obținut un număr mai mare de tokeni pe utilizator și un throughput mai ridicat pe kilowatt comparativ cu tehnologiile de vârf actuale. Această performanță sugerează progrese notabile în eficiența energetică și capacitatea de procesare.