Cât de repede sunt, de fapt, 10 tokeni pe secundă?

Un program HTML creat de Mike Veerman simulează viteza de ieșire a token-urilor pentru modele LLM, variind de la 5 la 800 token-uri pe secundă. Această aplicatie este utilă pentru a înțelege ce înseamnă o viteză specificată de exemplu "30 token-uri pe secundă."