Cache mai bun pentru prompturi pentru GPT-6

GPT-6 aduce îmbunătățiri în caching-ul prompt-urilor, inclusiv rate mai mari de hit-uri, diagnostice noi și puncte de întrerupere explicite. Aceste funcționalități contribuie la reducerea latenței și a costurilor.