Discrepanța în evaluarea agenților: Organizațiile de AI pentru întreprinderi au o problemă de aliniere la realitate, nu o problemă de acoperire — și majoritatea livreză totuși în producție

Un studiu recent a arătat că organizațiile oferă agenților AI mai multă autonomie, deși au o încredere scăzută în evaluările automate, cu doar 5% dintre acestea având încredere totală. Aproape jumătate dintre ele au avut deja incidente în care agenții au trecut evaluările interne, dar au eșuat în producție. Majoritatea companiilor monitorizează funcționarea sistemului, dar nu corectitudinea răspunsurilor, ceea ce subliniază o lacună semnificativă în evaluările actuale.