AI agent môže na prvý pohľad fungovať perfektne. Dostane úlohu, použije správne nástroje a vráti výsledok, ktorý vyzerá správne.
Lenže čo ak mal cestou šťastie?
Čo ak použil nesprávny nástroj, urobil desať zbytočných API callov alebo sa pri ďalšom podobnom zadaní rozhodne úplne inak?
Práve preto sa pri AI agentoch dostávame od otázky „Funguje?“ k otázke „Ako dobre, konzistentne a bezpečne funguje?“
Evaluating AI agents znamená systematicky testovať nielen výsledok, ale aj celý proces, ktorý k nemu viedol. Moderné evaluačné prístupy sledujú napríklad rozhodnutia agenta, tool calls, náklady, bezpečnosť či jeho správanie pri chybách.