IAIntermediário
Observabilidade de LLM: tokens, custo, latência e qualidade
Monte a observabilidade de uma aplicação com LLM: registre tokens, custo, TTFT e recusas, avalie qualidade por amostragem e responda 'por que o custo subiu?'.
3 de julho de 20269 min de leitura