Consumo

A unidade de consumo é a execução de um procedimento, e não a mensagem. Uma conversa de vinte mensagens que resolve um processo conta uma vez, e uma conversa que não iniciou processo nenhum não conta.

E conta uma vez mesmo. Uma execução é cobrada uma única vez independentemente de quantas etapas percorreu, quantas ferramentas chamou, quantas retentativas precisou ou quantos tokens consumiu. Um processo que deu trabalho custa o mesmo que um que saiu de primeira, o que significa que desenhar um procedimento mais cuidadoso, com mais verificações e mais tentativas, não aumenta a sua conta com a plataforma.

Vale lembrar que essa é a única coisa que a Sublime cobra. Os tokens do modelo são cobrados pelo seu provedor, direto para você, sem margem da plataforma, como está em Provedor de modelo.

O que não é cobrado

A isenção do preview é o que torna a calibragem viável, porque medir um agente contra cenários dezenas de vezes não consome operação. Sem ela, a régua que garante a qualidade sairia mais cara que a operação que ela protege, e todo mundo mediria menos.

Quando a cobrança acontece

A cobrança acontece quando a execução atinge um estado terminal e a evidência correspondente fica gravada e disponível para você. E ela é registrada uma vez só, ainda que o registro seja escrito mais de uma vez, então não existe cobrança dupla por uma reentrega interna.

Cada execução cobrada é registrada com a data em que ocorreu e ao preço vigente naquele momento, de modo que mudar de plano não reprecifica o que já passou. Quanto do período já foi consumido, até onde ele ainda vai e o que disso vira excedente são os três números de Uso.

Onde o gasto aparece

Cada inferência é registrada com o modelo, o esforço, os tokens de entrada, saída, raciocínio e cache, o custo e a latência, junto do turno, da execução e do agente que a produziu.

Isso serve a três leituras diferentes, e vale conhecer as três porque respondem perguntas que costumam ser confundidas:

• Operacional, quanto custa um processo de ponta a ponta.
• Diagnóstica, onde um turno gastou mais do que devia, volta por volta.
• Comparativa, o custo por repetição em um veredito, que é o que diz se uma alteração ficou mais cara sem ficar melhor.

O teto que o cenário declara

Um cenário pode declarar um orçamento, com o máximo de inferências e de voltas que uma repetição pode consumir, e estourar esse teto reprova o cenário mesmo com todas as expectativas satisfeitas.

É a forma de dizer que uma resposta certa que custou dez vezes mais não é uma resposta certa. Competência e eficiência são medidas na mesma rodada porque, em produção, elas chegam juntas: ninguém opera um agente que acerta tudo e consome o orçamento do trimestre em uma semana.

Os limites do agente

Os tetos de frequência do agente, total e por contato, são de operação e não de custo, mas protegem a conta na prática, porque um laço automático entre dois sistemas é caro exatamente por ninguém percebê-lo. Estão em Limites de resposta.

E é assim que o conjunto fecha. Um agente na Sublime é caro de forma previsível, porque cada peça que poderia surpreender tem um número declarado em algum lugar: o teto do plano, o orçamento do cenário, o limite do agente e a chave de modelo que é sua. Nenhum deles depende de alguém lembrar de conferir.