Inferência
A escolha do modelo e do esforço de raciocínio, o que cada eixo muda no comportamento, na latência e no custo, e o que nenhum dos dois resolve.
Duas escolhas governam cada inferência do agente: qual modelo executa e quanto ele pensa antes de responder. Elas são independentes, e confundi-las é a causa mais comum de um agente que ficou lento sem ficar melhor.
O modelo
O catálogo traz as famílias que a plataforma executa, da mais recente para a mais antiga, e cada uma declara o que você precisa para escolher sem adivinhar:
| O que o catálogo diz | Para que serve |
|---|---|
| Descrição | para que aquele modelo foi feito |
| Latência | quão rápido ele responde, de um a cinco |
| Eficiência | quanto ele entrega pelo que custa, de um a cinco |
| Preço | entrada, saída e cache, por milhão de tokens, aos valores do provedor |
| Selo | novo ou recomendado |
Os preços são os do seu provedor, sem margem da plataforma, então trocar de modelo muda a sua fatura com ele na proporção exata da tabela. Como isso funciona está em Provedor de modelo.
Vale ser direto sobre o que trocar de modelo não faz. Um modelo maior não deixa o agente mais correto, e sim deixa o texto melhor e a conta maior, porque a correção do que ele afirma vem do Conhecimento e da verificação de saída, enquanto a correção do fluxo vem do procedimento. Nenhuma das duas melhora com um modelo mais caro.
O que melhora de verdade é a compreensão: entender uma mensagem confusa, extrair um dado escrito de um jeito torto, escolher o rótulo certo em um Roteador AI ambíguo. Se o seu problema é um desses, trocar de modelo resolve; se não é, você vai pagar mais pelo mesmo comportamento.
O raciocínio
O esforço do agente tem sete níveis, de nenhum a máximo, e cada modelo publica apenas os que aceita. Existe ainda o padrão do provedor, que deixa a escolha com quem executa o modelo em vez de fixá-la.
Esforço maior custa mais tokens e mais tempo em toda inferência do agente, o que o torna caro quando aplicado indistintamente. Ele vale para decisões ambíguas e não vale para conversar.
Por isso a escolha do agente é o piso e não a palavra final: as etapas que usam o modelo, como Mensagem e Roteador AI, declaram o próprio esforço em uma escala mais curta, de baixo a máximo. É ali que você gasta pensamento onde ele muda o resultado, em vez de encarecer todos os turnos para melhorar alguns.
Como escolher
Comece pelo modelo recomendado no esforço médio e depois meça, porque os cenários medem competência e custo na mesma rodada, e é a comparação entre duas rodadas que diz se subir o esforço comprou alguma coisa. A intuição não diz, e nesse terreno ela erra com frequência.
Uma diferença que cabe dentro da dispersão entre as repetições não é ganho. É ruído com uma narrativa em volta.