Quanto custa um agente de IA em produção: o que entra na conta além do modelo

Por que a pergunta costuma vir errada

Comparar agentes pelo preço do modelo é como comparar carros pelo preço do litro de gasolina. O combustível importa, mas a conta inclui manutenção, seguro, quem dirige e quanto tempo o carro fica parado na oficina.

Com agente é igual. Existe o custo de construir, o custo de rodar, o custo de manter funcionando e o custo das pessoas que continuam no circuito. Um agente barato de rodar e que erra muito pode sair mais caro do que um mais caro que acerta.

O número que interessa é o custo por caso resolvido, e não o custo por mensagem ou por licença.

Os componentes do custo real

Para não esquecer nada, separe a conta em seis blocos:

• Desenho e construção. Mapear o processo, escrever regras, construir as integrações, montar os testes. É o custo de começar, e costuma ser subestimado porque o processo real tem mais exceções do que o processo descrito.
• Modelo de linguagem. O consumo de API, cobrado por quantidade de texto processado. Varia com o volume, o tamanho do contexto e o modelo escolhido.
• Infraestrutura e ferramentas. Servidor, banco de dados, busca em documentos, filas, armazenamento de registros, monitoramento. Às vezes vem embutido numa plataforma, às vezes é separado.
• Integrações. Licenças ou cobranças por uso das APIs dos sistemas que o agente acessa: CRM, ERP, WhatsApp, assinatura eletrônica. Algumas cobram por chamada ou por mensagem.
• Operação e manutenção. Alguém precisa acompanhar indicadores, revisar erros, ajustar regras quando o processo muda e atualizar o agente quando um sistema muda de versão.
• Revisão humana. O tempo das pessoas que aprovam, corrigem e assumem os casos que o agente devolve. É custo real, e é o que permite deixar o agente trabalhar em coisa importante.

Há ainda um sétimo item que não aparece na fatura: o custo do erro. Um reembolso indevido, uma resposta errada para um cliente, um dado exposto. Ele não entra em planilha de fornecedor, mas deveria entrar na sua.

Como o custo do modelo funciona

Os modelos são cobrados por token, que é um pedaço de palavra. Em português, uma palavra dá em média um pouco mais de um token. O preço é dado por milhão de tokens, e o texto que sai (a resposta) costuma custar várias vezes mais do que o texto que entra.

As faixas variam muito e mudam rápido, então use como ordem de grandeza. Modelos menores e mais rápidos custam de centavos a poucos dólares por milhão de tokens. Os modelos mais capazes ficam na faixa de alguns dólares a algumas dezenas de dólares por milhão, principalmente na saída. A diferença entre o mais barato e o mais caro pode passar de cem vezes.

O que surpreende quem começa é o quanto entra em cada chamada. Um agente não manda só a pergunta do cliente. Ele manda:

• As instruções do agente, que podem ter páginas.
• A descrição de todas as ferramentas que ele pode usar.
• O histórico da conversa até ali.
• Os trechos de documentos ou registros que ele buscou.
• O resultado de cada ferramenta que ele já chamou.

E um caso raramente se resolve em uma chamada só. O agente consulta um sistema, lê o resultado, decide, consulta outro. Cada passo é uma nova chamada, e o contexto vai crescendo.

Como calcular o custo por caso

Você não precisa de precisão de centavo no início. Precisa de uma estimativa honesta que depois vai ser conferida com dados reais. Um caminho simples:

• Defina o que é um caso. Um pedido atendido, uma nota conferida, um lead qualificado. Tem que ser algo que a operação já conta.
• Conte as chamadas por caso. Quantos passos o agente dá, em média, para resolver um caso típico.
• Estime tokens de entrada e de saída por chamada. Some instruções, ferramentas, histórico e dados buscados. A saída costuma ser bem menor que a entrada.
• Multiplique pelo preço do modelo. Entrada vezes preço de entrada, saída vezes preço de saída, vezes o número de chamadas.
• Some uma margem para repetições. Falhas de rede, respostas fora do formato e novas tentativas acontecem. Uma folga de 20% a 30% é razoável no começo.
• Divida os custos fixos pelo volume. Infraestrutura, manutenção e licenças mensais divididas pelo número de casos no mês.
• Some o tempo humano. A fração de casos que vai para revisão, vezes o tempo médio de revisão, vezes o custo da hora de quem revisa.

Um exemplo ilustrativo, com números redondos e inventados só para mostrar a conta. Imagine um agente que confere pedidos em seis chamadas, cada uma com 8 mil tokens de entrada e 500 de saída. São 48 mil tokens de entrada e 3 mil de saída por caso. Com um modelo que cobre 3 dólares por milhão na entrada e 15 na saída, dá cerca de 0,14 mais 0,05, ou seja, perto de 0,20 dólar por caso só de modelo. Se 10% dos casos vão para uma pessoa que leva cinco minutos em cada, o tempo humano por caso médio é de meio minuto. Muitas vezes é esse meio minuto, e não o modelo, que pesa mais.

Onde a conta costuma estourar

Os sustos mais comuns vêm de coisas previsíveis:

• Contexto que cresce sem controle. Conversas longas e documentos inteiros enviados a cada chamada multiplicam o custo sem melhorar a resposta.
• Modelo grande para tarefa simples. Classificar uma mensagem ou extrair um campo raramente precisa do modelo mais caro.
• Laços. Um agente que não consegue terminar e fica tentando de novo pode gastar dezenas de chamadas num caso só. Sem um limite de passos, isso aparece só na fatura.
• Exceções que voltam para o time. Se metade dos casos acaba nas mãos de uma pessoa, o ganho some, e o custo de construir continua lá.
• Manutenção esquecida. Sistemas mudam, regras mudam, modelos são substituídos. Sem alguém cuidando, a qualidade cai devagar e ninguém percebe até reclamarem.

Como reduzir sem perder qualidade

Antes de trocar de modelo para economizar, olhe para o desenho:

• Use modelos diferentes para etapas diferentes: um pequeno para triar e extrair, um maior só onde há decisão difícil.
• Mande para o modelo só o trecho de documento que importa, e não o arquivo todo.
• Aproveite o cache de contexto que vários provedores oferecem, que cobra menos pela parte das instruções que se repete a cada chamada.
• Resuma o histórico de conversas longas em vez de reenviar tudo.
• Coloque limite de passos e de gasto por caso, com alerta quando passar.
• Faça com código comum o que não precisa de IA: somas, datas, validação de formato, regras fixas.

E meça desde o primeiro dia. Custo por caso, taxa de casos resolvidos sem ajuda e tempo de revisão humana. Com esses três números você sabe se o agente está pagando a conta.

O que perguntar antes de fechar qualquer proposta

Seja com fornecedor, seja com o time interno, peça respostas para estas perguntas:

• O consumo do modelo está incluído ou é cobrado à parte? Se está incluído, existe limite?
• Quem paga as licenças e as tarifas das integrações?
• O que está incluído em manutenção depois que o agente entra em produção?
• Como vou acompanhar o custo por caso, e com que frequência?
• O que acontece com o custo se o volume dobrar?