POC de IA que não sai do piloto: por que acontece e como chegar à produção

O piloto prova que o modelo responde bem. A produção exige provar que a operação aguenta o agente todo dia. Veja onde os projetos travam e o que fazer antes de começar.

Produção19 out 20265 min de leitura

Quase toda empresa que testou IA nos últimos anos tem uma história parecida. Alguém montou um piloto, a demonstração impressionou a diretoria, o agente respondeu bem em vinte exemplos escolhidos a dedo. Seis meses depois, ninguém usa.

O problema raramente está no modelo. Está no que o piloto deixou de testar. Uma prova de conceito, a famosa POC, responde a uma pergunta estreita: a IA consegue fazer essa tarefa? A produção faz outra pergunta, bem mais difícil: a operação consegue conviver com esse agente todos os dias, com dados reais, gente real e erros reais?

O que um piloto prova, e o que ele esconde

Um piloto bem feito mostra que o modelo entende o pedido, consulta uma base de conhecimento e devolve uma resposta aceitável. Isso tem valor. Mas o ambiente do piloto costuma ser protegido de tudo o que dá trabalho na vida real.

  • Os dados de teste são limpos, e os de produção vêm com campo vazio, cadastro duplicado e anexo ilegível.
  • Os casos testados são os comuns, e a operação vive das exceções.
  • Quem usa o piloto é alguém animado com o projeto, e quem vai usar o agente é um time ocupado que não pediu mudança nenhuma.
  • O piloto lê informação, e a produção precisa gravar no sistema, mandar mensagem e mexer em pedido.
  • No piloto, se der errado, ninguém se machuca. Na produção, um erro vira cliente irritado ou nota emitida errada.

Por isso tantos projetos parecem prontos na apresentação e travam na primeira semana de uso de verdade. O piloto respondeu à pergunta errada.

Os quatro pontos onde o projeto costuma morrer

Integração. O piloto lia uma planilha exportada. Para funcionar de verdade, o agente precisa ler e escrever no ERP, no CRM ou no sistema de atendimento. Aí aparecem permissões, APIs limitadas, sistemas antigos sem acesso fácil e a equipe de TI com outras prioridades. É comum essa etapa levar mais tempo do que o piloto inteiro.

Exceções. Um agente que resolve 80% dos casos e não sabe o que fazer com os outros 20% vira um problema. Se ninguém definiu o que acontece quando ele não sabe, ele inventa ou trava. As duas saídas destroem a confiança do time.

Dono. No piloto, o dono é o entusiasta que puxou o projeto. Na produção, alguém precisa responder quando o agente erra, ajustar as regras quando o processo muda e decidir o que entra na próxima versão. Sem esse dono, o agente envelhece rápido.

Medição. Se ninguém combinou antes o que significa funcionar, a conversa vira opinião. Uma pessoa acha ótimo, outra lembra do único erro grave do mês, e o projeto perde o patrocínio.

Provar que o modelo funciona é a parte fácil. O difícil é provar que a operação sustenta o agente quando ninguém está olhando.

Comece pela pergunta de produção

A saída mais simples é inverter a ordem. Antes de testar se a IA consegue, defina como seria o agente rodando de verdade. Algumas perguntas ajudam:

  • Qual tarefa, exatamente, o agente vai fazer, e qual ele não vai fazer?
  • Em quais sistemas ele precisa ler e em quais precisa escrever?
  • O que precisa de aprovação humana antes de sair, e quem aprova?
  • Quando o agente não souber, para quem ele passa e com qual informação?
  • Quem do time é o dono do agente depois que ele entrar no ar?
  • Qual número vai dizer, em 30 dias, se valeu a pena?

Se essas respostas não existem, o piloto vai provar uma coisa que não importa. Se existem, o piloto passa a testar o que vai decidir o projeto.

Faça um piloto que já é produção, só que pequeno

Em vez de uma demonstração isolada, escolha um pedaço real da operação e coloque o agente para trabalhar nele, com escopo limitado. Imagine uma distribuidora que quer automatizar a confirmação de pedidos. Em vez de testar com cem pedidos antigos, ela liga o agente aos pedidos de uma única região, com os sistemas de verdade, e mantém uma pessoa aprovando cada envio nas primeiras semanas.

Esse formato tem algumas vantagens claras:

  • A integração é feita uma vez, no começo, e não depois que todo mundo já se animou.
  • As exceções aparecem cedo, quando ainda é barato ajustar.
  • O time aprende a trabalhar com o agente aos poucos, com rede de proteção.
  • A aprovação humana gera um histórico de acertos e erros, que vira a base para dar mais autonomia depois.
  • A expansão vira uma decisão de escopo, e não um novo projeto.

O piloto pequeno e real demora um pouco mais para começar. Em compensação, ele não precisa ser refeito quando chega a hora de crescer.

Combine o que é sucesso antes de ligar

Escolha poucos indicadores e meça a situação atual antes de o agente entrar. Sem a foto do antes, não existe comparação honesta. Bons indicadores costumam ser:

  • Tempo entre a chegada do pedido e a resolução.
  • Quantos casos o agente resolveu sozinho e quantos passou para alguém.
  • Quantas vezes a pessoa que aprova precisou corrigir o que o agente fez.
  • Horas do time liberadas para outro trabalho.
  • Reclamações ou retrabalho ligados ao processo.

Defina também o que faria você desligar o agente. Parece pessimista, mas dá segurança para todo mundo. O time sabe que existe um limite, e a diretoria sabe que o risco está controlado.

O que sustenta o agente depois que ele entra no ar

Chegar à produção é metade do caminho. O agente precisa de manutenção como qualquer parte da operação. O processo muda, um sistema atualiza a API, uma regra comercial nova aparece, o modelo de IA ganha uma versão diferente. Se ninguém acompanha, a qualidade cai devagar e ninguém percebe até o primeiro problema sério.

Na prática, o que mantém um agente saudável é simples de listar e trabalhoso de fazer:

  • Registro de tudo o que o agente fez, com o motivo de cada ação.
  • Alertas quando algo foge do padrão, como muitos repasses seguidos ou falha de integração.
  • Revisão periódica de uma amostra de casos por alguém do time.
  • Um caminho claro para o time pedir ajuste quando o processo mudar.
  • Testes antes de cada mudança, para não consertar uma coisa e quebrar outra.

Quem vai construir o agente precisa ter um plano para isso desde o primeiro dia. Se a proposta termina na entrega, o projeto tem data para começar a se deteriorar.

Antes de aprovar o próximo piloto, pergunte como ele vai ser no dia em que ninguém estiver olhando. Se essa resposta for boa, o piloto tem chance de virar operação.

← Todos os artigos

Continue lendo

Tem um processo que se repete aí?

Se é tarefa que se repete, dá para automatizar. Conta para a gente qual é.