Governança de IA no atendimento: os limites que eu ponho
Os limites que evitam que um agente de IA vire risco: escopo escrito, decisão auditável, dado sensível fora do prompt e revisão com leitura de conversa.
Recebi uma cobrança de um cliente segurando um print: o agente tinha confirmado uma condição comercial que não existia. Ele escreveu com toda a confiança do mundo. Passei o dia reconstruindo a conversa para entender de onde aquilo tinha saído, e a resposta era simples e humilhante: ninguém tinha escrito que o agente não podia falar disso. Governança de IA deixou de ser assunto de reunião e virou tarefa naquele mesmo dia.
Governança aqui não é comitê nem documento de trinta páginas. É um conjunto pequeno de decisões escritas sobre o que o agente pode, o que ele nunca faz e quem responde quando ele erra.
Vou percorrer os limites que eu ponho hoje, o que fica registrado e a revisão que realmente pega desvio. O critério de onde usar IA está em agente de IA ou fluxo de regras.
Governança de IA começa com escopo escrito
Escopo que mora na cabeça de quem configurou não protege ninguém. Escreva num lugar que o time acessa: o que cada agente atende, o que ele nunca responde e para onde ele manda quem sai do escopo.
- Nome do agente e departamento a que ele pertence
- Assuntos que ele resolve, em linguagem de cliente
- Assuntos proibidos, com destino de cada um
- Quem é a pessoa responsável por revisar o comportamento dele
- Data da última revisão do prompt e dos documentos
O quarto item é o que sustenta o resto. Agente sem dono acumula desvio até alguém reclamar, porque revisar comportamento de IA nunca é urgente até virar urgência de verdade.
O que o agente nunca decide
Minha lista de proibições cresceu a partir de erros concretos, um de cada vez. Ela não é teórica. Cada linha aqui representa um problema que aconteceu com alguém.
| Assunto | Quem decide | Por quê |
|---|---|---|
| Prazo de entrega | Regra ou consulta a dado | Compromisso indevido vira reclamação formal |
| Preço e desconto | Regra de negócio auditável | Precisa de rastro de quem autorizou |
| Cancelamento e estorno | Pessoa | Decisão com efeito financeiro e emocional |
| Interpretação de contrato | Pessoa | Erro aqui tem consequência jurídica |
| Orientação técnica que exige avaliação | Pessoa qualificada | Risco real para quem seguir a orientação |
Escreva as proibições no prompt do agente antes de descrever o que ele resolve. Inverti essa ordem por muito tempo e o resultado foi um agente educado preenchendo lacunas que eu tinha deixado abertas sem perceber.
Dado sensível fora do prompt
Documentos de contexto compõem o prompt final. Contrato individual, listagem de cliente, dado pessoal identificável e material classificado como restrito não entram ali. Anexe política, procedimento e material institucional, que é o que o cliente poderia ler de qualquer jeito.
Vale a mesma conversa sobre onde o processamento acontece. Provedores compatíveis com a API da OpenAI incluem opções locais como Ollama e LM Studio, o que muda a discussão quando o material é sensível. Os detalhes de cadastro estão em provedores e modelos de IA e a curadoria em documentos de contexto.
Rastro: o que dá para reconstruir
A Central registra execuções de IA, o que permite voltar numa conversa e entender o que foi processado. Somando isso ao caminho visível do fluxo, dá para reconstruir um atendimento inteiro sem precisar de memória de ninguém.
Quanto mais decisão você mantém em bloco determinístico, mais fácil fica essa reconstrução. Foi o que me permitiu responder àquela cobrança do print em algumas horas em vez de dias. Ainda foi um dia ruim, mas foi um dia só.
A revisão que pega desvio
Revisão que só olha indicador não encontra quase nada. Os desvios de agente aparecem no texto das conversas, não em coluna de número. Reservo uma hora por mês para essa leitura e ela já pagou o tempo várias vezes.
- Sorteie conversas do agenteVinte por período, misturando as que foram bem e as que acabaram em transferência.
- Procure afirmação categóricaFrase que promete, confirma ou garante alguma coisa merece conferência linha a linha.
- Confira contra o material anexadoSe o agente afirmou algo que não está nos documentos, o escopo está aberto demais.
- Revise palavras-chave de fallbackVeja se os pedidos de humano da amostra teriam acionado o fallback configurado.
- Anote e corrija no promptUma correção por revisão, para conseguir medir o efeito da mudança depois.
Cruze essa leitura com os números de métricas de automação do chatbot. Indicador aponta onde olhar. A conversa mostra o que está acontecendo. Um sem o outro engana.
Credenciais e acesso
API Key é credencial e merece o mesmo cuidado de qualquer outra. Como a chave é preservada ao editar o provedor sem trocar o valor, dá para fazer manutenção sem espalhar o segredo por aí, o que já reduz bastante o risco no dia a dia.
Revise quem tem acesso à Central quando alguém sai do time e mantenha uma lista de quais integrações estão ativas. O mesmo cuidado que se aplica a acesso e trilha no acompanhamento de dados vale aqui, porque o agente fala em nome da empresa.
Comece pela lista de proibições
Se você tem agente no ar e nenhuma governança escrita, faça hoje uma coisa só: liste em cinco linhas o que ele nunca deve fazer e cole isso no prompt dele. É a meia hora de maior retorno de todo este texto. O resto pode esperar a semana que vem.