Segurança em IA é o conjunto de controles que evita que um modelo entregue dado sensível, invente informação como se fosse fato ou seja manipulado por um texto malicioso. A auditoria mínima tem cinco frentes: quais dados entram, quem vê o que sai, que ferramentas o modelo pode acionar, como cada resposta é registrada e quem revisa antes de publicar. Empresa que pula essa etapa escala um risco invisível — e barato de resolver no começo.
A pergunta deixou de ser "vamos usar IA?" e passou a ser "com quais limites?". Em 2026 quase toda operação comercial tem um assistente escrevendo e-mail, analisando conversa de WhatsApp ou preenchendo CRM. O risco não está no modelo ser burro; está em ele ser obediente a uma instrução colada por alguém que não deveria.
Os cinco riscos que aparecem de verdade
- **Vazamento de dado.** Alguém cola um contrato, um CPF ou a planilha de margem num assistente público. A informação sai do seu controle e não volta.
- **Injeção de instrução.** Um texto vindo de fora — página, e-mail, mensagem de cliente — contém comandos que o modelo segue, ignorando as regras do sistema.
- **Alucinação com confiança.** O modelo responde com número e fonte inventados, no mesmo tom da verdade. Em conteúdo público isso destrói autoridade.
- **Automação sem freio.** O agente envia mensagem, cria desconto ou apaga registro sem aprovação humana.
- **Rastro inexistente.** Não há registro de quem pediu o quê, o que o modelo respondeu e o que foi publicado.
Auditoria mínima, bloco por bloco
| Frente | Pergunta de controle | Evidência esperada |
|---|---|---|
| Dados | quais categorias entram no prompt? | lista com dado pessoal e financeiro marcada |
| Acesso | quem pode usar qual ferramenta? | perfil com permissão mínima |
| Saída | o que o usuário vê do raciocínio? | tela sem dado interno exposto |
| Ação | o que a IA pode executar sozinha? | lista com o que exige aprovação humana |
| Registro | o que fica gravado e por quanto tempo? | log com data, autor e conteúdo |
1. Classifique o dado antes de escrever o prompt
Separe o que pode ir para modelo externo do que não pode. Dado pessoal de cliente, informação de contrato, margem e planejamento estratégico ficam no segundo grupo. A partir dessa lista você decide onde cada assistente roda: versão pública, versão corporativa com retenção desligada ou modelo interno.
2. Trate texto de terceiro como entrada hostil
Página web, anexo, comentário e mensagem de WhatsApp são entrada não confiável. O modelo deve receber esse conteúdo como dado, nunca como instrução. Na prática: bloco separado no prompt, regra explícita de que ali dentro não há comando válido, e revisão humana quando a resposta envolve publicar, enviar ou alterar registro.
3. Aprovação humana em toda ação externa
Regra simples e que resolve a maior parte: a IA pode pesquisar, redigir e sugerir; publicar, enviar, agendar, conectar e alterar dado sensível exige aprovação. É a diferença entre um assistente e um estagiário com a senha do banco.
4. Registre cada interação relevante
Log com data, usuário, prompt resumido, resposta e o que foi feito depois. Sem registro não há como investigar incidente nem provar conformidade quando um cliente pergunta.
5. Combine a base legal, não improvise
Quem trata dado pessoal de cliente precisa saber a base legal, o prazo de retenção e o canal de resposta ao titular. IA generativa não cria isenção: o dado continua sendo dado — veja privacidade de dados no marketing.
Usa IA no atendimento e não sabe o que está sendo registrado? Faça o diagnóstico gratuito com a Agência Kaizen.
Um roteiro de 30 dias
Exemplo do segmento
Uma operação de atendimento com WhatsApp automatizado recebia mensagem de cliente com link para uma página. A página continha instrução escondida pedindo que o assistente revelasse o script de vendas e oferecesse desconto. Como o texto externo era tratado como instrução, o agente obedecia. A correção foi de desenho: conteúdo externo passou a entrar em bloco isolado, e qualquer desconto passou a exigir aprovação de um humano. O modelo não mudou; o processo mudou.
Como medir maturidade sem complicar
Dê nota de 0 a 2 para cada frente — dados, acesso, saída, ação e registro. Soma abaixo de 6 é operação sem controle; entre 6 e 8 exige plano com prazo; acima de 9 está pronto para crescer. Repita a cada trimestre, porque cada ferramenta nova muda o desenho.
O modelo não é o único risco
Metade dos incidentes que aparecem na prática não nasce do modelo, nasce da extensão: plugin que lê a caixa de e-mail inteira, agente conectado ao CRM com permissão de administrador, integração que guarda a chave de acesso em texto no código.
Antes de auditar o prompt, audite a conexão:
| Conexão | Risco | Controle mínimo |
|---|---|---|
| Caixa de e-mail | ler mensagem de terceiro como instrução | permissão de leitura restrita a pasta |
| CRM | alterar ou exportar base inteira | acesso por etapa, não administrador |
| Chave e token | vazamento em log ou repositório | segredo em cofre, rotação trimestral |
| Armazenamento | cópia de documento sem prazo | retenção definida e exclusão automática |
Esse quadro é a parte maçante e a que mais evita dor de cabeça: cada permissão que o agente não precisa é um acidente que não acontece.
Mitos que custam caro
FAQ
Preciso de política de uso de IA por escrito?
Sim, e curta. Uma página com o que pode e não pode, onde a aprovação humana é obrigatória e a quem reportar incidente vale mais que um manual de 40 páginas que ninguém lê.
Posso usar ChatGPT ou Gemini com dado de cliente?
Só se o contrato da ferramenta garantir a não utilização para treino e a retenção definida, e se o dado estiver dentro da categoria permitida pela sua política. Na dúvida, anonimize.
Como evito que o agente faça besteira sozinho?
Permissão mínima e aprovação por ação externa. Comece com o agente sugerindo e o humano clicando.
Segurança em IA é caro?
O desenho custa semanas, não licença de fornecedor. O caro é o incidente: contrato exposto, desconto indevido, post publicado com dado de cliente. Veja também governança de IA e IA no atendimento.
Começar por onde dói mais
Comece pelo dado. Se você não sabe quais informações entram no seu assistente hoje, esse é o único item da lista para resolver nesta semana. Depois, aprovação humana em toda ação externa. Os dois juntos resolvem a maior parte do risco que assusta e podem ser feitos sem trocar de ferramenta.
Leia também:A Agência Kaizen implanta agentes de IA com controle de dado, aprovação humana e registro de interação. Fale com a gente para um diagnóstico do que está rodando hoje.
