# Segurança de sistemas feitos com IA: o que revisar na operação

> Segurança de sistemas feitos com IA: um roteiro em etapas para revisar acesso, chaves e dados do app que a área montou e decidir se mantém, corrige ou desliga.

Autor: José Carlos Maciel, Fundador e desenvolvedor. Publicado em 2026-11-16, atualizado em 2026-11-16.
Fonte: https://boosting.tech/blog/sistemas-feitos-com-ia-o-que-revisar/

**Resposta rápida:** Revisar a segurança de um sistema feito com IA começa por três perguntas: onde ele roda e em nome de quem, quem consegue entrar sem login ou ver dados de outra pessoa, e quais chaves e arquivos ficam expostos no navegador. Com essas respostas, a empresa decide se mantém, corrige ou desliga o sistema antes de ampliar o uso.

O gerente de operações descobre o sistema numa reunião de rotina. A planilha de controle que a equipe usava virou um aplicativo em poucos dias, montado por um analista com uma ferramenta de IA. Tem tela de login, tem relatório, e o time já lança dados reais nele há semanas. Quando alguém pergunta onde ele está hospedado, quem tem a senha do banco de dados e se a tela de login protege de fato as páginas internas, a sala fica em silêncio.

Este artigo trata do sistema que já existe e está em uso, com foco em quem consegue entrar e quais dados ficam visíveis. Você vai encontrar um roteiro de revisão em etapas e critérios para decidir entre manter, corrigir ou desligar. Se a dúvida ainda é onde a IA agrega valor num sistema corporativo, comece pelo artigo sobre [IA em sistemas corporativos](/blog/ia-em-sistemas-corporativos/).

## O que é um sistema feito com IA?

Um sistema feito com IA é um aplicativo cujo código foi gerado, quase todo ou em grande parte, por uma ferramenta de inteligência artificial a partir de pedidos em linguagem comum. O termo em inglês para esse jeito de construir é "vibe coding": a pessoa descreve o que quer, aceita o código que a ferramenta devolve e ajusta pelo resultado na tela, muitas vezes sem ler o que foi escrito por baixo.

O Centro Nacional de Segurança Cibernética do Reino Unido, o NCSC, publicou em junho de 2026 uma orientação que trata o vibe coding como um [espectro de supervisão](https://www.ncsc.gov.uk/blogs/the-vibe-coding-spectrum-approach-to-ai-assisted-software-development). Para protótipo, demonstração ou ferramenta interna sem dado sensível, o NCSC considera aceitável deixar a IA trabalhar com pouca supervisão. Para lógica de login e permissão, dado pessoal sensível e manuseio de senhas e chaves, a recomendação é revisar o que a IA produziu, entender o código, procurar vulnerabilidades e confirmar que ele faz o que se espera.

O problema começa quando um protótipo atravessa essa linha sem que ninguém perceba. O app nasceu para testar uma ideia, funcionou, e a equipe passou a usar com dados de clientes, de funcionários ou de contratos. O código continua o mesmo do protótipo, só que agora guarda dados reais.

## Por que esses sistemas chegam à operação com falhas de acesso?

Esses sistemas chegam à operação com falhas de acesso porque a ferramenta entrega primeiro o que aparece na tela, e controle de acesso é justamente a parte que não aparece. A tela de login funciona, o relatório abre, e ninguém testa o que acontece quando alguém pula a tela e pergunta direto ao banco de dados.

Relatos públicos recentes mostram esse padrão. Em março de 2025, o pesquisador Matt Palmer analisou 1.645 projetos publicados por uma plataforma de geração de aplicativos com IA e encontrou 170 deles, cerca de 10%, com tabelas do banco de dados sem regra de acesso adequada. O caso virou o registro [CVE-2025-48757](https://mattpalmer.io/posts/2025/05/statement-on-CVE-2025-48757/). Pelas tabelas expostas dava para ler cadastros de usuários, chaves de serviços de terceiros, transações e assinaturas, e em alguns casos gravar informação nova. A varredura olhou só as páginas iniciais, sem login.

Em fevereiro de 2026, a empresa de segurança Wiz relatou um caso parecido no Moltbook, uma rede social para agentes de IA que o próprio criador descrevia como feita com vibe coding. Navegando como um usuário comum, os pesquisadores acharam no código que o navegador baixa uma chave de acesso ao banco de dados. Como o banco não tinha regra de acesso por linha configurada, essa chave abria [leitura e escrita em todas as tabelas de produção](https://www.wiz.io/blog/exposed-moltbook-database-reveals-millions-of-api-keys), com 1,5 milhão de tokens de API, 35 mil endereços de e-mail e mensagens privadas. A falha foi corrigida em poucas horas depois do aviso.

Nenhum dos dois casos dependeu de ataque sofisticado. Nos dois, faltava uma regra dizendo quem pode ver o quê. Isso combina com o que a OWASP, a fundação que mantém a lista mais usada de riscos em aplicações web, publicou na edição 2025 do Top 10: a [quebra de controle de acesso](https://owasp.org/Top10/2025/A01_2025-Broken_Access_Control/) segue em primeiro lugar, e todas as aplicações testadas na base de dados da lista tinham alguma forma dessa falha. Num sistema montado às pressas, a chance de essa camada ter ficado para depois é maior.

Há também um fator organizacional. O sistema feito numa área costuma rodar na conta pessoal de quem o montou. Quando essa pessoa sai de férias ou da empresa, ninguém mais entra no painel da hospedagem.

## O que revisar agora e o que pode esperar?

Revise agora tudo o que decide quem entra e o que fica visível; qualidade de código, desempenho e aparência podem esperar uma segunda rodada. A tabela separa os dois grupos para a primeira reunião não se perder em detalhe.

| Ponto | Revisar agora | Pode esperar |
| --- | --- | --- |
| Hospedagem e contas | Em nome de quem está, quem tem acesso de administrador | Troca de fornecedor de hospedagem |
| Login e sessão | Páginas internas sem login, cadastro aberto, sessão de quem saiu | Login único com o diretório da empresa |
| Banco de dados | Consultas sem usuário logado, acesso a registros de outra pessoa | Modelagem, índices, desempenho |
| Chaves e senhas | O que aparece no navegador, o que passou por chat ou repositório | Cofre de segredos com rotação automática |
| Arquivos enviados | Links públicos permanentes para documentos e fotos | Política de retenção completa |
| Código | Partes que tratam permissão e dados pessoais | Organização, testes automatizados, padrões |
| Operação | Backup que restaura e registro de quem alterou o quê | Monitoramento e alertas mais finos |

O que fica para a segunda rodada não muda a resposta à pergunta urgente: hoje, alguém de fora consegue ver ou alterar os dados que a equipe lança nesse sistema? Se o sistema trata dados pessoais, a revisão de telas, relatórios e logs descrita no artigo sobre [LGPD em sistemas internos](/blog/lgpd-em-sistemas-internos-o-que-revisar/) complementa esta.

## Qual roteiro seguir para revisar um sistema feito com IA?

O roteiro abaixo organiza a revisão em quatro etapas, do inventário à decisão. Ele foi escrito para ser percorrido por quem montou o sistema junto com alguém de TI, sem exigir que o gestor domine cada detalhe técnico.

### Roteiro de revisão de um sistema feito com IA

Percorra as etapas na ordem, com quem montou o sistema e com alguém de TI na mesma sala. Cada item é um teste ou uma verificação que alguém consegue marcar como feito. O roteiro aponta onde estão os buracos mais comuns. Ele não substitui um teste de invasão nem a análise do jurídico sobre os dados pessoais envolvidos.


**Etapa 1: inventário**

1. O sistema tem um responsável nomeado na área e um contato técnico que sabe mexer nele
2. Está anotado onde o sistema roda (hospedagem, banco de dados, domínio) e em nome de qual conta
3. As contas de hospedagem e do banco estão em e-mail corporativo, com mais de uma pessoa com acesso de administrador
4. Existe uma lista do que é lançado no sistema (dados pessoais, financeiros, de clientes, operacionais)

**Etapa 2: quem consegue entrar**

1. Uma página interna aberta em janela anônima, sem login, volta para a tela de entrada
2. Com login de perfil comum, trocar o número do registro no endereço não abre o registro de outra pessoa ou unidade
3. O banco de dados recusa consultas feitas sem usuário logado (regra de acesso por linha ou consulta só pelo servidor)
4. O cadastro de novos usuários não fica aberto para qualquer e-mail da internet
5. Remover o acesso de quem saiu da empresa leva minutos e derruba a sessão aberta

**Etapa 3: chaves e dados visíveis**

1. Nenhuma senha do banco, chave de API ou token aparece no código que o navegador baixa
2. Chaves que já passaram por conversa com ferramenta de IA, planilha ou repositório público foram trocadas
3. Documentos e fotos enviados ficam em armazenamento privado, sem link público permanente
4. Exportações em planilha ou PDF seguem o mesmo filtro de permissão da tela

**Etapa 4: antes de ampliar o uso**

1. Existe backup, e uma restauração de teste já foi feita pelo menos uma vez
2. A ferramenta de IA ou o agente que gera o código não tem acesso direto ao banco de produção
3. O sistema registra login e alterações de cadastro, com quem fez e quando
4. A decisão de manter, corrigir ou desligar está registrada, com responsável e prazo

Faça os testes da etapa 2 de verdade, com o navegador aberto. Copie o endereço de uma página interna, abra uma janela anônima e cole. Entre com um usuário de teste e troque o número que aparece no fim do endereço. Abra as ferramentas de desenvolvedor do navegador e procure por palavras como "key", "secret" ou "password" nos arquivos carregados. Cada falha encontrada vai para uma lista com o print da tela e o perfil usado, e essa lista vira o escopo da correção.

Se algum teste da etapa 2 falhar e o sistema tiver dados de clientes ou dados pessoais, trate como incidente em andamento. Restrinja o acesso primeiro e investigue depois.

## Como colocar a revisão em prática e decidir entre manter, corrigir ou desligar?

A revisão cabe em uma semana curta, com uma decisão registrada no fim.

1. No primeiro dia, faça o inventário com quem montou o sistema. Anote hospedagem, banco, domínio, contas e quem tem acesso. Se a conta estiver no e-mail pessoal de alguém, inclua um segundo administrador corporativo no mesmo dia.
2. No segundo dia, rode os testes de acesso da etapa 2 com dois perfis diferentes. O teste da janela anônima e o da troca de número no endereço levam minutos e revelam a maior parte dos problemas graves.
3. Em seguida, procure chaves e senhas no código que o navegador baixa e no histórico de conversas com a ferramenta de IA. Toda chave que apareceu em lugar errado deve ser trocada no serviço de origem, mesmo que o código já tenha sido corrigido.
4. Confira o backup fazendo uma restauração de teste num ambiente separado. Muita empresa só descobre que o backup não serve no dia em que precisa dele.
5. Peça a alguém que sabe ler código para revisar só as partes que tratam login, permissão e dados pessoais. O código gerado por IA costuma ser extenso, e revisar tudo de uma vez trava o processo.
6. Reúna a área e TI e decida com base no que foi encontrado. A decisão vai por escrito, com responsável e prazo.

Para a decisão, três cenários cobrem a maioria dos casos.

- Manter faz sentido quando os testes de acesso passaram, as contas estão em nome da empresa, há backup que restaura e o sistema guarda dados de baixo impacto. Mesmo assim, defina quem cuida dele e registre a próxima revisão.
- Corrigir é o caminho quando o sistema resolve um problema real da operação e as falhas estão concentradas em pontos identificáveis, como uma regra de acesso no banco, uma chave exposta ou um link público de arquivo. A correção vem com prazo curto e novo teste.
- Desligar, ou suspender até a correção, vale quando há dado sensível exposto sem login, quando ninguém consegue assumir a manutenção ou quando o código não permite separar quem vê o quê sem reescrever o núcleo.

Desligar tem custo, porque o sistema resolvia alguma coisa. Planeje para onde os dados vão e como a equipe trabalha enquanto isso, ou a planilha antiga volta com os mesmos dados e menos controle.

## E se o sistema já guarda dados de clientes ou ninguém sabe quem o montou?

O roteiro muda em algumas situações comuns.

Quando o sistema já guarda dados de clientes ou dados pessoais sensíveis e algum teste de acesso falhou, a prioridade é conter. Restrinja o acesso, troque as chaves e preserve os registros de acesso que existirem, se existirem. Envolva o jurídico e o encarregado de dados da empresa para avaliar se houve exposição e o que a lei pede a partir daí. A revisão técnica ajuda a responder o que ficou visível e por quanto tempo, mas a decisão sobre comunicação é do controlador.

Quando ninguém sabe quem montou o sistema, ou a pessoa saiu da empresa, comece pelo domínio e pela fatura. O registro do domínio e a cobrança da hospedagem costumam apontar a conta. Sem acesso ao painel, a empresa não controla o sistema, e a decisão prática passa a ser migrar os dados para um lugar sob controle.

Quando o sistema se conecta a outros sistemas da empresa, como o ERP, verifique qual credencial o app usa nessa integração e o que ela permite fazer. Uma chave com permissão ampla demais transforma um app pequeno em porta de entrada para dados maiores.

Quando várias empresas ou unidades usam o mesmo sistema, o isolamento entre elas é requisito. Nos sistemas que desenvolvemos e mantemos, como no [controle de acesso de um complexo industrial](/casos/controle-de-acesso-industrial/), cada empresa instalada enxerga apenas os próprios registros, e o histórico guarda quem aprovou ou negou cada acesso. Em um app gerado às pressas, essa separação raramente existe no modelo de dados e precisa ser testada de propósito.

## Quando a revisão interna não basta?

A revisão interna resolve os buracos óbvios, mas não substitui uma análise de quem procura falhas todos os dias. Ela não cobre teste de invasão, revisão completa de dependências, desenho de arquitetura nem a análise jurídica sobre dados pessoais. Também não resolve um sistema que cresceu tanto que corrigir sai mais caro do que refazer com escopo claro, assunto do artigo sobre [projeto de software sob medida](/blog/projeto-de-software-sob-medida/).

Vale buscar ajuda de fora quando o sistema já sustenta um processo crítico, guarda dado pessoal ou financeiro em volume, ou quando a revisão encontrou falhas e ninguém na empresa se sente seguro para corrigir o código. Em [sustentação e modernização](/servicos/sustentacao-e-modernizacao/), esse trabalho costuma começar justamente pelo controle de acesso, pelas chaves e pelo backup.

Se a sua empresa já depende de um sistema montado às pressas, a boosting.tech, empresa de software customizado, faz um diagnóstico de segurança de escopo fechado para apontar o que corrigir primeiro. O resultado sai em linguagem de gestão, com a lista do que fechar e em que ordem. A primeira conversa não tem custo. Escreva para jcm@boosting.tech ou use a página de [contato](/contato/).

## Perguntas frequentes sobre segurança de sistemas feitos com IA

### Código gerado por IA é menos seguro do que código escrito por pessoas?

Depende de quem revisa. A ferramenta produz código que funciona na tela, e o que costuma faltar são as camadas invisíveis, como regra de acesso no banco, validação no servidor e cuidado com chaves. Código escrito por pessoas também tem falhas. A diferença prática é o volume e a velocidade: um app inteiro aparece em dias, e a revisão que um time faria ao longo de semanas não acontece.

### Como saber se o banco de dados do app está aberto?

O teste mais simples é abrir uma página interna numa janela anônima, sem login, e ver se ela carrega dados. Depois, com um usuário comum, troque o número do registro no endereço. Um teste mais completo pede alguém técnico para consultar o banco sem usuário logado, usando a chave que aparece no navegador. Se a consulta devolver dados, o banco depende só da tela para se proteger.

### Posso pedir para a própria ferramenta de IA revisar a segurança?

Pode usar como apoio, mas não como a única revisão. A ferramenta que gerou o código tende a repetir os mesmos pontos cegos na revisão, e orientações como a do NCSC pedem que alguém entenda o código e verifique as partes de login, permissão e dados sensíveis. Uma pessoa com experiência em segurança, ou ao menos uma segunda ferramenta com instruções específicas, aumenta a chance de achar o que passou.

### O que fazer primeiro se eu descobrir uma chave exposta?

Troque a chave no serviço de origem, seja o banco de dados, o provedor de e-mail ou a API paga. Só remover a chave do código não basta, porque ela pode já ter sido copiada. Depois, confira os registros do serviço para ver se houve uso estranho e mova a nova chave para o servidor, fora do código que o navegador baixa. Se o serviço tiver dado pessoal, avise o encarregado de dados.

### Proibir ferramentas de IA na empresa resolve o problema?

Raramente. A proibição costuma empurrar o uso para contas pessoais, longe de qualquer controle, e os sistemas continuam nascendo. Funciona melhor definir regras claras: protótipo pode, dado real só depois de revisão, contas sempre corporativas e um responsável técnico para cada sistema que entra em uso. Assim a área continua resolvendo problemas rápido e a TI sabe o que está rodando.

## Referências

- [Wiz: Hacking Moltbook, AI social network reveals 1.5M API keys (2026)](https://www.wiz.io/blog/exposed-moltbook-database-reveals-millions-of-api-keys)
- [Matt Palmer: Statement on CVE-2025-48757 (2025)](https://mattpalmer.io/posts/2025/05/statement-on-CVE-2025-48757/)
- [OWASP Top 10:2025, A01 Broken Access Control](https://owasp.org/Top10/2025/A01_2025-Broken_Access_Control/)
- [NCSC (Reino Unido): The 'vibe coding spectrum' approach to AI-assisted software development (2026)](https://www.ncsc.gov.uk/blogs/the-vibe-coding-spectrum-approach-to-ai-assisted-software-development)
