Tavo SecureConhecer os planos

GUIA DE PRÉ-LANÇAMENTO

Segurança de apps feitos com IA: o que revisar

Apps feitos com IA precisam de revisão de código, configuração, permissões e comportamento, como qualquer software. Se o app também utiliza modelos, RAG ou agentes, revise os limites de acesso, o tratamento de entradas e saídas e as ações externas. A resposta de uma IA não substitui evidência nem validação humana.

Diferencie código criado com IA de um app que usa IA

Um assistente pode gerar a interface de um calendário sem que o produto tenha qualquer modelo em execução. Nesse caso, a revisão continua centrada no software entregue: acesso, dados, dependências, integrações e implantação. Já um calendário com agente que cria eventos reúne essas verificações e as permissões dadas ao agente.

Essa distinção ajuda a escolher controles pertinentes. O OWASP Secure Coding with AI trata do uso de IA no desenvolvimento. O OWASP Top 10 para LLMs e aplicações generativas aborda riscos de sistemas que incorporam esses modelos. As listas indicam assuntos a examinar, não falhas confirmadas em todo projeto.

Peça evidências antes de aceitar um achado

Quando uma IA disser que existe uma falha, peça o caminho do arquivo, a regra afetada, o comportamento observado e as condições necessárias. Se ela não encontrou o trecho ou não conseguiu executar a verificação, registre a conclusão como hipótese. Evite solicitar uma grande reescrita a partir de uma afirmação sem suporte.

Por exemplo, em um formulário fictício de orçamento, separe a validação exibida na tela da validação executada no servidor. Um teste automatizado que apenas confirma a mensagem visual não demonstra que o servidor rejeita dados inválidos. Escolha uma verificação ligada ao comportamento que realmente precisa ser protegido.

Revise cada mudança que entra no projeto

Antes de incorporar código gerado, leia a alteração e confira as dependências introduzidas, as permissões solicitadas e os fluxos que mudaram. Não entregue credenciais de produção ao assistente para facilitar um teste. Prefira uma cópia autorizada com dados sintéticos e acesso limitado, preservando uma forma de voltar à versão anterior.

O SSDF do NIST recomenda integrar segurança ao desenvolvimento. Na prática desta revisão introdutória, isso significa repetir as verificações relevantes quando uma mudança altera acesso, armazenamento ou integrações. Um resultado anterior não descreve automaticamente uma versão modificada do app.

Quando há RAG ou agentes, confira os limites

Documentos e mensagens recebidos por um modelo podem conter instruções indevidas. A OWASP descreve esse risco como prompt injection. Separar instruções da aplicação de conteúdo externo ajuda a organizar o sistema, mas não garante prevenção completa; a segurança também precisa existir nas permissões e nas operações que o modelo consegue solicitar.

Imagine um agente que resume documentos de dois clientes fictícios. Verifique que ele recebe somente os documentos autorizados para o usuário atual. Se também puder excluir registros ou enviar mensagens, reduza suas permissões e defina aprovação humana para ações de impacto. O controle de acesso deve ser aplicado pelo sistema responsável pela ação, sem depender apenas do julgamento do modelo.

  • Quais dados entram no modelo e quais usuários podem acessá-los?
  • Quais ferramentas o agente pode acionar e com quais permissões?
  • Como a saída é validada antes de alterar dados ou executar uma ação?

Use a IA para apoiar uma revisão responsável

Nenhum prompt garante detectar todas as vulnerabilidades. Guarde evidências, registre o que não foi verificado e peça ajuda especializada quando o impacto ultrapassar sua capacidade de avaliar. Use apenas projetos próprios ou explicitamente autorizados.

O Tavo Secure ajuda a organizar esse trabalho: Manual por R$ 47, Manual + Skill por R$ 67 e Completo por R$ 97, com Review e bônus. A Skill orienta a revisão com IA; o Review usa respostas sobre o projeto para montar prioridades. Os planos têm pagamento único e não incluem pentest ou certificação.

Fontes e referências

As referências apoiam os critérios de revisão. O Tavo Secure não é uma certificação nem indica vínculo com essas organizações.