Atestado de Segurança
O OWASP Top 10 for Agentic Applications (2026) define os riscos de segurança mais críticos para sistemas de agentes de IA. Veja como a VeriSwarm se relaciona com cada um deles. Para um aprofundamento nos dois principais riscos, veja como a VeriSwarm aborda a detecção de injeção de prompt e o envenenamento de ferramentas MCP.
Conteúdo não confiável ingerido (documentos, páginas web, e-mail, respostas de ferramentas) redireciona os objetivos do agente enquanto ele acredita que ainda está servindo o usuário — injeção de prompt agêntica na camada de planejamento.
Os agentes invocam ferramentas legítimas de forma prejudicial — parâmetros incorretos, encadeamento inseguro de ferramentas, encaminhamento de saída não validada para uma API mais poderosa — ou são direcionados por metadados de ferramentas envenenados.
Credenciais excessivas, compartilhadas, de longa duração ou herdadas permitem reutilização de credenciais, escalonamento de privilégios e personificação do agente.
Comprometimento via frameworks, provedores de modelos, integrações de ferramentas, servidores MCP ou registries — envenenamento de pacotes, CVEs de MCP — algumas descobertas apenas em tempo de execução.
A linguagem natural se transforma em código ou comandos de shell em execução fora dos limites pretendidos — o muro entre instrução e execução desmorona, permitindo escape de sandbox ou RCE no host ou em sistemas downstream.
A VeriSwarm restringe o acesso a ferramentas de execução de código e faz varredura de injeção de comandos, mas não isola em sandbox a execução do runtime do agente; implante runtimes de execução isolados/efêmeros para cobertura completa do ASI05.
Adversários plantam informações falsas ou maliciosas no contexto da sessão, nos índices de recuperação ou na memória persistente, moldando o comportamento do agente em sessões e usuários futuros.
A VeriSwarm verifica decisões críticas e registra a proveniência, mas não gerencia o armazenamento de memória do agente; valide as gravações de memória e audite a memória persistente no seu runtime de agente.
A mensageria entre agentes carece de autenticação, integridade ou verificação de origem, permitindo spoofing, adulteração, replay ou registro de peers falsos — um agente comprometido se espalha por toda a rede.
Uma decisão ruim, alucinação ou comprometimento se propaga por agentes e workflows conectados mais rápido do que humanos conseguem detectar — a saída de um agente se torna a entrada confiável de outro.
O humano está no loop e de fato aprova, mas o agente o manipula para isso — resumos fluentes e confiantes que escondem a operação real subjacente, ou persuasão para extrair credenciais ou dados. Os logs mostram aprovação humana válida enquanto o que foi exibido não corresponde ao que foi executado.
A VeriSwarm fornece divulgação de status de IA e do responsável (prontidão para o Artigo 50), atribuição de confiança e varredura de personas enganosas; ela não controla a interface do agente para impor a integridade da exibição operação-bruta-versus-resumo.
O próprio agente se torna uma ameaça interna — perda de contenção de políticas por um agente que já está dentro do perímetro de confiança, por falha de design, deriva ao longo do tempo ou comprometimento. Ele persegue silenciosamente objetivos não autorizados e pode persistir entre sessões enquanto a atividade de superfície parece normal.
O endpoint /v1/compliance/owasp-attestation retorna um relatório por tenant com seu status de cobertura específico, contagem de evidências e recomendações de upgrade.