Vulnerabilidades, vazamentos e riscos de segurança em produtos de IA: agents lendo conteúdo não confiável, isolamento de sessão, tool calling fora do padrão e como se proteger.
O caso GitLost mostrou agentes do GitHub vazando repositórios privados ao processar conteúdo malicioso. O Claude Code teve possível vazamento de sessão entre contas. Modelos podem inventar campos ao chamar ferramentas. O risco principal é tratar o output do agente como confiável sem validação de segurança.
Isole o ambiente de execução do agente. Valide todo output antes de executar ações. Não permita que o agente acesse recursos além do escopo necessário. Implemente sandboxing para operações de arquivo e rede. Monitore runtime com evidência auditável (como o Halo). E nunca confie cegamente no output do modelo.
Protocolo aberto que padroniza como modelos de IA se conectam a fontes de dados ...
InfraestruturaCategoria de infraestrutura que atua como plano de controle para agentes de IA c...
TécnicoCapacidade de um LLM de invocar funções externas (APIs, ferramentas) de forma es...