Segurança e governança
Segurança em IA: Mitigando Riscos do OWASP Top 10 para LLMs
Como proteger sistemas corporativos contra injeção de prompt, vazamento de dados sensíveis e execução de código não autorizada.
Gabriel M. e time de engenharia · 29 de Abril, 2026
À medida que as empresas integram LLMs profundamente em seus sistemas operacionais — permitindo que agentes leiam e-mails, acessem bancos de dados e executem APIs —, a superfície de ataque cibernético se expande de forma dramática. Vulnerabilidades tradicionais de software continuam existindo, mas agora somos confrontados com uma classe inteiramente nova de ameaças cognitivas.
Para ajudar as organizações a protegerem seus sistemas, a comunidade de segurança consolidou o OWASP Top 10 para Aplicações de LLM. Na climbee, a segurança não é uma camada adicionada no final do projeto, mas um princípio de design fundamental desde o primeiro dia.
As 3 Maiores Ameaças a LLMs Corporativos
Um atacante manipula o input do modelo (direta ou indiretamente através de documentos externos) para fazer o LLM ignorar suas instruções de segurança e executar ações maliciosas.
O modelo revela inadvertidamente informações confidenciais, dados pessoais (PII) ou segredos comerciais em suas respostas devido a falhas na filtragem de contexto.
O sistema de busca recupera documentos confidenciais para os quais o usuário atual não possui permissão de acesso, e o LLM acaba expondo esses dados na resposta.
Como Construir defesas Robustas
Para mitigar esses riscos, implementamos uma arquitetura de segurança em múltiplas camadas:
- Sanitização de Inputs e Outputs: Filtros rígidos baseados em regras e modelos de classificação menores para detectar tentativas de injeção de prompt e bloquear respostas que contenham dados sensíveis.
- Controle de Acesso Baseado em Papéis (RBAC) na Busca: Garantimos que o sistema de RAG filtre os documentos na camada de banco de dados usando as credenciais de acesso do usuário atual, impedindo que o LLM tenha acesso a informações não autorizadas.
- Sandboxing de Execução: Qualquer ferramenta de execução de código ou chamada de API executada por agentes roda em ambientes isolados (containers efêmeros sem acesso à rede interna corporativa).