A inteligência artificial generativa já deixou de ser apenas uma novidade e passou a ser integrada profundamente em interações com clientes e operações internas das empresas. Contudo, com essa evolução, desenvolvedores e profissionais de segurança estão descobrindo novas vulnerabilidades críticas que exigem atenção imediata.
Separamos um resumo prático de 4 dos riscos mais críticos destacados no relatório OWASP Top 10 para Aplicações LLM 2025.
Injeção de Prompt
LLM01:2025: Ocorre quando inputs manipulam o comportamento ou a saída do modelo de formas não intencionais. Essa ameaça pode ser Direta (criada deliberadamente por um ator malicioso) ou Indireta (quando o LLM aceita dados de fontes externas contaminadas, como websites ou arquivos). O detalhe mais perigoso é que essas injeções podem ser totalmente imperceptíveis para humanos.
Divulgação de Informações Sensíveis
LLM02:2025: Aplicações baseadas em LLM correm o risco de expor dados pessoais identificáveis (PII), dados financeiros, segredos comerciais ou algoritmos proprietários através de suas respostas geradas. Isso frequentemente acontece devido à inclusão negligente ou falta de tratamento de dados sensíveis antes do processamento.
Cadeia de Suprimentos
LLM03:2025: Ao contrário do software tradicional, os riscos em IA se estendem a modelos pré-treinados obtidos de terceiros e repositórios compartilhados – principalmente as skills (habilidades). Novas abordagens de ajuste fino, como adaptadores LoRA, e o uso de plataformas colaborativas criam novos vetores onde atacantes podem injetar backdoors ou até mesmo, adulterar modelos.
Autonomia Excessiva
LLM06:2025: Com o crescimento das arquiteturas de agentes e plug-ins, os desenvolvedores costumam conceder aos LLMs a capacidade de chamar funções de maneira dinâmica. A autonomia excessiva se torna um problema quando o modelo toma ações prejudiciais em sistemas conectados (como excluir arquivos ou enviar e-mails) em resposta a alucinações ou prompts manipulados.
Não existem métodos infalíveis e isolados na IA Generativa.
A prevenção eficaz exige tratar o modelo sempre como um usuário não confiável, adotando uma postura de confiança zero em todas as camadas da aplicação.
Como sua empresa está encarando esses novos riscos?