Download do Case Study (PDF)
O Resumo
1
Fronteiras de segurança de IA validadas para um chatbot LLM privado antes de aceder a dados proprietários de investigação e fabrico.
2
Metodologia de AI Pentesting da Devoteam Cyber Trust aplicada, assente em MITRE ATLAS, OWASP LLM & Agentic Top 10.
3
Vulnerabilidades críticas remediadas nas camadas de LLM e de aplicação Web antes do go-live.
O Cliente
Uma CDMO global (Contract Development & Manufacturing Organisation) com ~18.000 colaboradores em mais de 30 instalações em cinco continentes. Atuando nas áreas farmacêutica, de biológicos, terapia celular e genética e ingredientes especializados, gere dados de investigação altamente regulados e comercialmente sensíveis, e introduziu um chatbot privado baseado em LLM para apoiar fluxos de trabalho científicos internos.
O Desafio
-
A IA expande a superfície de ataque. Os sistemas baseados em LLM introduzem uma classe inteiramente nova de riscos que os testes de segurança tradicionais não foram concebidos para abordar. As organizações que implementam IA não podem assumir que os controlos de segurança existentes são suficientes.
-
Dados sensíveis nas fronteiras do modelo. A organização gere dados de investigação altamente regulados e comercialmente sensíveis em cinco continentes. Um comportamento do modelo mal configurado arrisca expor propriedade intelectual, processos de fabrico ou dados próximos de doentes.
-
O RAG introduz risco não determinístico. As arquiteturas de Retrieval-Augmented Generation criam fronteiras de confiança complexas, em que a qualidade da resposta depende dos documentos recuperados, e certos modos de falha não podem ser totalmente eliminados pela validação de entrada tradicional.
A Solução
Metodologia de AI Pentesting – Uma abordagem robusta e estruturada, assente em MITRE ATLAS, OWASP LLM e Agentic Top 10, as frameworks mais abrangentes da indústria para risco adversarial de IA, garantindo a cobertura sistemática de todas as categorias de ataque de IA conhecidas.
As vulnerabilidades de IA somam-se às antigas – Os LLM são construídos sobre infraestrutura, APIs e aplicações Web existentes. Estas foram igualmente testadas pelas nossas metodologias de Web Application Testing.
Capacitar a missão – Ao proteger os sistemas de IA que sustentam a gestão de conhecimento científico numa rede de fabrico global, o projeto apoia diretamente a capacidade da organização de acelerar o desenvolvimento e o fabrico de tratamentos avançados.
MITRE ATLAS
OWASP LLM Top 10
OWASP Agentic Top 10
Principais Vulnerabilidades
Vulnerabilidades críticas identificadas e remediadas antes do go-live, nas implementações de LLM e de aplicação Web.
LLM
System Prompt Leakage
Os atacantes conseguiam extrair as instruções completas do modelo e as suas restrições operacionais.
Impacto: Exposição da lógica interna, regras de negócio e comportamento de sistema não divulgado.
RAG
LLM Misinformation
Os utilizadores poderiam ser afetados por alucinações em condições específicas.
Causa-raiz: Implementação de RAG deficiente: o LLM alucina em vez de declinar na ausência dos resultados esperados.
O Impacto
Através deste projeto, a Devoteam Cyber Trust permitiu ao cliente:
- Validar as fronteiras de segurança de IA antes da exposição a dados proprietários de investigação e fabrico.
- Remediar vulnerabilidades críticas nas implementações de LLM e de aplicação Web antes do go-live.
- Fechar a superfície de ataque antes da exposição, sem impacto nos fluxos de trabalho científicos em produção.
- Adotar uma abordagem repetível e orientada por frameworks para proteger futuras implementações de IA.
Voltar aos Case Studies
A sua Segurança
Começa Aqui
Faça parceria com a Devoteam Cyber Trust para obter avaliações de cibersegurança lideradas por especialistas e uma cultura de melhoria contínua do risco.
→ Entre em contacto
