Segurança de IA corporativa: respostas para a sua equipe de segurança

Esta página foi escrita para CISOs e arquitetos de segurança: onde os dados ficam armazenados, o que atravessa o seu perímetro, quem detém as chaves, o que um agente de IA pode e não pode fazer, como tratamos incidentes — e como verificar tudo isso antes de assinar.

  • ImplantaçãoNuvem na região · privada · on-premises · isolada
  • Treinamento com os seus dadosNunca
  • IdentidadeSSO via SAML / OIDC
  • AuditoriaCada consulta e ação · exportação para SIEM
Dados

Onde estão os dados e quem os vê

As seis perguntas com que toda revisão de segurança começa, respondidas diretamente.

Onde os dados ficam armazenados

Na opção de implantação que você escolher: BlackGust Cloud na região, a sua nuvem privada, os seus próprios servidores ou um ambiente isolado. Os dados pessoais ficam na jurisdição exigida pela respectiva lei.

Os dados são usados para treinar modelos?

Não. Os modelos em nuvem são acessados por meio de APIs corporativas cujos termos excluem o treinamento com dados de clientes. Os modelos locais rodam inteiramente dentro da sua infraestrutura. O fine-tuning com o seu acervo acontece apenas no seu ambiente e apenas quando você solicita.

O que vai para modelos externos

Apenas os trechos necessários para responder. Os dados pessoais são mascarados antes de saírem. Em implantações isoladas, as chamadas externas ficam totalmente desativadas.

Quem na BlackGust tem acesso

Somente os engenheiros nomeados do projeto, conforme acordado com você e pelo tempo de duração do trabalho. Todo acesso é registrado e revogado na transição.

Criptografia

Os dados são criptografados em trânsito e em repouso. Em implantações em nuvem privada, on-premises e isoladas, a sua organização detém as chaves.

Exclusão de dados

Ao final do contrato, os dados são excluídos no prazo acordado e é emitido um certificado de exclusão.

Fluxos de dados

O que atravessa o seu perímetro em cada modo de implantação

Quatro opções, quatro fronteiras de confiança. A linha tracejada é o seu perímetro. Leia cada diagrama como a resposta a três perguntas: o que sai, o que é mascarado e onde ficam as chaves.

Modo 01

BlackGust Cloud, na região

Início mais rápido. A plataforma roda na nossa nuvem, na região que você escolher.

Seu perímetroBlackGust Cloudsua regiãoSeus usuários · SSOSeus sistemasPlataforma BlackGustModelos locaisAPI de modelo de pontatrechos mascaradosChaves
Sai do perímetro
Dados lidos pelos conectores para a plataforma na sua região; trechos mascarados para a API do modelo de ponta.
Mascaramento
Dados pessoais mascarados antes de qualquer chamada a modelos.
Chaves
Gerenciadas pela BlackGust na mesma região.
Modo 02

Sua nuvem privada

A plataforma roda no seu tenant de nuvem, sob as suas políticas de rede e identidade.

Seu perímetroSeus usuários · SSOSeus sistemasPlataforma BlackGustModelos locaisAPI de modelo de pontaopcional · mascaradoChaves
Sai do perímetro
Apenas trechos mascarados, e somente se você habilitar modelos de ponta.
Mascaramento
Mascaramento no gateway, dentro do seu tenant.
Chaves
O serviço de gerenciamento de chaves da sua nuvem.
Modo 03

On-premises

A plataforma e os modelos locais rodam nos seus servidores, no seu data center.

Seu perímetroSeus usuários · SSOSeus sistemasPlataforma BlackGustModelos locaisAPI de modelo de pontaopcional · mascaradoChaves
Sai do perímetro
Nada por padrão. Trechos mascarados pelo seu proxy, se você permitir modelos de ponta.
Mascaramento
Mascaramento no gateway, antes do seu proxy.
Chaves
O seu gerenciamento de chaves ou HSM.
Modo 04

Isolado (air-gapped)

Uma rede isolada, sem rota para a internet. Somente modelos locais.

Seu perímetroSeus usuários · SSOSeus sistemasPlataforma BlackGustModelos locaisAPI de modelo de pontasem saídaChaves
Sai do perímetro
Nada. O tráfego de saída é bloqueado no nível da rede.
Mascaramento
Aplicado internamente para visões por papel; não existem chamadas externas.
Chaves
O seu gerenciamento de chaves ou HSM, dentro do enclave.
Controles por implantação

Controles de segurança por opção de implantação

A mesma plataforma, os mesmos controles — o que muda é quem opera a infraestrutura e onde fica a fronteira. Use esta tabela para escolher o modo que se ajusta ao seu apetite de risco.

Os medidores mostram o grau relativo (mais segmentos = mais). As responsabilidades exatas são definidas no contrato e no anexo de responsabilidade compartilhada.
ControleBlackGust CloudNuvem privadaOn-premisesIsolado
Dados
Residência de dadosRegião escolhida por vocêSeu tenantSeu data centerSua rede isolada
Criptografia em trânsito e em repouso✓✓✓✓
Quem detém as chavesBlackGust, na regiãoVocêVocêVocê
Mascaramento antes de chamadas a modelos externos✓✓✓Sem chamadas externas
Isolamento da internet
Identidade e acesso
SSO via SAML / OIDC✓✓✓✓
Papéis do seu diretório, acesso por linha e campo✓✓✓✓
Política de rede sob o seu controle—✓✓✓
Modelos
Modelos de ponta (OpenAI, Anthropic) via APIs corporativas✓OpcionalOpcional—
Modelos locais de pesos abertosOpcional✓✓✓
Operação
Log de auditoria completo, exportável para o seu SIEM✓✓✓✓
Quem opera a infraestruturaBlackGustVocê, com nossos engenheirosVocê, com nossos engenheirosVocê, com nossos engenheiros no local
Rapidez até a primeira implantação
Modelo de ameaças

Como sistemas de IA são atacados e como nos defendemos

Agentes de IA acrescentam nova superfície de ataque a sistemas conhecidos. Este é um resumo do modelo de ameaças que compartilhamos na íntegra com a sua equipe, com os controles mapeados para cada ameaça.

T1

Prompt injection

AtaqueInstruções escondidas em uma mensagem de usuário, um e-mail, uma página web ou um documento enviado tentam sobrepor as regras do agente.

Mitigações
  • Instruções e conteúdo recuperado são mantidos separados; o conteúdo é tratado como dado
  • Filtragem de entradas contra tentativas de sobreposição e pedidos de dados de outros usuários
  • Os agentes não podem ampliar os próprios direitos, então um prompt sequestrado esbarra nas mesmas barreiras
T2

Exfiltração de dados

AtaqueUm atacante tenta extrair dados por meio de respostas, links, chamadas de ferramentas ou do provedor do modelo.

Mitigações
  • Respostas limitadas aos dados que o usuário já pode ver
  • Ações de saída — e-mail, compartilhamento de arquivos, links externos — exigem aprovação
  • Mascaramento antes de chamadas externas; nenhuma chamada no modo isolado
T3

Escalonamento de privilégios

AtaqueUm agente ou usuário tenta executar ações além do seu papel, ou encadeia ferramentas para alcançar um sistema de registro.

Mitigações
  • Os agentes atuam com os direitos da pessoa a quem servem — nunca mais
  • Contas de serviço com privilégio mínimo por conector, somente leitura por padrão
  • Ações de gravação e pagamento condicionadas a regras de limite e aprovação humana
T4

Cadeia de suprimentos de modelos

AtaquePesos de modelo adulterados, dados de fine-tuning envenenados ou uma dependência de software comprometida.

Mitigações
  • Modelos de fontes verificadas, conferidos por checksum e assinatura
  • Dependências fixadas e analisadas; versões assinadas
  • Testes de referência executados antes de cada atualização de agente; uma queda de qualidade bloqueia a liberação
T5

Respostas alucinadas

AtaqueUma resposta confiante, mas errada, leva a uma decisão de negócio ruim ou a um documento incorreto.

Mitigações
  • Respostas fundamentadas nas suas fontes, com trecho e link
  • Sem fonte, sem resposta
  • Revisão humana para qualquer resultado que saia da organização
T6

Acesso interno e do fornecedor

AtaqueAlguém do fornecedor, ou um administrador com privilégios excessivos, lê dados que não deveria.

Mitigações
  • Acesso nomeado e por tempo limitado para os engenheiros da BlackGust, revogado na transição
  • Cada ação administrativa registrada e exportável
  • Nos modos on-premises e isolado, acesso somente sob as suas regras
Agentes

Um agente nunca recebe mais direitos do que a pessoa em nome de quem atua. Cada limite é definido na configuração e garantido pela plataforma, não pelo modelo.

Agentes

O que um agente de IA pode e não pode fazer

Pode

  • Ler dados dentro das permissões do usuário
  • Redigir documentos, cartas e relatórios
  • Criar tarefas e lembretes
  • Executar ações previamente aprovadas

Não pode sem aprovação humana

  • Alterar ou excluir dados em sistemas de registro
  • Enviar documentos para fora da organização
  • Executar pagamentos ou atos juridicamente vinculantes
  • Ampliar as próprias permissões
Decisões de políticaExemplo · dados ilustrativos
HoraAgenteAção solicitadaDecisão
09:14:02Assistente financeiroLer razão do 3º tri, filial NortePermitido
09:14:09Assistente financeiroLer folha de pagamento, todas as filiaisNegado · papel
09:21:47Agente de comprasPagamento acima de US$ 500.000Retido · aprovação do CFO
09:22:15Agente de e-mailEnviar contrato para domínio externoRetido · aprovação do responsável
09:30:03Agente de suporteAtribuir a si mesmo o papel de administradorNegado · política
Identidade e acesso

Login único, papéis do seu diretório, privilégio mínimo para agentes

A plataforma não inventa um segundo sistema de identidade. As pessoas entram como já entram hoje, e o acesso segue os papéis que você já gerencia.

SSO

SAML 2.0 e OpenID Connect

Login pelo seu provedor de identidade. Regras de múltiplo fator, duração da sessão e acesso condicional continuam sob a sua política.

Diretório

Papéis herdados, não redigitados

Grupos e papéis vêm do Active Directory, do LDAP ou do seu provedor de identidade. Quem sai da organização perde o acesso quando você o desativa lá.

Granularidade

Até o nível de linhas e campos

O acesso é restrito por sistema, objeto, linha e campo. Um gerente regional vê a sua região; campos de salário ficam ocultos para quem não tem direito.

Agentes

Privilégio mínimo por design

Cada agente tem um escopo declarado de dados e ações. Ele atua com a interseção entre o seu escopo e os direitos do usuário — nunca com a união.

Conectores

Uma conta de serviço por sistema

Somente leitura por padrão. Direitos de gravação concedidos por ação, documentados e visíveis no log de auditoria.

Administradores

Segregação de funções

Alterar as permissões de um agente e aprovar a alteração são papéis diferentes. Cada mudança é registrada com quem, o quê e quando.

Auditoria e monitoramento

Cada consulta, resposta e ação — registrada

O log de auditoria é a base de evidências para a sua equipe de segurança, os seus auditores e os seus reguladores. Ele registra o que aconteceu com detalhes suficientes para reconstruir qualquer resposta ou ação.

Registro de auditoriaExemplo · dados ilustrativos
timestamp
2026-03-12T09:21:47Z
user
j.martin · finanças · SSO
agent
procurement-agent v1.8
request
Pagar fatura 4471, fornecedor novo
sources
ERP: fatura 4471 · contrato 2025-118
policy
valor > US$ 500.000 → aprovação
decision
retido para aprovação · CFO
approved_by
a.keller · 09:58:10Z
  • Quem perguntou, de qual sessão e com qual papel
  • O que o agente respondeu e quais fontes citou
  • Quais ações propôs, quais foram executadas e quem as aprovou
  • Decisões de política: permitido, negado, retido para aprovação
  • Alterações administrativas em agentes, papéis e conectores
  • Exportação para o seu SIEM em formatos padrão; período de retenção definido pela sua política
Monitoramento

Alertas de ações negadas, volumes incomuns de consultas e tentativas repetidas de sobreposição podem ser encaminhados ao seu SOC. A exportação para SIEM está incluída nos pacotes Enterprise e Sovereign.

Resposta a incidentes

Quando algo dá errado: o processo e o relógio

Os incidentes são tratados conforme um plano escrito, acordado com você antes da entrada em produção. Os prazos de notificação são definidos em contrato para que os seus próprios prazos regulatórios — como a comunicação à ANPD prevista na LGPD ou as 72 horas do GDPR para controladores — possam ser cumpridos.

  1. 01

    Detectar

    Monitoramento, alertas do seu SOC ou um relato de um usuário ou de um engenheiro nosso.

  2. 02

    Triar

    Gravidade classificada conforme a escala acordada; o engenheiro de plantão assume o caso.

  3. 03

    Conter

    Agente, conector ou acesso afetado suspenso. Evidências preservadas a partir do log de auditoria.

  4. 04

    Notificar

    Você é informado sem demora injustificada, com o que sabemos e o que ainda não sabemos.

  5. 05

    Corrigir

    Causa raiz corrigida, testes de referência executados novamente, liberação aprovada pelo seu lado.

  6. 06

    Relatar

    Um relatório pós-incidente por escrito com cronologia, impacto, causa raiz e ações.

Suporte e resposta por pacote

FoundationEnterpriseSovereign
CoberturaHorário comercial24/7 para incidentes críticos24/7
Resposta a incidentes críticosNo horário comercial seguinte24/7, conforme contrato1 hora
Engenheiro de plantão nomeado——✓
SSO e exportação para SIEM—✓✓
Relatório pós-incidente por escrito✓✓✓
Revisão de impacto e segurançaTrimestralMensalContínua, equipe integrada

Detalhes dos pacotes e preços anuais estão na página de preços.

Ciclo de vida dos dados

Da ingestão ao certificado de exclusão

Cada dado que a plataforma toca tem um caminho definido, um período de retenção e um fim.

  1. 01

    Ingestão

    Os conectores leem os seus sistemas com contas de privilégio mínimo. Apenas as fontes acordadas para cada caso de uso são indexadas.

  2. 02

    Processamento

    Os dados são criptografados em trânsito e em repouso. Os dados pessoais são mascarados antes de qualquer chamada a modelos externos.

  3. 03

    Uso

    As respostas são filtradas pelos direitos do usuário. Cada acesso é gravado no log de auditoria.

  4. 04

    Retenção

    Índice, conversas e logs são mantidos pelos prazos definidos em contrato, alinhados à sua política de retenção.

  5. 05

    Exclusão

    Ao final do prazo ou do contrato, os dados são excluídos no tempo acordado e é emitido um certificado de exclusão.

Alinhamento regulatório

Regulamentação de privacidade e IA nos seus mercados

Projetamos a plataforma para apoiar a conformidade com as principais leis de proteção de dados e de IA na Europa, nas Américas e na Ásia-Pacífico, e fornecemos documentação para a sua DPIA e outras avaliações. Não certificamos a conformidade — a avaliação jurídica continua sendo sua.

Orientação, não aconselhamento jurídico. Os requisitos dependem do seu papel, setor e caso de uso.
RegulamentaçãoRegiãoO que os revisores costumam perguntarComo projetamos para apoiar
GDPRUE / EEEBase legal, minimização, termos com operadores, transferências, DPIAProcessamento na região ou on-premises, contrato com operador, mascaramento, exclusão, pacote de subsídios para DPIA
EU AI ActUEClassificação de risco, supervisão humana, registro em log, transparência para os usuáriosAprovação humana garantida na configuração, logs completos, aviso de uso de IA nos canais com usuários, documentação técnica
PIPLChinaLocalização, regras de transferência internacional, dados sensíveisImplantação no país com modelos locais, sem chamadas a APIs estrangeiras, logs e chaves no país
APPIJapãoFinalidade de uso, medidas de segurança, transferências ao exteriorFinalidade registrada por agente, controle de acesso e logs, implantação no país
PIPACoreiaLimitação de finalidade, medidas de segurança, transferência internacionalOn-premises ou isolado, acesso por campo, logs de acesso completos
LGPDBrasilBase legal, direitos dos titulares, relatório de impactoImplantação no país, registros de tratamento por caso de uso, exclusão mediante solicitação
Privacy Act e APPsAustráliaUso e divulgação, segurança, divulgação internacionalRegião australiana ou on-premises, controle de acesso, logs para a sua avaliação de impacto à privacidade
CCPA / CPRACalifórnia, EUAAviso, direitos do consumidor, termos de prestador de serviço, decisões automatizadasTermos de prestador de serviço, apoio à exclusão e ao acesso, revisão humana de decisões significativas
Normas setoriaisSaúde, finanças, setor públicoConfidencialidade e guarda de registros específicas do setor (por exemplo, regras no estilo HIPAA)Implantação dentro do seu ambiente credenciado, retenção e acesso alinhados à norma
Due diligence

Avalie-nos antes de o trabalho começar

Enviamos o pacote de documentação mediante NDA, preenchemos o seu questionário de segurança e um engenheiro pode se reunir com a sua equipe de segurança antes da assinatura do contrato.

Arquitetura

Descrição da arquitetura

Componentes, opções de implantação, fronteiras de rede e diagramas de fluxo de dados para o modo escolhido.

Ameaças

Modelo de ameaças

A versão completa do resumo acima, com controles e riscos residuais.

Questionário

O seu questionário, preenchido

No seu formato ou em um formato padrão de preferência da sua equipe.

Testes

Cooperação em testes de invasão

Os seus testadores ou a empresa que você escolher testam o ambiente do piloto; corrigimos as constatações e apoiamos o novo teste.

Privacidade

DPA e subsídios para DPIA

Contrato de tratamento de dados, lista de suboperadores e um pacote de subsídios para a sua DPIA ou relatório de impacto.

Operação

Procedimentos de incidentes e acesso

Plano de resposta a incidentes, regras de acesso da equipe e o modelo de certificado de exclusão.

Não possuímos certificação SOC 2 ou ISO 27001. Em vez disso, implantamos em ambientes que você controla e damos à sua equipe tudo o que é necessário para nos avaliar diretamente.

Solicitar documentação de segurança
FAQ

O que os CISOs nos perguntam

Vocês usam os nossos dados para treinar modelos?

Não. Os modelos de ponta são acessados por meio de APIs corporativas cujos termos excluem o treinamento com dados de clientes. Os modelos locais rodam dentro da sua infraestrutura. O fine-tuning com o seu acervo acontece apenas no seu ambiente, a seu pedido.

Vocês possuem SOC 2 ou ISO 27001?

Não. Dizemos isso abertamente. Para compensar, implantamos em ambientes que você controla — nuvem privada, on-premises ou isolado — e damos à sua equipe a arquitetura, o modelo de ameaças, o questionário preenchido e acesso aos nossos engenheiros, além de cooperação com o seu teste de invasão.

Podemos deter as chaves de criptografia?

Sim. Em implantações em nuvem privada, on-premises e isoladas, as chaves ficam no seu serviço de gerenciamento de chaves ou HSM. Na BlackGust Cloud, as chaves são gerenciadas pela BlackGust na mesma região; se vocês precisarem detê-las, escolham um dos outros modos.

Podemos fazer um teste de invasão?

Sim. Acordamos escopo e prazo, os seus testadores ou a empresa que você escolher testam o ambiente do piloto, corrigimos as constatações e apoiamos o novo teste.

Como vocês impedem prompt injection?

Partimos do princípio de que haverá tentativas. O conteúdo recuperado é tratado como dado, não como instrução; as entradas são filtradas; e, o mais importante, os agentes não podem exceder os direitos do usuário nem executar ações de risco sem aprovação humana. Uma injeção bem-sucedida esbarra nas mesmas barreiras que qualquer usuário.

Com que rapidez vocês nos informam sobre um incidente?

Sem demora injustificada, dentro do prazo definido em contrato, para que vocês possam cumprir os seus próprios prazos regulatórios. No pacote Sovereign, incidentes críticos têm resposta em 1 hora de um engenheiro de plantão nomeado.

Quais suboperadores estão envolvidos?

Depende do modo. Com modelos de ponta, a API corporativa do provedor do modelo é um suboperador; na BlackGust Cloud, o provedor de hospedagem na sua região também é. Em implantações on-premises e isoladas sem modelos de ponta, não há nenhum. A lista completa está no DPA.

Os engenheiros da BlackGust podem ver dados de produção?

Somente engenheiros nomeados, pelo período acordado, com acesso registrado e revogado na transição. Em implantações isoladas, eles trabalham no local, sob a sua supervisão e as suas regras de acesso.

Os logs podem ir para o nosso SIEM?

Sim. O log de auditoria é exportado para o seu SIEM em formatos padrão, e a retenção segue a sua política. A exportação para SIEM faz parte dos pacotes Enterprise e Sovereign.

Submeta-nos à sua revisão de segurança

Envie o seu questionário ou solicite o pacote de documentação. Um engenheiro apresentará a arquitetura e o modelo de ameaças à sua equipe.