Trust Agentic Enterprise - Padrões

Saiba mais sobre Well-Architected Trust → Agent Enterprise Trust

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Configuração do agente	✅ Criar usuário de integração “Agent_Product_Support” com conjunto de permissões concedendo leitura no caso/produto, acesso a artigos do Knowledge e ações específicas apenas para atualizações de caso
Agentforce \| Configuração do agente	✅ Configure o usuário em execução com as permissões mínimas necessárias para o escopo definido do agente
Plataforma \| Conjuntos de permissões	✅ Crie usuários de integração criados com finalidade para contextos do agente e conceda conjuntos de permissões fornecendo exatamente o que o agente precisa
Plataforma \| Monitoramento de evento	✅ Após a implantação, use o Monitoramento de evento para identificar permissões concedidas nunca exercidas no tempo de execução e removê-las; a Trilha de auditoria de configuração registra as alterações de configuração (concessões e revogações), não quais permissões são realmente usadas

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Configuração do agente	⚡️ Atribua o Administrador do sistema como usuário em execução porque ele “apenas funciona” e evita erros de permissão durante os testes
Plataforma \| Organização	Permita que os agentes retenham conjuntos de permissões amplos que foram concedidos durante o desenvolvimento sem revisão pós-implementação

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Criador de agentes	✅ Trate o subagente e a configuração de ação no Criador de agentes como um limite de permissão, não apenas roteamento. Se uma ação não for atribuída a um subagente, o agente não poderá chamá-la
Agentforce \| Criador de agentes	✅ Remova subagentes que expõem recursos de que o agente não precisa (um agente que responde a perguntas do produto não deve ter modificação de registro, envio de email ou invocação de fluxo no escopo) e revise o escopo do subagente quando as responsabilidades mudarem
Plataforma \| Apex	✅ Verifique cada ação do Apex no conjunto de ações do agente usa com compartilhamento ou compartilhamento herdado, a menos que o contexto do sistema seja deliberado e documentado, de modo que o usuário em execução mantenha o limite de segurança
Agentforce \| Ação	✅ Valide saídas da ferramenta em um esquema antes que o agente as processe, tratando cada resposta da ferramenta como entrada não confiável
Agentforce \| Ação	✅ Restrinja os parâmetros da ferramenta a intervalos de valores permitidos (por exemplo, valide os domínios do destinatário em uma ação de envio de email) em vez de permitir que o fundamento do agente em dados não confiáveis os determine
Agentforce \| Ação	✅ Impor verificações de permissão no nível da ferramenta na camada de implementação da ferramenta, não apenas na configuração do agente, de modo que uma funcionalidade verifique seu contexto de chamada antes de executar
Agentforce \| Ação	✅ Usar credenciais nomeadas para todas as chamadas externas de ações do agente

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Criador de agentes	⚡️ Deixar subagentes que expõem modificação de registro, envio de email ou invocação de fluxo em um agente projetado apenas para responder a perguntas do produto
Agentforce \| Criador de agentes	⚡️ Tratar a configuração do agente como somente roteamento sem reconhecer que qualquer coisa listada é acessível por meio de manipulação de prompt, mesmo funcionalidades que o agente não foi projetado para usar
Plataforma \| Apex	Adicionar uma ação do Apex personalizada em execução no modo do sistema (sem compartilhamento) que ignora as regras de compartilhamento e segurança em nível de campo do usuário em execução sem projetá-las deliberadamente
Agentforce \| Ação	⚡️ Processar respostas da ferramenta como entrada confiável sem validação de esquema, permitindo que dados malformados ou injetados alcancem o raciocínio do agente

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Configuração do agente	✅ Cadeia de permissões de documento: Orquestrador de pedidos (Ler pedidos, Escrever status do pedido) → Especialista de inventário (Ler/Gravar inventário) → Especialista de envio (Criar envio). Verificar permissões de contexto do usuário para todas as operações downstream
Agentforce \| Configuração do agente	✅ Mapear permissões efetivas da cadeia de orquestração completa antes da implementação
Agentforce \| Configuração do agente	✅ Projetar limites de permissão em todo o fluxo de trabalho, não apenas agentes individuais

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Configuração do agente	⚡️ Permitir que o orquestrador com permissões limitadas chame o especialista com Modificar todos os dados, ignorando as restrições do orquestrador
Agentforce \| Configuração do agente	⚡️ Avaliar permissões individuais do agente sem mapear o privilégio efetivo de toda a cadeia de orquestração

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Modelo de prompt	✅ Instruções separadas dos dados arquitetonicamente: instruções no nível do sistema não devem ser misturadas com conteúdo de origem de registro, texto fornecido pelo usuário ou respostas de ferramenta por meio de concatenação de string
Agentforce \| Ação	✅ Identifique a descrição do caso, o corpo do email e a transcrição do chat como campos de alto risco. Implemente uma camada de pré-processamento que resuma o conteúdo antes de passar para o raciocínio do agente, removendo possíveis instruções de injeção enquanto preserva o significado
Agentforce \| Configuração do agente	✅ Defina contratos de validação de entrada em cada limite de agente e trate cada origem de conteúdo externa como não confiável
Data 360 \| Fontes de fundamentação	✅ Tratar artigos do Knowledge, documentos indexados do Data 360 e fontes de recuperação externas como superfícies de injeção persistentes que precisam de revisão contínua
Einstein \| Camada Trust	✅ Tratar os controles de segurança da Camada do Einstein Trust como uma camada em defesa em profundidade, não uma solução completa

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Modelo de prompt	Concatene a descrição bruta do caso no aviso do agente com as instruções do sistema, presumindo que o modelo distingue o conteúdo do caso das instruções de ataque
Data 360 \| Fontes de fundamentação	Fundamento de fontes Trust sem considerar que o conteúdo adversário persiste e pode ser modificado ao longo do tempo por partes sem acesso direto do agente
Einstein \| Camada Trust	Confiar exclusivamente nos controles de segurança Trust Layer sem defesas arquitetônicas adicionais para novas técnicas de injeção

Padrões

Onde procurar	Qual é a boa aparência
Einstein \| Camada Trust	✅ O agente que recupera informações do caso consulta apenas os campos necessários para raciocínio (Número do caso, Produto, Status, Prioridade) em vez de todos os campos de Caso. O mascaramento de PII fornece proteção adicional se PII inesperado aparecer
Einstein \| Camada Trust	✅ Configure a Camada de Trust adequadamente e documente os fluxos de dados por meio do processamento da Camada de Trust
Einstein \| Camada Trust	✅ Determine quais classificações de dados podem inserir a inferência de LLM para seu contexto regulatório
Plataforma \| Monitoramento de evento	✅ Rotear eventos de auditoria da Camada de Trust para o SIEM junto com dados de Monitoramento de evento
Plataforma \| Monitoramento de evento	✅ Implemente o registro no nível do aplicativo que captura o que o agente decidiu, qual ação ele tomou e qual resultado comercial resultou junto com os registros da Camada de Trust
Negócios \| Documentação	✅ Validar a retenção de auditoria da Camada de Trust cumpre os requisitos regulatórios

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Einstein \| Camada Trust	Consulte todos os campos de Caso, incluindo notas confidenciais e informações de pagamento, dependendo do mascaramento de PII para remover tudo o que é problemático
Einstein \| Camada Trust	⚡️ Projete agentes para enviar contexto de registro completo para inferência de LLM presumindo que o mascaramento de PII lida com tudo
Einstein \| Camada Trust	⚡️ Tratar o mascaramento da Camada Trust PII como uma substituição para a minimização de dados, em vez de como uma defesa em profundidade

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Configuração do agente	✅ O Especialista de cumprimento do pedido valida os dados do pedido fornecidos pelo orquestrador, incluindo campos obrigatórios (ID do pedido, ID do cliente, SKU do produto), os valores estão dentro dos intervalos esperados (quantidade > 0, preço > 0) e o status do pedido permite o cumprimento antes da execução
Agentforce \| Configuração do agente	✅ Defina contratos de interface tipados explicitos para comunicação entre agentes com dados estruturados, com escopo e validados
Agentforce \| Configuração do agente	✅ Projetar cada agente em um fluxo de trabalho de vários agentes para validar o contexto que ele recebe antes de agir, independentemente da identidade do chamador
Agentforce \| Configuração do agente	✅ Tratar o conteúdo da mensagem interagente com a mesma rigor da entrada de usuário externo
Integração \| Serviços externos	✅ Para agentes que invocam serviços externos de IA ou agentes de terceiros fora do Salesforce, aplique princípios de zero Trust e valide respostas dentro da estrutura e do escopo esperados

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Configuração do agente	⚡️ O especialista executa diretamente qualquer ação solicitada pelo orquestrador sem validar a estrutura, os valores ou o contexto de autorização da solicitação
Agentforce \| Configuração do agente	⚡️ Os orquestradores passam strings de instruções brutas que os especialistas tratam como diretivas autoritárias
Agentforce \| Configuração do agente	⚡️ Passe o contexto de execução completo, os dados da sessão do usuário ou o rastreamento de raciocínio acumulado para cada agente downstream
Integração \| Serviços externos	⚡️ Ação com base em respostas do agente externo que instruem seu orquestrador a realizar ações fora do escopo da tarefa atual sem rejeição ou escalação

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| Fluxo	✅ Agente de reembolso configurado com o ponto de verificação de Fluxo que requer aprovação humana antes de qualquer reembolso acima de US$ 1.000 ser executado, independentemente da confiança do agente. Ponto de verificação implementado fora do raciocínio do agente
Plataforma \| Fluxo	✅ Implemente pontos de verificação HITL como portões de fluxo de trabalho fora do loop de raciocínio do agente, projetados como controles arquitetônicos, em vez de instruções do agente
Negócios \| Documentação	✅ Defina categorias de ações que exigem confirmação humana: ações irreversíveis, ações acima dos limites financeiros, ações que se comunicam externamente, ações que envolvem dados regulamentados, ações em que erros foram observados
Agentforce \| Configuração do agente	✅ Interfaces de análise de design que apresentam a ação proposta, o agente de dados usado para alcançar a proposta e o caminho de raciocínio, se disponível
Plataforma \| Auditoria	✅ Armazenar a decisão de revisão com o registro de ação do agente: quem revisou, quando, quais informações foram exibidas, o que decidiu

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Configuração do agente	Configure o agente com a instrução “Pedir aprovação antes de emitir reembolsos acima de US$ 1.000” presumindo que a instrução não possa ser substituída por injeção de prompt
Agentforce \| Configuração do agente	Implemente HITL como instruções do agente que podem ser interpretadas e potencialmente ignoradas, em vez de como pontos de verificação de fluxo de trabalho fora do caminho de raciocínio
Negócios \| Processo	⚡️ Apresente aos revisores humanos solicitações de aprovação sem contexto sobre ação proposta, dados usados ou caminho de raciocínio, sem supervisão genuína

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| Monitoramento de evento	✅ Encaminhe eventos de Monitoramento de evento e Camada de Trust para o SIEM para monitoramento de segurança centralizado
Plataforma \| Segurança da transação	✅ Configurar políticas de segurança da transação com avaliação em tempo real, incluindo funcionalidades de bloqueio e notificação
Agentforce \| Configuração do agente	✅ Implementar registro de aplicativo personalizado capturando resumos de raciocínio, invocações de ferramenta e falhas de validação
Plataforma \| Monitoramento de evento	✅ Projete regras de alerta detectando padrões suspeitos específicos do agente: acesso a dados em massa fora das janelas esperadas, invocação de ações não alinhadas à finalidade, falhas de validação repetidas, padrões de orquestração anômalos
Agentforce \| Configuração do agente	✅ Acompanhe padrões de invocação de ação típicos, volumes de acesso a dados, taxas de chamada de inferência, taxas de erro e tempos de execução por agente para estabelecer linhas de base comportamentais
Plataforma \| Monitoramento de evento	✅ Definir eventos de segurança específicos do agente: violações de limite de permissão, falhas de validação repetidas, anomalias de orquestração, violações de limite de confiança, padrões de ativação de fallback

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| Monitoramento de evento	⚡️ Aplicar padrões de monitoramento de atividade humana a agentes sem estabelecer linhas de base comportamentais específicas do agente
Plataforma \| Monitoramento de evento	Conte apenas na detecção baseada em assinatura sem monitoramento comportamental que pode detectar novos ataques
Plataforma \| Monitoramento de evento	Ignore taxas de erro elevadas, falhas de validação repetidas ou padrões de orquestração anômalos como comportamento normal do agente

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| Auditoria	✅ Para cada ação significativa do agente, capture: identidade do agente e contexto do usuário em execução, evento acionador, dados recuperados para fundamentação, resumo de raciocínio, ação e resultado específicos, nível de confiança, decisão de análise humana, se aplicável
Plataforma \| Auditoria	✅ Implemente o registro de auditoria no nível do aplicativo para o contexto de negócios que os registros de plataforma (Monitoramento de evento, eventos da Camada de Trust) não incluem
Plataforma \| Auditoria	✅ Encaminhe eventos de Monitoramento de evento e Camada de Trust para armazenamento de longo prazo além dos períodos de retenção nativos
Agentforce \| Configuração do agente	✅ Registrar a identidade do agente em cada etapa no rastreamento de execução de vários agentes para atribuição por meio de cadeias de orquestração
Agentforce \| Configuração do agente	✅ Capture e detecte resumos de raciocínio que identificam os principais fatores que influenciam a recomendação do agente para decisões de alto impacto
Negócios \| Documentação	✅ Projetar fluxos de trabalho do agente para que os usuários possam solicitar explicações para decisões que os afetam

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| Auditoria	Conte com a reconstrução do que o agente fez a partir de efeitos colaterais em registros. No momento em que você precisar da trilha de auditoria, os registros podem ter mudado
Plataforma \| Auditoria	⚡️ Registrar fluxos de trabalho de vários agentes sem identificar qual agente específico realizou qual ação na cadeia
Negócios \| Processo	Implemente agentes que tomam decisões de alto impacto sem capturar resumos de raciocínio ou fornecer mecanismos de explicação aos usuários afetados

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Instruções do agente	✅ Quando uma nova restrição aparecer no meio da decisão (prazo, orçamento, pessoal, licença), execute novamente a compensação completa em todos os fatores originais em vez de deixar a nova entrada reverter a decisão anterior por conta própria
Agentforce \| Instruções do agente	✅ Especifique a alteração no objetivo explicitamente, exibindo quando o destino da otimização mudar de “arquitetonicamente sólido e mantido” para “entregue sob a restrição” para que o ser humano possa ver para o que está sendo otimizado
Negócios \| Processo	✅ Trate uma tensão de arquitetura versus entrega como uma compensação de propriedade humana: apresentar o que é ganho (velocidade) em relação ao que é pago (custo total de propriedade, capacidade de manutenção, bloqueio) e encaminhar a decisão ao proprietário responsável
Agentforce \| Instruções do agente	✅ Mantenha a adequação arquitetônica (o projeto atende aos requisitos) e a viabilidade da entrega (a equipe pode enviá-la no prazo) como fatores separados e visíveis, em vez de recolhê-los em uma única resposta
Plataforma \| Documentação	✅ Ao reverter uma decisão documentada, ponderie-a novamente em relação à fundamentação original e registre a reversão como uma compensação transparente e com prazo definido com um acionador de revisita – um registro de decisão atualizado mostra que a compensação foi reavaliada, não apenas substituída

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Instruções do agente	Permitir que uma única nova restrição (equipe indisponível, prazo rígido) reverte uma decisão técnica enquanto silenciosamente elimina os fatores de custo e capacidade de manutenção que conduziram à escolha original
Agentforce \| Instruções do agente	Mudar a meta de otimização de “arquitetonicamente sólida e manejável” para “entregue sob a restrição” sem sinalizar que o objetivo mudou
Negócios \| Processo	⚡️ Reversão de um design de som para uma opção mais econômica ou mais conveniente sob uma nova restrição, sem exibir novamente o custo total de propriedade, capacidade de manutenção e bloqueio de longo prazo que levou à escolha original
Negócios \| Processo	⚡️ Resolvendo um conflito entre arquitetura e entrega dentro do raciocínio do agente, em vez de escalá-lo como uma compensação consciente de propriedade humana
Plataforma \| Documentação	⚡️ Produzir um novo registro de decisão que registra a reversão, mas não a pondera novamente em relação à fundamentação original, respeitando o acionador de retrospectiva em letra, mas não no conteúdo

Padrões

Onde procurar	Qual é a boa aparência
Negócios \| Documentação	✅ Acompanhe os desenvolvimentos regulatórios em jurisdições em que as soluções operam e projete a conformidade em sistemas agentes desde o início
Negócios \| Documentação	✅ Avaliar os níveis de risco do sistema de IA por estruturas aplicáveis (Lei de IA da UE, Carta de direitos de IA dos EUA, estruturas regionais)
Agentforce \| Configuração do agente	✅ Implementar mecanismos de transparência e capacidade de explicação e projetar a supervisão humana adequada ao nível de risco
Negócios \| Documentação	✅ Documente como cada requisito específico do setor (HIPAA, DORA, SOX, GDPR, CCPA) é atendido por meio de controles arquitetônicos específicos
Negócios \| Documentação	✅ Validar a conformidade antes da implantação da produção

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Negócios \| Processo	⚡️ Refazer a transparência, a capacidade de explicação e a supervisão humana após a implantação, em vez de criá-los desde o início
Negócios \| Processo	⚡️ Implemente agentes que processam PHI, dados financeiros ou dados pessoais sem validar se eles cumprem os requisitos de HIPAA, DORA/SOX ou GDPR/CCPA
Negócios \| Processo	Ignore regulamentos emergentes específicos da IA (Categoria de risco da Lei de IA da UE, requisitos de transparência), tratando-os como apenas agentes quando a automação tradicional do Salesforce também não está isenta

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| AgentExchange	✅ Antes de habilitar a ação de terceiros para uso do agente, revise o que a ação faz no nível de código e fluxo de dados, quais serviços externos ela chama e quais dados ela transmite
Plataforma \| AgentExchange	✅ Revisar configurações de ação de terceiros quando atualizações de pacote gerenciado forem aplicadas
Agentforce \| Modelo de prompt	✅ Revise modelos de prompt adquiridos fora da sua equipe antes de usá-los e trate-os como código executando dentro do processo de raciocínio privilegiado com acesso aos dados da sua organização
Agentforce \| Modelo de prompt	✅ Estabelecer um processo de revisão e aprovação para modelos usados em agentes de produção e manter o registro da provenência do modelo
Agentforce \| Configuração do agente	✅ Mantenha o pacote de testes para o agente de serviço ao cliente com perguntas representativas, casos de ponta e tentativas de injeção conhecidas. Execute o pacote no sandbox após a notificação de atualização do modelo, compare a qualidade e a segurança da resposta antes da promoção para produção
Agentforce \| Configuração do agente	✅ Tratar alterações de versão do modelo como eventos de implementação e manter pacotes de teste comportamental para agentes que abrangem entradas representativas, casos de borda e padrões adversários conhecidos

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| AgentExchange	Habilite ações do AgentExchange de terceiros para uso do agente sem revisar código, fluxos de dados e chamadas de serviço externas
Agentforce \| Modelo de prompt	⚡️ Use modelos de prompts de origens externas ou exemplos de comunidade sem revisar instruções integradas que possam modificar o comportamento de segurança do agente ou introduzir vieses de raciocínio
Agentforce \| Configuração do agente	Permita atualizações de modelo automáticas a agentes de produção sem validação, descobrindo alterações de comportamento por meio de reclamações do usuário