Ética e governança de IA – Padrões

Saiba mais sobre a justiça bem arquitetada → Praxis Ethical AI Governance

Padrões

Onde procurar	Qual é a boa aparência
Einstein \| Dados de treinamento	✅ Os dados do Salesforce CRM são auditados quanto a lacunas de representação demográfica e inconsistências de medição antes de treinar modelos preditivos
Einstein \| Dados de treinamento	✅ Os dados de conversão históricos são analisados pela demografia do cliente para identificar segmentos subrepresentados que exigem excesso de amostragem ou coleta de dados adicionais
Einstein \| Implantação	✅ A avaliação de imparcialidade é tratada como um gateway obrigatório equivalente à revisão de segurança antes que os modelos preditivos cheguem à produção
Einstein \| Implantação	✅ Paridade demográfica, igualdade de oportunidades e índices de impacto diferentes são calculados entre grupos protegidos antes da implementação
Einstein \| Implantação	✅ As métricas de imparcialidade são avaliadas em relação à regra de quatro quintos (limite de 80%) como um acionador de triagem, não uma linha de aprovação/falha legal, para todos os segmentos do cliente antes da implantação do modelo
Einstein Discovery \| Instrumentação	✅ Dados de decisão de modelo preditivo – entradas de previsão, saídas e versões de modelo – são capturados por meio do Einstein Discovery e de instrumentos personalizados que permitem a detecção de viés
CRM Analytics \| Monitoramento	✅ Painéis do CRM Analytics analisam dados de decisão de modelo preditivo capturados para padrões de decisão em grupos demográficos ao longo do tempo
CRM Analytics \| Monitoramento	✅ Os alertas do CRM Analytics são acionados quando as métricas de paridade demográfica ou de igualdade de oportunidades ultrapassam limites aceitáveis
Einstein \| Engenharia de recursos	✅ Todos os recursos do modelo preditivo são analisados quanto à correlação com características protegidas usando métodos estatísticos
Einstein \| Engenharia de recursos	✅ Recursos de proxy (território, CEP, padrões de nome da conta, momento da atividade, tipo de dispositivo) são identificados e avaliados quanto à correlação demográfica
Einstein \| Engenharia de recursos	✅ Recursos de proxy são removidos ou transformados depois de avaliar se o valor preditivo justifica a inclusão apesar dos efeitos de proxy

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Einstein \| Dados de treinamento	A pontuação de lead é treinada com base em 10 anos de dados históricos sem examinar a representação demográfica ou as diferenças de qualidade do serviço
Einstein \| Dados de treinamento	Dados de conversão históricos são usados diretamente sem auditar se diferentes demográficos receberam tratamento diferente
Einstein \| Implantação	Os recursos do Einstein são implementados apenas com base em métricas de precisão gerais sem avaliação de equidade
Einstein \| Implantação	⚡️ Paridade demográfica ou índices de impacto diferentes não são calculados antes da implementação da produção
Einstein \| Camada Trust	⚡️ As interações do Agentforce são implementadas sem habilitar a captura de auditoria da Camada de Trust para detecção de viés
CRM Analytics \| Monitoramento	Padrões de decisão não são rastreados por grupos demográficos ao longo do tempo; o desvio de viés não é detectado
Einstein \| Engenharia de recursos	Características protegidas são removidas dos dados de treinamento presumindo que isso elimine automaticamente o viés
Einstein \| Engenharia de recursos	Padrões de território, CEP e nome da conta são usados como recursos sem análise de correlação de proxy
Einstein \| Engenharia de recursos	Recursos de proxy que servem como proxies demográficos perfeitos são retidos sem avaliar alternativas

Padrões

Onde procurar	Qual é a boa aparência
Agentforce \| Análise	✅ Os painéis do CRM Analytics rastreiam os resultados da decisão do Agentforce por demografia do cliente usando dados de auditoria da Camada de Trust do Einstein
Agentforce \| Análise	✅ Taxas de aprovação, tempos de resposta de serviço, taxas de escalação e pontuações de satisfação são monitorados estratificados por grupo demográfico
Agentforce \| Análise	✅ Os alertas do CRM Analytics são configurados para serem acionados quando métricas de justiça violam limites definidos exigindo investigação
Agentforce \| Monitoramento de evento	✅ Os registros de Monitoramento de evento são roteados para SIEM externo para retenção de longo prazo excedendo os limites de retenção nativos
Agentforce \| Monitoramento de evento	✅ Consultas SIEM identificam concentrações anômalas de resultados negativos para populações de usuários específicas
Agentforce \| Trilha de auditoria de campo	✅ A Trilha de auditoria de campo é ativada em objetos personalizados que armazenam dados de decisão do Agentforce, mantendo o histórico arquivado indefinidamente até ser excluído
Agentforce \| Trilha de auditoria de campo	✅ A Trilha de auditoria de campo dá suporte a auditorias de equidade de longo prazo e investigações regulatórias que exigem reconstrução de decisões históricas de IA
CRM Analytics \| Monitoramento	✅ Painéis do CRM Analytics rastreiam sinais de imparcialidade: mudanças súbitas em distribuições de decisão, picos em casos relacionados a viés, degradação do desempenho para populações específicas
CRM Analytics \| Monitoramento	✅ Alertas são acionados quando as taxas de aprovação de qualquer segmento de cliente caem mais de 15% semanalmente exigindo investigação de imparcialidade

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Agentforce \| Análise	⚡️ Os resultados da decisão não são rastreados pela demografia; o desvio de viés não é detectado conforme as distribuições de dados mudam
Agentforce \| Análise	As métricas de qualidade do serviço não são estratificadas por grupo demográfico; resultados diferentes permanecem invisíveis
Agentforce \| Monitoramento de evento	⚡️ Os registros de Monitoramento de evento dependem de limites de retenção nativos sem SIEM externo para auditorias de imparcialidade de longo prazo
Agentforce \| Monitoramento de evento	Padrões de decisão não são analisados em grandes volumes de interações; concentrações anômalas são perdidas
Agentforce \| Trilha de auditoria de campo	A Trilha de auditoria de campo não está habilitada; decisões históricas de IA não podem ser reconstruídas para investigações regulatórias
CRM Analytics \| Monitoramento	Os sinais de imparcialidade não são monitorados; alterações súbitas nas distribuições de decisão ficam despercebidas

Padrões

Onde procurar	Qual é a boa aparência
Einstein \| Dados de treinamento	✅ Os dados do Salesforce CRM são reequilibrados excedendo a amostragem de segmentos subrepresentados ou subexcluindo a amostragem de segmentos sobrerepresentados antes do treinamento
Data 360 \| Arquitetura	✅ O Data 360 agrega dados em várias organizações garantindo vários conjuntos de treinamento para modelos preditivos
Einstein \| Dados de treinamento	✅ A geração de dados sintéticos complementa segmentos escassos enquanto preserva a privacidade por meio de técnicas de privacidade diferencial
Einstein \| Engenharia de recursos	✅ Recursos de proxy são substituídos por recursos alternativos que fornecem poder preditivo sem correlação demográfica
Einstein \| Engenharia de recursos	✅ Classificação do setor ou tamanho da empresa são usados em vez de território quando o território serve como proxy demográfico
Einstein \| Engenharia de recursos	✅ Atributos firmográficos são usados em vez de padrões de nome da conta quando os nomes estão correlacionados com a demografia
Agentforce \| Pós-processamento	✅ Os limites de decisão são ajustados por segmento demográfico para igualar as taxas de resultados após o treinamento de modelo, exceto que, nos Estados Unidos, o Título VII (Lei de Direitos Civis de 1991) proíbe ajustar pontuações ou cortes por classe protegida para decisões relacionadas ao emprego, e outras jurisdições impõem suas próprias restrições
Agentforce \| Pós-processamento	✅ Limites de confiança diferentes são usados para diferentes contextos que alcançam taxas de aprovação justas enquanto usam o mesmo modelo preditivo subjacente
Agentforce \| Pós-processamento	✅ Os ajustes de limite são documentados com a justificativa de negócios para tratamento diferencial, reconhecendo que, nos Estados Unidos, nenhuma documentação torna o ajuste de pontuação por grupo legal para decisões relacionadas ao emprego sob o título VII
Einstein \| Treinamento de modelo	✅ A agenda de treinamento trimestral ou conduzido por evento é estabelecida capturando padrões de viés emergentes e corrigindo o desvio das linhas de base de fairness originais
Einstein \| Treinamento de modelo	✅ As métricas de imparcialidade são revalidadas em cada versão do modelo antes da implementação de produção, garantindo que o treinamento novamente não tenha introduzido um novo viés

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Einstein \| Dados de treinamento	Dados de treinamento são usados diretamente sem reequilibrar segmentos subrepresentados ou sobrerepresentados
Einstein \| Dados de treinamento	Segmentos demográficos escassos não são complementados com dados sintéticos ou agregação entre organizações
Einstein \| Engenharia de recursos	Recursos de proxy são retidos sem avaliar recursos alternativos, fornecendo poder preditivo sem correlação demográfica
Agentforce \| Pós-processamento	⚡️ Os mesmos limites de confiança são aplicados a todos os segmentos demográficos sem igualar as taxas de resultado
Agentforce \| Pós-processamento	⚡️ O tratamento diferencial por meio de ajustes de limite não tem justificativa comercial documentada ou, nos Estados Unidos, é aplicado a decisões relacionadas ao emprego, em que o Título VII proíbe ajustar pontuações ou cortes por classe protegida independentemente da documentação
Einstein \| Treinamento de modelo	⚡️ Os modelos são implementados e nunca são treinados novamente; padrões de viés e desvio emergentes não são corrigidos
Einstein \| Treinamento de modelo	⚡️ O treinamento novamente ocorre sem revalidar as métricas de fairness; o novo viés é introduzido silenciosamente

Padrões

Onde procurar	Qual é a boa aparência
Einstein Discovery \| UX	✅ Explicações do Einstein Discovery mostrando fatores de previsão aparecem nos componentes do Lightning no ponto de decisão
Einstein Discovery \| UX	✅ As explicações mostram quais variáveis mais influenciaram previsões específicas com impacto direcional para os usuários em pontos de decisão
Einstein Discovery \| UX	✅ As explicações são estratificadas para diferentes públicos: usuários de negócios, usuários técnicos, clientes e auditores
Einstein Discovery \| UX	✅ Usuários de negócios veem “Esse lead pontuou alto porque a receita anual excede US$ 1 milhão e a pontuação de engajamento está no top 10%“
Einstein Discovery \| UX	✅ Usuários técnicos veem cartões de modelo com pesos de recurso, características de dados de treinamento e métricas de validação
Einstein Discovery \| UX	✅ Os clientes veem “Essa recomendação é baseada em suas compras recentes e clientes com preferências semelhantes”
Einstein Discovery \| UX	✅ Os auditores veem a linha de decisão completa do Einstein Discovery e do Gerenciador de modelo com a versão do modelo, os valores de entrada e os fatores que impulsionaram a previsão
Einstein Discovery \| UX	✅ A confiança da previsão é exibida em termos adequados ao usuário como categorias (Alta confiança, Moderar confiança, Requer revisão) com explicações
Einstein Discovery \| UX	✅ Categorias de confiança explicam o que o nível de confiança significa para a confiabilidade da decisão e qual revisão adicional ocorrerá

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Einstein Discovery \| UX	⚡️ As explicações são adaptadas aos sistemas opacos após a implantação, em vez de criar capacidade de explicação na arquitetura desde o início
Einstein Discovery \| UX	⚡️ As explicações de previsão exigem navegação para separar painéis do CRM Analytics em vez de exibir em pontos de decisão
Einstein Discovery \| UX	⚡️ Os usuários veem métricas de desempenho de modelo abstrato em vez de explicações transparentes quando as decisões os afetam
Einstein Discovery \| UX	As explicações não variam de acordo com o público; os cartões de modelo técnico são mostrados a clientes ou usuários de negócios
Einstein Discovery \| UX	As pontuações de previsão brutas (0,73) são exibidas sem explicação do que o número significa ou quais fatores impulsionaram a previsão
Einstein Discovery \| UX	A confiança é mostrada como porcentagens de probabilidade que os usuários interpretam incorretamente sem contexto sobre a confiabilidade ou a revisão

Padrões

Onde procurar	Qual é a boa aparência
Einstein \| Camada Trust	✅ Einstein Trust Layer registra avisos, respostas, origens de fundamentação e sinais Trust automaticamente sem instrumentação personalizada
Einstein \| Camada Trust	✅ As políticas de retenção de dados são projetadas para atender aos requisitos regulatórios que variam de acordo com o setor e a jurisdição (por exemplo, a regra FINRA 4511(b) define um período de retenção padrão de seis anos e a HIPAA exige um mínimo de seis anos para a documentação de conformidade)
CRM Analytics \| Monitoramento	✅ Os painéis do CRM Analytics analisam dados de decisão de modelo preditivo capturados para padrões de decisão, métricas de imparcialidade e desempenho do modelo ao longo do tempo
CRM Analytics \| Monitoramento	✅ Os lenses do CRM Analytics mostram distribuições de previsão por nível de confiança, segmento demográfico e tipo de resultado
CRM Analytics \| Monitoramento	✅ Histórias do Einstein Discovery identificam padrões anômalos que exigem investigação
Plataforma \| Trilha de auditoria de campo	✅ A Trilha de auditoria de campo está habilitada em objetos personalizados que armazenam dados de decisão de IA, mantendo o histórico arquivado indefinidamente até serem excluídos para registros de consentimento, substituir decisões e reportar vieses
Plataforma \| Monitoramento de evento	✅ Monitoramento de evento captura transcrições de conversa do Agentforce, invocações de ferramentas e pontos de decisão
Plataforma \| Monitoramento de evento	✅ Os registros de Monitoramento de evento são roteados para SIEM externo por meio de Eventos de plataforma para armazenamento com evidência de adulteração
Plataforma \| Monitoramento de evento	✅ Consultas SIEM detectam padrões de viés em grandes volumes de interações do Agentforce

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Einstein \| Camada Trust	⚡️ As interações do Agentforce são implementadas sem habilitar a captura de auditoria da Camada de Trust nem definir políticas de retenção
Einstein \| Camada Trust	⚡️ As políticas de retenção não consideram requisitos regulatórios específicos do setor (Serviços financeiros, cuidados de saúde)
CRM Analytics \| Monitoramento	Dados de decisão de modelo preditivo capturados não são analisados; padrões de decisão e métricas de imparcialidade não são rastreados ao longo do tempo
Plataforma \| Trilha de auditoria de campo	⚡️ O histórico de campo padrão de 18 meses é baseado em trilhas de auditoria de decisão de IA sem considerar requisitos de retenção regulatória
Plataforma \| Trilha de auditoria de campo	A Trilha de auditoria de campo não está habilitada em objetos com registros de consentimento, decisões de substituição e relatórios de viés
Plataforma \| Monitoramento de evento	⚡️ Os registros de Monitoramento de evento dependem de limites de retenção nativos sem SIEM externo para armazenamento de longo prazo com evidência de adulteração
Plataforma \| Monitoramento de evento	⚡️ Os registros de interação do Agentforce não são analisados quanto a padrões de viés em grandes volumes

Padrões

Onde procurar	Qual é a boa aparência
Governança \| Lei de IA da UE	✅ Os sistemas de IA de alto risco são documentados com documentação de transparência, documentação técnica, recursos de supervisão humana e métricas de precisão/justiça
Governança \| Lei de IA da UE	✅ Trilhas de auditoria da Camada de Trust do Einstein e cartões de modelo do Discovery fornecem as bases para os requisitos de transparência da Lei de IA da UE
Governança \| Lei de IA da UE	✅ Demografia de dados de treinamento do modelo, abordagens de validação e limitações conhecidas são documentadas em registros de decisão de arquitetura
Governança \| GDPR	✅ Os sistemas geram explicações coerentes para qualquer decisão histórica sob demanda dentro dos períodos de solicitação de acesso do sujeito dos dados (que variam conforme a jurisdição, entre 15 e 45 dias)
Governança \| GDPR	✅ Os dados de decisão do modelo preditivo capturados e os fatores de explicação do Einstein Discovery são armazenados com retenção suficiente para permitir a reconstrução da explicação para o direito de explicação do GDPR
Governança \| Responsabilidade algorítmica	✅ As avaliações de impacto algorítmico são realizadas antes de implementar a IA consequente como conformidade proativa, em vez de resposta reativa
Governança \| Responsabilidade algorítmica	✅ Dados de decisão de modelo preditivo capturados e painéis de monitoramento de equidade do CRM Analytics fornecem bases de dados para relatórios de responsabilidade algorítmica

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Governança \| Lei de IA da UE	Os sistemas de IA de alto risco são implementados sem documentação de transparência, recursos de supervisão humana ou métricas de imparcialidade
Governança \| Lei de IA da UE	⚡️ A demografia de dados de treinamento do modelo e as limitações conhecidas não são documentadas nos registros de decisão de arquitetura
Governança \| GDPR	⚡️ Os sistemas não podem gerar explicações coerentes para decisões históricas dentro dos períodos de solicitação de acesso do sujeito dos dados do GDPR
Governança \| GDPR	A retenção de dados de decisão do modelo preditivo capturada é insuficiente para dar suporte à reconstrução de explicações para decisões anteriores
Governança \| Responsabilidade algorítmica	As avaliações de impacto algorítmico não são realizadas antes da implantação de IA consequente; a conformidade é reativa após a consulta regulatória

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| OWD	✅ Os padrões privados para toda a organização são estabelecidos para objetos que contêm dados confidenciais do cliente com acesso concedido por meio de hierarquia de papéis e regras de compartilhamento
Plataforma \| OWD	✅ OWDs privados com concessões de compartilhamento explícitas criam padrões de acesso auditáveis compatíveis com a conformidade de não discriminação
Plataforma \| Segurança em nível de campo	✅ Campos confidenciais contendo características protegidas (etnia, religião, status de deficiência) são ocultados por meio do FLS de usuários sem necessidade comercial legítima
Plataforma \| Segurança em nível de campo	✅ O acesso de leitura a campos confidenciais é removido por meio do FLS para a maioria dos perfis; o acesso é concedido pelo menos por meio de conjuntos de permissões com justificativa documentada
Plataforma \| Atribuição e roteamento	✅ Regras de atribuição, filas e roteamento do Omni-Channel distribuem trabalho de maneira uniforme entre territórios, equipes e agentes de serviço com base em critérios objetivos
Plataforma \| Regras de compartilhamento	✅ Regras de compartilhamento automáticas são baseadas em critérios objetivos (industria, geografia, linha de produto) em vez de critérios de discrição subjetiva do gerente
Plataforma \| Conjuntos de permissões	✅ O acesso temporário a dados confidenciais é concedido por meio de conjuntos de permissões com expiração documentada em vez de modificações de perfil permanentes
Plataforma \| Conjuntos de permissões	✅ Fluxo agendado revoga conjuntos de permissões automaticamente após períodos definidos quando o acesso a dados demográficos é necessário para projetos específicos

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| OWD	⚡️ OWDs de leitura/gravação pública tornam a restrição de acesso mais tarde disruptiva (aprimorar o padrão aciona um recálculo de compartilhamento); padrões de acesso auditáveis não existem
Plataforma \| OWD	O OWD da conta é definido como Leitura/Gravação pública com campos demográficos não protegidos visíveis a todos os usuários habilitando viés subjetivo
Plataforma \| Segurança em nível de campo	Campos demográficos confidenciais são visíveis a todos os perfis sem restrições de FLS; o uso de dados discriminatórios não é impedido
Plataforma \| Regras de compartilhamento	⚡️ O compartilhamento manual concentra oportunidades de alto valor com grupos de usuários específicos sem justificativa de negócios documentada
Plataforma \| Regras de compartilhamento	⚡️ Regras de compartilhamento dependem de critérios subjetivos do gerente, em vez de critérios objetivos que permitem viés
Plataforma \| Conjuntos de permissões	⚡️ Os perfis são modificados de modo permanente, afetando todos os usuários em vez de conceder acesso temporário por meio de conjuntos de permissões
Plataforma \| Conjuntos de permissões	Conjuntos de permissões que concedem acesso a dados confidenciais não expiram automaticamente; o acesso permanece indefinido após a conclusão do projeto

Padrões

Onde procurar	Qual é a boa aparência
Shield \| Monitoramento de evento	✅ O Monitoramento de evento Shield rastreia o acesso a campos que contêm características protegidas ou atributos confidenciais
Shield \| Monitoramento de evento	✅ O Monitoramento de evento consulta quem acessa os campos demográficos, quando e em que contexto detectar padrões anômalos
Shield \| Monitoramento de evento	✅ Padrões de acesso anômalos (picos súbitos, acesso por usuários inesperados) acionam investigação para possíveis abusos
Plataforma \| Relatórios	✅ Relatórios analisam como as regras de compartilhamento distribuem registros entre usuários, equipes e territórios calculando estatísticas de distribuição por demografia do cliente
Plataforma \| Relatórios	✅ Os relatórios identificam concentrações em que grupos de usuários específicos recebem acesso desproporcionado a registros valiosos sem justificativa documentada
Plataforma \| Trilha de auditoria de configuração	✅ A Trilha de auditoria de configuração é revisada quanto a alterações nas configurações de OWD, regras de compartilhamento, configurações de FLS e conjuntos de permissões detectando alterações não autorizadas
Plataforma \| Segurança da transação	✅ As políticas de segurança da transação atuam em eventos de Monitoramento de evento em tempo real de alto risco (atividade de API anômala, logins suspeitos, grandes exportações de dados confidenciais); as alterações de FLS e compartilhamento dependem da Trilha de auditoria de configuração e aprovações de gerenciamento de alterações documentadas

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Shield \| Monitoramento de evento	⚡️ O acesso a campos demográficos confidenciais não é monitorado; possíveis abusos não são detectados
Shield \| Monitoramento de evento	Padrões de acesso anômalos (piques, usuários inesperados) não são rastreados nem investigados
Plataforma \| Relatórios	As distribuições de regra de compartilhamento não são analisadas; o acesso desproporcionado a registros valiosos permanece invisível
Plataforma \| Relatórios	Concentrações de contas de alto valor com grupos de usuários específicos não têm justificativa de negócios documentada
Plataforma \| Trilha de auditoria de configuração	A Trilha de auditoria de configuração não foi revisada; alterações não autorizadas nos controles de acesso a dados que permitem acesso a dados confidenciais não são detectadas
Plataforma \| Segurança da transação	Eventos de Monitoramento de evento em tempo real de alto risco (atividade de API anômala, grandes exportações de dados confidenciais) não são atendidos com as políticas de segurança da transação

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| Objetos personalizados	✅ O consentimento granular por caso de uso de IA é habilitado por meio de propósito de rastreamento de objeto de consentimento personalizado, data/método de concessão, data de retirada e ID de usuário/contato relacionado
Plataforma \| Objetos personalizados	✅ Consentimento dos clientes para recomendações de produto do Einstein enquanto recusa decisões de crédito conduzidas por IA por meio de registros de consentimento separados por caso de uso
Plataforma \| Trilha de auditoria de campo	✅ A Trilha de auditoria de campo está habilitada no objeto Consentimento para cumprir requisitos regulatórios de retenção de longo prazo
Data 360 \| Consentimento	✅ O gerenciamento de consentimento do Data 360 é usado para recursos de Personalização do Einstein, ingerindo e armazenando preferências de consentimento por meio de conectores mapeados para o Modelo de dados de privacidade e usando-os como critérios de filtro na segmentação e na ativação
Data 360 \| Consentimento	✅ Categorias de consentimento são mapeadas para casos de uso de IA específicos que permitem que os usuários recusem a personalização enquanto mantêm o serviço principal
Marketing Cloud \| Consentimento	✅ Consentimento do Marketing Cloud integra-se com o Einstein Messaging Insights e agentes de marketing Agentforce respeitando o status da assinatura
Marketing Cloud \| Consentimento	✅ O status do consentimento do Marketing Cloud é consultado antes que o Agentforce inicie o esforço de contato automatizado para evitar contato indesejado com usuários que optaram por sair

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| Objetos personalizados	⚡️ O consentimento de IA é rastreado em planilhas ou depende do login como consentimento geral implícito sem registros explícitos
Plataforma \| Objetos personalizados	⚡️ O consentimento de IA em branco é usado em vez do consentimento granular por caso de uso; os usuários não podem recusar recursos de IA específicos
Plataforma \| Trilha de auditoria de campo	A Trilha de auditoria de campo não está habilitada no objeto Consentimento; a retenção de longo prazo cumpre os requisitos regulatórios não é mantida
Data 360 \| Consentimento	O consentimento do Data 360 não é usado para Personalização do Einstein; as categorias de consentimento não são mapeadas para casos de uso específicos
Marketing Cloud \| Consentimento	O consentimento do Marketing Cloud não é integrado ao Einstein ou Agentforce; o status da assinatura não é respeitado no alcance automatizado

Padrões

Onde procurar	Qual é a boa aparência
Experience Cloud \| Configurações de perfil	✅ Os usuários recusam interações do Agentforce por meio de controles de preferências acessíveis nas configurações de perfil do Experience Cloud ou Minhas configurações com descrições claras
Plataforma \| Registros de usuário/contato	✅ As preferências de IA são armazenadas nos registros de Usuário ou Contato ativando a consulta na lógica de decisão de Fluxo e Agentforce
Agentforce \| Omni-Channel	✅ Usuários que optam por sair do Agentforce são encaminhados para agentes humanos por meio do Omni-Channel em vez de receber um serviço degradado
Agentforce \| Fluxo	✅ O fluxo verifica o consentimento e os campos de preferência antes do engajamento do Agentforce; se o usuário optou por sair, o registro de trabalho é criado e roteado para a fila humana
Agentforce \| Omni-Channel	✅ A equipe da fila humana fornece tempos de espera comparáveis ao serviço automatizado para usuários que recusaram
Plataforma \| Registros de usuário/contato	✅ As preferências de IA são armazenadas em registros de Usuário ou Contato garantindo a consistência entre canais (web, celular, telefone, email)
Plataforma \| Fluxo	✅ A preferência é consultada de modo consistente em todos os fluxos de interação, impedindo que os usuários precisem declarar preferências repetidamente em cada canal

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Experience Cloud \| Configurações de perfil	O cancelamento está disponível apenas por email para a equipe de suporte; controles de preferência acessíveis não existem
Plataforma \| Registros de usuário/contato	As preferências de IA não são armazenadas nos registros de Usuário ou Contato; as preferências não podem ser consultadas na lógica de Fluxo ou Agentforce
Agentforce \| Omni-Channel	⚡️ Usuários que recusam receberem serviço degradado como pressão implícita para aceitar a IA em vez de rotear para agentes humanos
Agentforce \| Fluxo	O Fluxo não verifica os campos de consentimento ou preferência antes do engajamento do Agentforce; as preferências de recusa são ignoradas
Plataforma \| Registros de usuário/contato	As preferências não são consistentes entre canais; os usuários devem declarar novamente o cancelamento na Web, dispositivo móvel, telefone e email separadamente

Padrões

Onde procurar	Qual é a boa aparência
Governança \| Documentação	✅ Cada modelo preditivo de produção é documentado com dados demográficos de treinamento, métricas de equidade, casos de uso pretendidos, estratégias de mitigação de viés e abordagens de monitoramento
Governança \| Documentação	✅ A documentação do modelo inclui a abordagem de monitoramento de equidade, limites de alerta, requisitos de supervisão humana, agenda de revisão e considerações regulatórias
Plataforma \| Objetos personalizados	✅ A documentação do modelo é armazenada no Salesforce usando o objeto Modelo personalizado ou Salesforce Files anexado a Projetos habilitando a capacidade de pesquisa e controle de versão
Governança \| Gates de implementação	✅ Os portões de equidade pré-implementação exigem auditoria de dados de treinamento, cálculo de métricas de equidade, avaliação de impacto, design de supervisão humana e análise de transparência antes da produção
Governança \| Gates de implementação	✅ Lacunas de representação de dados de treinamento são analisadas e documentadas como gateway de implementação obrigatório
Governança \| Gates de implementação	✅ Paridade demográfica, oportunidades iguais e impacto distinto são calculados para cumprir limites como gate obligatório
Governança \| Gates de implementação	✅ A avaliação de impacto avalia possíveis danos em populações afetadas como gateway obrigatório
Governança \| Gates de implementação	✅ O design de supervisão humana, incluindo padrões de escalação, fluxos de trabalho de aprovação e mecanismos de substituição, é projetado e testado como um gate obligatório
Governança \| Gates de implementação	✅ Os recursos de explicação são validados para todos os tipos de decisão como gate obligatório
Governança \| Gates de implementação	✅ Os portões de imparcialidade são tratados com a mesma rigor que os portões de segurança com autoridade para bloquear implantações com falha em qualquer portão

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Governança \| Documentação	Os recursos do Einstein são implementados sem documentar dados de treinamento, métricas de equidade, mitigação de viés ou abordagens de monitoramento
Governança \| Documentação	A documentação do modelo não inclui a abordagem de monitoramento de equidade, requisitos de supervisão humana ou considerações regulatórias
Plataforma \| Objetos personalizados	A documentação do modelo é armazenada em planilhas ou wikis sem capacidade de pesquisa ou controle de versão
Governança \| Gates de implementação	Os recursos do Einstein passam à produção sem portões de equidade; a implantação é baseada apenas em métricas de precisão gerais
Governança \| Gates de implementação	⚡️ Auditoria de dados de treinamento, cálculo de métricas de equidade ou avaliação de impacto são ignorados antes da implementação da produção
Governança \| Gates de implementação	⚡️ Design de supervisão humana, revisão de transparência ou validação de explicação não são realizados antes da produção
Governança \| Gates de implementação	⚡️ Os portões de imparcialidade são somente consultoria sem autorização para bloquear implantações; os modelos avançam apesar de critérios de imparcialidade falharem

Padrões

Onde procurar	Qual é a boa aparência
Governança \| Conselho de revisão	✅ O painel de revisão inclui especialistas técnicos (arquitetos, cientistas de dados), partes interessadas de negócios, consultores jurídicos, especialistas em privacidade e representantes de comunidades afetadas
Governança \| Conselho de revisão	✅ Diversas perspectivas detectam problemas de equidade que grupos homogêneos ignoram durante a revisão de ética
Governança \| Revisar acionadores	✅ Os acionadores de revisão são definidos: decisões que afetam direitos de emprego/crédito/alojamento/saúde/legal, sistemas que afetam >10 mil usuários por ano, novos casos de uso, risco significativo de dano
Governança \| Revisar acionadores	✅ Os aplicativos de IA que usam dados pessoais confidenciais (saúde, financeiro, demográfico) exigem revisão de ética antes da implementação
Governança \| Autoridade de revisão	✅ O comitê de análise de ética tem autoridade para exigir alterações, impor condições de monitoramento ou bloquear implantações com falha nos padrões éticos
Plataforma \| Objetos personalizados	✅ Todas as revisões são documentadas no nome do aplicativo de rastreamento de objeto personalizado do Salesforce, na data da revisão, nas preocupações levantadas, nos requisitos de mitigação e nas condições de aprovação

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Governança \| Conselho de revisão	⚡️ O painel de revisão não tem diversidade (apenas especialistas técnicos); grupos homogêneos não têm problemas de equidade que afetam diferentes populações
Governança \| Conselho de revisão	⚡️ Representantes de comunidades afetadas não são incluídos; resultados de pontos cegos em considerações de imparcialidade
Governança \| Revisar acionadores	Acionadores de revisão não são definidos; aplicativos de IA de alto risco prosseguem sem revisão de ética antes da implementação
Governança \| Autoridade de revisão	⚡️ A revisão de ética é somente consultoria sem imposição; as implantações prosseguem apesar da falha nos padrões éticos (teatro de responsabilidade)
Plataforma \| Objetos personalizados	As revisões não são documentadas sistematicamente; decisões de revisão históricas, preocupações e mitigações não são rastreadas

Padrões

Onde procurar	Qual é a boa aparência
CRM Analytics \| Monitoramento	✅ Painéis do CRM Analytics rastreiam métricas de fairness do Einstein e do Agentforce de dados de decisão capturados e dados de auditoria da Camada de Trust em um ritmo agendado
CRM Analytics \| Monitoramento	✅ Paridade demográfica, oportunidades iguais, índices de impacto diferentes e métricas de qualidade do serviço são monitoradas pelo segmento do cliente
CRM Analytics \| Monitoramento	✅ Os alertas do CRM Analytics são configurados para serem acionados quando métricas de justiça violam limites definidos exigindo investigação
CRM Analytics \| Monitoramento	✅ Painéis do CRM Analytics rastreiam sinais de imparcialidade: mudanças súbitas em distribuições de decisão, picos em casos relacionados a viés, degradação do desempenho para populações específicas
CRM Analytics \| Monitoramento	✅ Acionam alertas para a Pontuação de oportunidade do Einstein quando as taxas de aprovação de qualquer segmento caem mais de 15% semanalmente, exigindo investigação de equidade
Governança \| Auditorias agendadas	✅ Auditorias de imparcialidade abrangentes são realizadas trimestralmente para IA de alta participação (crédito, emprego, saúde) ou semestral para sistemas de baixa participação
Governança \| Auditorias agendadas	✅ Auditorias examinam métricas de fairness atuais, revisam padrões de substituição, analisam relatórios de feedback e viés do usuário e validam os controles de governança que permanecem efetivos
Governança \| Resposta a incidentes	✅ Processos de resposta a incidentes claros são documentados no Salesforce Knowledge para responder quando viés é detectado
Governança \| Resposta a incidentes	✅ Avaliação de gravidade imediata consultando dados de decisão de modelo preditivo no CRM Analytics; um viés grave suspende a tomada de decisão automatizada aguardando a investigação
Governança \| Resposta a incidentes	✅ A mitigação temporária implementa maior supervisão humana por meio de limites de confiança ajustados, desabilitação de recurso ou suspensão completa do agente
Governança \| Resposta a incidentes	✅ A análise de causa raiz identifica como o viés foi inserido ou evoluído; dados de treinamento, versões do modelo e alterações de configuração são analisados por meio da Trilha de auditoria de campo
Governança \| Resposta a incidentes	✅ A remediação permanente implementa a correção de dados, o novo treinamento de modelo ou as alterações de processo com a comunicação adequada aos usuários afetados
Governança \| Resposta a incidentes	✅ Medidas de prevenção são documentadas em manuais que impedem a recorrência de incidentes de viés

Anti-Padrões

Onde procurar	Qual é a aparência ruim
CRM Analytics \| Monitoramento	As métricas de imparcialidade não são rastreadas em nenhum ritmo agendado de dados de decisão capturados ou dados de auditoria da Camada de Trust; o desvio de viés não é detectado conforme as distribuições de dados mudam
CRM Analytics \| Monitoramento	Alertas do CRM Analytics não são configurados; violações de métrica de justiça que exigem investigação não são acionadas
CRM Analytics \| Monitoramento	Os sinais de imparcialidade não são monitorados; alterações súbitas nas distribuições de decisão não são detectadas
Governança \| Auditorias agendadas	⚡️ Auditorias de imparcialidade abrangentes não são realizadas em nenhuma agenda; os controles de governança se desviam e tornam-se ineficazes
Governança \| Auditorias agendadas	Padrões de substituição, feedback do usuário e relatórios de viés não são analisados sistematicamente durante auditorias
Governança \| Resposta a incidentes	⚡️ Processos de resposta a incidentes claros não são documentados; a detecção de viés leva a respostas ad hoc sem abordagem sistemática
Governança \| Resposta a incidentes	⚡️ A mitigação temporária ou a remediação permanente não são implementadas sistematicamente; o viés persiste afetando os usuários
Governança \| Resposta a incidentes	A análise de causa raiz não é realizada; como o viés inserido ou evoluído permanece desconhecido
Governança \| Resposta a incidentes	⚡️ As medidas de prevenção não são documentadas; a recorrência não é evitada

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| Campos obrigatórios	✅ Cada campo obrigatório contém uma justificativa comercial documentada para o motivo pelo qual os dados são obrigatórios em vez de opcionais; os campos sem os quais um processo pode funcionar são tornados opcionais com o tratamento a jusante para valores ausentes
Plataforma \| Campos obrigatórios	✅ Email é opcional com métodos de comunicação alternativos (SMS, telefone, correio postal) para que usuários sem email pessoal ou confiável na Internet não sejam excluídos da criação da conta
Plataforma \| Campos de nome	✅ A arquitetura de nomes usa um único campo de nome completo ou uma estrutura flexível de várias partes que acomoda monônimos, sistemas de apelidos e vários nomes de família ou dados sem presumir ordem ou herança
Plataforma \| Campos de nome	✅ Campos de nome são testados com diversos nomes internacionais, aceitando nomes de palavra única, nomes longos, diácritos, apostrofes, hifens e scripts não latinos (árabe, chinês, cirílico, devanagari)
Plataforma \| Validação de endereço	✅ A validação de endereço permitida aceita entrada em forma livre quando a validação estruturada falha e armazena endereços conforme os usuários os inserem, em vez de forçar correções inválidas
Plataforma \| Validação de endereço	✅ A verificação de endereço é integrada em processos de cumprimento em que a precisão importa operacionalmente em vez de bloquear a captura de dados antecipadamente
Plataforma \| Preferências de comunicação	✅ Os métodos de comunicação preferenciais são armazenados em registros de Contato e respeitados de maneira consistente em todos os sistemas de saída, oferecendo alternativas de omnichannel em vez de pressuposições de canal único
Objeto personalizado \| Dados demográficos	✅ Dados demográficos voluntários são coletados por meio de uma pesquisa separada com uma opção “Preferir não responder”, armazenados em um objeto personalizado com OWD privado, restritos pelo FLS e usados apenas para análise de equidade agregada
Shield \| Monitoramento de evento	✅ O Monitoramento de evento Shield registra eventos de acesso (exportações de relatório, consultas de objeto da API) em dados demográficos para padrões de acesso de auditoria
Plataforma \| Aprimoramento de terceiros	✅ Fornecedores de aprimoramento de terceiros são auditados quanto a testes de fairness, cobertura demográfica e precisão, metodologia de inferência e restrições de uso de dados contratuais antes da implementação

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| Campos obrigatórios	Email é necessário para a criação de conta sem alternativa, e a validação de telefone ou endereço rejeita formatos fora dos EUA, caixas de PO e rotas rurais, excluindo usuários que não podem fornecer os dados
Plataforma \| Campos obrigatórios	Os campos são marcados como obrigatórios sem documentar se o processo pode funcionar sem os dados, criando preenchimentos invisíveis de registros incompletos rejeitados
Plataforma \| Campos de nome	Campos de nome impõem convenções Western First/Last e rejeitam monônimos, diácritos ou scripts não latinos, sujeitando os usuários à rejeição do sistema com base na identidade cultural
Plataforma \| Validação de endereço	A validação de endereço exige formato postal dos EUA e não reconhece endereços internacionais, caixas de PO, endereços militares (APO/FPO) ou endereços tribais, bloqueando a criação de conta e a entrega de serviços
Plataforma \| Preferências de comunicação	Presume-se que um só canal de comunicação seja universal (somente email ou somente telefone), excluindo usuários sem acesso à Internet, sem acesso telefônico ou com deficiência auditiva ou surdo
Objeto personalizado \| Dados demográficos	Dados demográficos são inferidos de nomes ou locais sem o Knowledge do usuário, armazenados em campos de contato padrão visíveis a todos os usuários e usados na pontuação de leads ou previsões sem divulgação
Plataforma \| Aprimoramento de terceiros	Dados de terceiros são anexados sem auditar práticas de fairness do fornecedor ou cobertura demográfica, importando viés introduzido pelo fornecedor para decisões da organização

Padrões

Onde procurar	Qual é a boa aparência
Plataforma \| Atribuição e roteamento	✅ As regras de atribuição e roteamento usam critérios de objetivo (linhas de produto, SLAs, requisitos de idioma) e as distribuições de atribuição são auditadas trimestralmente, estratificadas por demografia do cliente, para garantir que nenhum padrão de concentração apareça
Plataforma \| Omni-Channel	✅ Tempo médio de atendimento, resolução no primeiro contato e satisfação do cliente são monitorados em todos os caminhos de roteamento para detectar se os segmentos do cliente recebem sistematicamente agentes menos experientes
Plataforma \| Fluxo	✅ Fluxos que tomam decisões consequentes são revisados quanto a critérios correlacionados com características protegidas (tendência da conta, preferência de canal, histórico de compras, horário comercial) e sua lógica de decisão é documentada nos registros de decisão da arquitetura
Plataforma \| Fluxo	✅ Fluxos com alta participação que afetam o acesso ao emprego, ao crédito ou ao serviço estão sujeitos ao mesmo processo de análise de ética que os sistemas de IA
Plataforma \| Regras de validação	✅ As regras de validação são testadas com dados diversos (endereços internacionais, nomes não ocidentais, formatos de telefone alternativos) e expandidas sempre que rejeitam dados legítimos; Campos de nome aceitam Unicode e todos os scripts
Plataforma \| Design de território	✅ A demografia do cliente é mapeada entre os limites de território propostos antes de os designs serem finalizados; quando ocorrem concentrações, a alocação de recursos é avaliada quanto à equidade e a justificativa dos negócios é documentada e monitorada
Plataforma \| Auditoria	✅ A lógica de automação (regras de negócios, critérios de atribuição, decisões de fluxo) é documentada no Salesforce Knowledge ou ADRs, e os resultados são auditados trimestralmente estratificados por demografia – distribuições de atribuição, taxas de aprovação de fluxo, taxas de rejeição de validação e alocação de recursos de território

Anti-Padrões

Onde procurar	Qual é a aparência ruim
Plataforma \| Atribuição e roteamento	⚡️ Regras de atribuição priorizam leads de determinados códigos postais para “melhor desempenho” com base em taxas de ganho históricas sem examinar se esse sucesso reflete habilidade ou vantagem demográfica
Plataforma \| Omni-Channel	As métricas de qualidade do roteamento não são monitoradas entre segmentos do cliente, portanto, as discrepâncias na experiência ou resolução do agente não são detectadas
Plataforma \| Fluxo	⚡️ Os critérios de decisão de fluxo se correlacionam com características protegidas (continuação, canal, volume de compras, fuso horário) e são tratados como objetivo porque a lógica determinística parece neutra
Plataforma \| Fluxo	Fluxos de alta participação tomam decisões consequentes sem revisão de ética, documentação de ADR ou tratamento para usuários fora do perfil de cliente típico
Plataforma \| Regras de validação	A validação de nome é restrita a A-Z e rejeita diácritos ou scripts não latinos, e a validação de endereço requer formato postal dos EUA – dados legítimos são rejeitados e os usuários abandonam solicitações não relatadas
Plataforma \| Design de território	⚡️ Os limites de território seguem a geografia correlacionada com a demografia, com diferentes remunerações ou pessoal entre territórios e sem análise da concentração demográfica
Plataforma \| Auditoria	A lógica de automação é não documentada e os resultados nunca são auditados, assim, padrões discriminatórios em atribuição, aprovações, validação ou alocação de território permanecem invisíveis