Fairness – Padrões

O pilar de Fairness foca a acessibilidade, a ética de IA, a supervisão humana, a mitigação de viés e o design equitativo para que as soluções atendam todos os usuários de maneira justa. Esses padrões transformam os princípios de design do pilar em práticas concretas revisáveis: o que procurar em uma solução, o que é bom e os antipadrões que a minam.

Esses padrões colocam os princípios de design do pilar de Fairness em prática. Os princípios informam decisões de arquitetura, mas não produzem resultados justos por conta própria – leia-os junto com o pilar de Justiça para obter a orientação completa por trás de cada um.

  • Design para padrões de acessibilidade do Lightning – crie com SLDS e Componentes da Web Lightning padrão testados para WCAG 2.2 AA e valide qualquer componente personalizado por meio de testes de tecnologia assistiva.
  • Reduza e monitore o viés com as ferramentas certas para cada tipo de modelo – valide as saídas do modelo para resultados justos antes da implantação e continuamente na produção, usando a instrumentação adequada a cada tipo de modelo.
  • Leverage Shield Platform Encryption para controles de proteção de dados — Proteja atributos confidenciais e encaminhe registros de Monitoramento de evento para um SIEM para rastreamentos de auditoria prováveis de falsificação.
  • Projete fluxos de trabalho de revisão para previsões de alto interesse – configure processos de aprovação e limites de confiança para que as previsões consequentes recebam uma revisão humana adequada.
  • Aplicar padrões para toda a organização (OWD) e segurança em nível de campo (FLS) para não discriminação – restrinja o acesso por padrão e conceda apenas o que cada papel precisa, evitando a exposição de atributos confidenciais.
  • Habilite a agência do usuário por meio do consentimento de plataforma – rastreie o consentimento de IA granular por caso de uso e permita que os usuários recusem recursos orientados por IA com alternativas humanas quando possível.

Cada categoria combina padrões (o que parece bom) com antipadrões (o que evitar), organizados para que você possa revisar uma área de solução por área. Comece com o resultado de fairness de que você precisa:

  • Para tornar a experiência útil para todos? Use a acessibilidade para conformidade com WCAG, suporte a tecnologia assistiva e design inclusivo.
  • Construindo IA responsável e equitativa? Use a Ética de IA para mitigação de viés, métricas de equidade, supervisão humana, não discriminação e consentimento.
  • Agentes operacionais na produção? Use Padrões agentes para detecção de viés, IA transparente e comportamento equitativo dos agentes.

Padrões para conformidade com o WCAG, suporte a tecnologia assistiva, design inclusivo e experiências de usuário acessíveis.

Padrões de imparcialidade para sistemas agentes, incluindo detecção de viés, IA transparente e comportamento equitativo do agente.

Padrões para desenvolvimento de IA ética, mitigação de viés, métricas de equidade, supervisão humana, não discriminação, consentimento e práticas de IA responsável.