AI-rättvisa och biasdetektering - Agentmönster

Få reda på mer om Välarkitekturerad rättvisa → Agentic Enterprise Fairness

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Testa agenter systematiskt för demografisk bias med hjälp av olika personas som representerar skyddade grupper; skapa identiska begäranden som endast varierar demografiska signaler som namn, platser eller kommunikationsstilar
Data 360 \| Datasegment	✅ Innan du använder Salesforce-data för agentutbildning eller RAG-jordning, granska demografisk representation och identifiera underrepresenterade grupper
Data 360 \| Knowledge Base	✅ Granska Knowledge baser och hämtningskällor för demografisk balans; säkerställa dokumentationskvalitet, fullständighet och precision är jämförbara över alla kundsegment
Agentforce \| Agentövervakning	✅ Övervaka agentinteraktioner över demografiska grupper för beteendekonsekvens; analysera svarslängd, detaljnivå, artighetsmarkörer och lösningskvalitet stratifierad efter användaregenskaper
Agentforce \| Agentövervakning	✅ Upptäck feedback loopar genom att övervaka beslutsfördelning ändringar över tid; bryta loopar genom mänsklig granskning av edge kundcase och periodisk ombalansering
Data 360 \| Utbildningsdata	✅ Översampla underrepresenterade demografiska grupper i utbildning av data för att säkerställa balanserad representation; syntetisera ytterligare data med tekniker som SMOTE när verkliga data är otillräckliga
Agentforce \| Uppmaningsmall	✅ Begränsa agentbeteende genom systemuppmaningar: “Behandla alla kunders demografi med samma professionalism och detaljer. Ge förklaringar av jämförbar längd och kvalitet oavsett kundens kommunikationsstil eller bakgrund.”
Einstein \| Förutsägelsemodell	✅ Beräkna korrelationskoefficienter mellan alla modellfunktioner och skyddade egenskaper; utvärdera om legitima prediktiva värden motiverar inkludering av högt korrelerade funktioner
Einstein \| Förutsägelsemodell	✅ Identifiera och ta bort proxyfunktioner som korrelerar med skyddade egenskaper (postnummerproxy för ras, namnmönsterproxy för kön / etnicitet, kommunikationstidsproxy för religion / vård, enhetstypproxy för inkomst, områdestilldelningsproxy för demografisk sammansättning)

Antimönster

Var man ska leta	Hur dåligt ser ut
Data 360 \| Utbildningsdata	⚠️ Använda historiska CRM-data för agentutbildning utan att granska demografisk representation, vilket gör att algoritmisk bias kan förvärra mänsklig bias
Agentforce \| Agentkonfiguration	⚠️ Distribuera agenter utan systematiska demografiska biastester över olika personas som representerar skyddade grupper
Data 360 \| Knowledge Base	⚠️ Tillhandahålla detaljerade Knowledge för företagskunder men endast generiska svar för småföretagskunder, vilket upprätthåller skillnader i servicekvalitet
Agentforce \| Agentövervakning	⚠️ Låt agenter anpassa beteendet baserat på konversationssignaler som korrelerar med skyddade egenskaper (kommunikationsstil, språkkomplexitet, timingmönster) utan att övervaka
Einstein \| Förutsägelsemodell	⚠️ Inkludera proxyfunktioner (postnummer, namnmönster, enhetstyp) i efterföljande beslutsmodeller utan att utvärdera korrelationen med skyddade egenskaper
Agentforce \| Agentkonfiguration	⚠️ Tillåta feedbackloopar där agentbeslut skapar den skillnad som motiverar framtida negativa beslut (t.ex. att dirigera agenter för att minska säljprojekt till vissa områden, skapa mindre framgångsdata, ytterligare minska förutsagd framgång)
Data 360 \| Datasegment	⚠️ Referenser till majoritetskultur i innehållsexempel som alienerar underrepresenterade användare används som standard

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentövervakning	✅ Logga fullständiga indata och utdata för varje agent i en orkestreringskedja så att biasering i ett slutgiltigt resultat kan spåras bakåt till fasen som introducerade det och där förstärkning inträffade
Plattform \| CRM Analytics	✅ Bygg instrumentpaneler som visar beslutsfördelningar vid varje orkestreringssteg uppdelat efter demografi för att identifiera var i kedjan skillnader uppstår eller expandera
Plattform \| CRM Analytics	✅ Beräkna demografisk paritet, lika möjligheter och disparat påverkan i varje steg i kedjan, inte bara på slutresultatet; fasvisa mått fångar kompoundering som ser acceptabel ut i något enskilt steg men försämras över hela kedjan
Agentforce \| Modellkonfiguration	✅ Maximera mångfald mellan agenter i samförståndsmönster för att minska korrelerade fel: olika grundmodeller där det är möjligt (till exempel genom Bring Your Own LLM-konfigurationer), olika hämtningskällor, olika uppmaningsmetoder och olika förtroendetröskelkalibreringar
Agentforce \| Agentkonfiguration	✅ Infoga mänsklig granskning vid orkestreringsinflexionspunkter där en fas avsevärt begränsar alternativen längre ner, även om den enskilda agentens förtroende är högt, eftersom orkestrering skapar nya effekter som förtroendebetyg per agent inte samlar in
Agentforce \| Agentkonfiguration	✅ Konfigurera orkestreringsbrytare som stoppas och flyttas om till en människa när en agents förtroende faller under tröskeln, utdatadistributionen ändras avsevärt mellan faser, kedjan stöter på data som inte representeras i utbildning eller validering, eller användaren ifrågasätter ett mellanliggande beslut

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentövervakning	⚠️ Köra orkestreringskedjor utan att logga varje agents indata och utdata, vilket gör det omöjligt att spåra vilket steg som introducerade biasering när ett diskriminerande resultat visas
Agentforce \| Modellkonfiguration	⚠️ Behandla konsensus mellan flera agenter som korrigering av biasering när alla agenter delar samma grundmodell eller utbildningsdata, så att avtalet endast validerar delat biasering istället för att korrigera det
Plattform \| CRM Analytics	⚠️ Mätning av rättvisa endast på det slutgiltiga orkestreringsresultatet, saknar fasvis kompoundering där varje steg verkar acceptabelt isolerat men kedjan kompounderas till en oacceptabel skillnad
Agentforce \| Agentkonfiguration	⚠️ Att förlita sig på individuella agenters förtroendebetyg för att styra en orkestreringskedja utan att infoga mänsklig granskning vid inflexionspunkter där ett steg begränsar alternativen längre ner
Agentforce \| Agentkonfiguration	⚠️ Låta en orkestreringskedja fortsätta utan strömbrytare när en agent uppströms har lågt förtroende, distributioner skiftar mellan faser eller kedjan stöter på data utanför sina utbildnings- och valideringsuppsättningar

Mönster

Var man ska leta	Hur bra ser ut
Verksamhet \| Distributionsportalen	✅ Gör rättviseutvärdering till en obligatorisk distribueringsgrind som motsvarar säkerhetsgranskning innan du distribuerar någon agent som fattar följdbeslut
Einstein \| Förutsägelsemodell	✅ Beräkna demografisk paritet genom att dela upp populationen i demografiska segment, mäta positiva resultatresultat per segment och jämföra priser mellan segment
Einstein \| Förutsägelsemodell	✅ Säkerställ lika möjligheter genom att verifiera agenter identifierar kvalificerade individer lika bra oavsett demografiska egenskaper; verifiera sanna positiva resultat är jämförbara mellan grupper
Einstein \| Förutsägelsemodell	✅ Tillämpa fyra femtedelsregeln: om någon grupp får positiva resultat på mindre än 80 % jämfört med gruppen med bäst resultat, undersök för biasering
Einstein \| Förutsägelsemodell	✅ Beräkna disparata påverkanförhållanden för alla efterföljande agentbeslut och dokumentera undersökningsresultat när förhållanden faller under 80%
Företag \| Dokumentation	✅ Dokumentera när demografiska paritetsbrott reflekterar legitima affärsfaktorer snarare än diskriminering
Företag \| Juridisk granskning	✅ Konsultera juridisk rådgivning vid implementering av utjämnade odds genom koncernspecifika tröskelvärden, notera att i USA är justering av betyg eller brytpunkter efter skyddad klass för anställningsrelaterade beslut förbjuden enligt Title VII (Civil Rights Act från 1991), och att andra jurisdiktioner inför sina egna begränsningar

Antimönster

Var man ska leta	Hur dåligt ser ut
Verksamhet \| Distributionsportalen	️ Distribuera agenter som fattar följdbeslut utan att beräkna rättvisemått mellan demografiska grupper
Einstein \| Förutsägelsemodell	️ Saknar systematiskt kvalificerade kandidater från underrepresenterade grupper genom att fastställa högre beviströsklar för dessa grupper än för majoritetsgrupper
Einstein \| Förutsägelsemodell	️ Att genomföra koncernspecifika trösklar utan rättslig motivering eller validering att trösklar förbättrar rättvisan utan att skapa andra diskriminerande effekter, eller, i Förenta staterna, att alls genomföra dem för sysselsättningsrelaterade beslut, där avdelning VII förbjuder justering av betyg eller brytpunkter efter skyddad klass.
Företag \| Dokumentation	️ Underlåtenhet att dokumentera när brott mot rättvisans mått återspeglar legitima skillnader i verksamheten jämfört med diskriminering

Mönster

Var man ska leta	Hur bra ser ut
Einstein \| Trust	✅ Använd Trust Layer-granskningsdata för att analysera svarsfördelningar över demografiska grupper; bygg CRM Analytics-instrumentpaneler som jämför godkännanderesultat, rekommendationsmönster och riskbetyg efter kundsegment
Einstein \| Trust	✅ Fråga Trust Layer loggar regelbundet: visa alla förutsägelser med högt värde grupperade efter kundbransch, region och kontostorlek för att verifiera att förutsägelsefördelningar är enhetliga över segment
Agentforce \| Sessionsspårning	✅ Exempel på 100 agentbeslut stratifierade efter demografisk grupp och låta granskare bedöma om resonemangskvaliteten är jämförbar mellan grupper med hjälp av Agentforce Sessionsspårning
Plattform \| CRM Analytics	✅ Konfigurera varningar när agenters beslutsmönster avviker avsevärt från baslinjen (t.ex. godkännanderesultat för ett specifikt segment faller 20% vecka-över-vecka)
Plattform \| CRM Analytics	✅ Bygg egen övervakning för att varna på rättvisa signaler: “Meddela när den genomsnittliga konversationslängden för ett kundsegment överskrider 1,5 gånger det övergripande genomsnittet under tre dagar i följd”
Plattform \| CRM Analytics	✅ Bygg återanvändbara CRM Analytics-instrumentpanelmallar som följer rättvisemått för vanliga agentanvändningsfall, inklusive demografisk paritet, lika möjligheter, olika påverkanförhållanden och trenddiagram

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Sessionsspårning	⚠️ Ignorera resonemangsspår för Agentforce Sessionsspårning och Trust Layer-granskningsloggen när användare rapporterar biasering, vilket saknar vilka resonemangssteg, datakällor eller hämtningsmönster som introducerade biaseringen
Plattform \| CRM Analytics	⚠️ Det går inte att konfigurera varningar för upptäckt av avvikelser för rättvisesignaler, vilket gör att plötsliga distributionsskift inte upptäcks
Plattform \| CRM Analytics	⚠️ Bygga instrumentpaneler för rättvisa ad hoc per team istället för att dela återanvändbara mallar som standardiserar rättviseövervakning

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Utforma agenter för beslut med höga insatser (anställning, kredit, sjukvård, juridik, bostäder) för att analysera, rekommendera och förbereda beslut samtidigt som det kräver mänskligt godkännande innan utförande
Plattform \| Godkännandeprocess	✅ Konfigurera Agentforce för att skapa rekommendationer med stödjande bevis, dirigera beslut över tröskeln till mänskliga granskare via godkännandeprocessen och lyfta fram agentresonemangsspår i godkännandegränssnittet
Agentforce \| Agentkonfiguration	✅ Implementera förtroendebaserad omflyttning: högt förtroende (>90 %) fortsätter autonomt, måttlig (70-90 %) kräver mänsklig granskning, låg (<70 %) uppskjuts helt till mänsklig med sammanhangssammanfattning
Agentforce \| Agentkonfiguration	✅ Kalibrera förtroendetrösklar med hjälp av produktionsdata; prov agentbeslut vid varje förtroendeband och beräkna faktiska framgångsresultat för att validera kalibrering
Agentforce \| Agentkonfiguration	✅ Ange tidsbegränsade omflyttningsutlösare: efter 5-7 varv utan lösning, efter 10 minuter, när användaren uttrycker frustration eller när agenten upprepar samma svar
Plattform \| Omni-Channel	✅ Konfigurera Omni-Channel för att dirigera omflyttade kundcase till lämpliga kompetensbaserade köer med fullständigt konversationssammanhang; utbilda mänskliga agenter i att hantera omflyttningar utan att kräva att användare upprepar information
Agentforce \| UX	✅ Ge en “Anslut med mänsklig agent” alternativ i agent chattgränssnitt hela tiden, inte gated bakom ett minimalt antal misslyckade interaktioner
Agentforce \| Agentkonfiguration	✅ Aktivera auktoriserade människor att åsidosätta någon agent beslut när som helst med dokumenterad logik; lägg till “Åsidosätt agent”-knapp till alla agent beslut gränssnitt som kräver flera rader textförklaring
Plattform \| Eget objekt	✅ Logga åsidosättningar till egna objekt med besluts-ID, åsidosätt tidsstämpel, logisk grund och åsidosättning; skapa CRM Analytics-instrumentpanelspårning åsidosättningsmönster efter agent, beslutstyp och kunddemografi
Företag \| Dokumentation	✅ Kräva dokumenterad logik för godkännanden eller avslag som avviker från agentrekommendationer; spåra åsidosättningsmönster för att identifiera systematiska agentbrister

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Distribuera agenter som autonoma beslutsfattare för beslut med höga insatser (anställning, kredit, hälso- och sjukvård, juridik, bostäder) utan mänskliga godkännanden
Agentforce \| Agentkonfiguration	⚠️ Använda felkalibrerade förtroendebetyg där beslut med “högt förtroende” endast lyckas 75 % av gångerna, vilket undergräver Trusten för omflyttningsmekanismer.
Agentforce \| Agentkonfiguration	⚠️ Fånga kunder i ohjälpsamma automatiserade loopar utan tidsbegränsad eller turbunden omflyttning till människor
Plattform \| Omni-Channel	⚠️ Dirigera omflyttade kundcase utan fullständigt konversationssammanhang, vilket tvingar användare att upprepa information som redan lämnats till agenten
Företag \| Styrning	⚠️ Tillåta spridning av ansvar där alla tar ansvar för AI och ingen tar ansvar för beslut
Företag \| Styrning	⚠️ Tilldela ansvarighet efter att incidenter inträffar istället för innan distribuering med namngivna individer dokumenterade i poster för arkitekturbeslut

Mönster

Var man ska leta	Hur bra ser ut
Företag \| Dokumentation	✅ Tilldela ansvarighet innan distribution: modellägare (rättvisa/riktighet), beslutsägare (användningsfall/påverkan), överklagandemyndighet (överklaganden om rättvisa), revisionsmyndighet (regelbundna revisioner)
Företag \| Dokumentation	✅ Dokumentera alla ansvarighetsroller med namn, inte bara titlar, vilket säkerställer ansvarighet kvarstår genom organisatoriska förändringar
Företag \| Styrning	✅ Ge överklagande myndighet (etikgranskningsnämnd eller utsett team) för att hantera överklaganden från användare som tror att agentbeslut var orättvisa med tillgängliga, snabba processer som kan upphäva agentbeslut
Företag \| Styrning	✅ Auktorisera revisionsmyndigheten (efterlevnadsteam) att utföra regelbundna revisioner och avbryta agenter som inte uppfyller rättvisa standarder i väntan på korrigering
Företag \| Styrning	✅ Schemalägg månadsvis granskning av högfrekventa åsidosättningsmönster med agentutvecklingsteam

Antimönster

Var man ska leta	Hur dåligt ser ut
Företag \| Styrning	⚠️ Dokumentera ansvarighetsroller med endast titlar (t.ex. “Data Science Lead”) utan namngivna individer, vilket gör att ansvarighet kan försvinna under organisationsförändringar
Företag \| Styrning	⚠️ Låta beslutsfattare delegera ansvar till AI-system istället för att behålla personligt ansvar för verklig påverkan
Företag \| Styrning	⚠️ Göra överklagandeprocesser otillgängliga, olämpliga eller saknar behörighet att upphäva agentbeslut

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Arkitekt flera förklaringslager: användare (klarspråk), verksamhet (viktiga beslutsfaktorer), tekniska (modelldetaljer/funktionsvikter) och granskning (fullständiga beslutsspår)
Agentforce \| Agentkonfiguration	✅ Visa sammanfattningsresonemang i realtid när du fattar beslut: “Jag rekommenderade Produkt A baserat på din inköpshistorik (3 liknande inköp), aktuellt erbjudande (20 % rabatt) och lagertillgänglighet”
Agentforce \| Agentkonfiguration	✅ Ge “Varför rekommenderade du detta?” länk som låter användare se fullständiga resonemang inklusive alla Knowledge som hämtats, poster som konsulterats och beslutslogik
Agentforce \| Sessionsspårning	✅ Hämta resonemangsspår från Agentforce sessionspårning för historisk återuppbyggnad när användare utmanar tidigare beslut veckor eller månader senare
Agentforce \| Sessionsspårning	✅ Exempel på Agentforce sessionspårningsresonemang stratifierade efter demografiska grupper för att analysera om beslutskvaliteten är enhetlig; granska 100 spår från varje kundsegment
Agentforce \| Agentkonfiguration	✅ Kommunicera förtroende i användarlämpliga termer: “Högt förtroende” / “Moderera förtroende” / “Lågt förtroende” med klarspråkssammanhang för pålitlighet istället för råa sannolikhetsbetyg
Agentforce \| Agentkonfiguration	✅ För måttliga eller låga förtroendebeslut, förklara vilken ytterligare granskning som kommer att inträffa och förväntad tidslinje
Agentforce \| Agentkonfiguration	✅ Ge kontrafaktiska förklaringar som visar användare vad som skulle ändra resultatet: “Ditt leadbetyg skulle öka med verifierad anställningsinformation (+8 poäng)”

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Visa råa sannolikhetsbetyg (t.ex. “73% förtroende”) som användare misstolkar istället för användarlämpligt förtroendespråk
Agentforce \| Agentkonfiguration	⚠️ Tillhandahålla kontrafaktiska som uppmuntrar spelande av systemet eller oavsiktligt avslöjar skyddade egenskaper som beslutsfaktorer (t.ex. “Din ansökan skulle få högre poäng om du var 10 år yngre”)
Agentforce \| Agentkonfiguration	⚠️ Ge endast en förklaringsnivå som varken tjänar slutanvändare (för teknisk) eller revisorer (för förenklad)
Agentforce \| Agentkonfiguration	⚠️ Underlåtenhet att lagra historiska resonemangsspår, vilket gör det omöjligt att förklara tidigare beslut när de ombes

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Ange tydligt när användare interagerar med Agentforce agenter med framträdande, kontinuerlig visning (inte begravda i termer av service eller visas endast en gång vid interaktionsstart)
Agentforce \| Agentkonfiguration	✅ Visa bestående visuella indikatorer: agentavatar markerad som “AI-assistent”, sidhuvudet som visar “Du chattar med en Agentforce serviceagent” och det synliga alternativet “Anslut med mänsklig agent” under hela konversationen
Agentforce \| Agentkonfiguration	✅ Säkerställ att användare som föredrar mänsklig interaktion kan växla utan friktion eller servicekvalitetspåföljder

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Begrava AI-visning i termer av service eller visa den endast en gång vid interaktionsstart istället för att upprätthålla bestående visuella indikatorer
Agentforce \| Agentkonfiguration	⚠️ Bestraffa användare som väljer mänsklig interaktion med försämrad service eller ökade väntetider
Agentforce \| Agentkonfiguration	⚠️ Dölja alternativet “Anslut med mänsklig agent” eller kräva att användare slutför agentinteraktioner innan åtkomst till mänsklig support

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| Händelseövervakning	✅ Konfigurera händelseövervakning för att spåra: API-händelseloggar som visar agentsysteminteraktioner, inloggningshändelser för agentservicekonton och rapportexporter när agenter får åtkomst till massdata
Plattform \| Händelseövervakning	✅ Strömma händelseövervakningsloggar till externa SIEM för långsiktig lagring och manipulationsbevis som uppfyller lagstadgade krav
Plattform \| Fältgranskningslogg	✅ Aktivera Fältgranskningslogg (obestämd lagring av arkiverad historik) för objekt som lagrar eller påverkas av agentbeslut, välj från standardobjekten som den stöder plus egna objekt med fälthistorikspårning aktiverat; viktigt för kredit, anställning och andra användningsfall med höga insatser
Plattform \| Shield	✅ Använd Shield Event Monitoring för agentbeslut med högsta insats där granskningsloggens integritet är viktig (utökade kapaciteter, strukturerade händelsefält, integrering av efterlevnadsrapportering)
Plattform \| Eget objekt	✅ Skapa AgentDecision__c egna objekt som lagrar: Decision_ID, Tidstämpel, Agent_Type, Model_Version, Confidence_Score, Resultat, User_ID, Record_ID; med knutpunktsobjektet DecisionInput__c länkas beslut till ögonblicksbilder av indatafunktioner
Plattform \| Eget objekt	✅ Lagra exakta värden för indatafunktioner vid beslut (inte aktuella värden som kan ändras) för att möjliggöra tester om beslut skulle skilja sig från uppdaterade data
Företag \| Dokumentation	✅ Postmodellversion, konfigurationsstatus (trösklar, verksamhetsregler, parametrar) och miljösammanhang (användaridentitet, tidsstämpel, konversationshistorik) för varje efterföljande beslut
Plattform \| LWC	✅ Bygg LWC-komponent inbäddad i poster för att visa beslutshistorik med “Visa resonemang” länkar

Antimönster

Var man ska leta	Hur dåligt ser ut
Plattform \| Fältgranskningslogg	⚠️ Att förlita sig på standardfälthistorik (18 månaders lagring) för beslut med höga insatser som kräver flerårig lagring
Plattform \| Eget objekt	⚠️ Lagra endast aktuella postvärden istället för ögonblicksbilder av indata för beslutstid, vilket gör det omöjligt att rekonstruera historiska beslut korrekt
Företag \| Dokumentation	⚠️ Misslyckades registrera modellversion och konfigurationsstatus aktiv vid beslut, vilket gör analys av grundorsaken omöjlig när biasering upptäcks
Plattform \| Händelseövervakning	⚠️ Att endast behålla granskningsloggar i Salesforce utan extern SIEM-streaming, utan bevis för manipulation för efterlevnad av föreskrifter

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| CRM Analytics	✅ Bygg instrumentpaneler som visar: beslutsfördelning efter demografiskt segment (stapeldiagram), rättvisemått över tid (trendlinjer med varningströsklar), disparat påverkanförhållande med fyra femtedelars regelindikator, toppförutsägare som bidrar till beslut, åsidosättningsresultat efter demografisk grupp
Plattform \| CRM Analytics	✅ Varna när indatadistributioner ändras avsevärt från att utbilda datademografi; övervaka för distributionsskift som indikerar potentiell rättviseförsämring
Agentforce \| Agentkonfiguration	✅ Lägg till alternativet “Rapportera bekymmer” i Agentforce chattgränssnitt; dirigera rapporter till etikgranskningspanel med fullständigt konversationssammanhang; spåra i eget objekt med obligatoriskt undersökningsflöde
Företag \| Styrning	✅ Övervaka rättvisa instrumentpaneler veckovis, undersöka tröskelbrott inom 24 timmar, utföra månatlig åsidosätta mönsteranalys, utföra kvartalsomfattande rättviserevisioner
Företag \| Styrning	✅ Låt användare rapportera upplevt biasering genom tillgängliga mekanismer; användarrapporter lyfter fram kvalitativa problem som kvantitativa mått missar

Antimönster

Var man ska leta	Hur dåligt ser ut
Företag \| Styrning	⚠️ Behandla biasdetektering som en engångsvalidering före distribution istället för kontinuerlig övervakning när agenter utvecklas genom snabba uppdateringar, modellversionsändringar och skiftande datadistributioner
Plattform \| CRM Analytics	⚠️ Det går inte att konfigurera varningar när rättvisemått bryter mot definierade tröskelvärden, vilket gör att gradvis drift inte upptäcks
Agentforce \| Agentkonfiguration	⚠️ Inte ge användare åtkomstmekanismer för att rapportera upplevt biasering, saknar kvalitativa problem som kvantitativa mått inte kan lyfta fram

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| Integrering	✅ Bygg exportfunktionalitet som gör det möjligt för efterlevnadsteam att extrahera fullständiga beslutsdatauppsättningar med demografisk stratifiering för granskning av externa granskare samtidigt som de respekterar dataskyddsföreskrifter
Företag \| Dokumentation	✅ Upprätthåll aktuell dokumentation som täcker: agentsyfte och avsedda användningsfall, utbildning av datademografi och kända begränsningar, rättvisemått (fördistribuering och produktion), strategier för begränsning av biasering, konfigurationer för mänsklig tillsyn, övervakningsmetod och ansvarstilldelningar
Företag \| Styrning	✅ Innan du distribuerar agenter som fattar följdbeslut, utför algoritmiska konsekvensbedömningar för att utvärdera potentiella positiva och negativa effekter i alla intressentgrupper
Företag \| Styrning	✅ Schemalägg halvårsvisa externa rättviserevisioner av tredje part; upprätthåll skanning av regleringshorisonter som anpassar sig till EU:s AI-lag, statliga lagar och sektorsförordningar

Antimönster

Var man ska leta	Hur dåligt ser ut
Plattform \| Integrering	⚠️ Utforma agentarkitekturer utan att förutse externa granskningar av tillsynsmyndigheter, medborgarrättsorganisationer eller kunder; saknar exportkapacitet för granskning av granskare
Företag \| Dokumentation	⚠️ Låta dokumentation bli inaktuell när agenter utvecklas genom snabba uppdateringar eller modelländringar utan att uppdatera rättvisemått och begränsningsstrategier
Företag \| Styrning	️ Utplacera agenter som fattar följdbeslut utan att utföra konsekvensbedömningar för att utvärdera effekter mellan intressentgrupper

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Kräv uttryckligt deltagande för efterföljande agenter (kreditbeslut, anställningsscreening, rätt till service) istället för att aktivera som standard
Plattform \| Eget objekt	✅ Skapa AI_Consent__c med fält: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; aktivera Fältgranskningslogg för lagring av långsiktig samtyckespost
Agentforce \| Agentkonfiguration	✅ Lägg till samtyckeskontroll till agent åberopningslogik: fråga AI_Consent__c efter aktivt samtycke innan bearbetning; stöd för samtycke på användningsfallnivå (serviceagent vs försäljningsagent)
Plattform \| Diskussionsgrupp/upplevelsewebbplats	✅ Bygg självbetjäningsgränssnitt för samtyckeshantering tillgängligt från användarprofil; schemalägg påminnelser om förnyat samtycke var 12:e månad
Agentforce \| Agentkonfiguration	✅ Vid distribuering av nya kapaciteter som påverkar befintliga användare, sök proaktivt samtycke för nya användningsfall istället för att förlita sig på ursprungligt samtycke som inte övervägde specifika program
Agentforce \| Agentkonfiguration	✅ Aktivera samtycke tillbakadragande när som helst med omedelbart upphörande av agentbearbetning; gör tillbakadragande så enkelt som att bevilja utan att kräva supportkontakter
Agentforce \| Agentkonfiguration	✅ Aktivera hantering av användarpreferenser: kommunikationsstil (koncis jämfört med detaljerad), proaktivitetsnivå, omflyttningsinställning, lagra egna fält i användarpost och referens i agentsystemuppmaningar
Plattform \| Omni-Channel	✅ Tillhandahåll bestående “Anslut med mänsklig agent”-alternativ genom interaktioner; när detta väljs, dirigera till Omni-Channel med fullständigt konversationssammanhang och prioritetsflagg utan försämrad service eller väntetidsstraff

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Aktivera efterföljande agenter som standard utan uttryckligt användargodkännande som förstår hur agenter kommer att påverka dem
Agentforce \| Agentkonfiguration	⚠️ Kräver generellt AI-samtycke snarare än att aktivera detaljerat samtycke på användningsfallnivå (en kund kan samtycka till serviceagenter medan de avböjer försäljningsagenter)
Agentforce \| Agentkonfiguration	⚠️ Att återkalla samtycke kräver supportkontakter eller byråkratiska processer istället för självbetjäning med omedelbar verkan
Agentforce \| Agentkonfiguration	⚠️ Förlita sig på ursprungligt samtycke vid distribuering av materiellt nya agentkapaciteter som inte övervägdes i det ursprungliga samtycket
Agentforce \| Agentkonfiguration	⚠️ Kräva att användare slutför agentinteraktioner eller förklarar sina preferenser innan de ansluter dem till en mänsklig agent

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Granska alla datakällor som används i agentresonemang för skyddat karakteristiskt innehåll; ta bort eller maskera skyddade egenskaper från agentinmatningar när det inte är juridiskt motiverat för beslutstypen
Agentforce \| Uppmaningsmall	✅ Inkludera uttryckliga icke-diskriminering instruktioner i systemuppmaningar: “Behandla alla kunder med samma professionalism oavsett namn, plats, kommunikationsstil eller någon annan egenskap. Gör aldrig antaganden om kunder baserat på demografiska egenskaper.”
Agentforce \| Agentkonfiguration	✅ Testa med olika personas innan produktion: skapa identiska begäranden som endast varierar demografiska signaler (namn som antyder olika etniciteter, platser, kommunikationsstilar); jämföra svar för kvalitet, längd, professionalism och resultat
Agentforce \| Agentövervakning	✅ Beräkna lösningsresultat för första kontakt stratifierade efter kundsegment; undersök när betydande skillnader finns mellan segment
Agentforce \| Agentövervakning	✅ Provsmaka agentkonversationer över segment och låta granskare bedöma svarskvaliteten på enhetliga dimensioner (precision, fullständighet, professionalism, hjälpsamhet) med interbedömares tillförlitlighetstest
Agentforce \| Agentövervakning	✅ Följ omflyttningsresultat stratifierade efter kunddemografi; högre resultat för vissa segment indikerar agenter är mindre effektiva för dessa användare
Företag \| Undersökningar	✅ Undersökning användare från alla demografiska grupper och jämföra nöjdhet betyg; övergripande hög nöjdhet kan maskera dåliga upplevelser för minoritetsgrupper

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Inkludera skyddade karakteristiska data (funktionshinderstatus, religion, nationellt ursprung) i agentinmatningar för beslut där dessa egenskaper inte är juridiskt motiverade
Agentforce \| Uppmaningsmall	⚠️ Distribuera agenter utan uttryckliga icke-diskrimineringsinstruktioner i systemuppmaningar, endast beroende på grundmodellbeteende
Agentforce \| Agentkonfiguration	⚠️ Testagenter endast med majoritetsdemografiska personas, saknar bias mot underrepresenterade grupper
Företag \| Undersökningar	⚠️ Att förlita sig på övergripande nöjdhetsbetyg som döljer dåliga upplevelser för minoritetsgrupper som överröstats av majoritetsnöjdhet

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| LWC	✅ För egna chattimplementeringar, se till: semantisk HTML-struktur med korrekta landmärken, ARIA-liveregioner som meddelar nya meddelanden, tangentbordsnavigering genom meddelandehistorik, tydliga fokusindikatorer på interaktiva element
Plattform \| LWC	✅ Testa med JAWS, NVDA och VoiceOver under hela utvecklingen, inte bara automatiserad skanning
Agentforce \| Agentkonfiguration	✅ Konfigurera agentsvar för att använda vanligt språk för allmänna målgrupper; undvik jargong och ge ordlistor för oundvikliga tekniska termer; strukturera långa svar med rubriker och punktlistor
Agentforce \| Agentkonfiguration	✅ Validera svarskvalitet är jämförbar mellan språk genom infödda talare utvärdering, inte bara automatiserade mått som missar kulturella nyanser
Agentforce \| Agentkonfiguration	✅ För affärskritiska användningsfall som servar olika språkpopulationer, konfigurera språkspecifik hantering (språkvariabler, lokaliserade uppmaningar, Knowledge artikelfiltrering efter språk) och validera kvalitet per språk istället för att enbart förlita sig på korsspråklig överföring av grundmodeller

Antimönster

Var man ska leta	Hur dåligt ser ut
Plattform \| LWC	⚠️ Bygga egna chattimplementeringar utan manuella tillgänglighetstester (endast med automatiserad skanning)
Agentforce \| Agentkonfiguration	⚠️ Använda jargong och komplext språk utan ordlistor, skapa kognitiva hinder för användare
Agentforce \| Agentkonfiguration	⚠️ Att förlita sig enbart på korsspråklig överföring av grundmodellspråk för språk med lägre resursnivå, vilket ger sämre kvalitet för språkanvändare som inte är majoritetsspråk
Agentforce \| Agentkonfiguration	⚠️ Validering av flerspråkig svarskvalitet endast genom automatiserade mått som missar kulturella nyanser

Mönster

Var man ska leta	Hur bra ser ut
Företag \| Styrning	✅ Etablera etikgranskningsnämnd med verkställande myndighet innan du distribuerar några produktionsagenter
Företag \| Styrning	✅ Definiera obligatoriska distribution grindar: datagranskning, beräkning av rättvisemått och bedömning av algoritmisk påverkan
Plattform \| CRM Analytics	✅ Skapa grundläggande instrumentpaneler för rättviseövervakning i CRM Analytics innan första agentdistribuering
Plattform \| Händelseövervakning	✅ Aktivera Einstein Trust Layer-granskning och konfigurera händelseövervakning för agentåtgärder som grund innan produktion
Företag \| Styrning	✅ Implementera automatiserade rättviseregressionstester i CI / CD-pipelines för skalning
Företag \| Styrning	✅ Standardisera samtyckeshanteringsmönster över alla nya agenter som distribueringar skala
Plattform \| Integrering	✅ Bygg verktyg för rekonstruktion av agentbeslut som möjliggör självbetjäning för efterlevnadsteam

Antimönster

Var man ska leta	Hur dåligt ser ut
Företag \| Styrning	⚠️ Utplacering av produktionsagenter innan en etikprövningsnämnd med verkställande myndighet inrättas
Företag \| Styrning	⚠️ Behandla rättvisa som en eftertanke snarare än en obligatorisk distributionsgrind som är likvärdig med säkerhetsgranskning
Företag \| Styrning	⚠️ Hoppa över algoritmiska konsekvensbedömningar innan agenter distribueras som fattar följdbeslut
Plattform \| CRM Analytics	⚠️ Distribuera första produktionsagent utan grundläggande instrumentpaneler för rättviseövervakning