AI Fairness and Bias Detection – Agentic Patterns (AI-rettferdighets- og systematiske avvikdeteksjon – agentiske mønstre)
Lær mer om Well-Architected Fairness → Agent Enterprise Fairness
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Test agenter systematisk for demografiske systematiske avvik ved bruk av forskjellige personer som representerer beskyttede grupper. Generer identiske forespørsler som varierer bare demografiske signaler som navn, steder eller kommunikasjonsstiler |
| Data 360 | Datasegmenter | ✅ Før du bruker Salesforce-data til agentopplæring eller RAG-grunnlegging, må du revidere demografisk representasjon og identifisere underrepresenterte grupper |
| Data 360 | Knowledge Base | ✅ Revider Knowledge og hentekilder for å oppnå demografisk balanse. Sørg for at dokumentasjonens kvalitet, fullstendighet og nøyaktighet er sammenlignbare på tvers av alle kundesegmenter |
| Agentforce | Agentovervåking | ✅ Overvåk agentinteraksjoner på tvers av demografiske grupper for å oppnå konsistens i virkemåten, analyser responslengde, detaljnivå, høflighetsmarkører og løsningskvalitet lagd etter brukeregenskaper |
| Agentforce | Agentovervåking | ✅ Oppdage tilbakemeldingsløyfer ved å overvåke endringer i beslutningsfordeling over tid, bryte sløyfer gjennom menneskelig gjennomgang av kantsaker og periodisk ombalansering |
| Data 360 | Opplæringsdata | ✅ Eksempel på underrepresenterte demografiske grupper i opplæringsdata som sikrer balansert representasjon. Syntetiser flere data ved bruk av teknikker som SMOTE når reelle data er utilstrekkelige |
| Agentforce | Ledetekstmal | ✅ Begrens agentvirkemåte via systemledetekster: “Behandle alle kundedemonstrasjoner med like profesjonalitet og detaljer. Gi forklaringer av sammenlignbar lengde og kvalitet uavhengig av kundekommunikasjonsstil eller bakgrunn.” |
| Einstein | Forutsigelsesmodell | ✅ Beregn korrelasjonskoeffisienter mellom alle modellfunksjoner og beskyttede egenskaper. Evaluer om legitim forutsigelsesverdi berettiger inkludering av høyt korrelerte funksjoner |
| Einstein | Forutsigelsesmodell | ✅ Identifiser og fjern proxyfunksjoner som er korrelert med beskyttede egenskaper (ZIP-kodeproxyer for rase, navnemønstreproxyer for kjønn/etnisitet, kommunikasjonstidsproxyer for religion/omsorg, enhetstypeproxyer for inntekt, områdetildelingsproxyer for demografisk sammensetning) |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Data 360 | Opplæringsdata | ⚡️ Bruke historiske CRM-data til agentopplæring uten å revidere demografisk representasjon, slik at algoritmiske systematiske avvik kompliserer menneskelige systematiske avvik |
| Agentforce | Agent-konfigurasjon | ⚡️ Distribuere agenter uten systematisk testing av demografiske systematiske avvik på tvers av forskjellige personer som representerer beskyttede grupper |
| Data 360 | Knowledge Base | ⚡️ Tilby detaljerte Knowledge for bedriftskunder, men bare generelle svar for små bedriftskunder, og opprettholde forskjeller i tjenestenes kvalitet |
| Agentforce | Agentovervåking | ⚡️ Tillat at agenter tilpasser virkemåten basert på samtaleindikasjoner som er korrelert med beskyttede egenskaper (kommunikasjonsstil, språkkompleksitet, tidsmønstre) uten overvåking |
| Einstein | Forutsigelsesmodell | ⚡️ Inkludere proxyfunksjoner (postnummer, navnemønstre, enhetstype) i konsekvensbeslutningsmodeller uten å evaluere korrelasjon med beskyttede egenskaper |
| Agentforce | Agent-konfigurasjon | ⚡️ Tillat tilbakemeldingsløyfer der agentbeslutninger skaper forskjellen som berettiger fremtidige negative beslutninger (for eksempel å rute agenten for å redusere salgsmuligheter til bestemte områder, generere færre data om vellykket utførelse og ytterligere redusere forutsagt vellykket utførelse) |
| Data 360 | Datasegmenter | ⚡️ Standard for referanser til majoritetskultur i innholdseksempler som fremhever underrepresenterte brukere |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agentovervåking | ✅ Logge fullstendige inndata og utdata for hver agent i en orkestreringskjede slik at systematiske avvik i et endelig utfall kan spores tilbake til fasen som introduserte det og hvor amplifisering skjedde |
| Plattform | CRM Analytics | ✅ Bygg kontrollpaneler som viser beslutningsfordelinger i hver orkestreringsfase delt opp etter demografi for å identifisere hvor forskjeller i kjeden dukker opp eller utvides |
| Plattform | CRM Analytics | ✅ Beregn demografisk paritet, lik salgsmulighet og ulik innvirkning i hver fase av kjeden, ikke bare på det endelige utfallet. Fasevis målinger fanger opp sammensetning som ser akseptabel ut i en hvilken som helst enkeltfase, men degraderes på tvers av kjeden |
| Agentforce | Modellkonfigurasjon | ✅ Maksimer variasjon på tvers av agenter i konsensusmønstre for å redusere korrelerte feil: forskjellige grunnmodeller der det er mulig (som via Bring Your Own LLM-konfigurasjoner), forskjellige hentingskilder, forskjellige ledeteksttilnærminger og forskjellige konfidens terskelkalibreringer |
| Agentforce | Agent-konfigurasjon | ✅ Sett inn menneskelig gjennomgang ved omkastingspunkter for orkestrering der en fase betydelig avgrenser nedstrømsalternativer, selv om individuell agentkonfidens er høy, fordi orkestrering oppretter fremvoksende effekter som konfidensscorer per agent ikke fanger opp |
| Agentforce | Agent-konfigurasjon | ✅ Konfigurer orkestreringskretsbrytere som stopper og eskaleres til en person når en agents tillit faller under terskelen, utdatadistribusjonen skifter betydelig mellom faser, kjeden støter på data som ikke er representert i opplæring eller validering, eller brukeren utfordrer en mellomliggende beslutning |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agentovervåking | ⚡️ Kjøre orkestreringskjeder uten å logge hver agents inndata og utdata, slik at det blir umulig å spore hvilken fase som introduserte systematiske avvik når et diskriminerende utfall vises |
| Agentforce | Modellkonfigurasjon | ⚡️ Behandler konsensus med flere agenter som systematiske avvik korrigering når alle agenter deler samme grunnmodell eller opplæringsdata, så avtale bare validerer delt systematiske avvik i stedet for å korrigere det |
| Plattform | CRM Analytics | ⚡️ Måling av rettferdighet bare på det endelige orkestreringsresultatet, manglende fasevis sammensetting der hver fase virker akseptabel isolert, men kjeden forbindelser til en uakseptabelt ulikhet |
| Agentforce | Agent-konfigurasjon | ⚡️ Basere seg på individuelle agentkonfidensresultater for å åpne en orkestreringskjede uten å sette inn menneskelig gjennomgang ved omkastningspunkter der en fase avgrenser nedstrøms alternativer |
| Agentforce | Agent-konfigurasjon | ⚡️ Tillatelse til at en orkestreringskjede fortsetter uten en bryter når en oppstrøms agent har lav konfidens, fordelinger skifter mellom faser, eller kjeden støter på data utenfor sine opplærings- og valideringssett |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Virksomhet | Distribusjonsgate | ✅ Gjør rettferdighetsvurdering til en obligatorisk distribusjonsgate som tilsvarer autorisasjon til sikkerhetsvurdering før du distribuerer en agent som tar konsekvensbeslutninger |
| Einstein | Forutsigelsesmodell | ✅ Beregn demografisk paritet ved å dele opp populasjonen i demografiske segmenter, måle positive utfallsfrekvenser per segment og sammenligne antall på tvers av segmenter |
| Einstein | Forutsigelsesmodell | ✅ Sikre lik salgsmulighet ved å kontrollere at agenter identifiserer kvalifiserte enkeltpersoner like godt uavhengig av demografiske egenskaper. Kontroller at sann positive andeler er sammenlignbare på tvers av grupper |
| Einstein | Forutsigelsesmodell | ✅ Bruk fire-femters-regelen: Hvis en gruppe mottar positive utfall med mindre enn 80 % i forhold til gruppen med høyest resultat, undersøkes systematiske avvik. |
| Einstein | Forutsigelsesmodell | ✅ Beregn uensartede innvirkningsforhold for alle etterfølgende agentbeslutninger og dokumenter undersøkelsesresultater når forholdene faller under 80 % |
| Virksomhet | Dokumentasjon | ✅ Dokumenter når brudd på demografisk paritet gjenspeiler legitime forretningsfaktorer i stedet for diskriminering |
| Virksomhet | Juridisk gjennomgang | ✅ Rådfør deg med juridiske rådgivere når du implementerer likestilte odds gjennom gruppespespespesifikke terskler, og merk at i USA er det forbudt å justere score eller kutt etter beskyttet klasse for ansettelsesrelaterte beslutninger i henhold til tittel VII (Civil Rights Act 1991) og at andre jurisdiksjoner pålegger sine egne begrensninger |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Virksomhet | Distribusjonsgate | Distribuere agenter som tar konsekvensbeslutninger uten å beregne rettferdighetsmålinger på tvers av demografiske grupper |
| Einstein | Forutsigelsesmodell | ⚡️ Systematisk manglende kvalifiserte kandidater fra underrepresenterte grupper ved å angi høyere bevissterskler for disse gruppene enn for flertallsgrupper |
| Einstein | Forutsigelsesmodell | ⚡️ Implementere gruppespespesifikke terskler uten juridisk begrunnelse eller validering av at terskler forbedrer rettferdigheten uten å skape andre diskriminerende effekter, eller, i USA, implementere dem for ansettelsesrelaterte beslutninger i det hele tatt, der Tittel VII forbyr justering av score eller kutt etter beskyttet klasse |
| Virksomhet | Dokumentasjon | ⚡️ Ikke dokumentere når brudd på fairness-målinger gjenspeiler legitime forretningsforskjeller kontra diskriminering |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Einstein | Trust | ✅ Bruk Trust Layer-revisjonsdata til å analysere svarfordeling på tvers av demografiske grupper, bygge CRM Analytics-kontrollpaneler som sammenligner godkjenningsfrekvenser, anbefalingsmønstre og risikoscore etter kundesegment |
| Einstein | Trust | ✅ Spørrings Trust-lag logger regelmessig: vise alle forutsigelser med høy verdi gruppert etter kundebransje, område og kontostørrelse for å kontrollere at forutsigelsesfordelinger er konsistente på tvers av segmenter |
| Agentforce | Øktsporing | ✅ Eksempel på 100 agentbeslutninger stratifisert etter demografisk gruppe, og få gjennomgangere til å vurdere om resonanskvaliteten er sammenlignbar på tvers av grupper ved bruk av Agentforce Session Tracking-resonansspor |
| Plattform | CRM Analytics | ✅ Konfigurer varsler når agentbeslutningsmønstre avviker betydelig fra standarden (for eksempel godkjenningsgrader for et bestemt segment faller 20 % uke for uke) |
| Plattform | CRM Analytics | ✅ Bygg tilpasset overvåking for å varsle om rettferdighetssignaler: “Varsle når gjennomsnittlig samtalevarighet for et kundesegment overskrider 1,5 ganger det generelle gjennomsnittet i tre etterfølgende dager” |
| Plattform | CRM Analytics | ✅ Bygg gjenbrukbare CRM Analytics-kontrollpanelmaler som sporer rettferdighetsmålinger for vanlige agentbrukstilfeller, inkludert demografisk paritet, lik salgsmulighet, ulik innvirkning og trenddiagrammer |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Øktsporing | ⚡️ Ignorere vurderingssporing av Agentforce og Trust Layer-revisjonssporet når brukere rapporterer systematiske avvik, mangler hvilke vurderingstrinn, datakilder eller hentingsmønstre som introduserte systematiske avvik |
| Plattform | CRM Analytics | ⚡️ Mislykket konfigurering av avvikdeteksjonsvarsler for fairness-signaler, slik at plutselige fordelingsskift ikke blir oppdaget |
| Plattform | CRM Analytics | ⚡️ Bygg fairness-kontrollpaneler ad hoc per team i stedet for deling av gjenbrukbare maler som standardiserer overvåking av fairness |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Utforme agenter for viktige beslutninger (ansettelse, kreditt, helsetjenester, juridiske, boliger) for å analysere, anbefale og klargjøre beslutninger samtidig som det kreves godkjenning fra en person før utførelse |
| Plattform | Godkjenningsprosess | ✅ Konfigurer Agentforce til å generere anbefalinger med støttende bevis, rute beslutninger over terskelen til menneskelige vurderere via godkjenningsprosess, og fjerne argumentasjonsspor i godkjenningsgrensesnittet |
| Agentforce | Agent-konfigurasjon | ✅ Implementer konfidensbasert eskalering: høy konfidens (>90 %) fortsetter automatisk, moderat (70–90 %) krever gjennomgang fra en bruker, lav (<70 %) overfører helt til en bruker med kontekstsammendrag |
| Agentforce | Agent-konfigurasjon | ✅ Kalibrere konfidens terskler ved bruk av produksjonsdata, prøve agentbeslutninger i hvert konfidensbånd og beregne faktiske suksessfrekvenser for å validere kalibrering |
| Agentforce | Agent-konfigurasjon | ✅ Angi tidsbegrensede eskaleringsutløsere: etter 5-7 omdreininger uten løsning, etter at 10 minutter har gått, når bruker uttrykker frustrasjon eller når agent gjentar samme respons |
| Plattform | Omnikanal | ✅ Konfigurer Omnikanal til å rute eskalerte saker til riktige kvalifikasjonsbaserte køer med full samtalekontekst. Lær opp menneskelige agenter til å håndtere eskaleringer uten å kreve at brukere gjentar informasjon |
| Agentforce | Brukergrensesnitt | ✅ Oppgi alternativet Koble til personagent i agentchattegrensesnittet til enhver tid, ikke avgrenset etter et minimum antall mislykkede interaksjoner |
| Agentforce | Agent-konfigurasjon | ✅ Gi autoriserte personer mulighet til å overstyre en agentbeslutning når som helst med dokumentert grunnlag. Legg til knappen Overstyr agent i alle agentbeslutningsgrensesnitt som krever forklaring med flere linjer |
| Plattform | Tilpasset objekt | ✅ Logg overstyringer til tilpasset objekt med beslutnings-ID, overstyringstidsstempel, årsak og overstyring. Opprett overstyringsmønstre for CRM Analytics-kontrollpanelsporing etter agent, beslutningstype og kundedemografi |
| Virksomhet | Dokumentasjon | ✅ Krev dokumentert begrunnelse for godkjenninger eller avslag som avviker fra agentanbefalinger, spor overstyringsmønstre for å identifisere systematiske agentfravær |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | Distribuere agenter som autonome beslutningstagere for beslutninger med stor interesse (ansettelse, kreditt, helsetjenester, juridiske, boliger) uten portaler for godkjenning fra personer |
| Agentforce | Agent-konfigurasjon | ⚡️ Bruk av feilkalibrerte konfidensscore der “høy konfidens”-beslutninger lykkes bare 75 % av tiden, underminerer Trust i eskaleringsmekanismer |
| Agentforce | Agent-konfigurasjon | ⚡️ Fange kunder i hjelpeløse automatiserte sløyfer uten tidsbegrenset eller omgrenset eskalering til mennesker |
| Plattform | Omnikanal | ⚡️ Ruting af eskalerede sager uden fuld samtalekontekst, der tvinger brugere til at gentage oplysninger, der allerede er angivet til agenten |
| Virksomhet | Styring | ⚡️ Tillat diffusjon av ansvar der alle forutsetter at AI er ansvarlig og ingen tar eierskap til beslutninger |
| Virksomhet | Styring | Tildeling av ansvar etter at hendelser har skjedd i stedet for før distribusjon med navngitte enkeltpersoner dokumentert i arkitekturbeslutningsposter |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Virksomhet | Dokumentasjon | ✅ Tildel ansvar før distribusjon: modellseier (fairness/accuracy), beslutningseier (use case/impact), klageinstans (fairness appeals), revisjonsinstans (periodiske revisjoner) |
| Virksomhet | Dokumentasjon | ✅ Dokumentere alle ansvarsroller med navn, ikke bare titler, slik at ansvaret beholdes gjennom organisasjonsendringer |
| Virksomhet | Styring | ✅ Gi appellmyndighet (etikkvurderingsråd eller utpekt team) mulighet til å håndtere klager fra brukere som mener agentbeslutninger var urettferdige, med tilgjengelige og tidsriktige prosesser som kan reversere agentbeslutninger |
| Virksomhet | Styring | ✅ Autorisere revisjonsmyndighet (samsvarsteam) til å utføre periodiske revisjoner og suspendere agenter som mislykkes med rettferdighetsstandarder, i påvente av rettelse |
| Virksomhet | Styring | ✅ Planlegge månedlig gjennomgang av overstyringsmønstre med høy frekvens med agentutviklingsteam |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Virksomhet | Styring | ⚡️ Dokumentere ansvarsroller bare med titler (for eksempel “Data Science Lead”) uten navngitte enkeltpersoner, slik at ansvarlighet forsvinner under organisasjonsendringer |
| Virksomhet | Styring | ⚡️ Tillate beslutningseiere å delegere ansvar til AI-systemer i stedet for å beholde personlig ansvar for virkelige innvirkninger |
| Virksomhet | Styring | ⚡️ Gjøre appellprosesser utilgjengelige, tidsavbrutte eller uten autorisasjon til å omgjøre agentbeslutninger |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Arkitekt flere forklaringslag: brukervennlig (ren språk), forretningsvirksomhet (nøkkelbeslutningsfaktorer), teknisk (modeldetaljer/funksjonsvekter) og revisjon (fullstendige beslutningsspor) |
| Agentforce | Agent-konfigurasjon | ✅ Vise sanntids sammendragsvurderinger når du tar beslutninger: “Jeg anbefalte Produkt A basert på kjøpshistorikken din (3 lignende kjøp), gjeldende promotering (20 % avslag) og lagerbeholdningstilgjengelighet” |
| Agentforce | Agent-konfigurasjon | ✅ Oppgi “Hvorfor anbefalte du dette?” kobling som gir brukere mulighet til å vise fullstendig resonans, inkludert alle Knowledge artikler hentet, poster konsultert og beslutningslogikk |
| Agentforce | Øktsporing | ✅ Hent resonansspor fra Agentforce for historisk rekonstruksjon når brukere utfordrer tidligere beslutninger uker eller måneder senere |
| Agentforce | Øktsporing | ✅ Eksempel på argumenter for Agentforce lagd etter demografiske grupper for å analysere om beslutningskvaliteten er konsistent. Se gjennom 100 spor fra hvert kundesegment |
| Agentforce | Agent-konfigurasjon | ✅ Kommuniser tillit på brukervennlige vilkår: “Høy konfidens” / “Moderert konfidens” / “Lav konfidens” med kontekst for pålitelighet med ren språk i stedet for rå sannsynlighetsscore |
| Agentforce | Agent-konfigurasjon | ✅ For moderate eller lave konfidensbeslutninger forklarer du hvilken ytterligere gjennomgang som skal skje og den forventede tidslinjen |
| Agentforce | Agent-konfigurasjon | ✅ Gi kontrafaktuelle forklaringer som viser brukere hva som kan endre utfallet: “Salgsemnescoren vil øke med bekreftet ansettelsesinformasjon (+8 poeng)” |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Vise rå sannsynlighetsscore (for eksempel “73% konfidens”) som brukere feiltolker i stedet for brukervennlig konfidensspråk |
| Agentforce | Agent-konfigurasjon | ⚡️ Tilby motfaktum som oppmuntrer til å spille systemet eller utilsiktet avslører beskyttede egenskaper som beslutningsfaktorer (for eksempel “Ditt program vil score høyere hvis du var 10 år yngre”) |
| Agentforce | Agent-konfigurasjon | ⚡️ Gi bare ett nivå av forklaring som ikke betjener sluttbrukere (for teknisk) eller revisorer (for forenklet) |
| Agentforce | Agent-konfigurasjon | ⚡️ Mislykkes i å lagre historiske vurderingsspor slik at det blir umulig å forklare tidligere beslutninger når de blir utfordret |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Angi tydelig når brukere samhandler med Agentforce agenter med fremtredende, kontinuerlig avsløring (ikke begravet i form av service eller vist bare én gang ved interaksjonsstart) |
| Agentforce | Agent-konfigurasjon | ✅ Vis faste visuelle indikatorer: agent avatar merket “AI-assistent”, topptekst som viser “Du chatter med en Agentforce tjenesteagent,” og synlig “Koble til med menneskelig agent” alternativ gjennom samtalen |
| Agentforce | Agent-konfigurasjon | ✅ Sikre at brukere som foretrekker menneskelig interaksjon, kan bytte uten friksjon eller straffer for tjenestenes kvalitet |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Begrave AI-avsløring med hensyn til service eller vise den bare én gang ved interaksjonsstart i stedet for å opprettholde faste visuelle indikatorer |
| Agentforce | Agent-konfigurasjon | ⚡️ Straffe brukere som velger menneskelig interaksjon med degradert tjeneste eller økte ventetider |
| Agentforce | Agent-konfigurasjon | ⚡️ Skjule alternativet Koble til en personlig agent eller kreve at brukere fullfører agentinteraksjoner før de får tilgang til kundestøtte |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | Hendelsesovervåking | ✅ Konfigurer hendelsesovervåking for å spore: API-hendelseslogger som viser agentsysteminteraksjoner, påloggingshendelser for agenttjenestekontoer og rapporteksporter når agenter får tilgang til massedata |
| Plattform | Hendelsesovervåking | ✅ Strømhendelsesovervåking logger til ekstern SIEM for langsiktig oppbevaring og manipulering av bevis som oppfyller lovpålagte krav |
| Plattform | Feltrevisjonsspor | ✅ Aktiver Feltrevisjonsspor (uendelig oppbevaring av arkivert historikk) for objekter som lagres eller påvirkes av agentbeslutninger, ved å velge fra standardobjektene den støtter pluss tilpassede objekter med felthistorikksporing aktivert, som er avgjørende for kreditt, ansettelse og andre brukstilfeller med høy risiko |
| Plattform | Shield | ✅ Bruk Shield-hendelsesovervåking til agentbeslutninger med størst risiko der revisjonssporintegritet er avgjørende (forbedret funksjonalitet, strukturerte hendelsesfelt, integrering av samsvarsrapportering) |
| Plattform | Tilpasset objekt | ✅ Opprett lagring av tilpasset objekt AgentDecision__c: Beslutnings-ID, Tidsstempel, Agent_Type, Modell_Versjon, Konfidens_Score, Utfall, Bruker_ID, Post_ID; med koblingsobjektet Beslutningsinndata__c som kobler beslutninger til inndatafunksjonsøyeblikksbilder |
| Plattform | Tilpasset objekt | ✅ Lagre nøyaktige inndatafunksjonsverdier på beslutningstidspunktet (ikke gjeldende verdier som kan endres) for å kunne teste om beslutninger vil være forskjellig med oppdaterte data |
| Virksomhet | Dokumentasjon | ✅ Postmodellversjon, konfigurasjonsstatus ( terskler, forretningsregler, parametere) og miljøkontekst (brukeridentitet, tidsstempel, samtalehistorikk) for hver konsekvensbeslutning |
| Plattform | LWC | ✅ Bygg LWC-komponentinnbygging i poster for å vise beslutningshistorikk med Vis årsak-lenker |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Plattform | Feltrevisjonsspor | ⚡️ Basert på standardfelthistorikk (18 måneders oppbevaring) for beslutninger med høy risiko som krever flerårig lovpålagt oppbevaring |
| Plattform | Tilpasset objekt | ⚡️ Lagring av bare gjeldende postverdier i stedet for inndataøyeblikksbilder på beslutningstidspunktet, som gjør det umulig å rekonstruere historiske beslutninger nøyaktig |
| Virksomhet | Dokumentasjon | ⚡️ Mislykkes med å aktivere postmodellversjonen og konfigurasjonsstatusen på beslutningstidspunktet, noe som gjør rotårsaksanalyse umulig når systematiske avvik oppdages |
| Plattform | Hendelsesovervåking | ⚡️ Oppbevare revisjonslogger bare i Salesforce uten ekstern SIEM-strømming, mangler manipulasjonsbevis for å overholde forskrifter |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | CRM Analytics | ✅ Bygg kontrollpaneler som viser: beslutningsfordeling etter demografiske segmenter (stolpediagrammer), rettferdighetsmålinger over tid (trendlinjer med varselterskler), ulikt innvirkningsforhold med regelindikator på fire femtedeler, fremste forutsigere som bidrar til beslutninger, overstyringsgrad etter demografisk gruppe |
| Plattform | CRM Analytics | ✅ Varsel når inndatadistribusjoner endres betydelig fra opplæringsdatademografien. Overvåk for fordelingsskift som indikerer potensiell nedgang i rettferdighet |
| Agentforce | Agent-konfigurasjon | ✅ Legg til alternativet Rapporter bekymring i Agentforce chattegrensesnitt; rute rapporter til etikk gjennomgang board med full samtale kontekst; spore i tilpasset objekt med nødvendig undersøkelse arbeidsflyt |
| Virksomhet | Styring | ✅ Overvåk fairness-kontrollpaneler ukentlig, undersøk terskelbrudd innen 24 timer, utfør månedlig overstyringsmønsteranalyse, utfør kvartalsvise omfattende fairness-revisjoner |
| Virksomhet | Styring | ✅ Gi brukere mulighet til å rapportere oppfattet systematiske avvik via tilgjengelige mekanismer. Brukeranmeldelser viser kvalitative problemer som kvantitative målinger mangler |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Virksomhet | Styring | ⚡️ Behandle systematiske avvik som engangs validering før distribusjon i stedet for kontinuerlig overvåking etter hvert som agenter utvikler seg gjennom meldingsoppdateringer, endringer i modellversjoner og skift av datadistribusjoner |
| Plattform | CRM Analytics | ⚡️ Mislykket konfigurering av varsler når fairness-målinger bryter definerte terskler, slik at gradvis avvik ikke blir oppdaget |
| Agentforce | Agent-konfigurasjon | ⚡️ Ikke gi brukere tilgjengelige mekanismer for å rapportere oppfattet systematiske avvik, mangler kvalitative problemer som kvantitative målinger ikke kan avdekke |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | Integrasjon | ✅ Bygg eksportfunksjonalitet som gir samsvarsteam mulighet til å trekke ut fullstendige beslutningsdatasett med demografisk stratifisering for gjennomgang av eksterne revisorer samtidig som datapersonvernforskrifter respekteres |
| Virksomhet | Dokumentasjon | ✅ Vedlikehold gjeldende dokumentasjon som dekker agentformål og tiltenkte brukstilfeller, opplæringsdata demografi og kjente begrensninger, rettferdighetsmålinger (før distribusjon og produksjon), strategier for avbøyning av systematiske avvik, konfigurasjoner for personovervåking, overvåkingsmetode og tildelinger av ansvar |
| Virksomhet | Styring | ✅ Før du distribuerer agenter som tar konsekvensbeslutninger, utfører du algoritmiske innvirkningsvurderinger som evaluerer potensielle positive og negative effekter på tvers av interessentgrupper |
| Virksomhet | Styring | ✅ Planlegge halvårlige eksterne rettferdighetsrevisjoner av tredjeparter, vedlikeholde regulatorisk horisontskanning som tilpasses EU AI Act, delstatlige lover og sektorforskrifter |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Plattform | Integrasjon | ⚡️ Utforme agentarkitekturer uten å forutse eksterne revisjoner av regulatorer, organisasjoner for menneskerettigheter eller kunder, mangler eksportfunksjonalitet for revisjonsgjennomgang |
| Virksomhet | Dokumentasjon | ⚡️ Tillat at dokumentasjon blir foreldet etter hvert som agenter utvikler seg gjennom meldingsoppdateringer eller modellendringer uten å oppdatere fairness-målinger og avbøyningsstrategier |
| Virksomhet | Styring | Distribuere agenter som tar konsekvensbeslutninger uten å utføre innvirkningsvurderinger som evaluerer effekter på tvers av interessentgrupper |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Krev eksplisitt påmelding for etterfølgende agenter (kredittbeslutning, ansettelsesgjennomgang, tjenestetilfredshet) i stedet for aktivering som standard |
| Plattform | Tilpasset objekt | ✅ Opprett AI_Consent__c med felt: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; aktiver Feltrevisjonsspor for langsiktig samtykkepostoppbevaring |
| Agentforce | Agent-konfigurasjon | ✅ Legg til samtykkesjekk i agentoppkallslogikk: AI_Consent__c for aktivt samtykke før behandling, støtte samtykke på bruksområde (tjenesteagent kontra salgsagent) |
| Plattform | Fellesskap/Opplevelsessted | ✅ Bygg grensesnittet for behandling av selvbetjent samtykke tilgjengelig fra brukerprofilen, planlegg påminnelser om fornyelse av samtykke hver 12. måned |
| Agentforce | Agent-konfigurasjon | ✅ Når du distribuerer nye funksjoner som påvirker eksisterende brukere, må du proaktivt søke samtykke for nye brukstilfeller i stedet for å basere deg på opprinnelig samtykke som ikke omfattet spesifikke programmer |
| Agentforce | Agent-konfigurasjon | ✅ Aktiver tilbaketrekking av samtykke når som helst med umiddelbar opphør av agentbehandling. Gjør tilbaketrekking så enkel som å gi uten å kreve kundestøttekontakter |
| Agentforce | Agent-konfigurasjon | ✅ Aktiver behandling av brukerpreferanser: kommunikasjonsstil (komprimert kontra detaljert), proaktivitetsnivå, eskaleringspreferanse, lagring i tilpassede felt i brukerpost og referanse i agentsystemledetekster |
| Plattform | Omnikanal | ✅ Gi vedvarende alternativet Koble til med en personlig agent i løpet av interaksjoner. Når dette er valgt, ruter du til Omnikanal med full samtalekontekst og prioritetsflagg uten nedsatt tjeneste- eller ventetidspenninger |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Aktivering av konsekvensagenter som standard uten eksplisitt brukervalg for å forstå hvordan agenter vil påvirke dem |
| Agentforce | Agent-konfigurasjon | ⚡️ Kreve fullstendig AI-samtykke i stedet for å aktivere detaljert samtykke på bruksområdet (en kunde kan samtykke til serviceagenter mens selgerne avslår) |
| Agentforce | Agent-konfigurasjon | ⚡️ At tilbaketrekking av samtykke krever kundestøttekontakter eller byråkratiske prosesser i stedet for selvbetjening med umiddelbar virkning |
| Agentforce | Agent-konfigurasjon | ⚡️ Basert på opprinnelig samtykke ved distribusjon av materielt nye agentfunksjoner som ikke var planlagt i det opprinnelige samtykket |
| Agentforce | Agent-konfigurasjon | ⚡️ Kreve at brukere fullfører agentinteraksjoner eller forklarer preferansen sin før de kobler dem til en personlig agent |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Se gjennom alle datakilder som brukes i agentsammenligning for beskyttet karakteristisk innhold. Fjern eller maskere beskyttede egenskaper fra agentinndata når det ikke er juridisk berettiget for beslutningstypen |
| Agentforce | Ledetekstmal | ✅ Inkluder eksplisitte ikke-diskrimineringsinstruksjoner i systemledetekster: “Behandle alle kunder med like profesjonalitet uavhengig av navn, plassering, kommunikasjonsstil eller andre egenskaper. Gjør aldri forutsigelser om kunder basert på demografiske egenskaper.” |
| Agentforce | Agent-konfigurasjon | ✅ Test med forskjellige personer før produksjon: generere identiske forespørsler som varierer bare demografiske signaler (navn som foreslår forskjellig etnisitet, steder, kommunikasjonsstiler); sammenligne svar for kvalitet, lengde, profesjonalitet og utfall |
| Agentforce | Agentovervåking | ✅ Beregne løsningsgrader for første kontakt, stratifisert etter kundesegment, og undersøke når det finnes betydelige forskjeller mellom segmenter |
| Agentforce | Agentovervåking | ✅ Eksempel på agentdiskusjoner på tvers av segmenter, og få gjennomgangere til å vurdere svarkvalitet på konsistente dimensjoner (nøyaktighet, fullstendighet, profesjonalitet, hjelpsomhet) med pålitelighetstesting mellom rangeringer |
| Agentforce | Agentovervåking | ✅ Spor eskaleringsgrader lagd etter kundedemografi. Høyere frekvenser for bestemte segmenter indikerer at agenter er mindre effektive for disse brukerne |
| Virksomhet | Undersøkelser | ✅ Undersøk brukere fra alle demografiske grupper og sammenlign tilfredshetsscore. Generell høy tilfredshet kan maskere dårlige opplevelser for minoritetsgrupper |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Inkludere beskyttede egenskapsdata (handikapstatus, religion, nasjonalitet) i agentinndata for beslutninger der disse egenskapene ikke er juridisk berettiget |
| Agentforce | Ledetekstmal | ⚡️ Distribuere agenter uten eksplisitte ikke-diskrimineringsinstruksjoner i systemledetekster, avhengig bare av grunnmodellvirkemåten |
| Agentforce | Agent-konfigurasjon | ⚡️ Teste agenter bare med majoritetsdemografiske personligheter, mangler systematiske avvik mot underrepresenterte grupper |
| Virksomhet | Undersøkelser | ⚡️ Basert på generelle tilfredshetsscorer som maskerer dårlige opplevelser for minoritetsgrupper som er druknet av flertalls tilfredshet |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | LWC | ✅ For tilpassede chatteimplementasjoner må du sørge for følgende: semantisk HTML-struktur med riktige landemerker, ARIA-direkteområder som kunngjør nye meldinger, tastaturnavigering gjennom meldingshistorikk, tydelige fokusindikatorer på interaktive elementer |
| Plattform | LWC | ✅ Teste med JAWS, NVDA og VoiceOver gjennom utvikling, ikke bare automatisert skanning |
| Agentforce | Agent-konfigurasjon | ✅ Konfigurer agentsvar til å bruke vanlig språk for målgrupper generelt, unngå jargon og gi ordlister for uunngåelige tekniske termer, strukturere lange svar med overskrifter og punktlister |
| Agentforce | Agent-konfigurasjon | ✅ Valider responskvalitet er sammenlignbar på tvers av språk via evaluering av innebygde høyttalere, ikke bare automatiserte målinger som mangler kulturelle nyanser |
| Agentforce | Agent-konfigurasjon | ✅ For forretningskritiske brukstilfeller som betjener ulike språkpopulasjoner, konfigurerer du språkspesifikk håndtering (språkvariabler, lokaliserte ledetekster, Knowledge etter språk) og validerer kvalitet per språk i stedet for å bare basere deg på grunnmodellens flerspråklige overføring |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Plattform | LWC | ⚡️ Bygge tilpassede chatteimplementasjoner uten manuell tilgjengelighetstesting (bare avhengig av automatisk skanning) |
| Agentforce | Agent-konfigurasjon | ⚡️ Bruke jargon og komplekst språk uten ordlister for å opprette kognitive barrierer for brukere |
| Agentforce | Agent-konfigurasjon | ⚡️ Avhengig bare av grunnmodelloverføring på tvers av språk for språk med lavere ressurser, som gir nedgradert kvalitet for brukere som ikke bruker flertallsspråk |
| Agentforce | Agent-konfigurasjon | ⚡️ Validere kvaliteten på flerspråklige svar bare gjennom automatiserte målinger som mangler kulturelle nyanser |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Virksomhet | Styring | ✅ Opprett et etikkvurderingsråd med håndhevende myndigheter før du distribuerer eventuelle produksjonsagenter |
| Virksomhet | Styring | ✅ Definer obligatoriske distribusjonsportaler: datarevisjon, beregning av fairness-målinger og vurdering av algoritmiske innvirkninger |
| Plattform | CRM Analytics | ✅ Opprett kontrollpaneler for overvåking av grunnleggende rettferdighet i CRM Analytics før første agentdistribusjon |
| Plattform | Hendelsesovervåking | ✅ Aktiver Einstein Trust Layer-revisjonsfangst og konfigurer Hendelsesovervåking for agenthandlinger som grunnlag før produksjon |
| Virksomhet | Styring | ✅ Implementer automatisert fairness-regresjonstesting i CI/CD pipelines for skalering |
| Virksomhet | Styring | ✅ Standardiser samtykkebehandlingsmønstre på tvers av alle nye agenter etter hvert som distribusjoner skaleres |
| Plattform | Integrasjon | ✅ Bygg verktøy for agentbeslutningsrekonstruksjon som aktiverer selvbetjening for samsvarsteam |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Virksomhet | Styring | ⚡️ Distribuere produksjonsagenter før du etablerer et etikkvurderingsforum med en håndhevingsenhet |
| Virksomhet | Styring | ⚡️ Behandle rettferdighet som en ettertanke i stedet for en obligatorisk distribusjonsgate som tilsvarer sikkerhetsvurdering |
| Virksomhet | Styring | ⚡️ Hopp over algoritmiske innvirkningsvurderinger før du distribuerer agenter som tar konsekvensbeslutninger |
| Plattform | CRM Analytics | ⚡️ Distribuere første produksjonsagent uten kontrollpaneler for overvåking av grunnleggende rettferdighet på plass |