Oikeudenmukaisuus

Yksityisyys

Salesforce-arkkitehtuurissa oikeudenmukaisuus tarkoittaa ratkaisujen rakentamista, jotka palvelevat käyttäjiä tasapuolisesti helppokäyttöisten käyttöliittymien, vinoumien havaitsemisen ja vähentämisen, läpinäkyvien päätösten ja eettisen hallinnan avulla. Einsteinin ennusteet vaikuttavat lopputuloksiin, jotka vaikuttavat asiakkaisiin ja työntekijöihin, mikä tarkoittaa, että arkkitehtien tulisi suunnitella järjestelmiä, jotka tuottavat oikeudenmukaisia tuloksia eri väestöryhmille ja jotka pysyvät käytettävissä vammaisille käyttäjille.

Salesforce tarjoaa sovellusalustan ominaisuuksia, jotka on suunniteltu oikeudenmukaisuutta varten, ja pyrimme noudattamaan WCAG 2.2 AA -standardia. Kun sitä käytetään oikein, Salesforce Lightning Design System (SLDS) -järjestelmä tarjoaa komponentteja, jotka on suunniteltu tukemaan tätä tavoitetta. Nyt tutustumme tarkemmin kuhunkin komponenttiin.

  • Shield Platform Encryption suojaa luottamuksellisia attribuutteja, kuten väestötietoja, ja Event Monitoring tarjoaa tilintarkastuspolut, jotka tukevat tietojen läpinäkyvää käsittelyä.
  • Einstein Trust Layer (ETL) kaappaa turvallisen auditointipolun tekoälyn luoville kehotteille ja vastauksille valvonta- ja vaatimustenmukaisuustarkoituksiin.
  • Experience Cloud sisältää helppokäyttötilan hallintaa.
  • Kenttien kirjausketju tarjoaa kenttätason datan muutoshistorian säilyttämisen pitkällä aikavälillä, mikä tukee algoritmista vastuullisuutta, kun tekoälyn päätösten dataa säilytetään seurattuihin kenttiin.

Nämä ominaisuudet auttavat vähentämään Salesforcen oikeudenmukaisuuskäytäntöjen operatiivisia kustannuksia.

Salesforcessa oikeudenmukaisuus toimii kolmella ulottuvuudella ratkaisujen tarjoamiseksi. Integroiva suunnittelu auttaa tekemään Lightning (LWC), Visualforce ja Experience Cloud -sivustoista täysin käytettävissä — tarjoamalla saumattoman näppäimistön navigoinnin, ruudunlukijan yhteensopivuuden ja kognitiivisen suunnittelun mukautukset. AI:n oikeudenmukaisuuskäytännöt auttavat Einsteinin ennusteita tuottamaan oikeudenmukaisia lopputuloksia käyttämällä vinoumien havaitsemista, monipuolista koulutusdataa ja jatkuvaa valvontaa. Hallinta tarjoaa prosessit ja ohjaimet, joilla voit ylläpitää oikeudenmukaisuutta, kun mallit kehittyvät ja käyttötarkoituksia laajennetaan.

Rehellisyyden laiminlyönti lisää riskiä. Ei-käytettävissä olevat Experience Cloud -sivustot saattavat paljastaa organisaatiot American Disability Act (ADA) -tietojen riita-asioihin ja, jos kyseessä on liittohallinto ja sen toimeksisaajat, Section 508 -säännösten noudattamisen rikkomuksiin. Einsteinin puolueettomat ennusteet saattavat rikkoa EU AI Act -säädöksen vaatimuksia riippuen järjestelmän riskiluokituksesta ja uusista algoritmisista vastuullisuussäännöistä. Vain tekoälyyn perustuvat automatisoidut päätökset, joilla on oikeudellisia tai vastaavia merkittäviä vaikutuksia ja joilla ei ole merkityksellisiä tietoja päätöksenteon logiikasta, voivat rikkoa GDPR:n 22 artiklan ja 15 artiklan 1 kohdan h alakohdan tietosuojaa.

Organisaatiot, jotka pyrkivät oikeudenmukaisuuteen, vähentävät tavallisesti ennustettavissa olevia haittoja asiakkaille, työntekijöille ja yhteisöille, joihin järjestelmät vaikuttavat. Oikeudenmukaisuuden epäonnistumiset voivat aiheuttaa konkreettista ja aineellista haittaa asiaankuuluville henkilöille — mukaan lukien taloudelliset haitat, evätyt mahdollisuudet, emotionaalinen ahdistus ja järjestelmällisen syrjinnän lisääntyminen. Sääntelyiden tasaaminen johtuu tavallisesti siitä, että asiaankuuluvat henkilöt palvelevat heitä hyvin.

Käytä näitä periaatteita ohjataksesi arkkitehtuuripäätöksesi sovellusalustan oikeudenmukaisuutta varten.

  • Suunnittele Lightningin helppokäyttötilan kuvioita varten. Kun rakennat, käytä Lightning Design System -järjestelmää ja Lightning, jotka on suunniteltu tukemaan WCAG 2.2 AA -yhteensopivuutta aina, kun se on mahdollista. Kun rakennat SLDS:n avulla, hyödynnät kirjastoa, jossa helppokäyttöisyys on suunnittelun ydinperiaate. SLDS tarkastetaan näppäimistön käytettävyydelle ja yhteensopivuudelle apulaitteiden kanssa, ja monet niistä sisältävät helppokäyttötilan osion, joka sisältää kehittäjien vihjeitä. Jos mukautettu komponentti on pakollinen, helppokäyttöiset muotoillut Internet-sovellukset (WAI-ARIA) -toteutukset, semanttiset HTML-koodit ja näppäimistön navigointimuodot täytyy vahvistaa avustavan teknologian testauksella.
  • Vinouman vähentäminen ja valvominen oikeilla työkaluilla kullekin mallityypille. Vahvista tekoälyn tulokset oikeudenmukaisille lopputuloksille demografisissa ryhmissä ennen käyttöönottoa ja jatkuvasti tuotantoympäristössä. Jos käytät ennustemalleja, kaappaa päätöstietoja Einstein Discovery ja mukautettujen instrumentaatioiden avulla ja analysoi niitä CRM Analyticsissa mitataksesi oikeudenmukaisuuden tilastoja. Jos käytät generoivia tekoäly- ja Agentforce, käytä kehotteiden ja vastausten Einstein Trust (ETL). Asiakirjojen päätökset noudattavat lakisääteisiä avoimuusvaatimuksia.
  • Leverage Shield Platform Encryption tietoturvan hallintaan. Käytä Shield Platform Encryptionia determinististen skeemojen kanssa luottamuksellisille attribuuteille, jotka vaativat täsmällisiä kyselyitä ja samalla suojaavat henkilötietoja. Reititä Event Monitoring -lokeja ulkoiseen Suojaustiedot ja tapahtumien hallinta (SIEM) -järjestelmään tukeaksesi väärinkäytön osoittavia tarkastusketjuja — kun SIEM noudattaa kertakirjautumisen ja käyttöoikeuksien erottamista, joka ylittää Salesforcen natiiviset säilytysajat vaadituille säännöksille.
  • Suunnittele tarkastusten työnkulut korkean panoksen ennusteille. Määritä hyväksymisprosesseja ja tarkasta mekanismeja Salesforce-kulussa varmistaaksesi, että Einsteinin ennusteet, jotka vaikuttavat seuraaviin päätöksiin, saavat asianmukaisen henkilökohtaisen tarkastuksen. Käytä luottamustason kynnysarvoja ja liiketoimintasääntöjä määrittääksesi, milloin ennusteet vaativat vahvistuksen ennen toimenpiteiden suorittamista.
  • Käytä organisaationlaajuisia oletusasetuksia (OWD) ja kenttätason suojausta (FLS) estääksesi syrjinnän. Rakenna datan käyttöoikeuskuvioita käyttämällä OWD- ja FLS-protokollaa rajoittaaksesi käyttöoikeuksia oletusarvoisesti ja myöntääksesi vain lisäoikeudet, joita jokainen rooli tarvitsee jakosääntöjen avulla. Vältä myöntämästä profiileille liikaa käyttöoikeuksia, jotka saattavat paljastaa luottamuksellisia ominaisuuksia ja mahdollistaa syrjivän päätöksenteon.
  • Ota käyttäjäorganisaatio käyttöön sovellusalustan suostumuksella. Käytä suostumusten hallintaominaisuuksia Data 360:ssa tai mukautetuissa suostumusobjekteissa Field Audit Trail -ominaisuuden kanssa seurataksesi tarkkoja tekoälyn suostumuksia per käyttötapa. Salli käyttäjien kieltäytyä tekoälyn tarjoamista ominaisuuksista ja tarjota ihmisille vaihtoehtoja (kun se on mahdollista).

Datan arkkitehtuurin päätökset määrittävät populaatiot, jotka muuttuvat näkyviksi — ja näkymättömiksi — Salesforce-järjestelmissä. Tietojen heikko laatu ei ole pelkästään tekninen ongelma. Siitä tulee oikeudenmukaisuusongelma, kun datan aukot heikentävät tiettyjä väestöryhmiä järjestelmällisesti.

  • Tarkasta pakolliset kentät tietojen saatavuuden varmistamiseksi. Kun pakolliset kentät olettavat, että tiedot ovat saatavilla eri demografioissa, tietojen täydellisyys muuttuu syrjiväksi. Käyttäjät, jotka eivät voi antaa vaadittuja tietoja, eivät näy järjestelmissä, jotka hylkäävät puutteellisia tietueita.
    • Sähköpostiosoitteiden vaatiminen ei sisällä väestöryhmiä, joilla ei ole luotettavaa Internet-yhteyttä tai henkilökohtaisia sähköpostiosoitteita.
    • Yhdysvaltojen sosiaaliturvatunnusten (SSN) vaatiminen ei sisällä kansainvälisiä asiakkaita ja äskettäin maahanmuuttajia, joille ei ole vielä myönnetty SSN-numeroa.
    • Katuosoitteiden vaatiminen ei sisällä kodittomia ihmisiä ja käyttäjiä, joilla ei ole perinteisiä osoitteita.
  • Tarkasta pakollisten kenttien liiketoimintaperusteet. Jokaiselle pakolliselle kentälle on tärkeää dokumentoida, miksi tiedot ovat pakollisia eikä valinnaisia. Jos prosessit voivat toimia ilman tiettyjä tietoja vaihtoehtoisten lähestymistapojen avulla, tee kentistä valinnaisia ja suunnittele järjestelmät käsittelemään puuttuvat arvot oikein. Tämä auttaa varmistamaan, että käyttäjiä, jotka eivät voi antaa näitä tietoja, ei jätetä pois.

Nimeämiskentät, jotka noudattavat länsimaisia nimeämiskäytäntöjä (Ensinnimi, Sukunimi) eivät välttämättä sisällä eri nimeämiskäytäntöjä käyttäviä kulttuureja.

Monet kulttuurit käyttävät:

  • Yksittäiset nimet — tai mononyymit — ilman sukunimiä
  • Patronymisjärjestelmät, joissa sukupolvien mukaan muuttuu "sukunimi"
  • Useita annettuja nimiä tai sukunimiä
  • Nimet, jotka muuttuvat elämäntapahtumien tai sosiaalisen kontekstin perusteella
  • Nimet, joissa "ensimmäinen" ja "viimeinen" ovat kulttuurisesti merkityksettömiä eroja

Suunnittele nimien arkkitehtuuri käyttämällä yhtä koko nimikenttää tai joustavaa monivaiheista rakennetta, joka tukee yleisiä nimeämiskäytäntöjä. Vältä tekemästä oletuksia nimien järjestyksestä, periytymismalleista tai kulttuurin normeista.

Testaa nimien arkkitehtuuria käyttämällä erilaisia kansainvälisiä nimiä varmistaaksesi, että nimikentät hyväksyvät:

  • Yksittäisten sanojen nimet (esimerkiksi Sukarno, Cher ja Teller)
  • Pitkät nimet, jotka ylittävät yleiset kenttien pituusrajoitukset
  • Nimet diakritiikalla, apostrofilla, väliviivoilla ja välilyönneillä
  • Nimet, joiden komentosarjat eivät ole latinalaisia (esimerkiksi arabia, kiina, kyrillinen ja Devanagari)

Kun nimen vahvistus hylkää käyttäjän oikean nimen, hän näkee järjestelmän hylkäämisen, joka perustuu hänen kulttuuriseen identiteettiinsä.

Osoitteiden vahvistuspalvelut on optimoitu usein Yhdysvaltojen ja Länsi-Euroopan formaateille, ja ne eivät usein tunnista:

  • Kansainväliset osoitetiedostomuodot eri kenttien järjestyksellä
  • Maaseutualueet ilman katujen nimiä
  • Sotilaalliset osoitteet (esimerkiksi APO ja FPO)
  • Myyntipisteiden laatikot ja vaihtoehtoiset toimitussijainnit
  • Kanta-alueet, joilla on yksilölliset osoitejärjestelmät
  • Osoitekomponenteille ei-latinalaisia komentosarjoja käyttävät maat

Kun osoitteiden vahvistukset hylkäävät ei-perinteisiä osoitteiden muotoja, se estää tilien luomisen, toimituksen ja palvelutoimituksen käyttäjille, joiden osoitteet eivät vastaa vahvistustietokannan odotuksia.

Alla on muutama tapa suunnitella osoitteiden vahvistuksia helppokäyttötilan kannalta:

  • Ota käyttöön sallittu osoitteen vahvistus.
  • Hyväksy vapaamuotoinen osoitekohde, kun rakenteelliset vahvistukset epäonnistuvat.
  • Tallenna käyttäjien syöttämät osoitteet, äläkä pakottaa käyttäjiä tekemään virheellisiä korjauksia.
  • Käytä osoitteen vahvistusta datan rikastamiseen ja identtisten tietueiden havaitsemiseen, äläkä osoitteiden muotoilun vahvistamiseen.

Sen sijaan, että estäisit datan kaappauksia etukäteen, rakenna osoitteen vahvistus täydennysprosessiin, joissa osoitteen paikkansapitävyys on tärkeää toiminnallisesti.

Tiettyjen viestintäkanavien yleiset käyttöoikeusehdot eivät sisällä populaatioita, joilla on erilaiset käyttöoikeudet tai valinnat.

Vain sähköposti -viestintä ei sisällä:

  • Käyttäjät, joilla ei ole luotettavaa internet-yhteyttä
  • Iäkkäät väestöryhmät, jotka eivät ole kovin tyytyväisiä sähköpostin käyttämiseen
  • Käyttäjät alueilla, joissa SMS-tekstiviesti tai viestintäsovellukset ovat ensisijainen viestintätapa

Vain puhelin -viestintä ei sisällä:

  • Käyttäjät, jotka ovat kuuroja ja vaikea kuulla
  • Käyttäjät, joilla ei ole puhelimen käyttöoikeutta tai jotka käyttävät jaettuja puhelimia

Suunnittele omnichannel-viestintäarkkitehtuuri, joka sallii käyttäjien hallita kanavan valintoja. Tallenna haluamasi viestintämenetelmät yhteyshenkilötietueisiin ja noudata kaikkien lähtevien viestintäjärjestelmien valintoja yhdenmukaisesti. Tarjoa useita vaihtoehtoisia viestintävaihtoehtoja sen sijaan, että yksi kanava -metodit toimisivat yleisesti.

Demografisten tietojen kerääminen oikeudenmukaisuuden valvontaan vaatii huolellista arkkitehtuuria väärinkäytön estämiseksi.

Väestötietojen kerääminen ja käsittely on toimivaltaan perustuvaa ja lakisääteisesti rajoitettua (EU:ssa tietosuoja-asetuksen 9 artiklassa käsitellään erityisiä tietoluokkia, jotka vaativat tietyn oikeusperustan. Yhdysvalloissa puolueellisuuden valvonta perustuu tavallisesti vapaaehtoiseen EEO-henkilöllisyyden tunnistamiseen). Kun laillinen peruste on olemassa, organisaatiot käyttävät väestötietoja seuraaviin toimiin:

  • Valvoa oikeudenmukaisuuden tilastoja, jotka on kerrostettu suojattujen ryhmien perusteella
  • Havaitse vinoumia automaatiossa ja tekoälysjärjestelmissä
  • Osoittaa, että säännökset noudattavat syrjimättömyysvaatimuksia

Demografisten tietojen kerääminen aiheuttaa tiettyjä riskejä:

  • Tietoja saatetaan käyttää syrjiviin tarkoituksiin, jos käyttöoikeuksien hallinta epäonnistuu
  • Käyttäjät eivät välttämättä luota keräysmenetelmiin ja tarjoavat virheellisiä tietoja
  • Kokoelma saattaa tuntua invasiiviselta tai syrjivältä

Rakenna vapaaehtoinen itserekisteröinti ja suunnittele demografisten tietojen kokoelma käyttämällä tietoja, jotka ovat:

  • Selkeästi selitettynä läpinäkyvällä tarkoituksella (esimerkiksi oikeudenmukaisuuden valvonta tai vaatimustenmukaisuuden raportointi)
  • Vapaaehtoinen ja sisältää "Haluan olla vastaamatta" -vaihtoehdon, joka on aina käytettävissä
  • Erotaan operaatiodatasta tiukalla FLS:llä välttyäksesi asiattomalta käytöltä
  • Aggregoidaan raportointia ja analyysiä varten, eikä linkitetty yksittäisiin päätöksiin
  • Valvotaan Shield Event Monitoringin kautta käyttöoikeuskuvioiden auditointia varten

On tärkeää dokumentoida tietoturvakäytännöissä tarkalleen, miten väestötietoja käytetään ja miten niitä ei käytetä. Käyttäjien Trustin rikkominen tietojen paljastamattomalla käytöllä voi heikentää uskottavuutta huomattavasti, ja se voi olla vaikea palauttaa.

Kolmansien osapuolten datan rikastaminen, joka liittää Salesforce-tietueisiin demografisia, firmografisia tai toimintatietoja, saattaa aiheuttaa vinoumista seuraavin tavoin:

  • Epätarkkoja päätelmät, jotka perustuvat stereotyyppeihin
  • Täydet puutteet ja demografioihin liittyvät aukot
  • Omistavat algoritmit, jotka käyttävät tuntemattomia oikeudenmukaisuusominaisuuksia
  • Vinoutuneista historiatietueista saatu data

Ennen kuin otat datan rikastuspalvelut käyttöön, on tärkeää tarkastaa:

  • Toimittajan oikeudenmukaisuuden testaaminen ja vinoumien vähentämiskäytännöt
  • Tietojen kattavuus ja tarkkuus demografisissa ryhmissä
  • Ennusteiden luomiseen käytetyt tulosten metodologiat ja ominaisuudet
  • Sopimusluonteiset datan käyttörajoitukset ja säilytyskäytännöt

Pidä mielessäsi, että kun kolmansien osapuolten data saapuu Salesforce-organisaatioosi, se voi vaikuttaa päätöksiin, mikä luo toimittajien esittämän vinouman, joka heijastuu myös organisaatiosi vinoumiin.

Salesforce-kontekstissa helppokäyttötila viittaa Lightning, Visualforce ja Experience Cloud -sivustojen arkkitehtuuriin, jotka toimivat vammaisille käyttäjille. Lightning tarjoavat helppokäyttötilan, kun niitä käytetään oikein. Mukautettu kehitys ja Experience Cloud -kokoonpano vaativat kuitenkin selkeän helppokäyttötilan toteutuksen.

Lightning Design System -komponentit on suunniteltu tukemaan WCAG 2.2 AA -yhteensopivuutta, kun niitä käytetään suunnitellusti. Salesforce pyrkii täyteen vaatimustenmukaisuuteen — mutta ei sertifioi sitä. SLDS poikkeaminen tai mukautettujen komponenttien rakentaminen ilman helppokäyttötilan huomioon ottamista luo esteitä vammaisille käyttäjille.

Lightning tarjoavat sisäänrakennetun helppokäyttötilan. Komponentit, kuten Lightning, Lightning, Lightning ja Lightning, sisältävät automaattisesti asiaankuuluvat ARIA-attribuutit, otsikoiden liitännät, näppäimistön navigoinnin ja keskityksen hallinnan. Käytä vakiokomponentteja sen sijaan, että rakentaisit mukautettuja vaihtoehtoja, jotka näyttävät samalta, mutta joilla ei välttämättä ole sopivaa helppokäyttötilan infrastruktuuria.

  • Käytä semanttista HTML-koodia mukautetuissa Lightning-verkkokomponenteissa. Kun rakennat mukautettuja komponentteja, käytä semanttisia HTML-elementtejä (
    ,
  • Toteuta ARIA mukautetuissa komponenteissa. Käytä ARIA-maamerkkejä, -rooleja ja -ominaisuuksia, kun semanttinen HTML ei voi kertoa käyttöliittymän toimintatapaa. Dynaamiset sisältöpäivitykset vaativat aria-live-alueita, jotka ilmoittavat ruudunlukijoille tehdyt muutokset. Mukautetut interaktiiviset komponentit tarvitsevat selkeät roolien määritelmät, jotka vastaavat heidän toimintatapaansa. Lightning käsittelevät ARIA:n automaattisesti, mutta mukautetut komponentit vaativat ARIA-vahvistuksen manuaalisesti ruudunlukijan testaamisen kautta.
  • Testi avustavalla teknologialla: Vahvista Lightning käyttämällä todellisia ruudunlukijoita (esimerkiksi JAWS ja NVDA Windowsille, VoiceOver macOSille ja iOSille ja TalkBack Androidille). Dequen laajan tutkimuksen mukaan automatisoidut työkalut, kuten akselin ydin, havaitsevat noin 57 prosenttia helppokäyttötilan ongelmista määrän mukaan. Jäljellä olevat ongelmat vaativat, että ruudunlukijan navigointikuvioita ymmärtävät ihmiset testaavat niitä manuaalisesti apulaitteilla.
  • Käytä keskityksen hallintaa Lightning-kuluissa. Kun modaalit avataan, dynaaminen sisältö ladataan tai käyttäjät suorittavat monivaiheisia kulkuja, sinun tulisi hallita keskitystä ohjelmallisesti ohjataksesi näppäimistön käyttäjiä uuteen sisältöön. Lightning ja ponnahdusikkuna-komponentit tarjoavat keskitysjärjestelmän perushallinnan, mutta monimutkaiset kulut tarvitsevat selkeän keskityslogiikan siirtääkseen keskitystä oikein, kun sisältö muuttuu.

Experience Cloud -sivustot toimivat ulkoisille käyttäjille — mukaan lukien asiakkaille, kumppaneille ja julkisille kohdeyleisöille — jotka tarvitsevat helppokäyttöisen suunnittelun, joka saattaa täyttää ADA:n, 508 §:n ja/tai Euroopan helppokäyttöoikeuslain vaatimukset (riippuen lainkäyttöalueesta, kohdeyleisöstä ja organisaatiotyypistä).

  • Käytä helppokäyttöisiä malleja. Lightning Web Runtime (LWR) -mallilla laaditut Experience Cloud -mallit sisältävät peruskäyttötilan. Vakiomallit, kuten Asiakastiliportaali ja Ohjekeskus, tarjoavat WCAG 2.2 AA -perusteita, kun ne on määritetty oikein. Mukautetut mallit vaativat selkeän helppokäyttötoteutuksen, mukaan lukien semanttiset merkinnät, näppäimistön navigointi ja ruudunlukijan yhteensopivuus.
  • Vahvista WCAG-yhteensopivuus teemojen kanssa. Mukautetut teemat ja brändätyt sivustot vaativat värien kontrastin vahvistuksen. Kokemusten rakentajan Teema-asetukset hallitsevat värejä, tyyppejä ja välilyöntejä. Varmista, että kaikki tekstit vastaavat normaalin tekstin kontrastia 4,5:1 (alle 18pt normaalille tekstille tai alle 14pt lihavoidulle tekstille) ja 3:1 suurelle tekstille (18pt tai suurempi normaalille tekstille tai 14pt tai suurempi lihavoidulle tekstille) ja käyttöliittymäkomponenteille. Käytä selaimen kehitystyökaluja tai online-tarkistajia vahvistaaksesi vaatimustenmukaisuuden. Testaa selaimen zoomauksella 200 % varmistaaksesi, että teksti skaalaa sisältöä tai toimintoja heikentämättä.
  • Käytä näppäimistön navigointivalikkoja. Experience Cloud -navigointikomponenttien täytyy tukea Vain näppäimistö -toimintoa ilman hiiririippuvuutta. Käyttäjien täytyy siirtyä alasvetovalikoihin, megavalikoihin ja navigointiin käyttämällä sarkainnäppäimiä, Enter-näppäimiä, Escape-näppäimiä ja Nuoli-näppäimiä ilman keskityksen kaappauksia. Testaa kaikkia navigointipolkuja käyttämällä vain näppäimistöä vahvistaaksesi käytettävyyden.
  • Ota lomakkeiden käytettävyys käyttöön Experience Cloudissa. Liitä otsikot erikseen kaikkiin lomakkeen syötteisiin käyttämällä oikeita otsikkoelementtejä tai aria-labelledby. Paikanpitäjäteksti itsessään epäonnistuu käytettävyysvaatimuksissa, koska teksti katoaa heti, kun dataa syötetään, mikä jättää ruudunlukijoiden käyttäjät ilman riittävää, pysyvää kontekstia. Lightning tarjoavat sisäänrakennetun otsikoiden liitännän, kun ne on määritetty käyttämällä vaadittuja otsikoiden attribuutteja. Mukautetut Visualforce vaativat otsikoiden ja input-arvojen erillisyyden.
  • Testaa Experience Cloud -sivustoja avustavalla teknologialla. Ennen kuin voit käynnistää julkisia Experience Cloud -sivustoja, sinun täytyy suorittaa kattavat helppokäyttötestit käyttämällä ruudunlukijoita, Vain näppäimistö -navigointia ja selaimen zoomia. On tärkeää sisällyttää vammaiset käyttäjät käytettävyystesteihin paljastaaksesi käytännöllisiä ja hyödyllisiä kokemusten esteitä, joita asiantuntijoiden tarkastukset saattavat usein jättää huomiotta. Vain sisäisten Lightning testaaminen ilman Experience Cloudin ulkoisen käytettävyyden vahvistamista jättää julkiset sivustot alttiiksi helppokäyttötilan valituksille ja oikeudenkäynneille.
  • Käytä kuville ja kuvakkeille vaihtoehtoista tekstiä. Kaikki Experience Cloudin informatiiviset kuvat, kuvakkeet ja graafinen sisältö vaativat alt-tekstiä. Dekoratiiviset kuvat käyttävät tyhjää alt-tekstiä (alt=""), jonka avulla ruudunlukijat voivat ohittaa ne. Informatiiviset kuvat tarjoavat hyödyllistä alt-tekstiä, joka kuvaa sisältöä ja toimintoa. Kun kirjoitat alt-tekstiä kuvakkeille, keskity kuvakkeen toimintoon tai tarkoitukseen sen ulkoasun sijaan (esimerkiksi sen sijaan, että kuvailisit suurennuslasi-kuvaketta "suurennuslasi", alt-teksti tulisi ilmoittaa sen toiminnallisesta hyödyllisyydestä, kuten "Hakusivusto"). Kun CMS hallitsee kuvia, sen täytyy kehottaa sisällön kirjoittajia syöttämään alt-tekstiä tai merkitsemään kuva selkeästi koristeelliseksi (joka määrittää alt=""). Tämä varmistaa käytettävyyden estämällä alt-tekstien puuttumisen ja pakotetut kuvaukset esteettisille kuville.

Täydellinen näppäimistön käytettävyys tarkoittaa, että käyttäjät voivat käyttää kaikkia ominaisuuksia näppäimistöllä ilman, että heidän täytyisi käyttää hiirtä tai kosketusnäppäintä missään vaiheessa.

  • Käytä loogista järjestystä Lightning-sivuilla. Varmista, että keskityksen järjestys noudattaa visuaalista asettelua ja vuorovaikutuskulkua. Kun käyttäjät painavat sarkainnäppäintä, visuaalisen fokuksen tulisi siirtyä interaktiivisten elementtien läpi järjestyksessä, jota käyttäjät odottavat visuaalisen ulkoasun perusteella. Lightning ja Kokemusten rakentaja määrittävät keskityksen järjestyksen komponentin sijoituksen perusteella. Mukautetut komponentit vaativat välilehtien indeksien tarkkaa hallintaa varmistaakseen, että keskityksen edistyminen on loogista.
  • Käytä näkyviä tarkennusosoittimia täyttääksesi kontrastin vaatimukset. Lightning Design System tarjoaa keskityksen tyylejä, jotka täyttävät useimpien komponenttien WCAG-vaatimukset. Mukautetut komponentit saattavat tarvita parannettuja keskitysosoittimia täyttääkseen 3:1-tarkastelun ympäröivään sisältöön nähden. Keskityksen osoittimien täytyy olla selkeästi näkyvissä, jotta heikkonäköiset käyttäjät voivat navigoida näppäimistöllä. Älä * koskaan* poista keskityksen osoittimia CSS:llä (viiva: ei mitään) tarjoamatta vaihtoehtoista näkyvää tyyliä.
  • Käytä näppäimistön kaappausten lieventämistä modaaleissa ja peittokuvioissa. Modal-dialogien tulisi tallentaa keskitys modaaliin, kun se on auki, mikä estää näppäimistön käyttäjiä käyttämästä piilotettua taustasisältöä. Keskityssalana tulisi vapautua, kun modaali suljetaan ja palauttaa keskityksen käynnistimen elementtiin. Upotetun sisällön — mukaan lukien iframe-kehykset ja kolmansien osapuolten widgetit — ei tarvitse tallentaa näppäimistön keskitystä pysyvästi ilman pakenemismekanismia.
  • Käytä pikavalintoja ilman ristiriitoja. Lightning tarjoaa vakiomuotoisia näppäimistön pikavalintoja, jotka on kuvattu Salesforce-ohjeessa. Mukautettujen näppäimistön pikavalintojen täytyy olla suunniteltu välttymään ristiriidoilta selaimen vakio-ohjaimien ja ruudunlukijan navigointikomentojen kanssa. Yhden merkin pikavalinnat (esimerkiksi yhden kirjaimen tai välimerkin painaminen) eivät voi käynnistää globaaleja toimintoja WCAG:n onnistumisen ehtojen mukaisesti. Niiden täytyy joko rajoittaa aktivointi, kun tietyllä komponentilla on aktiivinen keskitys, tai tarjota käyttäjille tapa poistaa pikavalinta käytöstä tai muuttaa sitä kokonaan.

Rakenna helppokäyttötilan vahvistus CI/CD-putkiin löytääksesi rakenteellisia ongelmia automaattisesti jokaisessa käyttöönotossa sen sijaan, että käsittelisit helppokäyttötilaa säännöllisin manuaalisin tarkastuksin.

  • Käytä sa11y-funktiota Lightning-verkkokomponenttien käytettävyyden testaamiseen. Salesforcen sa11y-kirjastot (@sa11y/jest-paketti) käärittävät akseli-ydintoimintojen käytettävyysjärjestelmän lisäämään toBeAccessible()-vastaavan Jest-yksikkötesteille. Kirjoita helppokäyttötestejä, jotka vahvistavat oikean ARIA-käytön, otsikoiden liitännät, kontrastisuhteet ja semanttiset koodit automaattisesti osana yksikkötestausta. Määritä rakennukset epäonnistumaan, kun havaitaan kriittisiä helppokäyttötilan ongelmia.
  • Lighthouse CI:n käyttäminen Experience Cloudille. Google Lighthouse tarkastaa verkkosivujen käytettävyyden, mukaan lukien Experience Cloud -sivustot. Integroi Lighthouse CI käyttöönottoputkiin skannataksesi julkisia sivuja käytettävyysongelmien varalta. Määritä pistemäärien kynnysarvot vaatiaksesi käytettävyyden vähimmäispisteet ennen käyttöönottojen hyväksyntöjä.
  • Käytä helppokäyttötilan agenttia, joka on saatavilla Salesforce DX MCP -paketin kautta. MCP-yhteensopivissa ympäristöissä tai Agentforce Vibesissa se tarkastaa koodin WCAG-standardien perusteella, esittää kohdennettuja korjauksia ja voi luoda noutopyynnön, jonka insinööri voi tarkastaa, vahvistaa ja yhdistää.

Vinouma on ollut olemassa deterministisessä Salesforce-automaatiossa kauan ennen kuin tekoäly pääsi kuvaan. Kohdistussäännöt, kulkujen päätökset, vahvistussäännöt ja alueiden suunnittelu koodaavat ihmisarvoa, joka saattaa jatkaa syrjintää. Toisin kuin tekoälyn vinouma — jota arkkitehtit tutkivat tarkasti — automatisoinnin vinouma menee usein läpi tutkitsemattomana, koska deterministinen logiikka tuntuu tavoitteelliselta.

  • Seuraa liidien ja tapausten kohdistussääntöjä. Jaa töitä myynti- ja palvelutiimeille. Kun kohdistuslogiikka käyttää ehtoja, jotka korreloivat suojattujen ominaisuuksien kanssa, automatisointi luo järjestelmällisiä eroavaisuuksia palvelun laadussa ja mahdollisuuksien käyttöoikeuksissa.
  • Alue-, postinumero- tai tiliominaisuuksia käyttävät kohdistussäännöt saattavat reitittää arvokkaita mahdollisuuksia suhteettomasti tietyille tiimeille, kun he reitittävät arvokkaampia töitä muualla. Jos alueiden rajat korreloivat asiakkaiden demografioiden ja eri alueiden korvausrakenteiden kanssa, kohdistusten automatisointi aiheuttaa taloudellista syrjintää.
  • Tarkasta kohdistussääntöjen lopputulokset säännöllisesti. Laske kohdistusten jakaumat alueille ja tiimeille, jotka on kerrostettu asiakkaiden demografioiden perusteella. Jos Enterprise-tilit on keskitetty tiettyihin alueisiin, kun taas SMB-tilit jaetaan muualle — ja jos Enterprise-alueet saavat parempaa korvausta tai resursseja — kohdistussäännöt saattavat tuottaa epätasa-arvoisia lopputuloksia, jotka vaativat oikeudenmukaisuuden tarkastamista.
  • Tarkasta omni-channelin taitoihin perustuva reititys. Tämä saattaa vaikuttaa palvelun laatuun asiakasjoukoissa. Jos reitityslogiikka olettaa epäsuorasti, että tietyt taidot korreloivat asiakkaan arvon tai ongelman monimutkaisuuden kanssa, asiakkaat saattavat saada eri palvelutuloksia demografisten välityspalvelujen perusteella.

On tärkeää valvoa keskiarvoista käsittelyaikaa, ensimmäisen yhteydenoton ratkaisuja ja asiakastyytyväisyyttä eri reitityspolkuissa. Eroavaisuudet saattavat osoittaa, saavatko tietyt asiakassegmentit järjestelmällisesti vähemmän kokeneita agentteja vai vähemmän reititysvaihtoehtoja.

  • Tarkasta Salesforce-kulkujen automatisoinnit. Hyväksymispäätösten tekeminen, oikeutuksen määrittäminen tai käyttöoikeuksien myöntäminen saattaa koodata syrjivää logiikkaa näennäisesti vaarattomien liiketoimintasääntöjen avulla. Jotkin kulut aiheuttavat epäsuoraa syrjintää, kun ehdot korreloivat suojattujen ominaisuuksien kanssa.
  • Tarkasta kulkujen päätökset oikeudenmukaisuuden kanssa. Jokaiselle kululle, joka tekee käyttäjiin vaikuttavia johdonmukaisia päätöksiä, on tärkeää kysyä:
  • Mitä tapahtuu käyttäjille, jotka eivät sovellu tavalliseen asiakasprofiiliin?
  • Ovatko päätöksen ehdot korreloivia demografisten ominaisuuksien kanssa?
  • Käsitetäänkö poikkeuksia ja reunastapauksia tasapuolisesti vai heikentävätkö ne tiettyjä ryhmiä järjestelmällisesti?

On tärkeää dokumentoida kulkujen päätöslogiikkaan ja oikeudenmukaisuuteen liittyviä huomioitavia asioita arkkitehtuurin päätöstyötietueissa ja asettaa tärkeät kulut samoihin eettisiin tarkastuskäytäntöihin kuin tekoälysjärjestelmät.

  • Tarkasta vahvistussäännöt. Tietojen syöttämisen estäminen saattaa jättää pois kelvolliset tiedot käyttäjiltä, joiden tiedot eivät vastaa järjestelmäoletuksia. Vahvistussäännöt, jotka hylkäävät oikeat tiedot, luovat näkymättömiä väestöryhmiä. Käyttäjät, joiden data ei vastaa vahvistuskuvioita, eivät voi käyttää tiettyjä järjestelmiä. Vahvistusvirheitä ei usein ilmoiteta, koska käyttäjät hylkäävät pyyntönsä teknisten virheiden sijaan. Alla on useita yleisiä vahvistuksen vinoumuskuvioita:
  • Latinalaisia merkkejä vaativat nimien vahvistukset eivät välttämättä sisällä diakritiikkaa tai muita kuin latinalaisia komentosarjoja sisältäviä nimiä.
  • Puhelinnumeroiden vahvistukset käyttävät usein Yhdysvaltojen/Länsi-formaatteja, jotka eivät sisällä kansainvälisiä numeroita tai vaihtoehtoisia viestintätapoja.
  • Osoitteiden vahvistukset eivät tunnista ei-vakiomuotoisia osoitteita (esimerkiksi PO-laatikot, maaseutureitit, heimojen alueet ja kansainväliset formaatit).
  • Henkilökohtaisia sähköpostiosoitteita vaativat sähköpostivahvistukset saattavat olla haitaksi käyttäjille, joilla ei ole henkilökohtaista sähköpostioikeutta.
  • Testi vahvistussääntöjä käyttämällä erilaisia tietoja. Sisällytä vahvistustesteihin kansainvälisiä osoitteita, muita kuin länsimaisia nimiä ja vaihtoehtoisia puhelinnumeroiden muotoja. Kun vahvistus hylkää oikeat tiedot, sinun täytyy laajentaa vahvistuslogiikkaa välttyäksesi kelvollisten käyttäjien sulkemiselta pois.
  • Tarkasta myyntialueiden rakenteet. Asiakkaiden segmentointistrategiat ja myyntialueiden rakenteet määrittävät resurssien allokoinnin asiakasjoukoissa. Kun alueiden rajat tai segmentointiehdot korreloivat demografioiden kanssa, jotka johtavat resurssien eriarvoiseen allokaatioon, allokaatio voi aiheuttaa syrjiviä lopputuloksia. Maantieteellisiä rajoja käyttävät aluesuunnittelut korreloivat usein rotuun, etnisyyteen ja taloudelliseen väestötietueeseen asuinpaikkamerkintöjen vuoksi. Jos palkkiot, henkilöstötaso tai resurssien investoinnit vaihtelevat alueittain, maantieteestä voi tulla mekanismi resurssien syrjivään kohdentamiseen.
  • Analysoi alueiden väestötiedot ennen suunnittelun viimeistelyä. Kartoita asiakkaiden demografiset tiedot ehdotettujen alueiden rajoista. Kun demografiset keskittymät tulevat esiin, arvioi, onko resurssien allokointi tasapuolista kaikilla alueilla demografisesta koostumuksesta riippumatta. Jos liiketoiminnan perustelut vaativat eri resurssien tasoja eri alueiden välillä (esimerkiksi markkinoiden kypsyys, kilpailukykyintensiteetti ja kasvupotentiaali), dokumentoi perustelut erikseen ja valvo lopputuloksia varmistaaksesi, että alitason alueet saavat riittäviä sijoitusmahdollisuuksia välttyäksesi perustelluilta eroavaisuuksilta.
  • Pidä automatisointilogiikka avoimena. Asiakirjojen liiketoimintasäännöt, kohdistuksen ehdot ja kulkujen päätösten logiikka Salesforce Knowledge tai arkkitehtuurin päätöstyötietueissa. Läpinäkyvä automatisointi sallii oikeudenmukaisuuden tarkastamisen tavalla, jota piilotettu logiikka estää.
  • Tarkasta lopputulokset säännöllisesti. Ajoita neljännesvuosittaisia auditointeja analysoidaksesi automatisoinnin lopputuloksia, jotka saattavat kerääntyä asiakkaiden demografioiden mukaan. Pidä mielessäsi, että eroavaisuudet käynnistävät tutkimuksia ja mahdollisia korjauksia.
  • On tärkeää seurata:
  • Kohdistusten jakelut tiimeille ja alueille
  • Hyväksymissuhteet kuluille, jotka tekevät oikeutuspäätöksiä
  • Vahvistussääntöjen hylkäyssuhteet datakuvion mukaan
  • Alueen suorituskyky ja resurssien allokointi
  • Tarkasta suurten panosten automatisointi eettisellä linssillä. Aihekulut ja kohdistussäännöt, jotka vaikuttavat työllisyyteen, luottoon, palvelun käyttöoikeuksiin tai muihin lopputuloksiin samassa eettisessä tarkastusprosessissa kuin tekoälysjärjestelmät. Automatisoinnin vinouma vaatii saman tason tarkastusta kuin algoritminen vinouma.

Salesforcessa tekoälyn oikeudenmukaisuus keskittyy Einsteinin käyttämiseen vahvistaakseen, että ennusteet tuottavat oikeudenmukaisia lopputuloksia kaikissa väestöryhmissä. Einstein Discovery ja mukautettu instrumentaatio keräävät ennustemallin päätöksenteon dataa, joka sallii vinouman havaitsemisen. CRM Analytics -mittaristot seuraavat oikeudenmukaisuuden tilastoja. Kenttien kirjausketju ja tapahtumien valvonta keräävät päätöstietoja algoritmista vastuullisuutta varten.

Einstein, jotka vaikuttavat seuraaviin päätöksiin (esimerkiksi liidien pisteytykseen, mahdollisuuksien ennustamiseen ja asiakassegmentointiin), vaativat oikeudenmukaisuuden arviointeja ennen käyttöönottoa, jotka toimivat pakollisena vastaavana vaiheena (samanlainen kuin tietoturvatarkastukset).

Analysoi kaikkia ennustemallin ominaisuuksia korreloidaksesi suojattujen ominaisuuksien kanssa käyttämällä tilastollisia menetelmiä. Poista tai muunna välityspalvelimen ominaisuuksia arvioidessasi, onko niiden ennustearvo oikeutettu sisällyttämiseen välityspalvelimen vaikutuksista huolimatta.

  • Tarkasta Salesforce CRM -data ennen koulutusta. Salesforce-organisaatiot sisältävät vuosikymmeniä ihmisten tekemiä päätöksiä, jotka perustuvat historiallisiin käytäntöihin. Jos aiemmat myyntitiimit priorisoivat tiettyjä väestötietoja, Einsteinin liidien pisteytys -ominaisuus oppii nämä kuviot ja säilyttää ne. Ennen kuin koulutat ennustemalleja historiallisesta datasta, on tärkeää tarkastaa kyseiset tiedot demografisten esitysten aukkojen ja mittauksen epäjohdonmukaisuuksien varalta eri asiakassegmenteissä.
  • Laske oikeudenmukaisuuden tilastot eri väestöryhmille. Ennen kuin otat ennustemallit käyttöön, on tärkeää laskea demografinen tasa-arvo, tasa-arvoiset mahdollisuudet ja erilaiset vaikutussuhteet suojattujen ryhmien välillä, joissa sinulla on laillinen peruste kerätä ja käsitellä vaadittuja demografisia tietoja. Jos Einsteinin liidien pisteytys -ominaisuus kohdistaa segmentille A korkeat pisteet 50 prosenttia ajasta, mutta vain 30 prosenttia ajasta segmentille B, 60 prosentin suhde epäonnistuu neljän viidesosan säännössä (80 %) ja vaatii tutkimista ja lieventämistä. 80 %-arvo on ruutukäynnistin, ei lakisääteistä ohitus/epätosiriviä: neljän viidesosan sääntö on Yhdysvaltojen liittovaltion peukalo-sääntö työvaihtoehtojen valinnalle, ja sen selvittäminen ei ole turvallinen satama — tilastollisesti merkittävä ero voi vaatia tarkastusta korkeammilla suhteilla ja muut järjestelmät mittaavat haitallisia vaikutuksia eri tavalla (EU:n epäsuora syrjintäoikeus esimerkiksi määrittää, aiheuttaako käytäntö "erityistä haittaa" ilman kiinteää kynnysarvoa). Kalibroi tutkimusten kynnysarvot toimialueisiin ja käytä tapauksia, joissa työskentelet.
  • Kaappaa ennustemallin päätösten dataa vinoumien havaitsemista varten. Jos haluat havaita vinoumia ennustemalleissa, kuten liidien pisteytys ja mahdollisuuksien pisteytys, kaappaa päätöstietoja Einstein Discoveryn ja mukautettujen instrumentaatioiden avulla: tallenna ennusteen syötetyt tiedot, tulokset ja malliversiot seurattuihin kenttiin ja ota kenttien kirjausketju käyttöön. Analysoi CRM Analyticsissa olevaa dataa seurataksesi eri väestöryhmien päätöksentekokuvioita tietyltä aikaväliltä ja laatiaksesi mittaristoja, jotka varoittavat, kun demografisen pariteetin tai mahdollisuuksien tasa-arvon tilastot ylittävät hyväksyttävät kynnysarvot.
  • Huomaa välityspalvelimen ominaisuudet ennustemalleissa. Suojattuihin ominaisuuksiin korreloivat ominaisuudet sallivat epäsuoran syrjinnän, vaikka suojatut ominaisuudet jätettäisiin pois malleista.
    • Salesforce-data sisältää tavallisesti välityspalvelimen ominaisuuksia:
  • Alue- tai postinumero (etun, etnisen ja tulotason välimerkit)
  • Tilin nimikuvioita (organisaation koon ja toimialan demografioiden välimerkkejä)
  • Viestintötoimintojen ajoitus (aikavyöhykkeiden, uskonnon ja hoitovelvoitteiden välitysmerkit)
  • Toimintojen datasta saatu laitetyyppi tai selain (tuottotason välitysnumerot)

Kun Einstein havaitaan vinoumia, sinun täytyy soveltaa lieventämistä asiaankuuluvassa putken vaiheessa (juurisyyn ja teknisiin rajoituksiin perustuen).

  • Balance-data ennen mallin koulutusta. Tasapainottaa Salesforce CRM -dataa käyttämällä aliesiteltujen asiakassegmenttien yliesittelyä tai yliesiteltujen segmenttien alaesittelyä ennen ennustemallien kouluttamista. Käytä Data 360:a aggregoidaksesi dataa useista organisaatioista varmistaaksesi, että sinulla on erilaisia koulutusjoukkoja. Synteettinen datan luominen voi täydentää harvinaisia segmenttejä ja säilyttää yksityisyyttä erilaisten tietoturvatekniikoiden avulla.
  • Poista välityspalvelimet ominaisuuksien suunnittelussa. Kun välityspalvelimen ominaisuudet tunnistetaan, korvaa ne vaihtoehtoisilla ominaisuuksilla, jotka tarjoavat ennakoivaa tehoa ilman demografista korrelaatiota. Jos alue toimii väestötietojen välityspalveluna, harkitse vaihtoehtoisesti toimialan luokittelua tai yrityksen kokoa. Jos tilin nimikuvio korreloi demografisten tilastojen kanssa, käytä sen sijaan firmografisia attribuutteja.
  • Säädä kynnysarvoja käsittelyn jälkeen. Säädä päätösten kynnysarvoja per demografinen segmentti tasaamaan lopputulosten määrää koulutusmallien jälkeen. Työhön liittyvissä päätöksissä tämä on kiellettyä: VII osasto (Civil Rights Act 1991) estää pistemäärien säätämisen tai eri pistemäärien käyttämisen suojattujen luokkien mukaan, eikä mikään dokumentoitu perustelu tee käytännöstä laillista. Kun tämä ei ole kielletty, dokumentoi kynnysarvojen säädöt liiketoiminnan perusteluilla, kun ennusteet auttavat automatisoituja päätöksiä.
  • Muokkaa malleja säännöllisesti käyttämällä päivitettyä dataa. Ajoita mallin uudelleenkoulutus neljännesvuosittain (tai kun datan jakaumassa tapahtuu merkittäviä työvuoroja). Tuoreen datan uudelleenkoulutus havaitsee nousevat vinoumuskuviot ja korjaa kaikki alkuperäisten oikeudenmukaisuuden perustasoista johtuvat häiriöt. Vahvista mallin kaikkien versioiden oikeudenmukaisuuden tilastot uudelleen ennen tuotantoympäristön käyttöönottoa varmistaaksesi, että uudelleenkoulutus ei aiheuta uusia puolueellisuuksia.

Einstein Trust kaappaa kehotteita, vastauksia ja Trust luoville tekoälylle ja Agentforce, jotka tukevat läpinäkyvyyttä ja säännösten noudattamista luoville tekoälylle. Ennustemallien läpinäkyvyys ja päätöksenteko saadaan Einstein Discoverysta ja Mallien hallinta -ominaisuudesta, jotka vaativat mukautettuja välineitä tarkastustietojen säilyttämiseksi.

Rakenna Einstein selittävyys alustavaan arkkitehtuuriin sen sijaan, että mukauttaisit selityksiä läpinäkymättömiin järjestelmiin käyttöönoton jälkeen.

  • Surface Einstein Discovery -selitykset päätöspisteissä. Einstein Discovery tarjoaa ennustavien tekijöiden selityksiä, jotka näyttävät, mitkä muuttujat vaikuttavat eniten tiettyihin ennusteisiin, joilla on suunnallinen vaikutus. Rakenna Lightning, jotka näyttävät nämä selitykset käyttäjille päätöksentekopisteessä sen sijaan, että tarvitsisit navigointia CRM Analytics -mittaristojen erottamiseksi. Kun päätökset vaikuttavat käyttäjiin, he tarvitsevat läpinäkyvyyttä, eivät mallin abstrakteja suorituskykytilastoja.
  • Tason selitykset eri kohdeyleisöille. Anna kullekin kohdeyleisölle sopiva selityksen syvyys:
  • Yrityskäyttäjät: "Tämä liidi sai korkean pistemäärän, koska vuosituotto ylittää 1 miljoonan dollarin ja osallistumispisteet ovat 10 %:issa."
  • Tekniset käyttäjät: Tarjoa Einstein Discovery -mallin kortti, joka sisältää ominaisuuksien painotukset, koulutusdatan ominaisuudet ja vahvistustilastot.
  • Asiakkaat: "Tämä suositus perustuu viimeaikaisiin ostoksiisi ja asiakkaisiin, joilla on samankaltaisia toiveita."
  • Tarkastajat: Tarjoa Einstein Discoverysta ja Mallien hallinta -sivulta saatu päätöslinja — mallien versio, syötetyt arvot ja ennusteen edistävät tekijät — kaapattu mukautetun instrumentaation avulla.
  • Ilmoita luottamuksesta oikein. Näytä ennusteen luottamus käyttäjäkohtaisiin termeihin ja vältä raakoja todennäköisyyspisteitä, joita käyttäjät voivat tulkita väärin. Sen sijaan, että näytettäisiin "73 %:n luottamustaso", ilmoita tästä käyttämällä kategorioita (esimerkiksi Korkea luottamustaso, Moderoi luottamustaso ja Täytyy tarkastaa) selittämällä, mitä kukin luottamustaso tarkoittaa päätösten luotettavuudelle ja mitä lisätarkistuksia tapahtuu.

Ylläpidä kattavia ja muuttumattomia tarkastusketjuja, jotka tukevat vastuullisuutta, virheenkorjausta ja lakisääteistä vaatimustenmukaisuutta kaikille käyttäjiin vaikuttaville tekoälyyn perustuville päätöksille.

  • Kaappaa ennakoivia auditointitietoja oikeilla työkaluilla. Tallenna ennustemallin tarkastustiedot — ennusteen syöttämät tiedot, tulokset ja malliversiot — seurattuihin kenttiin, joissa on kenttien kirjausketju käytössä. Rakenna datan säilytyskäytäntöjä noudattaaksesi lakisääteisiä vaatimuksia, jotka vaihtelevat toimialan ja lainkäyttöalueen mukaan:
    • Finanssipalveluiden säännöt määrittävät säilytyksen per sääntö (esimerkiksi FINRA-sääntö 4511(b) määrittää oletusarvoisen kuuden vuoden säilytysajan tietueille, joilla ei ole muutoin määritettyä säilytysaikaa FINRA-sääntöjen tai SEA-säännön 17a-4 mukaisesti).
    • Terveydenhuollon säilyttämiseen sovelletaan myös tiettyjä sääntöjä (esimerkiksi HIPAA vaatii vähintään kuusi vuotta vaatimustenmukaisuuden dokumentointia varten; potilastietueiden säilyttämistä määrittävät yksittäiset osavaltion lait), eikä kokonaisvaltaisia määrittämättömiä säilytystarjouksia.
  • Analyysoi ennustemallin päätösten dataa CRM Analyticsilla. Rakenna CRM Analytics -mittaristoja keräämiesi ennustemallin päätösten datan perusteella (ennusteen syöttämät tiedot, tulokset ja seurattujen kenttien malliversiot) analysoidaksesi päätöksentekijöitä, oikeudenmukaisuuden tilastoja ja mallin suorituskykyä ajan myötä. Luo linssejä, jotka näyttävät ennusteiden jakaumat luottamustason, demografisen segmentin ja lopputuloksen tyypin mukaan. Määritä Einstein Discovery -tarinoita, jotka tunnistavat poikkeavia kuvioita, jotka vaativat lisätietoja.
  • Käytä kenttien kirjausketjua säilyttääksesi sen pitkällä aikavälillä. Vakiokenttien historiatiedot seuraavat muutoksia 18 kuukauden ajalta käyttöliittymässä ja 24 kuukauden ajalta API:n kautta. Kenttien kirjausketju sallii sinun säilyttää kenttähistorian määrittämättömästi mukautetuille objekteille, jotka sisältävät tekoälyä käyttävien päätösten dataa. Se arkistoi historiatiedot oletusarvoisesti 18 kuukauden kuluttua ja säilyttää sitten arkistoidut tiedot, kunnes poistat ne. Ota kenttien kirjausketju käyttöön objekteille, jotka sisältävät suostumustietueita, korvaavia päätöksiä ja vinoumiraportteja noudattaaksesi lakisääteisiä säilytystarpeita.
  • Käytä Event Monitoring -ominaisuutta Agentforce-vuorovaikutuksille. Event Monitoring kaappaa kutsutason tapahtumat Agentforcelle, esimerkiksi toimintojen ja kulkujen suorituksen yhteydessä. Vie Event Monitoring -dataa ulkoiseen SIEM-järjestelmään — eli vakiomuotoisen Event Log File -datan API:n kautta ja tapahtumien reaaliaikaisen Event Monitoring -alajoukon sovellusalustan tapahtumien kautta — tallennustilaan, joka ylittää Salesforcen natiivin säilytysajan. Väärinkäytön todisteet riippuvat tietyistä SIEM-toiminnoista, jotka noudattavat kertakirjautumisen ja käyttöoikeuksien erottamista. Määritä SIEM-kyselyitä havaitaksesi vinoumuskuvioita suurissa määrissä Agentforce.
  • Tarkasta Agentforce-keskusteluita Einstein Trust -kerroksella. Einstein Trust Layer kaappaa Agentforcen keskusteluiden kehotteiden ja vastausten kirjausketjun, joka on tallennettu Data 360 -palveluun, ja tarjoaa keskustelulokitason tietueen läpinäkyvyyttä ja säännösten noudattamista varten.

Tutustutaanpa tarkemmin arkkitehtien läpinäkyvyysominaisuuksiin, jotka on suunniteltu vastaamaan nykyisiä ja uusia tekoälysäännöksiä useissa lainkäyttöalueissa.

  • EU AI Act -säädöksen avoimuusvaatimukset. EU AI Act -säädöksen mukaiset riskialttiit tekoälysjärjestelmät vaativat läpinäkyvyyttä koskevaa dokumentaatiota, teknistä dokumentaatiota, henkilökohtaisia valvontatehtäviä ja tarkkuus- ja oikeudenmukaisuusmittareita. Einstein Trust Layer -tarkastuspolut ja Einstein Discovery -mallin kortit tarjoavat perustan näille vaatimuksille. Asiakirjamallin koulutusdatan demografioita, vahvistusmenetelmiä ja tunnettuja rajoituksia arkkitehtuurin päätöstyötietueissa.
  • GDPR:n oikeus saada selityksiä. GDPR myöntää EU:n tietojen kohteille oikeuden saada hyödyllisiä tietoja päätöksen logiikasta, kun päätös perustuu vain automatisoituun käsittelyyn ja sillä on oikeudellisia tai vastaavalla tavalla merkittäviä vaikutuksia. Tämä oikeus johtuu 15 artiklan 1 kohdan h alakohdasta ja 22 artiklan 3 kohdasta, kun niitä luetaan johdanto-osan 71 johdanto-osan kanssa, ja unionin tuomioistuin selkiytti asiaa Dun & Bradstreet (2025). Suunnittele järjestelmiä, jotka luovat johdonmukaisia kyselyiden mukaisia selityksiä historiallisille päätöksille tietojen aiheiden käyttöoikeuspyyntöjen ajanjaksoissa, jotka vaihtelevat (riippuen lainkäyttöalueesta) 15–45 päivän välillä. Ennustemallin päätösten keräämäsi data — ennusteen syöttämät tiedot, tulokset, malliversiot ja Einstein Discovery -selitykset — sallii sinun rakentaa selitykset uudelleen, kun niitä säilytetään riittävästi.
  • Algoritmisen vastuuvelvollisuuden lait. Yhdysvaltojen osavaltion tason algoritmiset vastuuvelvollisuussäännöt vaativat yhä enemmän vaikutustenarviointeja ja avoimuusraportointia automatisoiduille päätöksentekojärjestelmille. Keräämäsi ennustemallin päätösten data ja CRM Analyticsin oikeudenmukaisuuden valvonta -mittaristot tarjoavat datan perusteet näille raporteille. Suorita algoritmisia vaikutusten arviointeja ennen kuin otat johdonmukaisen tekoälyn käyttöön ennakoivana vaatimustenmukaisuutena eikä reagoivana vastauksena sääntelyyn liittyviin kyselyihin.

OWD:t, jakosäännöt ja kenttätason suojaus (FLS) määrittävät datan käyttöoikeuskuviot, jotka määrittävät, mitä tietoja käyttäjät voivat tarkastaa ja käyttää päätösten tekemiseen. Oikea kokoonpano estää luottamuksellisten attribuuttien syrjivän käytön ja varmistaa samalla tasapuolisen palvelun.

Suunnittele OWD:t ja kenttätason suojaus rajoittaaksesi käyttöoikeuksia oletusarvoisesti. Käytä jakosäännöissä vähiten käyttöoikeuksia (PoLP) -periaatetta myöntääksesi vain lisäkäyttöoikeudet, joita jokainen rooli tarvitsee oikeutetusti, mikä estää suojattuihin ominaisuuksiin perustuvan syrjivän päätöksenteon.

  • Ota rajoitettu OWD käyttöön oletusarvoisesti. Käytä yksityisiä OWD-objekteja objekteille, jotka sisältävät luottamuksellisia asiakastietoja, ja myönnä käyttöoikeudet roolihierarkian ja jakosääntöjen perusteella. Julkisten luku-/kirjoitus-oikeuksien avulla käyttöoikeuksien rajoittaminen häiritsee myöhemmin — oletusarvoisen rajoituksen tiukentaminen käynnistää jakamisen uudelleenlaskennan, joka astuu voimaan vasta sen jälkeen, kun se on suoritettu loppuun — eikä mahdotonta. Yksityiset OWD-organisaatiot, joilla on erilliset jakotunnukset, luovat tarkastettavia käyttöoikeuskuvioita, jotka tukevat syrjimättömyyttä.
  • Käytä kenttätason suojausta luottamuksellisille attribuuteille. Piilota luottamukselliset kentät, jotka sisältävät suojattuja ominaisuuksia (esimerkiksi etninen sukupuoli, uskonto ja vammaisuuden tila) käyttäjiltä, jotka eivät tarvitse käyttöoikeutta oikeutettuihin liiketoimintatarkoituksiin. Määritä FLS poistaaksesi useimpien profiilien luottamuksellisten kenttien lukuoikeudet. Kun nämä kentät ovat pakollisia tietyille tarkoituksille (esimerkiksi monimuotoisuuden raportointi ja kohtuulliset rajoitukset), myönnä vähimmäiskäyttöoikeus käyttämällä käyttöoikeusjoukkoja, joilla on dokumentoitu liiketoimintaperuste.
  • Suunnittele kohdistussääntöjä ja jakosääntöjä oikeudenmukaisille lopputuloksille. Käytä kohdistussääntöjä, jonoja ja Omni-Channel-reititystä jakaaksesi töitä tasapuolisesti alueiden, tiimien ja palveluagenttien kesken. Vältä manuaalista jakamista, joka keskittää arvokkaat mahdollisuudet tai asiakkaat tiettyihin käyttäjäryhmiin ilman asiakirjoitettuja liiketoimintaperusteita. Määritä automaattisia jakosääntöjä objektiivisten ehtojen perusteella (esimerkiksi toimiala, maantieteellinen sijainti ja tuotesarja) päällikön subjektiivisen harkinnan sijaan, mikä saattaa johtaa vinoumiin.
  • Anna käyttöoikeusjoukot väliaikaista käyttöä varten. Myönnä luottamuksellisten tietojen väliaikainen käyttöoikeus käyttöoikeusjoukkojen avulla profiilien muokkaamisen sijaan, mikä vaikuttaa kaikkiin käyttäjiin pysyvästi. Kun käyttäjät tarvitsevat pääsyn tiettyjen projektien demografisiin tietoihin (esimerkiksi monimuotoisuuden analyysiin ja majoituspyyntöihin), kohdista heille käyttöoikeusjoukkoja, joilla on asiakirjoitetut vanhenemisajat. Ajoitetut kulut voivat kumota käyttöoikeusjoukkoja automaattisesti määritettyjen ajanjaksojen jälkeen.

Käytä Shield Event Monitoring -ominaisuutta ja raportteja havaitaksesi datan käyttötapoja, jotka osoittavat mahdollisen syrjinnän tai vinouman datan käytössä.

  • Käytä Shield Event Monitoring -ominaisuutta tarkastaaksesi luottamuksellisten tietojen käyttöoikeudet. Käytä Event Monitoring -ominaisuutta sieppaamaan objektitason käyttötapahtumia (raporttien vientejä, API-kyselyitä ja sivunäkymiä) objekteille, jotka sisältävät suojattuja ominaisuuksia tai luottamuksellisia attribuutteja. Määritä näiden tapahtumien kyselyitä näyttämään, kuka käytti objektia, milloin ja missä asiayhteydessä, ja käsittele poikkeavia kuvioita (esimerkiksi äkkiläiskut ja odottamattomien käyttäjien käyttöoikeudet) käynnistiminä tutkimista varten.
  • Raportti jakosääntöjen jakamisesta. Laadi raportteja, jotka analysoivat, miten tietueet jaetaan käyttäjille, tiimeille ja alueille. Laske jakelutilastot asiakkaiden demografioiden perusteella varmistaaksesi, että arvokkaat tilit ja mahdollisuudet jaetaan tasaisesti. Tunnista keskittymät, joissa tietyt käyttäjäryhmät saavat suhteettoman suuren käyttöoikeuden arvokkaisiin tietueisiin ilman dokumentoitua liiketoimintaperustetta.
  • Tarkasta CRUD- ja FLS-rikkomukset. Tarkasta OWD-asetusten, jakosääntöjen, FLS-kokoonpanojen ja käyttöoikeusjoukkojen muutokset määrityslokista. Tietojen käyttöoikeuksien hallintaan tehdyt valtuuttamattomat muutokset saattavat tarkoittaa, että yritetään käyttää luottamuksellisia tietoja asiattomasti. Käytä transaktioiden suojauskäytäntöjä reagoidaksesi riskialttiisiin reaaliaikaisiin Event Monitoring -tapahtumiin (esimerkiksi poikkeavat API-toiminnot, epäilyttävät sisäänkirjautumiset ja luottamuksellisten tietojen suuret raportti- tai luettelonäkymän viennit). Koska transaktioiden suojaus toimii vain näille suorituksen aikaisille tapahtumille, eikä tietuetason DML- tai FLS-muutoksille, sinun täytyy luottaa määrityslokiin ja asiakirjoitettuihin muutostenhallinnan hyväksyntöihin FLS-muutoksille ja jakomuutoksille.

Salesforcessa käyttäjäagentti tarkoittaa, että asiakkaat ja työntekijät voivat hallita, miten tekoäly vaikuttaa heidän käyttökokemukseensa. Salesforcen suostumusten hallintaominaisuudet, Data 360 -suostumusten ja mukautettujen suostumusobjektien avulla voit hallita tekoälyn vuorovaikutuksia tarkasti.

Suunnittele suostumusten seuranta käyttämällä Data 360 -suostumusten hallintaa, Marketing Cloud -suostumuksia tai mukautettuja suostumusobjekteja, jotka käyttävät Field Audit Trail -ominaisuutta tekoälykohtaisten suostumusten vaatimuksille.

  • Ota tarkka suostumus käyttöön per tekoälyn käyttötarkoitus. Ota suostumus käyttöön per tekoälyn käyttötapa sen sijaan, että käytettäisiin tyhjää tekoälyn suostumusta. Asiakkaat voivat suostua Einsteinin tuotteiden suosituksiin, mutta kieltäytyä tekoälyyn perustuvista luottopäätöksistä. Ota Field Audit Trail käyttöön suostumusobjekteille säilyttääksesi ne pitkällä aikavälillä ja noudattaaksesi lakisääteisiä vaatimuksia. Suunnittele mukautettuja suostumusobjekteja, joissa on kenttiä, jotka seuraavat:
  • Suostumuksen käyttötarkoitus (esimerkiksi Einsteinin liidien pisteytys, Einsteinin suosittelemat vastaukset ja Einsteinin suositusten rakentaja)
  • Suostumuksen myöntämispäivä ja myöntämismenetelmä (esimerkiksi verkkolomake, API, puhelin ja sähköposti)
  • Suostumuksen peruutuspäivä (jos sovellettavissa)
  • Liittyvä käyttäjä tai yhteyshenkilön tunnus
  • Käytä Data 360 -suostumusta personalisointiin. Käytä Data 360 -suostumusten hallintaa Einsteinin personalisointi. Data 360 tuo ja tallentaa suostumusvalintoja myöhemmistä järjestelmistä Privacy Data Model -tietomalliin kartoitettujen liittimien kautta, joiden avulla voit käyttää kyseisiä suostumusattribuutteja suodatusehtoina segmentoinnissa ja aktivoinnissa. Kartoita suostumusattribuutit tiettyihin tekoälyn käyttötapauksiin salliaksesi käyttäjien kieltäytyä personalisoinnista ylläpitämällä ydinpalveluita
  • Ota Marketing Cloudin suostumusten integrointi käyttöön. Integroi Marketing Cloud -suostumus Einstein Messaging Insights -ominaisuuteen ja tekoälyyn perustuviin markkinointiominaisuuksiin. Noudata Marketing Cloud -tilauksen tilaa ja suostumusta kaikissa tekoälyyn perustuvissa viesteissä.

Tarjoa tekoälyyn perustuvista ominaisuuksista hyödyllisiä tilausten peruutuksia helppokäyttötoiminnoilla, jotka noudattavat käyttäjien valintoja vertailukelpoisten ihmisten vaihtoehtojen avulla.

  • Anna käytettävissä olevat tilausten peruutukset profiiliasetuksista. Salli käyttäjien kieltäytyä tekoälyyn perustuvista vuorovaikutuksista käyttämällä Experience Cloud -profiiliasetusten käytettävissä olevia valintaohjaimia tai sisäisten sovellusten Omat asetukset. Anna selkeitä kuvauksia siitä, mitä jokainen tilauksen peruuttaminen tarkoittaa ja mitä vaihtoehtoisia käyttökokemuksia käyttäjät saavat, kun he peruuttavat tilauksensa. Tallenna valinnat käyttäjä- tai yhteyshenkilötietueisiin.
  • Anna pysyviä valintavaihtoehtoja eri kanavissa. Tallenna tekoälyvalinnat käyttäjä- tai yhteyshenkilötietueisiin varmistaaksesi yhdenmukaisuuden eri kanavissa (esimerkiksi verkossa, mobiililaitteilla, puhelimitse ja sähköpostitse). Kysele valintoja yhdenmukaisesti kaikissa vuorovaikutuskuluissa estääksesi käyttäjiä vahvistamasta valintoja toistuvasti eri kanavissa.

Eettinen tekoälyn hallinta tarjoaa organisaatiorakenteita, jotka auttavat varmistamaan, että oikeudenmukaisuus säilyy, kun mallit kehittyvät, datan siirrot ja käyttötarkoitukset laajenevat. Ilman hallintaa alustavat oikeudenmukaisuustyöt heikkenevät organisaation huomiovaihteluiden myötä.

Laadi pakollinen dokumentaatio ja tarkasta tarkastuspisteet ennen Einsteinin käyttöönottoa. Ajattele tätä porttina, joka on yhtä tärkeä kuin tietoturvatarkastukset.

  • Anna mallin dokumentaatio. Tallenna mallin dokumentaatio Salesforceen käyttämällä mukautettua Malli-objektia tai Salesforce Files -tiedostoja, jotka on liitetty projekteihin ottaaksesi haettavuuden ja versioiden hallinnan käyttöön. Dokumentoi jokainen tuotanto-ennustemalli käyttämällä:
  • Koulutustietojen demografioita ja tunnettuja esitelmän aukkoja (asiakkaiden kouluttamille ennustemalleille, kuten Einstein Discovery ja Ennusteiden rakentaja)
  • Käyttöönottoa edeltävät oikeudenmukaisuuden tilastot, jotka lasketaan demografisen ryhmän perusteella
  • Käyttötarkoitukset ja tunnetut epäasialliset käyttötarkoitukset
  • Kehityksen aikana käytetyt vinoumusstrategiat
  • Fairness-valvonnan lähestymistapa ja hälytysten kynnysarvot
  • Henkilökohtaisten valvonnan vaatimukset ja hyväksymistyönkulut
  • Tarkasta aikataulut ja vastuulliset osapuolet
  • Sääntelyissä huomioitavia asioita ja vaatimustenmukaisuuden sijoittaminen
  • Ota käyttöönottoa edeltävät fairness-yhdyskäytävät käyttöön. Malleja, jotka epäonnistuvat portin testauksessa, ei saa jatkaa tuotantoympäristöön. Käsittele oikeudenmukaisuusportaaleja samalla tarkkuudella kuin turvallisuusportaaleja. Toisin sanoen niillä on oikeus estää käyttöönotot. Ennen kuin otat Einstein käyttöön tuotantoympäristössä, sinun täytyy:
  • Tarkasta koulutusdatan auditoinnit. Kaikki esitelmän aukot täytyy analysoida ja dokumentoida.
  • Tarkasta oikeudenmukaisuuden tilastot (esimerkiksi demografinen tasa-arvo, yhtäläiset mahdollisuudet ja eriarvoinen vaikutus täytyy laskea ja vahvistaa kynnysarvojen täyttämiseksi).
  • Tarkasta vaikutusarvioinnit. Arvioi mahdolliset haitat kaikista asiaankuuluvista väestöryhmistä.
  • Suunnittele henkilökohtaisesti. Kaikki eskalointikuviot, hyväksymistyönkulut ja korvausmekanismit täytyy suunnitella ja testata asianmukaisesti.
  • Suorita läpinäkyvyystarkastus loppuun. Kaikkien päätöstyyppien selitysominaisuudet täytyy vahvistaa.
  • Täysi dokumentaatio. Kaikki vaaditut mallin dokumentaation artefaktit täytyy hyväksyä.

Laadi tarkastusprosesseja tehokkaille tekoälysovelluksille, jotka tarjoavat monitoimisen valvonnan ja joilla on valtuudet.

  • Tarkastuspaneelin koostumus. Sisällytä mukaan tekniset asiantuntijat (esimerkiksi arkkitehdit ja datatieteilijät), liiketoiminnan sidosryhmät (esimerkiksi tuotteiden omistajat ja toimintahenkilöstö), lakiosastot, tietoturva-asiantuntijat ja asiaankuuluvien yhteisöjen edustajat (kun mahdollista). Muista, että monipuoliset perspektiivit aiheuttavat oikeudenmukaisuuden ongelmia, joita homogeeniset ryhmät usein jättävät huomiotta.
  • Tarkasta kaikki käynnistimiä, jotka vaativat eettisen työvaliokunnan hyväksynnän. Määritä, mitkä tekoälyn käyttötapaukset vaativat eettisen tarkastuksen ennen käyttöönottoa:
  • Työllisyyteen, luottoon, asuntoon, terveydenhuoltoon tai lakisääteisiin oikeuksiin vaikuttavat päätökset
  • Automatisoidut järjestelmät, jotka vaikuttavat yli 10 000 käyttäjään tai tapahtumaan vuodessa
  • AI-sovellukset, jotka käyttävät luottamuksellisia henkilötietoja, kuten terveys-, talous- tai väestötietoja
  • Uudet käyttötarkoitukset, joilla ei ole vakiomuotoista organisaation precedenttia
  • Järjestelmät, joissa mahdolliset vinoumat voivat aiheuttaa merkittävää haittaa yksittäisille henkilöille tai ryhmille
  • Tarkasta ja määritä, kenellä on oikeus estää käyttöönotot. Eettisten tarkastusneuvostojen tulisi voida vaatia muutoksia, asettaa valvontaehtoja tai estää käyttöönotot, jotka eivät noudata eettisiä standardeja. Vain neuvoja käyttävät tarkastukset (ilman valtuuksia) saattavat rajoittaa hallintaprosessin tehokkuutta. Dokumentoi kaikki mukautettujen Salesforce-objektien tarkastukset, jotka seuraavat: hakemuksen nimi, tarkastuspäivä, esitetyt huolenaiheet, vähentämistoimenpiteiden vaatimukset ja hyväksymisehdot.

Fairness-valvonta on jatkuva prosessi, joka vaatii jatkuvaa huomiota vianmäärityksen havaitsemiseen datan jakauman muuttuessa ja käyttäjäjoukkojen muuttuessa.

  • Luo CRM Analytics Fairness -mittaristoja. Rakenna mittaristoja, jotka seuraavat oikeudenmukaisuuden tilastoja käyttämällä ennustemallin päätöksentekoa, jonka keräät. Seuraa demografista yhteensopivuutta, mahdollisuuksien tasa-arvoa, eriarvoisia vaikutussuhteita ja ennusteiden laatua koskevia tilastoja asiakassegmenttien mukaan. Määritä CRM Analytics -hälytyksiä, jotka käynnistyvät, kun oikeudenmukaisuuden tilastot ylittävät määritetyt kynnysarvot ja vaativat tutkimisen.
  • Ota mukautettu valvonta käyttöön oikeudenmukaisuuden signaaleille. Rakenna mukautettua oikeudenmukaisuuden valvontaa havaitaksesi signaaleja (esimerkiksi äkkiläisiä muutoksia päätösten jakaumassa väestöryhmän mukaan, puolueeseen liittyvien tapaustietueiden nousua tai mallin suorituskyvyn heikentymistä tietyille väestöryhmille).
  • Ajoita oikeudenmukaisuustarkastukset. Suorita kattavia neljännesvuosittaisia oikeudenmukaisuustarkastuksia korkean sijoituksen AI-järjestelmille (esimerkiksi luotto, työllisyys ja terveydenhuolto) sekä puolivuosittaisia tarkastuksia vähemmän sijoituksen saaneille järjestelmille (esimerkiksi suositukset ja personalisointi). Tarkastusten tulisi tutkia nykyisiä oikeudenmukaisuuden tilastoja, tarkastaa hyväksymishistorian korvauskuviot, analysoida käyttäjien palautetta ja puolueellisuusraportteja ja vahvistaa, että hallintatoimet pysyvät tehokkaina.
  • Toteuta vahinkotapahtumien vastaus oikeudenmukaisuuden virheille. Laadi selkeitä prosesseja, jotka on dokumentoitu Salesforce Knowledgessa ja jotka määrittävät, miten vastata vinouman havaitsemiseen:
  • Välitön: Arvioi vakavuus ja vaikutusalue kyselemällä ennustemallin päätösten dataa CRM Analyticsissa. Jos vahinkotapahtuma on vakava, keskeytä kaikki automatisoidut päätöksenteot tutkimista odotettaessa.
  • Lyhytaikainen: Toteuta väliaikaisia lieventämisstrategioita (esimerkiksi parempi henkilökohtainen valvonta säädettyjen luottamustason kynnysarvojen kautta, ominaisuuksien käyttökatkos tai agenttien täydellinen keskeyttäminen).
  • Tutkimus: Suorita juurisyyn analyysi (RCA) tunnistaaksesi, miten vinouma syötettiin järjestelmään tai kehittynyt. Analysoi koulutusdataa, malliversioita ja kokoonpanojen muutoksia kenttätarkastuspolun kautta RCA:n aikana.
  • Korjaus: Toteuta pysyvä korjaus tietojen korjaamisen, mallin uudelleenkoulutuksen tai prosessien muutosten kautta.
  • Viestintä: Ilmoita asiaankuuluville käyttäjille tapausten, sähköpostien tai Experience Cloud -ilmoitusten kautta.
  • Ennaltaehkäisy: Prosessin muutokset toistumisen estämiseksi ja ennakointimenetelmien dokumentointi suorituskirjoissa.

Käytä tätä tarkistuslistaa arkkitehtuurin tarkastuksissa, ennen tuotantoympäristön käyttöönottoa ja säännöllisesti jatkuvaa arviointia varten.

Datan laatu ja edustamisen oikeudenmukaisuus

  • Tee kentistä valinnaisia, jos prosessi voi toimia ilman tietoja, ja suunnittele alempia prosesseja puuttuvien arvojen käsittelemiseksi, jotta käyttäjiä, jotka eivät voi tarjota tietoja (sähköposti, SSN, katuosoite), ei jätetä pois.
  • Arkkitehtuurin nimi -kentät ovat yksi koko nimi -kenttä tai joustava monitoiminen rakenne, joka hyväksyy mononyymit, ei-latinalaiset komentosarjat, diakritikot ja pitkät nimet, sen sijaan, että olettaisi länsimaisen ensimmäisen/viimeisen järjestyksen.
  • Ota käyttöön sallittu osoitteen vahvistus, joka hyväksyy vapaamuotoisia ja kansainvälisiä formaatteja, tallentaen osoitteet syötettyinä sen sijaan, että estäisit tietueiden luomisen, jos formaatti ei vastaa toisiaan.
  • Tallenna viestintäkanavien valinnat yhteyshenkilötietueisiin ja tue omnichannel-vaihtoehtoja (sähköposti, tekstiviesti, puhelin, posti, chat, ääni) sen sijaan, että yksi kanava saavuttaisi kaikki käyttäjät.
  • Kerää väestötietoja vapaaehtoisen itserekisteröinnin avulla "Pidä vastattavaa" -vaihtoehdolla, joka tallennetaan erikseen Yksityinen OWD FLS:llä, kerätään raportointia varten ja valvotaan Shield Event Monitoringin kautta.
  • Tarkasta kolmansien osapuolten rikastuksen toimittajat oikeudenmukaisuuden testaamiseksi, demografisen kattavuuden ja päätelmien metodologian osalta ennen kuin liität demografisia tai toimintatietoja tietueisiin.

Saavutettavuus ja osallistava muotoilu

  • Käytä Lightning Design System -komponentteja, jotka on suunniteltu tukemaan WCAG 2.2 AA -yhteensopivuutta. Pidä mielessäsi, että Salesforce pyrkii vaatimustenmukaisuuteen, mutta komponentit vaativat silti oikeanlaista käyttöä.
  • Vahvista mukautettuja Lightning ruudunlukijan testauksella (esimerkiksi JAWS, NVDA ja VoiceOver).
  • Varmista, että täydellinen näppäimistön navigointi on käytettävissä Lightning ja Experience Cloud -sivustoilla ilman hiiririippuvuutta.
  • Varmista, että kontrastisuhteet vastaavat 4,5:1 normaalia tekstiä käyttämällä selaimen kehitystyökaluja tai kontrastitarkistajia.
  • Integroi sa11y- tai Lighthouse-käytettävyyden skannaus CI/CD-putkeihin, jotka epäonnistuvat kriittisten ongelmien perusteella.
  • Testaa Experience Cloud -sivustoja apulaitteilla ennen julkista julkaisua.
  • Vahvista auditiivinen palaute vahvistamalla, että kaikki dynaamiset muutokset (esimerkiksi virhetilat, latauspäälliköt tai valikoiden laajentaminen) ilmoitetaan selkeästi ja että puhuttu sisältö vastaa käyttöliittymän visuaalista tarkoitusta.

Oikeudenmukaisuus Salesforcen automatisoinnissa

  • Tarkasta kohdistussäännöt ja reitityssäännöt nähdäksesi korrelaation suojattujen ominaisuuksien kanssa, jotka voivat keskittää positiivisia tai epäsuotuisia lopputuloksia tietyissä väestöryhmissä.
  • Kulkujen ja prosessien automatisoinnin päätöslogiikka vinouman varalta, liiketoimintasääntöjen ja ehtojen dokumentointi Salesforce Knowledge tai arkkitehtuurin päätöstyötietueissa.
  • Arvioi vahvistussääntöjä hylkäyssuhteille, jotka vaikuttavat suhteettomasti tiettyihin datakuvioihin tai populaatioihin.
  • Analysoi alue- ja segmentointisuunnitelmia demografista korrelaatiota varten, dokumentoi selkeät liiketoimintaperusteet ja valvo alitason alueita resurssien tasaisen allokoinnin varmistamiseksi.
  • Kohdista korkean panoksen kulkuja ja kohdistussääntöjä (työllisyys, luotto, palvelun käyttöoikeudet) samaan eettiseen tarkastusprosessiin kuin tekoälyn järjestelmät, ja ajoita automatisoinnin lopputulosten neljännesvuosittaiset auditoinnit demografioiden mukaan.

AI:n oikeudenmukaisuus ja vinouman havaitseminen

  • Tarkasta Salesforce CRM -data demografisten esitysten aukkojen varalta ennen ennustemallin koulutusta.
  • Laske demografinen tasa-arvo, mahdollisuuksien tasa-arvo ja eriarvoiset vaikutussuhteet per demografinen ryhmä ennen käyttöönottoa.
  • Toteuta oikeudenmukaisuuden arviointeja pakollisena käyttöönottosiltapalveluna (katso, että tämä vastaa tietoturvatarkastusta).
  • Rakenna CRM Analytics -mittaristoja, jotka seuraavat oikeudenmukaisuuden tilastoja käyttämällä kenttätarkastuspolulla kerättyä ennustemallin päätöksentekoa.
  • Analysoi mallin ennakoivia ominaisuuksia välityspalvelimen korrelaatiolle suojattujen ominaisuuksien kanssa (esimerkiksi alue- ja tilin nimikuviot).
  • Ajoita kattavia neljännesvuosittaisia oikeudenmukaisuustarkastuksia kaikille tärkeille tekoälysjärjestelmille.

Avoimuus ja auditointikyky

  • Surface Einstein Discovery -ennusteiden selitykset Lightning päätöspisteissä.
  • Määritä Einstein Trust Layer -tilastojen kaappauksia käyttämällä säilytystyyppejä, jotka täyttävät lakisääteiset vaatimukset.
  • Ota kenttien kirjausketju käyttöön kaikille mukautetuille objekteille, jotka sisältävät tekoälyn päätösten dataa pitkäaikaista säilyttämistä varten.
  • Vie Event Monitoring -dataa ulkoiseen SIEM-järjestelmään — Tapahtumalokitiedostojen dataa API:n kautta ja reaaliaikaisia Event Monitoring -tapahtumia sovellusalustan tapahtumien kautta — tallennustilaan, joka ylittää natiivin säilytyksen, ja SIEM-puolella on kirjoituskerta-ohjaimet, jotka määrittävät vianmäärityksen todisteet.
  • Tarjoa käyttäjälle sopivia luottamuksellisia viestejä (esimerkiksi Korkea, Moderoitu ja Matala) raakojen todennäköisyyksien sijaan.

Human Oversight Salesforce Automationilla

  • Määritä luottamukseen perustuvat eskaloinnin kynnysarvot kulussa ja reititä vähemmän luottamukselliset ennusteet ihmisten tarkastukseen.
  • Käytä Salesforcen hyväksymisprosesseja tärkeille päätöksille, jotka vaativat monivaiheisia tarkastusketjuja.
  • Integroi Agentforce ja Omni-Channel-reititys salliaksesi saumattoman eskaloinnin agenteille.
  • Tarjoa Agentforce pysyvä ”Yhteyden muodostaminen ihmisagentille” -vaihtoehto käyttäjäagenttien kunnioittamiseksi.
  • Vaadi asiakirjoitettu perustelujen ja hyväksymishistorian seuranta Agentforce, jotka on kerätty mukautetuissa kentissä.

Ei-diskriminaatio tietojen käyttöoikeuksien hallinnalla

  • Ota yksityinen OWD käyttöön ja myönnä sitten lisäoikeuksia roolihierarkian ja jakosääntöjen kautta.
  • Määritä kenttätason suojaus piilottaaksesi luottamukselliset väestökentät käyttäjiltä, jotka eivät tarvitse käyttöoikeutta.
  • Valvo luottamuksellisten tietojen objektitason käyttötapahtumia (raporttien vientejä ja API-kyselyitä) Shield Event Monitoringin avulla ja analysoi niitä poikkeavien käyttötarkoitusten varalta.
  • Laadi raportteja, jotka analysoivat jakosääntöjen jakaumia varmistaaksesi, että tietueiden allokaatio on tasapuolista alueiden välillä.
  • Tarkasta määritysloki valtuuttamattomien OWD-, jakosääntö- tai FLS-kokoonpanojen muutosten varalta.

Käyttäjäagentti ja suostumus

  • Suunnittele mukautettuja suostumusobjekteja käyttämällä Field Audit Trail -ominaisuutta seurataksesi tarkkoja, käyttökohtaisia tekoälyn suostumuksia.
  • Integroi Data 360- tai Marketing Cloud -suostumus Einsteinin personalisointi ja Agentforce.
  • Tallenna tekoälyvalinnat käyttäjä- tai yhteyshenkilötietueisiin varmistaaksesi yhdenmukaisuuden eri kanavissa (esimerkiksi verkossa, mobiililaitteilla ja puhelimella).
  • Tarjoa käytettävissä olevia tilauksia profiiliasetuksista ja ihmisten vaihtoehdoista Omni-Channel-reitityksen kautta.
  • Kysele suostumusten tietueita kulussa ennen kuin Einstein tai Agentforce vaikuttavat käyttäjiin.

Eettinen tekoälyn hallinta

  • Dokumentoi kaikki tuotanto-ennustemallit, mukaan lukien oikeudenmukaisuuden tilastot ja lieventämisstrategiat. Asiakkaan kouluttamille ennustemalleille (kuten Einstein Discovery ja Prediction Builder) dokumentoi myös koulutusdatan demografiset tiedot.
  • Laadi käyttöönottoa edeltävät pakolliset fairness-yhdyskäytävät, jotka estävät käyttöönoton, kunnes kaikki fairness-ehdot täyttyvät.
  • Luo tekoälyn eettinen tarkastusneuvosto kaikkien tärkeiden tekoälysovellusten täytäntöönpanoviranomaiseksi.
  • Rakenna CRM Analytics -mittaristoja valvoaksesi oikeudenmukaisuuden tilastoja ajoitetulla ajanjaksolla CRM Analytics -hälytysten avulla.
  • Määritä vahinkotapahtumien vastausmenetelmät oikeudenmukaisuusvirheille ja dokumentoi prosessi Salesforce Knowledgessa.
  • Ajoita neljännesvuosittaisia oikeudenmukaisuustarkastuksia, jotka analysoivat korvauskuvioita ja käyttäjien palautetta kaikista korkean panoksen järjestelmistä.

Jaa palautetta hyvin rakennetusta kehysjärjestelmästä.