AI:n oikeudenmukaisuus ja vinouman havaitseminen - agenttien kuviot
Lue lisää Well-Architected Fairness -ominaisuudesta → Agentic Enterprise Fairness
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ✅ Testaa agenteja järjestelmällisesti väestötietojen vinouman varalta käyttämällä suojattuja ryhmiä edustavia erilaisia henkilöitä; luo identtisiä pyyntöjä, jotka vaihtelevat vain väestötietojen merkeissä, kuten nimissä, sijainneissa tai viestintätyyleissä |
| Data 360 | Datasegmentit | ✅ Ennen kuin käytät Salesforce-dataa agenttien kouluttamiseen tai RAG-perustamiseen, tarkasta demografinen esitystapa ja tunnista aliedustetut ryhmät |
| Data 360 | Knowledge | ✅ Tarkasta Knowledge ja noutolähteet demografisen tasapainon varmistamiseksi. Varmista, että dokumentaation laatua, täydellisyyttä ja tarkkuutta voidaan verrata kaikissa asiakassegmenteissä |
| Agentforce | Agent Monitoring | ✅ Seuraa agenttien vuorovaikutuksia eri väestöryhmissä käyttäytymisen yhdenmukaisuuden varmistamiseksi. Analysoi vastauksen pituutta, lisätietotaso, kohteliaisuuden merkinnät ja ratkaisun laatua käyttäjäominaisuuksien mukaan. |
| Agentforce | Agent Monitoring | ✅ Havaitse palautussilmukoita valvomalla päätösten jakauman muutoksia tietyltä aikaväliltä; pilko silmukoita edustavien tapausten henkilökohtaisen tarkastuksen ja säännöllisen tasapainon avulla |
| Data 360 | Koulutusdata | ✅ Esikatsele aliedustettuja väestöryhmiä koulutusdatassa varmistaaksesi tasapainoisen esitystavan; syntetisoi lisädataa käyttämällä tekniikoita, kuten SMOTE, kun todellista dataa ei ole tarpeeksi |
| Agentforce | Kehotteen malli | ✅ Rajoita agenttien toimintatapaa järjestelmäkehotteiden avulla: “Käsittele kaikkia asiakkaiden demografioita yhtä ammattimaisesti ja yksityiskohtaisesti. Tarjoa selityksiä, joiden pituus ja laatu vastaavat asiakkaan viestintätyyliä tai taustaa.” |
| Einstein | Ennustemalli | ✅ Laske kaikkien mallin ominaisuuksien ja suojattujen ominaisuuksien väliset korrelaatiokerroimet. Arvioi, onko perusteltu ennustearvo perusteltu korostetusti korreloivien ominaisuuksien lisäämiseksi. |
| Einstein | Ennustemalli | ✅ Tunnista ja poista suojattuihin ominaisuuksiin liittyvät välityspalvelimen ominaisuudet (roolin zip-koodin välityspalvelimet, sukupuolen/etnisyyden nimikuvioiden välityspalvelimet, uskonnon/hoidon välityspalvelimet, tulotyypin välityspalvelimet, demografisen koostumuksen aluekohdistuksen välityspalvelimet) |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Data 360 | Koulutusdata | ⚡️ Käyttämällä historiallisia CRM-tietoja agenttien kouluttamiseen ilman väestötietojen tarkastamista, jolloin algoritminen vinouma voi heikentää ihmisten vinoumia |
| Agentforce | Agentin kokoonpano | ⚡️ Agenttien käyttöönotto ilman demografisten puolueiden systemaattista testausta eri henkilöille, jotka edustavat suojattuja ryhmiä |
| Data 360 | Knowledge | ⚡️ Tarjoamme yksityiskohtaisia Knowledge yrityskäyttäjille, mutta vain yleisiä vastauksia pienille yrityskäyttäjille, mikä säilyttää palvelun laadun eroavaisuudet |
| Agentforce | Agent Monitoring | ⚡️ Salli agenttien mukauttaa toimintatapaansa selkokielisten vihjeiden perusteella, jotka liittyvät suojattuihin ominaisuuksiin (viestintätyyli, kielen monimutkaisuus, ajoituskuviot) ilman valvontaa |
| Einstein | Ennustemalli | ⚡️ Sisällyttää välityspalvelimen ominaisuuksia (zip-koodia, nimikuvioita, laitetyyppiä) seuraaviin päätöksentekomalleihin arvioimatta korrelaatiota suojattujen ominaisuuksien kanssa |
| Agentforce | Agentin kokoonpano | ⚡️ Salli palautussulkuja, joissa agenttien päätökset luovat eroavaisuuden, joka oikeuttaa tulevat haitalliset päätökset (esimerkiksi reitittää agentin mahdollisuuksia tiettyihin alueisiin, luo vähemmän onnistumistietoja, vähentää ennustettua onnistumista entisestään) |
| Data 360 | Datasegmentit | ⚡️ Oletusarvoisesti enemmistökulttuurisiin viitteisiin sisältöesimerkkeissä, jotka syrjäyttävät ali-esitetyt käyttäjät |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agent Monitoring | ✅ Kirjaa lokiin kaikkien orkestrointiketjun agenttien täydelliset input- ja output-arvot, jotta lopputuloksen vinouma voidaan jäljittää takaisin siihen vaiheeseen, joka otti sen käyttöön ja missä vahvistus tapahtui |
| Sovellusalusta | CRM Analytics | ✅ Laadi mittaristoja, jotka näyttävät päätösten jakaumat kussakin orkestrointivaiheessa demografioiden mukaan eriteltynä, jotta voit tunnistaa, missä ketjun eriarvoisuus syntyy tai laajenee |
| Sovellusalusta | CRM Analytics | ✅ Laske demografinen tasa-arvo, mahdollisuuksien tasa-arvo ja eriarvoinen vaikutus ketjun jokaiseen vaiheeseen, ei vain lopulliseen lopputulokseen; vaiheittaiset tilastot havaitsevat yhdistelmän, joka näyttää hyväksyttäväksi missä tahansa vaiheessa, mutta heikkenee koko ketjussa |
| Agentforce | Mallin kokoonpano | ✅ Maksimoi eri agenttien monipuolisuus konsensuskuvioissa välttyäksesi korreloiduilta virheiltä: erilaiset perusmallit, kun se on mahdollista (kuten Bring Your Own LLM -kokoonpanojen kautta), erilaiset noutolähteet, erilaiset kehotteiden lähestymistavat ja erilaiset luottamustason kynnysarvon kalibroinnit |
| Agentforce | Agentin kokoonpano | ✅ Lisää henkilökohtainen tarkastus orkestroinnin kääntöpisteisiin, joissa vaihe rajoittaa alempia vaihtoehtoja merkittävästi, vaikka yksittäisten agenttien luottamus olisi korkea, koska orkestrointi luo uusia vaikutuksia, joita agenttien luottamuspisteet eivät sieppaa |
| Agentforce | Agentin kokoonpano | ✅ Määritä orkestroinnin katkaisijat, jotka pysähtyvät ja eskaloituvat ihmiselle, kun agentin luottamus laskee kynnysarvon alle, tulosten jakauma vaihtelee merkittävästi vaiheiden välillä, ketju kohtaa koulutuksessa tai vahvistuksessa esitettävää dataa tai käyttäjä haastaa välivaiheen päätöksen |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Agent Monitoring | ⚡️ Suorittamalla orkestrointiketjuja kirjaamatta kunkin agentin syöttämiä ja saatuja tietoja lokiin, jolloin on mahdotonta seurata, mikä vaihe tuotti vinouman, kun syrjivä lopputulos ilmestyy |
| Agentforce | Mallin kokoonpano | ⚡️ Käsittelet usean agentin konsensusta vinouman korjauksena, kun kaikki agentit jakavat saman perusmallin tai koulutusdatan, joten sopimus vahvistaa vain jaetun vinouman sen korjaamisen sijaan |
| Sovellusalusta | CRM Analytics | ⚡️ Mittaa oikeudenmukaisuutta vain lopulliselle orkestroinnin lopputulokselle, puuttuu vaiheittainen yhdistelmä, jossa jokainen vaihe näytetään hyväksyttäväksi erillään, mutta ketjun yhdisteet eivät ole hyväksyttäviä |
| Agentforce | Agentin kokoonpano | ⚡️ Yksittäisten agenttien luottamuspisteiden luominen orkestrointiketjun portille lisäämättä ihmisten tarkastuksia kääntöpisteisiin, joissa vaihe rajoittaa alempia vaihtoehtoja |
| Agentforce | Agentin kokoonpano | ⚡️ Salli orkestrointiketjun jatkaa ilman katkaisua, kun edellä olevalla agentilla on heikko luottamustaso, jakaumat vaihtuvat vaiheiden välillä tai ketju kohtaa koulutuksen ja vahvistuksen joukkojen ulkopuolisia tietoja |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Liiketoiminta | Käyttöönottosilta | ✅ Tee oikeudenmukaisuuden arvioinnista pakollinen käyttöönottoportaali, joka vastaa tietoturvatarkastuksen valtuutta ennen kuin otat agentin käyttöön, joka tekee seuraavia päätöksiä |
| Einstein | Ennustemalli | ✅ Laske demografinen pariteetti jakamalla populaatio demografisiin segmentteihin, mittaamalla positiivisia lopputulosten suhteita per segmentti ja vertaamalla eri segmenttien suhteita |
| Einstein | Ennustemalli | ✅ Varmista yhtäläiset mahdollisuudet vahvistamalla, että agentit tunnistavat kelvolliset henkilöt yhtä hyvin demografisista ominaisuuksista riippumatta. Varmista, että todelliset positiiviset suhteet ovat vertailukelpoisia eri ryhmien välillä |
| Einstein | Ennustemalli | ✅ Käytä neljän viidesosan sääntöä: Jos jokin ryhmä saa positiivisia lopputuloksia alle 80 %:issa parhaiten suoriutuvan ryhmän suhdetta, tutki vinoumista |
| Einstein | Ennustemalli | ✅ Laske eriarvoiset vaikutussuhteet kaikille agenttien tuloksellisille päätöksille ja asiakirjojen tutkimustuloksille, kun suhteet ovat alle 80 %. |
| Yritys | Dokumentaatio | ✅ Asiakirja, kun demografisen tasa-arvon rikkomukset vastaavat oikeutettuja liiketoimintatekijöitä syrjimisen sijaan |
| Liiketoiminta | Lakisääteinen tarkastus | ✅ Ota yhteyttä lakiosastoon, kun sovellat yhtälöityjä kertoimia ryhmäkohtaisten kynnysarvojen perusteella, huomataksesi, että Yhdysvalloissa työhön liittyvien päätösten pistemäärän tai lyhennysten säätäminen suojattujen luokkien perusteella on kielletty VII osaston (Civil Rights Act 1991) nojalla ja että muut lainkäyttöalueet asettavat omia rajoituksiaan |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Liiketoiminta | Käyttöönottosilta | ⚡️ Käyttää agentteja tekemään johdonmukaisia päätöksiä laskematta oikeudenmukaisuuden tilastoja demografisissa ryhmissä |
| Einstein | Ennustemalli | Järjestelmällisesti puuttuvat hyväksytyt ehdokkaat aliedustetuista ryhmistä asettamalla näille ryhmille korkeammat todistuksen kynnysarvot kuin enemmistöryhmille |
| Einstein | Ennustemalli | ⚡️ Ryhmäkohtaisten kynnysarvojen käyttöönotto ilman lakisääteistä perustelua tai vahvistusta siitä, että kynnysarvot parantavat oikeudenmukaisuutta aiheuttamatta muita syrjiviä vaikutuksia, tai Yhdysvalloissa niiden soveltaminen työhön liittyviin päätöksiin ollenkaan, kun VII osasto kieltää pistemäärän tai lyhennysten säätämisen suojattujen luokkien perusteella |
| Yritys | Dokumentaatio | ⚡️ Dokumentointi epäonnistui, kun oikeudenmukaisuuden tilastojen rikkomukset vastaavat oikeutettuja liiketoimintaeroja ja syrjintää |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Einstein | Trust | ✅ Käytä Trust Layer -tarkistustietoja analysoidaksesi vastausten jakaumia eri väestöryhmissä. Laadi CRM Analytics -mittaristoja, jotka vertaavat hyväksymissuhteita, suosituskuvioita ja riskipisteitä asiakassegmentin mukaan |
| Einstein | Trust | ✅ Kysele Trust Layer -lokeja säännöllisesti: näyttää kaikki arvokkaat ennusteet ryhmitettynä asiakkaan toimialan, alueen ja tilin koon mukaan varmistaaksesi, että ennusteiden jakaumat ovat yhdenmukaisia eri segmenteissä |
| Agentforce | Istunnon jäljitysoikeus | ✅ Esimerkki 100 agentin päätöksistä, jotka on lajiteltu demografisen ryhmän mukaan, ja pyydä tarkastajia arvioimaan, onko perusteluiden laatu vertailukelpoinen eri ryhmissä Agentforce istuntojen jäljittämisen perusteluiden seurannan avulla |
| Sovellusalusta | CRM Analytics | ✅ Määritä hälytyksiä, kun agenttien päätöskuvio poikkeaa merkittävästi perustasosta (esimerkiksi tietyn segmentin hyväksymissuhteet laskevat 20 % viikosta toiseen) |
| Sovellusalusta | CRM Analytics | ✅ Laadi mukautettu valvonta ilmoittaaksesi oikeudenmukaisuusmerkinnöistä: “Ilmoita, kun asiakassegmentin keskustelun keskiarvoinen pituus ylittää keskiarvon 1,5 kertaa kolmen peräkkäisen päivän aikana” |
| Sovellusalusta | CRM Analytics | ✅ Laadi uudelleenkäytettäviä CRM Analytics -mittaristomalleja, jotka seuraavat oikeudenmukaisuuden tilastoja agenteille, kuten demografista yhteensopivuutta, yhtäläisiä mahdollisuuksia, eriarvoisia vaikutussuhteita ja trendikaavioita |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Istunnon jäljitysoikeus | ⚡️ Agentforce istunnon jäljittämisen perustelujen ja Trust Layer -tarkistuksen jäljityksen ohittaminen, kun käyttäjät raportoivat vinouman, eivät huomioi, mitkä perusteluvaiheet, tietolähteet tai noutokuvioet ovat tuoneet vinouman |
| Sovellusalusta | CRM Analytics | ⚡️ Poikkeusten havaitsemisen hälytysten määrittäminen oikeudenmukaisuussignaaleille epäonnistui, jolloin äkkiläisiä jakelutyövuoroja ei havaittu |
| Sovellusalusta | CRM Analytics | ⚡️ Laadi oikeudenmukaisuuden mittaristoja ad hoc per tiimi, eikä jaa uudelleenkäytettäviä malleja standardoidaksesi oikeudenmukaisuuden valvontaa |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ✅ Suunnittele agenteille tärkeitä päätöksiä (työ, luotto, terveydenhuolto, laki, asuminen) analysoidakseen, suositellakseen ja valmistellakseen päätöksiä vaatiessaan ihmisten hyväksyntää ennen niiden suorittamista |
| Sovellusalusta | Hyväksymisprosessi | ✅ Määritä Agentforce luomaan suosituksia, jotka sisältävät todisteita, reitittää kynnysarvon ylittävät päätökset ihmisten tarkastajille hyväksymisprosessin kautta ja esittää agenttien perusteluja hyväksymisen käyttöliittymässä |
| Agentforce | Agentin kokoonpano | ✅ Toteuta luottamukseen perustuva eskalointi: korkea luottamustaso (yli 90 %) tapahtuu itsenäisesti, kohtalainen (70–90 %) vaatii ihmisen tarkastuksen, matala (alle 70 %) siirretään kokonaan ihmiselle asiayhteyden yhteenvedon avulla |
| Agentforce | Agentin kokoonpano | ✅ Kalibroi luottamustason kynnysarvot käyttämällä tuotantotietoja; näytä agenttien päätökset kussakin luottamustason alueessa ja laske todelliset onnistumissuhteet vahvistaaksesi kalibroinnin |
| Agentforce | Agentin kokoonpano | ✅ Määritä aikaan perustuvat eskalointikäynnistimet: 5–7 käännöstä ilman ratkaisua, 10 minuutin kuluttua, kun käyttäjä ilmaisee turhautumisen tai kun agentti toistaa saman vastauksen |
| Sovellusalusta | Omni-Channel | ✅ Määritä Omni-Channel reitittämään eskaloidut tapaukset asiaankuuluviin taitoihin perustuviin jonoihin, joissa on koko keskustelun konteksti. Kouluta ihmisiä käsittelemään eskalointeja ilman, että käyttäjät tarvitsevat toistaa tietoja |
| Agentforce | Käyttöliittymä | ✅ Tarjoa agenttien chat-käyttöliittymissä ”Yhteyden muodostaminen ihmisagenteille” -vaihtoehto aina, eikä se sisällytetä epäonnistuneiden vuorovaikutusten vähimmäismäärän jälkeen |
| Agentforce | Agentin kokoonpano | ✅ Salli valtuutettujen ihmisten korvata agentin päätökset milloin tahansa asiakirjoitetulla perustelulla. Lisää “Ohita agentti” -painike kaikkiin agentin päätösten käyttöliittymiin, jotka vaativat monirivisen tekstin selityksen |
| Sovellusalusta | Mukautettu objekti | ✅ Kirjaa korvaukset mukautettuun objektiin päätöksen tunnuksella, korvauksen aikaleimalla, perustelulla ja korvaajalla; luo CRM Analytics -mittaristojen seurannan korvauskuviot agentin, päätöksen tyypin ja asiakkaan väestötietojen mukaan |
| Yritys | Dokumentaatio | ✅ Vaadi dokumentoitu perustelut hyväksynnöille tai hylkäyksille, jotka eroavat agentin suosituksesta; seuraa korvauskuvioita tunnistaaksesi agenttien järjestelmällisiä puutteita |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ⚡️ Käyttämällä agentteja itsenäisinä päätöksentekijöinä tärkeitä päätöksiä varten (työllisyys, luotto, terveydenhuolto, laki, asuminen) ilman ihmisten hyväksyntöjä |
| Agentforce | Agentin kokoonpano | ⚡️ Käyttämällä väärin kalibroituja luottamuspisteitä, joissa “korkean luottamuksen” päätökset onnistuvat vain 75 prosenttia ajasta, mikä heikentää Trust eskalointimekanismeihin |
| Agentforce | Agentin kokoonpano | ⚡️ Asiakkaiden piilottaminen hyödyttömissä automatisoiduissa silmukoissa ilman aikarajoitettua tai kierrätettyä eskalointia ihmisille |
| Sovellusalusta | Omni-Channel | ⚡️ Eskaloitujen tapausten reitittäminen ilman koko keskustelun asiayhteyttä ja käyttäjien pakottaminen toistamaan agentille jo annetut tiedot |
| Liiketoiminta | Hallinta | ⚡️ Salli vastuun levittäminen, kun kaikki olettavat tekoälyn olevan vastuullista eikä kukaan ota päätösten omistajuutta |
| Liiketoiminta | Hallinta | ⚡️ Vastuuhenkilöiden kohdistaminen vahinkotapahtumien jälkeen, eikä ennen käyttöönottoa nimettyjen henkilöiden kanssa, jotka on dokumentoitu arkkitehtuurin päätöstyötietueissa |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Yritys | Dokumentaatio | ✅ Kohdista vastuullisuus ennen käyttöönottoa: mallin omistaja (oikeudenmukaisuus/täsmällisyys), päätöksen omistaja (käyttöskenaario/vaikutus), muutoksenhakuviranomainen (oikeudenmukaisuuden muutokset), tilintarkastusviranomainen (säännölliset auditoinnit) |
| Yritys | Dokumentaatio | ✅ Dokumentoi kaikki vastuuhenkilöroolit nimillä, äläkä vain otsikoilla, jotta vastuuhenkilövastuu säilyy organisaation muutosten kautta |
| Liiketoiminta | Hallinta | ✅ Salli valitusten viranomaisten (etiikan tarkastuslautakunta tai valtuutettu tiimi) käsitellä valituksia käyttäjiltä, jotka uskovat, että agenttien päätökset olivat epäreiluja, käyttämällä helppokäyttöisiä ja oikea-aikaisia prosesseja, jotka voivat kumota agenttien päätökset |
| Liiketoiminta | Hallinta | ✅ Valtuuttaa tarkastusviranomaisen (vaatimustenmukaisuustiimi) tekemään säännöllisiä auditointeja ja keskeyttämään agentit, jotka eivät täytä oikeudenmukaisuusstandardeja, odottaakseen korjausta |
| Liiketoiminta | Hallinta | ✅ Ajoita korkean yleisyyden korvauskuvioiden kuukausittainen tarkastus agenttien kehitystiimille |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Liiketoiminta | Hallinta | ⚡️ Asiakkuusroolien dokumentointi, jossa on vain otsikot (esimerkiksi “Data Science -liidi”) ilman nimettyjä yksityishenkilöitä, jolloin vastuullisuus katoaa organisaation muutosten aikana |
| Liiketoiminta | Hallinta | ⚡️ Salli päätösten omistajien delegoida vastuullisuutta tekoälysjärjestelmille sen sijaan, että he säilyttäisivät henkilökohtaisen vastuullisuuden todellisen maailman vaikutuksille |
| Liiketoiminta | Hallinta | ⚡️ Valitusprosessien tekeminen ei ole käytettävissä, ei ole oikea-aikaista tai sillä ei ole oikeutta kumota agenttien päätöksiä |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ✅ Rakenna useita selityskerroksia: käyttäjäkohtainen (selkeä kieli), liiketoiminta (avain päätöksen tekijä), tekninen (mallin lisätiedot/ominaisuuden painotukset) ja auditointi (täydet päätöksen jäljet) |
| Agentforce | Agentin kokoonpano | ✅ Näytä reaaliaikaiset yhteenvetojen perustelut päätöksenteossa: “Suosittelin tuotetta A ostohistoriasi (3 samanlaista ostosta), tämänhetkisen tarjouksen (20 % alennus) ja inventaarion saatavuuden perusteella” |
| Agentforce | Agentin kokoonpano | ✅ Tarjoa “Miksi suosittelit tätä?” -linkki salliaksesi käyttäjien tarkastella täydellisiä perusteluita, mukaan lukien kaikki haetut Knowledge, pyydetyt tietueet ja päätösten logiikka |
| Agentforce | Istunnon jäljitysoikeus | ✅ Nouda argumenttien jälkiä Agentforce istuntojen jäljittämisestä historiallista uudelleenrakentamista varten, kun käyttäjät haastavat menneet päätökset viikkoja tai kuukausia myöhemmin |
| Agentforce | Istunnon jäljitysoikeus | ✅ Esimerkki Agentforce jäljittämisen syistä, jotka on kerrostettu demografisten ryhmien mukaan analysoidakseen, onko päätösten laatu yhdenmukainen; tarkasta 100 jäljitystä kustakin asiakassegmentistä |
| Agentforce | Agentin kokoonpano | ✅ Ilmoita luottamuksesta käyttäjäkohtaisesti: “Korkea luottamustaso” / “Modaalinen luottamustaso” / “Pieni luottamustaso” käyttämällä pelkän kielen luotettavuuden kontekstia raakojen todennäköisyyspisteiden sijaan |
| Agentforce | Agentin kokoonpano | ✅ Jos päätökset ovat kohtuullisia tai heikosti luottamuksellisia, selitä, mitä lisätarkastuksia tapahtuu ja mitä odotetaan |
| Agentforce | Agentin kokoonpano | ✅ Tarjoa väärennettyjä selityksiä, jotka näyttävät käyttäjille, mikä muuttaisi lopputulosta: “Liidisi pisteet kasvavat vahvistettujen työtietojen kanssa (+8 pistettä)” |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ⚡️ Näyttää raakoja todennäköisyyspisteitä (esimerkiksi “73 %:n luottamustaso”), joita käyttäjät tulkitsevat väärin käyttäjälle sopivan luottamustason kielen sijaan |
| Agentforce | Agentin kokoonpano | ⚡️ Tarjoamalla virheellisiä tietoja, jotka rohkaisevat järjestelmän pelaamista tai paljastavat vahingossa suojattuja ominaisuuksia päätöksen tekijöinä (esimerkiksi “Sovelluksesi pisteytyisi paremmin, jos olisit 10 vuotta nuorempi”) |
| Agentforce | Agentin kokoonpano | ⚡️ Tarjoamme vain yhden selitystason, joka ei tarjoa loppukäyttäjiä (liian teknisiä) tai tarkastajia (liian yksinkertaistettuja) |
| Agentforce | Agentin kokoonpano | ⚡️ Historiallisten perustelujen jälkien tallentaminen epäonnistuu, jolloin menneitä päätöksiä ei voida selittää, kun niitä haetaan |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ✅ Näytä selkeästi, milloin käyttäjät vuorovaikuttavat Agentforce kanssa näkyvällä ja jatkuvalla tietojen esittämisellä (ei haudattu palvelun osalta tai näytetään vain kerran vuorovaikutuksen alussa) |
| Agentforce | Agentin kokoonpano | ✅ Näytä pysyvät visuaaliset osoittimet: agentin avatar on merkitty “AI-avustajaksi”, yläpalkki näyttää “Keskustelet Agentforce palveluagentin kanssa” ja näkyvissä oleva “Yhteyden muodostaminen henkilöllisen agentin kanssa” -vaihtoehto keskustelun aikana |
| Agentforce | Agentin kokoonpano | ✅ Varmista, että käyttäjät, jotka haluavat ihmisten vuorovaikutusta, voivat siirtyä ilman jännitystä tai palvelun laatua koskevia seuraamuksia |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ⚡️ AI-julkaisun piilottaminen palvelun osalta tai sen näyttäminen vain kerran vuorovaikutuksen alussa pysyvien visuaalisten osoittimen sijaan |
| Agentforce | Agentin kokoonpano | ⚡️ Rangaista käyttäjiä, jotka valitsevat ihmisviestinnän heikentyneellä palvelulla tai pidemmillä odotusaikoilla |
| Agentforce | Agentin kokoonpano | ⚡️ Piilottaa ”Yhteyden muodostaminen henkilöllisten agenttien kanssa” -vaihtoehdon tai vaatii käyttäjiä suorittamaan agenttien vuorovaikutukset ennen henkilöllisen tuen käyttämistä |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Sovellusalusta | Event Monitoring | ✅ Määritä Event Monitoring seurataksesi: API-tapahtumalokit, jotka näyttävät agenttien järjestelmän vuorovaikutukset, agenttien palvelutilien sisäänkirjautumistapahtumat ja raporttien viennit, kun agentit käyttävät joukkodataa |
| Sovellusalusta | Event Monitoring | ✅ Viestiketjujen tapahtumien valvonta -ominaisuuden lokit ulkoiseen SIEM-järjestelmään säilyttääkseen ja peukaloidakseen todisteita pitkäaikaisesti lakisääteisten vaatimusten mukaisesti |
| Sovellusalusta | Kenttien kirjausketju | ✅ Ota kenttien kirjausketju käyttöön (arkistoidun historian määrittämätön säilyttäminen) objekteille, jotka sisältävät tai joihin agenttien päätökset vaikuttavat, valitsemalla niistä tuetuista vakio-objekteista sekä mukautetuista objekteista, joilla on kenttähistorian seuranta käytössä; kriittinen luottoa, työllisyyttä ja muita tärkeitä käyttötarkoituksia varten |
| Sovellusalusta | Shield | ✅ Käytä Shield Event Monitoring -ominaisuutta tehokkaimmille agenttien päätöksille, kun seurantatietojen eheys on tärkeää (parannetut ominaisuudet, rakenteelliset tapahtumakentät, vaatimustenmukaisuuden raportoinnin integrointi) |
| Sovellusalusta | Mukautettu objekti | ✅ Luo mukautettu AgentDecision__c-objektin tallennus: Päätös_tunnus, aikaleima, Agent_Type, Malli_versio, Luottamuksen_pisteet, Lopputulos, Käyttäjätunnus, Tietue_tunnus; liitosobjekti DecisionInput__c linkittää päätökset syöttöominaisuuden tilannekuville |
| Sovellusalusta | Mukautettu objekti | ✅ Tallenna tarkat syöttöominaisuuksien arvot päätöksen aikana (ei tämänhetkisiä arvoja, jotka voivat muuttua) testataksesi, eroavatko päätökset päivitetystä datasta |
| Yritys | Dokumentaatio | ✅ Tietuemallin versio, kokoonpanotila (kynnysarvot, liiketoimintasäännöt, parametrit) ja ympäristön konteksti (käyttäjäidentiteetti, aikaleima, keskusteluhistoria) jokaiselle päätökselle |
| Sovellusalusta | LWC | ✅ Laadi LWC-komponenttien upottaminen tietueisiin näyttääksesi päätöshistorian “Näytä syyt” -linkkeillä |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Sovellusalusta | Kenttien kirjausketju | ⚡️ Vakiomuotoiseen kenttähistoriaan (18 kuukauden säilytys) luottaminen suuria panoksia käyttäville päätöksille, jotka vaativat usean vuoden säilyttämistä lakisääteisesti |
| Sovellusalusta | Mukautettu objekti | ⚡️ Tallentaa vain tämänhetkisiä tietuearvoja päätöksen aikaisten syötettyjen tilannekuvien sijaan, jolloin historiallisia päätöksiä ei voi rakentaa uudelleen tarkasti |
| Yritys | Dokumentaatio | ⚡️ Tietuemallin version ja kokoonpanon tilan aktivointi epäonnistui päätöksen aikana, jolloin juurisyyn analyysi on mahdotonta, kun vinouma havaitaan |
| Sovellusalusta | Event Monitoring | ⚡️ Tarkastuslokeja säilytetään vain Salesforcessa ilman ulkoista SIEM-suoratoistoa, eikä niillä ole todisteita säännösten noudattamisesta |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Sovellusalusta | CRM Analytics | ✅ Laadi mittaristoja, joissa näytetään: päätösten jakauma demografisen segmentin mukaan (pylväskaaviot), oikeudenmukaisuuden tilastot tietyltä aikaväliltä (trendiviivat hälytyksen kynnysarvoilla), eriarvoinen vaikutussuhde neljän viidesosan säännön osoittimella, tärkeimmät ennustavat muuttujat vaikuttavat päätöksentekoon, korvaussuhde demografisen ryhmän mukaan |
| Sovellusalusta | CRM Analytics | ✅ Hälytys, kun syötteen jakauma muuttuu merkittävästi koulutusdatan demografioista; valvo jakelun siirtoa, joka osoittaa mahdollisen oikeudenmukaisuuden heikentymisen |
| Agentforce | Agentin kokoonpano | ✅ Lisää ”Raportin huolenaihe” -vaihtoehto Agentforcen chat-käyttöliittymään; reititä raportit eettisen tarkastuksen tarkastuspaneeliin, jossa on koko keskustelun konteksti; seuraa mukautettua objektia, jossa on pakollinen tutkimistyönkulku |
| Liiketoiminta | Hallinta | ✅ Valvoa oikeudenmukaisuuden mittaristoja viikoittain, tutki kynnysarvon rikkomuksia 24 tunnin kuluessa, suorita kuukausittainen korvauskuvioanalyysi, suorita neljännesvuosittain kattavia oikeudenmukaisuuden auditointeja |
| Liiketoiminta | Hallinta | ✅ Salli käyttäjien raportoida havaittuja vinoumia helppokäyttöisten mekanismien avulla. Käyttäjäraportit paljastavat kvalitatiivisia ongelmia, joita kvantitatiiviset tilastot eivät näe |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Liiketoiminta | Hallinta | ⚡️ Käsittelemme vinouman havaitsemista kertaluonteisena käyttöönottoa edeltävänä vahvistuksena, eikä jatkuvana valvontana, kun agentit kehittyvät kehotteiden päivitysten, mallin versioiden muutosten ja datan jakamisen vaihtamisen kautta |
| Sovellusalusta | CRM Analytics | ⚡️ Hälytysten määrittäminen epäonnistui, kun oikeudenmukaisuuden tilastot rikkoivat määritettyjä kynnysarvoja, jolloin asteittainen liukuvaihe jää havaitsematta |
| Agentforce | Agentin kokoonpano | ⚡️ Ei tarjoa käyttäjille käytettävissä olevia mekanismeja havaitun vinouman raportoimiseksi, puuttuvat kvalitatiiviset ongelmat, joita kvantitatiiviset tilastot eivät voi paljastaa |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Sovellusalusta | Integraatio | ✅ Rakenna vientitoimintoja, joiden avulla vaatimustenmukaisuustiimit voivat noutaa täydellisiä päätöksentekotietojen datajoukkoja, joilla on demografinen kerros, ulkoisten auditointien tarkastamista varten noudattaen tietoturvaa koskevia säännöksiä |
| Yritys | Dokumentaatio | ✅ Ylläpidä tämänhetkistä dokumentaatiota, joka kattaa: agentin käyttötarkoitus ja käyttötarkoitukset, koulutusdatan demografiset tiedot ja tunnetut rajoitukset, oikeudenmukaisuuden tilastot (esikäyttöönotto ja tuotanto), vinoumien vähentämisen strategiat, henkilöstön valvontakokoonpanot, valvontamenetelmä ja vastuullisuuden kohdistukset |
| Liiketoiminta | Hallinta | ✅ Ennen kuin otat agentteja käyttöön tekemään seuraavia päätöksiä, suorita algoritmisia vaikutustenarviointeja arvioidaksesi mahdollisia positiivisia ja negatiivisia vaikutuksia eri sidosryhmissä |
| Liiketoiminta | Hallinta | ✅ Ajoita kolmansien osapuolten puolivuosittaiset ulkoiset oikeudenmukaisuustarkastukset; ylläpidä sääntelyhavaintoja EU:n tekoälylain, osavaltion lakien ja toimialan säännösten mukaisesti |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Sovellusalusta | Integraatio | ⚡️ Suunnittelet agenttiarkkitehtuuria ilman, että sääntelyviranomaiset, kansalaisoikeusjärjestöt tai asiakkaat tarvitsevat ulkoisia auditointeja. |
| Yritys | Dokumentaatio | ⚡️ Salli asiakirjojen vanhentua, kun agentit kehottavat päivityksiä tai mallin muutoksia päivittämättä oikeudenmukaisuuden tilastoja ja lieventämisstrategioita |
| Liiketoiminta | Hallinta | ⚡️ Käyttää agentteja tekemään johdonmukaisia päätöksiä ilman vaikutustenarviointeja, jotka arvioivat vaikutuksia eri sidosryhmissä |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ✅ Vaadi suora tilaus seuraaville agenteille (luottopäätös, työtarkastus, palveluhyväksyntä) oletusarvoisen aktivoinnin sijaan |
| Sovellusalusta | Mukautettu objekti | ✅ Luo AI_Consent__c kentillä: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; ota kenttien kirjausketju käyttöön suostumustietueiden säilyttämiseksi pitkällä aikavälillä |
| Agentforce | Agentin kokoonpano | ✅ Lisää suostumusten tarkistus agentin kutsulogiikkaan: kysele AI_Consent__c-suostumusta aktiivisesta suostumuksesta ennen käsittelyä; tukea käyttöskenaarioiden suostumusta ( palveluagentti vs. myyntiagentti) |
| Sovellusalusta | Yhteisö/Kokemus-sivusto | ✅ Laadi itsepalvelun suostumusten hallinnan käyttöliittymä, joka on käytettävissä käyttäjäprofiilista. Suostumusten uusimisen muistutukset ajoitetaan 12 kuukauden välein |
| Agentforce | Agentin kokoonpano | ✅ Kun otat käyttöön uusia ominaisuuksia, jotka vaikuttavat olemassa oleviin käyttäjiin, pyydä suostumusta ennakoivasti uusille käyttötarkoituksille sen sijaan, että luottaisit alkuperäiseen suostumukseen, joka ei sisältänyt tiettyjä sovelluksia |
| Agentforce | Agentin kokoonpano | ✅ Ota käyttöön suostumusten peruuttaminen milloin tahansa, kun agenttien käsittely lopetetaan välittömästi. Tee peruuttamisesta helppoa kuin myöntämisestä ilman, että sinun täytyisi ottaa yhteyttä tukeen |
| Agentforce | Agentin kokoonpano | ✅ Ota käyttöön käyttäjien valintojen hallinta: viestintätyyli (lyhyt vs. yksityiskohtainen), ennakoivuustaso, eskalointivalinta; tallenna käyttäjätietueiden mukautettuihin kenttiin ja viite agenttien järjestelmäkehotteisiin |
| Sovellusalusta | Omni-Channel | ✅ Tarjoa pysyvä ”Yhteyden muodostaminen ihmisagenteille” -vaihtoehto kaikissa vuorovaikutuksissa. Kun tämä on valittuna, reititä se Omni-Channeliin keskustelun täydellä asiayhteydellä ja prioriteettimerkinnällä ilman heikentyneitä palvelu- tai odotusaikoja |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ⚡️ Seuraavien agenttien aktivoiminen oletusarvoisesti ilman, että käyttäjällä olisi suostumusta ymmärtää, miten agentit vaikuttavat heihin |
| Agentforce | Agentin kokoonpano | ⚡️ Vaati täydellistä tekoälyn suostumusta sen sijaan, että ottaisit käyttöön tarkkoja käyttöskenaarioiden suostumuksia (asiakas saattaa suostua palveluagenteille, mutta kieltää myyntiagentteja) |
| Agentforce | Agentin kokoonpano | ⚡️ Suostumusten peruuttaminen vaatii tukihenkilöitä tai byrokraattisia prosesseja itsepalvelun sijaan välittömästi |
| Agentforce | Agentin kokoonpano | ⚡️ Luottaa alkuperäiseen suostumukseen, kun otat käyttöön merkittävästi uusia agenttien ominaisuuksia, joita alkuperäinen suostumus ei sisältänyt |
| Agentforce | Agentin kokoonpano | ⚡️ Vaati käyttäjiä suorittamaan agenttien vuorovaikutukset tai selittämään valintansa ennen kuin heidät yhdistetään ihmisen agentille |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ✅ Tarkasta kaikki agentin perusteluissa käytetyt tietolähteet suojattujen ominaisuuksien sisällölle. Poista tai peitä suojattuja ominaisuuksia agentin syöttämistä tiedoista, kun ne eivät ole oikeudellisesti perusteltuja päätöstyypille |
| Agentforce | Kehotteen malli | ✅ Sisällytä järjestelmäkehotteisiin selkeitä syrjimättömiä ohjeita: “Käytä kaikkia asiakkaita yhtä ammattimaisesti nimestä, sijainnista, viestintätyylistä tai muista ominaisuuksista riippumatta. Älä koskaan tee oletuksia asiakkaista demografisten ominaisuuksien perusteella.” |
| Agentforce | Agentin kokoonpano | ✅ Testaa useita henkilöitä ennen tuotantoympäristöä: luoda identtisiä pyyntöjä, jotka vaihtelevat vain demografisilla merkeillä (nimet, jotka ehdottavat eri etnisyyttä, sijaintia, viestintätyylejä); vertaa vastauksia laadun, pituuden, ammattitaidon ja lopputulosten perusteella |
| Agentforce | Agent Monitoring | ✅ Laske ensimmäisen yhteyshenkilön ratkaisuhinnat asiakassegmentin mukaan. Tutki, milloin segmenttien välillä on merkittäviä eroavaisuuksia |
| Agentforce | Agent Monitoring | ✅ Esittele agenttien keskusteluita eri segmenteistä ja pyydä tarkastajia arvioimaan vastauksen laatua yhdenmukaisten ulottuvuuksien perusteella (tarkkuus, täydellisyys, ammattitaito, hyödyllisyys) arviointien välisellä luotettavuustestauksella |
| Agentforce | Agent Monitoring | ✅ Seuraa eskalointisuhteita asiakkaiden demografioiden mukaan. Tiettyjen segmenttien korkeammat eskalointisuhteet osoittavat, että agentit eivät ole tehokkaampia käyttäjille |
| Liiketoiminta | Kyselyt | ✅ Kysele kaikkien väestöryhmien käyttäjiä ja vertaa tyytyväisyyspisteitä. Kokonais tyytyväisyys saattaa peittää vähemmistöryhmien huonoja kokemuksia |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Agentforce | Agentin kokoonpano | ⚡️ Sisällyttää suojattuja ominaisuustietoja (häiriön tila, uskonto, kansallinen alkuperä) agentin syöttämiin tietoihin päätöksille, kun kyseiset ominaisuudet eivät ole oikeudellisesti perusteltuja |
| Agentforce | Kehotteen malli | ⚡️ Agenttien käyttöönotto ilman erillisiä syrjimättömyysohjeita järjestelmäkehotteissa, riippuen vain perusmallin toimintatavoista |
| Agentforce | Agentin kokoonpano | ⚡️ Testaa vain agentteja, joilla on väestötietojen enemmistö, puuttuu puolueellisuus aliedustettuihin ryhmiin nähden |
| Liiketoiminta | Kyselyt | ⚡️ Luottaa tyytyväisyyspisteisiin, jotka peittävät huonoja kokemuksia vähemmistöryhmille, jotka ovat tyytyväisiä enemmistöön |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Sovellusalusta | LWC | ✅ Jos käytät mukautettuja chat-toteutuksia, varmista: semanttinen HTML-rakenne oikeilla maamerkeillä, ARIA-live-alueet, jotka ilmoittavat uusista viesteistä, näppäimistön navigointi viestihistoriassa, interaktiivisten elementtien selkeät keskitysosoittimet |
| Sovellusalusta | LWC | ✅ Testaa JAWS:llä, NVDA:lla ja VoiceOverilla koko kehityksen ajan, eikä pelkästään automatisoidulla skannauksella |
| Agentforce | Agentin kokoonpano | ✅ Määritä agenttien vastaukset käyttämään tavallista kieltä yleisille kohdeyleisöille; vältä jargonia ja tarjoa sanastoja välttämättömille teknisille termeille; rakenna pitkiä vastauksia otsikoilla ja pisteiden luetteloilla |
| Agentforce | Agentin kokoonpano | ✅ Vahvistettu vastauksen laatu on verrattavissa eri kielillä natiivikäyttäjien arvioinnin avulla, eikä pelkästään automatisoitujen tilastojen perusteella, jotka puuttuvat kulttuurisia piirteitä |
| Agentforce | Agentin kokoonpano | ✅ Määritä liiketoiminnalle kriittisille käyttötapauksille, jotka palvelevat erilaisia kielten populaatioita, kielikohtainen käsittely (kieliä koskevat muuttujat, lokalisoidut kehotteet, Knowledge suodattaminen kielen mukaan) ja vahvista laatu kieltä kohti sen sijaan, että luottaisit vain perustamallin monikieliseen siirtoon |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Sovellusalusta | LWC | ⚡️ Laadi mukautettuja chat-toteutuksia ilman manuaalista helppokäyttötestausta (luottaa vain automatisoituun skannaukseen) |
| Agentforce | Agentin kokoonpano | ⚡️ Käytä jargonia ja monimutkaista kieltä ilman sanastoja ja luo käyttäjille kognitiivisia esteitä |
| Agentforce | Agentin kokoonpano | ⚡️ Riippuu ainoastaan perusmallin monikielisestä siirrosta alhaisemman resurssin kielille, mikä heikentää laatua muille kuin enemmistökielille |
| Agentforce | Agentin kokoonpano | ⚡️ Vahvistaaksesi monikielisen vastauksen laadun vain käyttämällä automatisoituja tilastoja, jotka eivät sisällä kulttuurisia piirteitä |
Kuvio
| Mistä etsiä | Miltä hyvä näyttää |
|---|---|
| Liiketoiminta | Hallinta | ✅ Laadi käytäntöjen valvontaviranomaisten kanssa eettinen tarkastuslautakunta ennen kuin otat tuotanto-agentteja käyttöön |
| Liiketoiminta | Hallinta | ✅ Määritä pakolliset käyttöönottoportaalit: datan auditointi, oikeudenmukaisuuden tilastojen laskenta ja algoritmisten vaikutusten arviointi |
| Sovellusalusta | CRM Analytics | ✅ Luo oikeudenmukaisuuden valvontamittaristoja CRM Analyticsissa ennen agentin ensimmäistä käyttöönottoa |
| Sovellusalusta | Event Monitoring | ✅ Ota käyttöön Einsteinin Trust Layer -todennuksen kaappaus ja määritä agenttien toimintojen tapahtumien valvonta perustana ennen tuotantoympäristöä |
| Liiketoiminta | Hallinta | ✅ Ota käyttöön automatisoitu fairness regression testi CI/CD-putkissa skaalausta varten |
| Liiketoiminta | Hallinta | ✅ Standardoi suostumusten hallintakuvioita kaikille uusille agenteille käyttöönottojen skaalan mukaan |
| Sovellusalusta | Integraatio | ✅ Rakenna agenttien päätösten uudelleenrakennustyökaluja, jotka sallivat vaatimustenmukaisuustiimien itsepalvelun |
Anti-Mallit
| Mistä etsiä | Miltä huono näyttää |
|---|---|
| Liiketoiminta | Hallinta | ⚡️ Ota tuotanto-agentit käyttöön ennen kuin luot eettisen tarkastuslautakunnan, jolla on valvontaviranomainen |
| Liiketoiminta | Hallinta | ⚡️ Käsittelet oikeudenmukaisuutta mietinnönä eikä pakollisena käyttöönottoportaalina, joka vastaa tietoturvatarkastusta |
| Liiketoiminta | Hallinta | ⚡️ Algoritmisten vaikutusten arviointien ohittaminen ennen kuin otat agentteja käyttöön tekemään seuraavia päätöksiä |
| Sovellusalusta | CRM Analytics | ⚡️ Ensimmäisen tuotanto-agentin käyttöönotto ilman perustason oikeudenmukaisuuden valvonnan mittaristoja |