Agenttiyrityksen oikeudenmukaisuus

Kun itsenäiset agentit tekevät päätöksiä, jotka vaikuttavat asiakkaisiin, työntekijöihin ja yhteisöihin, oikeudenmukaisuudesta tulee arkkitehtoninen laatu, joka erottaa vastuullisen automatisoinnin haitallisesta automatisoinnista. Agentforce, jotka toimivat rajoitetulla henkilökohtaisella valvonnalla, ylläpitävät ja vahvistavat vinoumia ennennäkemättömällä skaalalla ja muuntavat yksittäiset syrjivät kuviot järjestelmälliseksi epätasa-arvoksi. Agenttien järjestelmien oikeudenmukaisuus on Salesforce Platformin ensiluokkainen arkkitehtuurin huolenaihe, joka yhdistää tekoälyn oikeudenmukaisuuden, helppokäyttöisyyden, ihmisten valvonnan, algoritmisen vastuuvelvollisuuden ja eettisen hallinnan yhtenäiseen arkkitehtuurisarakenteeseen.

Tämä sivu käsittelee agenteille ominaisia oikeudenmukaisuushaasteita. Equity-sarakkeessa käsitellään oikeudenmukaisuuden periaatteita, saavutettavuusvaatimuksia ja eettisiä hallintakehyksiä. Tässä yhteydessä keskitymme itsenäisiin agentteihin liittyviin huomioitaviin asioihin: puolueellisuuden havaitseminen agenteille, jotka tekevät johdonmukaisia päätöksiä, ja valvontakuvioita, joiden tavoitteena on tehdä vastuullisuudesta merkittävää eikä nimellistä, avoimuutta, joka sallii asiaankuuluvien käyttäjien kyseenalaistaa päätöksiä, sekä sovellusalustan ominaisuuksia, kuten Einstein Trust Layer, jotka tukevat vastuullista tekoälykäytäntöä datan hallinnan ja kirjauslokien avulla.

Agentforce oppivat kuvioita koulutusdatasta, noutolähteistä ja todellisista vuorovaikutuksista. Kun nämä lähteet sisältävät puolueellisuutta, joka heijastaa historiallista syrjintää tai demografista epätasapainoa, agentit säilyttävät tämän puolueellisuuden algoritmisella tehokkuudella, joka vaikuttaa tuhansiin käyttäjiin ennen kuin ihmiset havaitsevat kuvion.

Perusmallin vinouma: Suuria kielimalleja (LLM) koulutetaan Internet-skaalan datalla, joka sisältää yhteiskunnallisia puolueita rotuun, sukupuoleen, ikään, vammaisuuteen ja muihin suojattuihin ominaisuuksiin liittyen. Nämä puolueellisuudet näytetään agenttien vastauksissa, vaikka niissä ei olisi erillisiä syrjiviä ohjeita, eikä niitä todennäköisesti ratkaista kokonaan vain kehotteiden suunnittelulla tai testauksella. Ne heijastavat kuvioita, jotka ovat osittain ominaisia Internet-skaalauksen koulutustiedoille. Agentforce agentti voi esimerkiksi kuvailla johto-rooleja käyttämällä miestenkielisiä kuvioita. Palveluagentti voi myös reagoida eri tavalla asiakkaisiin, joiden nimi ei vastaa enemmistön etnistä alkuperää tai sukupuolta – mikä on edustuksellinen laatuongelma, joka voi vaikuttaa asiakkaan käyttökokemukseen riippumatta päätöksen lopputuloksesta.

Testaa agenteille järjestelmällisesti väestötieteellistä vinoumaa käyttämällä eri henkilöitä, jotka edustavat suojattuja ryhmiä. Luo identtisiä pyyntöjä, jotka vaihtelevat vain demografisilla merkeillä, kuten nimillä, sijainneilla tai viestintätyyleillä. Vertaa agenttien vastauksia eri henkilöiden välillä laadun eroavaisuuksien, sävyvariaatioiden ja lopputuloksen eroavaisuuksien varalta.

Datan esityksen aukkojen kouluttaminen: Jos organisaatiosi asiakassuhteiden hallinnan (CRM) historiatiedot eivät edusta tiettyjä asiakassegmenttejä, kyseisiin tietoihin koulutettujen tai perittyjen Agentforce suorituskyky näissä segmenteissä heikkenee. Liidien pisteytysagentti, joka on koulutettu kymmenen vuoden mahdollisuuksien datasta, aliarvioi potentiaalisia asiakkaita järjestelmällisesti maantieteellisistä alueista, joihin myyntitiimisi on historiallisesti vähentänyt prioriteettiaan, luoden palautteen silmukan, jossa algoritminen vinouma yhdistetään ihmisten vinoumiin.

Ennen kuin käytät Salesforce-dataa agenttien kouluttamiseen tai Retrieval-Aggmented Generation (RAG) -perustamiseen, tarkasta demografinen esitystapa. Tunnista aliedustetut ryhmät ja arvioi, vastaavatko edustamisen aukot oikeutettuja liiketoimintaeroja tai historiallista syrjintää. Vähennä epätasapainoja datan augmentation tai suoran vinouman lieventämisen avulla ennen agenttien käyttöönottoa. Jäljellä olevat vinoumat säilyvät tavallisesti, ja niitä hallitaan tavallisesti myöhemmällä valvonnalla ja valvonnalla sen sijaan, että ne ratkaistaan ennen käyttöönottoa.

Noutuksen vinouma RAG-järjestelmissä: Agentforce käyttävät RAG-pohjaisia vastauksia Knowledge, Data 360 -segmenteissä ja Salesforce-tietueissa. Kun nämä noutolähteet sisältävät puolueetonta sisältöä tai ne vaihtelevat demografisten ryhmien laadussa, käyttöönotettu agentti voi siirtää tämän puolueen asiaankuuluvien käyttäjien käyttökokemuksiin. Voit vähentää tätä riskiä tarkastamalla noutolähteet ennen tuotantoympäristöä. palveluagentti, joka noutaa Knowledge, jotka tarjoavat yksityiskohtaista vianmääritystä yrityskäyttäjille, mutta vain yleisiä vastauksia pienille yrityskäyttäjille, säilyttää palvelun laadun eroavaisuudet, mikä on oikeudenmukaisuuden huolenaihe, jossa asiakastaso korreloi suojattujen ominaisuuksien kanssa.

Tarkasta Knowledge ja noutolähteet demografisten esitysten aukkojen ja laadun eroavaisuuksien varalta. Kun aukkoja on vaikea sulkea, käsittele näitä rajoituksia varoituksina paikoissa, joissa agentti soveltuu hyvin. Varmista, että dokumentaation laatu, täydellisyys ja tarkkuus ovat vertailukelpoisia kaikissa asiakassegmenteissä. Lisää sisältöesimerkkeihin erilaisia esityksiä sen sijaan, että käyttäisit oletusarvoisesti enemmistökulttuurisia viitteitä, jotka syrjäyttävät ali-esitetyt käyttäjät.

** Vuorovaikutuskuvion vinouma:** Agentit voivat mukauttaa toimintatapaansa suojattuihin ominaisuuksiin liittyvien selkokielisten vihjeiden perusteella. Tämän kuvion valvonta on yleinen käytäntö jopa käyttöönoton jälkeen, koska jotkin vuorovaikutusten dynaamiset tekijät johtuvat käyttäjien toimintatavoista, joita ei näytetä koulutusdatassa. Viestintätyyli, kielen monimutkaisuus ja ajoituskuviot voivat osoittaa väestötietoja. Agentti, joka käsittelee muodollisia viestintätyylejä eri tavalla kuin rentoja tyylejä, saattaa vahingossa syrjiä kulttuurin taustan, koulutustason tai äidinkielen tilan perusteella.

Valvo agenttien vuorovaikutuksia eri väestöryhmissä käyttäytymisen yhdenmukaisuuden varmistamiseksi. Analysoi vastauksen pituus, lisätietotaso, ystävällisyyden merkinnät ja ratkaisun laatu käyttäjäominaisuuksien mukaan. Eriarvoisuudet viittaavat vuorovaikutusten vinoumiin, joka vaatii tutkimista.

Palautteen silmukan vahvistus: Agentit, jotka vaikuttavat omaan tulevaan koulutusdataansa, luovat itseään vahvistavan vinouman. Esimerkiksi reititysagentti, joka kohdistaa vähemmän arvokkaita mahdollisuuksia tietyille myyntialueille, luo vähemmän onnistumistietoja kyseisille alueille. Tämä puolestaan alentaa ennustetun onnistumisen todennäköisyyttä, mikä vähentää mahdollisuuksien reititystä heille myöhemmin. Ilman interventiota tämä alustava vinouma yhdistelmät ajan myötä.

Havaitse palautussilmukoita valvomalla päätösten jakauman muutoksia ajan myötä. Kun tietyt väestöryhmät saavat järjestelmällisesti vähemmän positiivisia lopputuloksia, tutki, luovatko agenttien päätökset eroavaisuuden, joka oikeuttaa tulevat haitalliset päätökset. Pura silmukoita edustavien tapausten ihmisen tarkastuksella ja säännöllisellä tasapainottamisella.

Kun useat Agentforce työskentelevät yhdessä orkestrointiketjuissa, yhdeltä agentilta saatu vinouma muuttuu alempien agenttien input-arvoksi, mikä luo yhdistelmävaikutuksia, joissa pienet alustavat vinoumat vahvistetaan merkittäviksi syrjiviksi lopputuloksiksi.

Seuraavat agenttiketjut: Kun agentin A tuloksista tulee agentin B syöttämiä tietoja, agentin A puolueettomat päätökset saattavat rajoittaa agentin B vaihtoehtoja tavalla, joka jatkaa tai vahvistaa syrjintää.

Harkitse liidien hyväksymisen orkestrointia:

Research Agent kerää Älykkäät asiakastiedot verkkolähteistä ja CRM-historiasta.
Pisteytysagentti kohdistaa liidien pistemäärän tutkimusagenttien havaintojen perusteella.
Reititysagentti kohdistaa liidin alueeseen pistemäärän perusteella.
Osallistumistoiminto mukauttaa yhteydenottoa kaikkien aiempien agenttien tulosten perusteella.

Kun Research Agent hakee järjestelmällisesti vähemmän kattavia tietoja tietyistä asiakkaan demografioista (koulutusdatan aukkojen tai haun vinouman vuoksi), pisteytysagentti tulkitsee puutteelliset tiedot negatiivisina signaaleina. Sen jälkeen reititysagentti kohdistaa alhaisemman prioriteetin alueelle, ja osallistumistoimisto tarjoaa vähemmän henkilökohtaisen yhteydenoton. Yhdistelmävaikutus luo palvelun laadun eroavaisuuksia, jotka ylittävät yksittäisten agenttien vinouman.

Agentin samanaikainen konsensus: Kuvioita, joissa useat agentit analysoivat saman syötteen itsenäisesti ja tulokset aggregoidaan, tarjoavat mahdollisuuksia vinouman vahvistamiseen, kun agentit jakavat koulutusdataa tai perusmalleja.

Jos viisi agenttia pisteyttää liidin itsenäisesti, mutta ne kaikki jakavat puolueellisia koulutusdataa tai perusmallin puolueellisuutta, konsensus ei korjaa puolueellisuutta – se vain vahvistaa sen. "Viisi agenttia suostui" tarjoaa väärän luottamuksen syrjiviin lopputuloksiin, kun kaikilla viidellä on sama järjestelmällinen puolue.

Orkestroinnin vinouman lieventämistrategiat:

Agentin tulosten auditointi kussakin vaiheessa: Kirjaa lokiin kaikkien orkestrointiketjujen agenttien täydelliset syötetyt ja tulokset. Kun lopullisissa lopputuloksissa havaitaan vinouma, seuraa ketjua taaksepäin tunnistaaksesi, kuka agentista otti vinouman käyttöön ja missä vaiheessa vahvistus tapahtui.

Rakenna CRM Analytics -mittaristoja, jotka näyttävät päätösten jakaumat kussakin orkestrointivaiheessa demografioiden mukaan eriteltynä. Tunnista missä ketjun eriarvoisuus syntyy tai laajenee.

Monimuotoisuus agenttien koulutuksessa ja kehotteissa – Monimuotoisuus vähentää korreloituja virheitä, jolloin vinouman vahvistus on vähemmän todennäköistä. Kun käytät usean agentin konsensuskuvioita, maksimoi monimuotoisuus:
Eri perusmalleja, kun ne ovat kaupallisesti toteutettavissa ja tuettuja, esimerkiksi Bring Your Own LLM (BYOLLM) -kokoonpanojen kautta
Eri noutolähteet eri agenteille
Erilaiset kehotteiden suunnittelutavat
Eri luottamustason kynnysarvon kalibroinnit
Ihmisarviointi kääntöpisteissä: Tunnista orkestroinnin vaiheet, joissa päätökset rajoittavat myöhempiä vaihtoehtoja merkittävästi. Lisää henkilökohtaisia tarkastuksia näissä muutospisteissä, vaikka yksittäisten agenttien luottamus olisi korkea. Orkestrointi luo uusia vaikutuksia, joita yksittäisten agenttien luottamustason pisteet eivät kaappaa.
Oikeudenmukaisuuden tilastot per orkestrointivaihe: Älä vain mittaa lopputulosten oikeudenmukaisuutta. Laske demografinen tasa-arvo, yhtä suuri mahdollisuus ja eriarvoinen vaikutus ketjun jokaisessa vaiheessa.

Jos vaihe 1 näyttää 90%:n demografisen pariteetin, vaihe 2 näyttää 85%, vaihe 3 näyttää 78%:n ja vaihe 4 näyttää 70%, jokainen vaihe näyttää hyväksyttävältä erillään, mutta yhdistetään hyväksyttävään lopulliseen eroavaisuuteen. Vaiheittaiset tilastot havaitsevat yhdistelmän ennen kuin se tuottaa syrjiviä lopputuloksia.

Kytkimet orkestrointivirheille - Määritä orkestrointilogiikka pysäyttämään ja eskaloimaan ihmisille, kun:
Agenttien luottamus laskee kynnysarvon alle, vaikka alaiset agentit olisivat luottavaisia
Tulosten jakauma muuttuu merkittävästi orkestrointivaiheiden välillä
Päätösketju kohtaa tietoja, joita ei näytetä koulutus- tai vahvistusjoukoissa
Käyttäjä kysyy tai haastaa väliaikaisia päätöksiä erikseen

Usean agentin orkestrointi mahdollistaa monimutkaisen päättelyn, mutta luo läpinäkymättömiä päätösketjuja, joissa vastuullisuus hajottaa ja puolueellinen yhdistelmä. Arkkitehtuurin huomio vaiheittaiseen oikeudenmukaisuuden valvontaan ja strategiseen henkilökohtaiseen valvontaan estää orkestrointia muuttumasta puolueellisuuden vahvistusmekanismiksi.

Laske oikeudenmukaisuuden tilastot demografisten ryhmien välillä ennen kuin otat Agentforce käyttöön, jotka tekevät käyttäjiin liittyviä päätöksiä. Tee oikeudenmukaisuuden arvioinnista pakollinen käyttöönottoportaali, joka vastaa tietoturvatarkastusta.

Demografinen pariteetti: Positiivisten lopputulosten suhdeluvun täytyy olla noin yhtä suuri kuin suojatuilla väestöryhmillä. Jos agentti hyväksyy palvelupyyntöjä ryhmälle A 60 %:lla, mutta ryhmälle B 40 %, demografinen yhteensopivuus rikkoutuu. Demografinen tasa-arvo on tarkoituksenmukainen, kun ryhmien lopputulosten eroavaisuuksiin ei ole oikeutettua syytä.

Laske demografinen pariteetti jakamalla populaatio demografisiin segmentteihin, mittaamalla positiivisia lopputulosten suhteita per segmentti ja vertaamalla eri segmenttien suhteita. Asiakirjojen yhteensopivuuden aukot nimettyjen hyväksyjien kanssa ja perustelut.

Yhtä kuin mahdollisuus: Todelliset positiiviset suhteet pysyvät vertailtavina eri ryhmien välillä. Agentit tunnistavat hyväksytyt henkilöt yhtä hyvin demografisista ominaisuuksista huolimatta. Ennustemalli tunnistaa luottokelpoiset hakijat samankaltaisilla korvauksilla kaikissa suojatuissa ryhmissä, kun niiden luottokelpoisuus on samankaltainen.

Mahdollisuuksien tasa-arvo on usein sopivampi tilasto kuin demografinen tasa-arvo yksittäisten tutkintojen päätöksille, joissa perustasot saattavat olla oikeutetusti erilaisia. Tarkasta, puuttuuko agenteille järjestelmällisesti sopivia ehdokkaita aliedustetuista ryhmistä. Jos lieventämisen jälkeen on edelleen eroavaisuuksia, agentti ei välttämättä sovellu tähän käyttötarkoitukseen.

Yhtä kuin kertoimet: Sekä todelliset positiiviset että epätosi positiiviset suhteet ovat samoja eri ryhmissä. Tämä on tiukka määritelmä, joka rajoittaa sekä todellisten positiivisten että epätosi positiivisten suhteita eri demografioissa. Yhtä suuri kertoimet estää epäonnistuneita mahdollisuuksia keskittymästä tiettyihin ryhmiin ja vääriä syytöksiä keskittymästä tiettyihin ryhmiin.

Yhtälöityjen kertoimien saavuttaminen vaatii usein erilliset päätöksen kynnysarvot per väestöryhmä. Yhdysvalloissa työhön liittyvien päätösten pistemäärän säätäminen tai eri pistemäärän määrittäminen suojattujen luokkien mukaan on kielletty VII osaston (Civil Rights Act 1964) perusteella, joten tasaisia kertoimia ei voida käyttää tällä tavalla palkkaamisessa. Muissa asiayhteyksissä ja muissa lainkäyttöalueissa se herättää lakisääteisiä kysymyksiä erillisestä käsittelystä, joten ota yhteyttä lakiosastoon ennen ryhmäkohtaisten kynnysarvojen käyttöönottoa.

Erinomainen vaikutussuhde: Neljän viidesosan sääntö tarjoaa screening-kynnysarvon: Jos jokin ryhmä saa positiivisia lopputuloksia, jotka ovat alle 80 prosenttia parhaiten menestyvän ryhmän suhdetta, tutki vinoumista. 75 %-suhde (esimerkiksi 45 %:n hyväksymissuhde vs. 60 %:n hyväksymissuhde) jää alle neljän viidesosan kynnysarvon ja osoittaa mahdollisen syrjinnän, joka vaatii perustelua tai lieventämistä.

Eriarvoinen vaikutusanalyysi on yleinen työlainsäädännössä ja sitä sovelletaan yhä enemmän tekoälysjärjestelmiin. Jos ruoka-annokset ovat alle 80 %, asiakirjojen tutkimus ja korjausvaiheet. Jos korjaus ei nosta suhdetta, tiimit saattavat päätellä, että käyttötarkoitus ei sovellu hyvin.

Yksittäinen oikeudenmukaisuus: Samanlaiset yksityishenkilöt saavat samankaltaisia ennusteita riippumatta ryhmäjäsenyydestä. Kaksi asiakasta, joilla on sama luottokelpoisuus, ostohistoria ja osallistumistoiminto, saavat samankaltaisia luottojen rajoitussuosituksia demografisista eroavaisuuksista huolimatta.

Yksittäinen oikeudenmukaisuus on filosofisesti tärkeää, mutta toiminnallisesti haastavaa, koska "yhteensopivuus" on subjektiivista ja asiayhteydestä riippuvaista. Käytä yksilöllistä oikeudenmukaisuutta suunnitteluperiaatteena, joka ohjaa ominaisuuksien valintaa ja testausta, eikä tarkkaa matemaattista rajoitusta.

Kaksi sovellusalustan ominaisuutta keräävät dataa vinoumien havaitsemista varten. Einstein Trust tallentaa generoivan tekoälyn kirjausketjun jokaiselle Agentforce: malliin lähetetyt kehotteet, palautetut vastaukset, käytetyt maadoituslähteet ja Trust signaalit, kuten toksisuuspisteet. Agentforcen istuntojen seuranta -ominaisuus tallentaa jokaisen päätöksen perusteellisen perustelun. Yhdessä ne tarjoavat tietoja, jotka tukevat vinouman havaitsemista ja oikeudenmukaisuuden valvontaa. Tietojen tulkinta on ihmisten työtä ja vaatii tavallisesti koulutettuja tarkastajia ja aikaa.

Vastausten kirjaaminen: Trust kirjaa kehotteet, mallin vastaukset ja Trust lokiin jokaiselle generoivalle vuorovaikutukselle. Käytä näitä tietoja analysoidaksesi ennusteiden jakaumia eri väestöryhmissä. Rakenna CRM Analytics -mittaristoja, jotka vertaavat hyväksymissuhteita, suosituskuvioita ja riskipisteitä asiakassegmentin mukaan.

Kyselyn Trust Layer lokit säännöllisesti: Käytä seuraavaa kehotetta: "Näytä minulle kaikki arvokkaat mahdollisuuksien ennusteet edellisen 30 päivän ajalta ryhmitettynä asiakastoimialan, alueen ja tilin koon mukaan. Ovatko ennusteiden jakaumat yhdenmukaisia eri segmenteissä vai pistetäänkö tietyille segmenteille järjestelmällisesti korkeampi/alhaisempi pistemäärä?"

Seurannan kaappauksen syy: Agentforce-agenttien istuntojen seuranta tallentaa, miten agentti pääsi päätökseen, kun taas Trust Layer -tarkastusketju tallentaa kehotteet, vastaukset ja perustelulähteet, mukaan lukien haetut Knowledge-artikkelit ja Salesforce-tietueet. Tarkasta molemmat, kun käyttäjät raportoivat vinoumia ymmärtääksesi, mitkä tietolähteet, noutokuvioita tai perusteluvaiheita ovat saattaneet aiheuttaa vinoumia.

Perusteluiden avulla oikeudenmukaisuuden jälkeiset auditoinnit ovat tarkempia ja helpompia suorittaa kuin perinteisillä järjestelmillä. Esimerkki 100 agentin päätöksistä, jotka on lajiteltu demografisen ryhmän mukaan, ja pyydä tarkastajia arvioimaan, onko päättelyiden laatu verrattavissa eri ryhmien välillä.

Poikkeavuuksien havaitseminen: Määritä hälytyksiä, kun agenttien päätöskuviot poikkeavat merkittävästi perustasosta. Jos tietyn asiakassegmentin hyväksymissuhteet laskevat 20 % viikon aikana, käynnistä tutkimus. Äkilliset jaon työvuorot voivat osoittaa Datan laatuongelmia, mallin hajanaisuutta tai kehittyviä vinoumia, jotka vaativat välittömästi huomiota.

Luo mukautettu valvonta varoittaaksesi oikeudenmukaisuusmerkkeistä: "Ilmoita, kun Agentforce palveluagenttien keskiarvoinen keskustelun pituus kaikissa asiakassegmenteissä ylittää keskiarvon 1,5 kertaa kolmen peräkkäisen päivän aikana." Pituuksien eroavaisuudet saattavat tarkoittaa, että jotkin ryhmät eivät saa tehokkaampaa palvelua.

Fairness-mittariston mallit: Rakenna uudelleenkäytettäviä CRM Analytics -mittaristomalleja, jotka seuraavat oikeudenmukaisuuden tilastoja agenttien tavallisille käyttötarkoituksille. Sisällytä mukaan väestötietojen tasa-arvoiset laskennat, mahdollisuuksien tasa-arvoiset tilastot, eriarvoiset vaikutussuhteet ja trendikaaviot, jotka näyttävät tilastojen kehityksen ajan myötä. Jaa malleja agenttien kehitystiimeille standardoidaksesi oikeudenmukaisuuden valvontaa.

Kun vinouma havaitaan, käytä lieventämistä oikeassa vaiheessa juurisyyn perustuen.

Datan esikäsittelytoimet: Korjaa datatasolla oleva vinouma ennen agenttien koulutusta tai RAG-indeksointia. Esimerkki aliedustetuista väestöryhmistä koulutusdatassa varmistaaksesi tasapainoisen edustamisen. Syntetisoi ylimääräistä dataa aliedustetuille ryhmille käyttämällä tekniikoita, kuten Syntetic Minority Oversampling Technique (SMOTE), kun todellista dataa ei ole tarpeeksi. Huomaa, että SMOTE interpoloi numeerisia taulukkomuotoisia ominaisuuksia, joten se koskee rakenteellisia CRM-koulutustietoja, eikä rakenteettomia tekstejä, joita käytetään RAG-pohjaisessa muodossa.

Tarkasta Salesforce CRM -data demografisten aukkojen varalta ennen kuin käytät sitä mallin kouluttamiseen. Jos historialliset mahdollisuuksien tiedot esittävät tiettyjä asiakastyyppejä liikaa, tasapainota koulutusjoukot uudelleen tai käytä näytteen painotuksia estääksesi agentteja ymmärtämästä kyseistä liikaa esitystä päätössignaalina.

Käsittelyn sisäisten algoritmien rajoitukset: Sovella oikeudenmukaisuuden rajoituksia mallin koulutuksen aikana, jotka optimoivat sekä tarkkuuden että oikeudenmukaisuuden samanaikaisesti. Tämä saattaa vähentää raaka-aikojen tarkkuutta 2–3 % ja parantaa oikeudenmukaisuutta merkittävästi ryhmien välillä. Kun hallitset mallin koulutusta, oikeudenmukaisuuden rajoittama koulutus on usein tehokkain lieventämistapa.

Rajoita Agentforce toimintatapaa järjestelmäkehotteiden avulla agenteille, jotka käyttävät perusmalleja, joissa koulutus ei ole mahdollista muokata: "Käsittele kaikkia asiakkaiden demografioita yhtä ammattimaisesti ja yksityiskohtaisesti. Tarjoa selityksiä, joiden pituus ja laatu vastaavat asiakkaan viestintätyyliä tai taustaa."

Käsittelyn jälkeinen kynnysarvon säätö: Kun se on laillista, päätösten kynnysarvojen säätäminen demografista ryhmää kohden voi tasata lopputulosten suhdetta mallin koulutuksen jälkeen. Hyväksymisagentti voi esimerkiksi soveltaa 80 %:in luottamustason kynnysarvoa yhdelle ryhmälle ja 75 %:in kynnysarvoa toiselle korvatakseen mallin vinouman. Syrjimättömyyslaki rajoittaa tätä tekniikkaa merkittävästi, ja jotkin lainkäyttöalueet kieltävät sen suoraan tietyissä päätöksissä (ks. alla).

Kynnysarvon säätö on kiistanalainen, koska se käsittelee ryhmiä erikseen eri tavalla, ja monissa lainkäyttöalueissa syrjimättömyyslaki rajoittaa tai kieltää sen. Yhdysvalloissa työhön liittyvien päätösten osalta on kiellettyä: Otsikko VII (Civil Rights Act of 1964) estää pistemäärien säätämisen tai erilaisten pistemäärän käyttämisen suojattujen luokkien mukaan, eikä mikään dokumentoitu perustelukriteeri tee käytännöstä laillista. Muut lainkäyttöalueet määrittävät omat rajoituksensa, joten tarkasta käyttäjiäsi koskevat säännöt. Kun käytäntö on sallittu, dokumentoi lakisääteiset perusteet, kun otat käyttöön ryhmäkohtaisia kynnysarvoja, ja varmista, että kynnysarvot parantavat oikeudenmukaisuutta aiheuttamatta muita syrjiviä vaikutuksia.

Välityspalvelimen ominaisuuden havaitseminen ja poistaminen: Tunnista ominaisuudet, jotka vastaavat suojattuja ominaisuuksia ja toimivat epäsuorina syrjintämekanismeina. Yleisiin välityspalvelimiin sisältyy:
Roolin, etnisyyden ja tulotason postinumeroiden välityspalvelimet
Nimokuvioiden korvikkeet sukupuolelle ja etnisyydelle
Uskonnon ja hoitovelvoitteiden viestintäajoituksen välityspalvelimet
Tulotason välityspalvelimet, joiden tyyppi on laite
Alueiden kohdistus voi toimistaa väestötietojen koostumusta

Laske mallin kaikkien ominaisuuksien ja suojattujen ominaisuuksien väliset korrelaatiokerroimet. Arvioi vahvasti korreloiduille ominaisuuksille, onko oikeutettu ennustearvo oikeutettu sisällyttämiseen tai voisivatko vaihtoehtoiset ominaisuudet tarjota samankaltaisen ennusteen ilman välityspalvelimen vaikutuksia.

Agentforce voivat työstää henkilökohtaista valvontaa, joka on suunniteltu tekemään tarkastuksesta olennaista eikä nimellistä. Sopiva valvontataso riippuu päätöksenteosta, palautettavuudesta ja lakisääteisistä vaatimuksista.

Reititä seuraavat päätökset ihmisen tarkastuksen läpi ennen suoritusta. Onko päätös riittävän suuri, jotta se voidaan tarkastaa henkilökohtaisesti, on riskiin perustuva arviointi: painottaa mahdollisen haitan vakavuutta ja vahingon todennäköisyyttä. Seuraavat päätökset tapahtuvat usein säännellyillä toimialueilla, kuten terveydenhuollossa, rahoituspalveluissa ja julkisella sektorilla, mutta ne tapahtuvat myös niiden ulkopuolella. Suuren panoksen yleisiin konteksteihin sisältyy:

Työpäätökset - Palkkaaminen, ylennys, irtisanominen, korvaus, suorituskyvyn tarkastukset
Luotto- ja rahoituspalvelut - Luoton hyväksynnät, rajojen muutokset, tilien sulkemiset, hinnoittelu
Sairaanhoito - Diagnoosiehdotukset, hoitosuositukset, kattavuuspäätökset
Oikeudelliset oikeudet - sopimusten tulkinta, riitojen ratkaiseminen, palvelujen käyttö
Asuminen - Vuokralaisen tarkastus, vuokraushyväksynnät, poistamisen suositukset

Suunnittele Agentforce näissä asiayhteyksissä analysoimaan, suosittelemaan ja valmistelemaan päätöksiä vaatiessasi ihmisten hyväksyntää ennen niiden suorittamista. Siirrä agentteja päätöksenteon tukityökaluiksi, jotka parantavat ihmisarvoa, äläkä itsenäisiä päätöksentekijöitä, jotka korvaavat ihmiset.

Määritä luottamustason kynnysarvot, jotka käynnistävät henkilökohtaisen tarkastuksen agenttien epävarmuuden perusteella:

Korkea luottamustaso (>90 %) - Agentti jatkaa automaattisesti täyttä kirjauslokia
Mukautettu luottamustaso (70-90%) - Agentti suosittelee ihmisen tarkastusta ennen toimenpiteitä
Vähäinen luottamustaso (<70%) - Agentti siirtää kokonaan ihmiselle kontekstin yhteenvedon avulla

Kalibroi kynnysarvot käyttämällä tuotantodataa. "70 %:n luottamustason" ennuste onnistuu noin 70 % ajasta, kun se vahvistetaan. Virheelliset luottamuspisteet heikentävät eskalointimekanismien Trust.

Testaa kalibrointia näyttämällä agenttien päätökset kussakin luottamustasoissa ja laskemalla todelliset onnistumissuhteet. Jos "korkean luottamuksen" päätökset onnistuvat vain 75 prosenttia ajasta, kalibroi kynnysarvot uudelleen tai paranna mallin luottamustason arviointia.

Jos Agentforce ei voi ratkaista pyyntöä määritetyissä rajoituksissa, eskaloi pyyntö ihmisille. Tarkastaaksesi, että eskalointikohteella on kapasiteetti ohjata ylikuormattuihin jonoihin, se ei vähennä vahinkoja.

Aseta eskalointikäynnistimet:

Keskusteluiden käännökset – Eskaloi 5-7 käännöksen jälkeen ilman ratkaisua
Vanhentunut aika – Eskaloi 10 minuutin jälkeen ilman ratkaisua
Käyttäjän sentimentti – Kun käyttäjä ilmaisee turhautumista, eskaloi
Toistojen tunnistus – Kun agentti toistaa saman vastauksen, eskaloi

Määritä Omni-Channel reitittämään eskaloidut tapaukset asiaankuuluviin taitoihin perustuviin jonoihin, joissa on koko keskustelun konteksti. Kouluta agentteja käsittelemään eskalointeja tehokkaasti ilman, että käyttäjät tarvitsevat toistaa agentille jo annettuja tietoja.

Salli valtuutettujen ihmisten korvata Agentforce milloin tahansa asiakirjoitetulla perusteella. Korvaukset tarjoavat useita käyttötarkoituksia:

Virheen korjaus: Ihmiset korjaavat agenttien virheet, jotka vahingoittaisivat käyttäjiä tai rikkoisivat käytäntöjä. Korvauskyky tarjoaa suojausventtiilin itsenäisille järjestelmille, jotka toimivat monimutkaisissa ympäristöissä, joissa reunojen tapaukset ovat välttämättömiä.
Bias-havainto: Jos ihmiset korvaavat Agentforcen hylkäämät tiedot useammin tietyissä demografioissa kuin muissa, tutki molempia mahdollisuuksia: agentti saattaa heikentää ryhmää järjestelmällisesti ja ihmiset saattavat korjata sitä, tai korvaavat agentit saattavat lisätä uusia vinoumia. Ensimmäinen kuvio osoittaa agentin tarkastukseen ja toinen tarkastajan koulutukseen.
Agentin parantaminen: Korvaukset, joilla on järkeä, muuttuvat koulutusdataan agenttien parantamista varten. Näytä korvatut päätökset ja analysoi, miksi ihmiset eivät ole samaa mieltä agenttien kanssa. Lisää korvauskuvioita kehotteiden hienosäätämiseen tai mallin uudelleenkouluttamiseen.
Vastuu: Korvaukset kohdistavat vastuullisuutta. Agentin päätöksen ihmisen korvaaminen ottaa vastuun päätöksen lopputuloksista. Selkeä vastuullisuus estää vastuun leviämisen, kun kaikki oletetaan, että tekoäly on vastuussa eikä kukaan ota omistajaa.

Kohdista vastuullisuus ennen käyttöönottoa, äläkä vahinkotapahtumien jälkeen:

Mallin omistaja: Datatieteen liidi on vastuussa mallin oikeudenmukaisuudesta, tarkkuudesta ja toimintatavoista. Hyväksyy käyttöönotot, vastaa oikeudenmukaisuuden hälytyksiin ja valtuuttaa päivitykset. Mallin omistaja on nimetty yksityishenkilö, joka on dokumentoitu arkkitehtuurin päätöstyötietueissa.
Päätöksen omistaja: Tuotteen omistaja, joka on vastuussa tekoälyn käyttöönotosta tietyille käyttötarkoituksille ja todellisten asiakkaiden vaikutuksista. Päätöksen omistaja ei voi delegoida vastuullisuutta tekoälysjärjestelmille.
Valitusvaltuus: Eettinen tarkastuslautakunta tai valtuutettu tiimi käsittelee valitukset käyttäjiltä, jotka uskovat, että agenttien päätökset olivat epäreiluja. Valitusprosessin täytyy olla helppokäyttöinen, oikea-aikainen ja mahdollinen agenttien päätösten kumoamiseksi.
Tarkastusviranomainen: Vaatimustenmukaisuustiimi, joka suorittaa säännöllisiä auditointeja ja vahvistaa agentteja, toimii oikeudenmukaisuusparametrien mukaisesti ja voi keskeyttää agentteja, jotka epäonnistuvat standardeissa, odottaakseen korjausta.

Dokumentoi kaikki roolit nimillä, äläkä vain nimillä, jotta vastuullisuus säilyy organisaation muutoksissa.

Kun Agentforce tekevät käyttäjiin vaikuttavia päätöksiä, he ansaitsevat ymmärrettäviä selityksiä, jotka vastaavat päätöksen vaikutusta.

Rakenna useita selityskerroksia, jotka palvelevat eri kohdeyleisöjä:

Käyttäjäkohtaiset selitykset: Yksinkertaisen kielen perustelu on ymmärrettävää ilman teknistä ammattitaitoa. "Palvelupyyntösi vaatii päällikön hyväksynnän, koska pyydetty summa (12 000 dollaria) ylittää valtuutusrajoituksen (10 000 dollaria). Päällikön hyväksyntä suoritetaan tavallisesti 24 tunnin kuluessa tai sovitun palvelutasosopimuksen (SLA) mukaisesti."
Liiketoiminnan selitykset: Toimintokäyttäjät näkevät tärkeimmät päätöksentekijät liiketoiminnan kontekstissa. "Liidin pisteet: 73/100. Ensisijaiset positiiviset tekijät: Yrityksen koko (500 työntekijää), Aktiivinen verkkosivuston osallistuminen (12 vierailua 30 päivässä), Toimialan täsmäys (SaaS). Ensisijaiset negatiiviset tekijät: Ei MQL-osallistumista, kohdealueen ulkopuolella."
Tekniset selitykset: Datatieteilijät näkevät mallin lisätiedot: ominaisuuksien painotukset, luottamustason kalibrointi, malliversio, koulutuspäivä, input-jaot. Tekniset selitykset tukevat virheenkorjausta ja vinoumien tutkimista.
Tarkastuksen selitykset: Vaatimustenmukaisuustiimit näkevät täydelliset päätöksen jäljet: mallin versio, tarkat syötetyt arvot päätöksen aikana, kaikki pyydetyt tietolähteet, perusteluiden seuranta, kokoonpanon tila. Tarkastusten selitykset tukevat lakisääteisiä tutkimuksia ja oikeudenmukaisuustarkastuksia, jotka vaativat tarkkaa uudelleenrakennusta.

Agentforcen istuntojen seuranta -ominaisuus tallentaa agenttien päätösten perusteluja vaiheittain, kun taas Einstein Trust Layer tallentaa kehotteiden ja vastausten kirjausketjun, mukaan lukien perusteluiden lähteet. Yhdessä ne sallivat sinun tarjota läpinäkyvyyttä asiaankuuluvilla lisätietotasoilla:

Reaaliaikainen läpinäkyvyys: Kun Agentforce tekee päätöksen, näytä käyttäjille yhteenvetojen perustelut: "Suosittelin tuotetta A ostohistoriasi (3 samanlaista ostosta), tämänhetkisen tarjouksen (20 % alennus) ja inventaarion saatavuuden perusteella (varastossa, toimitetaan huomenna)."
Tarvittaessa yksityiskohtainen selitys: Tarjoa "Miksi suosittelit tätä?" -linkki salliaksesi käyttäjien tarkastella täydellisiä perusteluita, mukaan lukien kaikki haetut Knowledge, pyydetyt Salesforce-tietueet ja päätösten logiikka. Yksityiskohtaiset selitykset parantavat Trustia ja auttavat käyttäjiä tunnistamaan virheet tai puolueellisuudet.
Historiallinen uudelleenrakentaminen: Kun käyttäjät haastavat menneet päätökset viikkoja tai kuukausia myöhemmin, he voivat noutaa istunnon perusteluiden jälkiä ja Trust Layer -tarkistushistorian, jotta historialliset päätökset voidaan selittää tarkasti. Historiallinen uudelleenrakentaminen tukee valituksia ja lakisääteisiä tutkimuksia.
Aggregaattikuvion analyysi: Esimerkkejä demografisten ryhmien mukaan lajiteltuista perusteluista, jotka analysoivat, onko päätösten laatu yhdenmukainen. Tarkasta kunkin asiakassegmentin 100 seurantaa ja arvioi, ovatko syvyys, lähteen laatu ja logiikka vertailukelpoisia eri ryhmien välillä.

Näytä ennusteen luottamus käyttäjälle sopiviin termeihin välttyäksesi todennäköisyyksiin, joita käyttäjät tulkitsevat väärin.

Ilmoita luottamuksesta ”73 %:n luottamuksen” sijaan seuraavasti:

Korkea luottamustaso – "Olen varma, että tämä suositus soveltuu samankaltaisiin tapauksiin"
Mukautettu luottamustaso – "Tämä suositus on todennäköisesti sopiva, mutta esimiehen tarkastusta suositellaan"
Vähäinen luottamustaso – "Tämä tilanne on epätavallinen. Eskaloin asiantuntijalle, joka voi tarjota parempia ohjeita."

Selitä, mitä luottamustaso tarkoittaa luotettavuudelle: "Korkea luottamustaso -suositukset ovat oikeita noin 95 % ajasta historiallisen vahvistuksen perusteella."

Jos päätökset ovat kohtalaisia tai heikosti luottamuksellisia, kerro, mitä lisätarkastuksia tapahtuu: "Koska tämä pyyntö ei sisälly vakio-parametreihimme, sen tarkastaa johtava asiantuntija, jonka hyväksyntä suoritetaan tavallisesti 24 tunnin kuluessa tai sovitun palvelutasosopimuksen (SLA) mukaisesti."

Näytä käyttäjille, mikä muuttaisi lopputulosta. Vastalauseet sallivat käyttäjien parantaa lopputuloksia tiettyjen toimintojen avulla, eikä vain kertoa heille jo tehdyistä päätöksistä.

Esimerkiksi: "Liidisi pisteet kasvavat vahvistettujen työtietojen (+8 pistettä) ja lisähyvitysviitteiden (+5 pistettä) avulla. Tämän dokumentaation tarjoaminen siirtäisi hakemuksesi prioriteettien tarkastusjonoon."

Vastalauseet ovat tehokkaita läpinäkyvyysmekanismeja, mutta ne vaativat huolellista suunnittelua. Vältä antamasta virheellisiä tietoja, jotka rohkaisevat järjestelmän pelaamista tai jotka vahingossa paljastavat suojattuja ominaisuuksia päätöksen tekijöinä. "Sovelluksesi pistemäärä olisi korkeampi, jos olisit 10 vuotta nuorempi" on laitonta syrjintää, ei hyödyllistä läpinäkyvyyttä.

Joissakin lainkäyttöalueissa selkeä ilmoitus siitä, että käyttäjät ovat vuorovaikuttamassa botin kanssa, on lakisääteinen vaatimus, eikä vain suositeltuja käytäntöjä. Näytä selkeästi, milloin käyttäjät vuorovaikuttavat Agentforce kanssa, eivätkä ihmisten agenttien kanssa. Julkaisun täytyy olla näkyvää ja jatkuvaa, eikä se saa olla haudattu palvelun osalta tai näytettävä vain kerran vuorovaikutuksen alussa.

Näytä pysyvät visuaaliset osoittimet:

Agentin avatar on merkitty selkeästi ”AI-avustajaksi”
Ylätunniste näyttää "Keskustelet Agentforce palveluagentin kanssa"
Vaihtoehto "Yhteyden muodostaminen henkilön agentille" näkyvissä keskustelun aikana

Julkaisu noudattaa käyttäjien itsenäisyyttä ja mahdollistaa vuorovaikutustilan tietoisen valinnan. Käyttäjillä, jotka haluavat käyttää ihmisiä, täytyy olla tämä vaihtoehto ilman jännitystä tai palvelun laatua koskevia seuraamuksia.

Salesforce Platform -ominaisuudet, kuten Event Monitoring ja Field Audit Trail, jotka ovat edeltäneet agenttien tekoälyä, laajentavat algoritmista vastuullisuutta koskemaan yksittäisten agenttien tekemää päätöstä.

Agentin toimintojen tapahtumien valvonta: Event Monitoring kaappaa agenttien datan käyttöoikeudet, API-kutsut ja järjestelmämuutokset Salesforcen hallitsemalla eheydellä. Viestiketjujen tapahtumien valvonta -ominaisuuden lokit ulkoiseen SIEM-järjestelmään, jotta ne säilytetään pitkällä aikavälillä ja todisteet täyttävät seuraavien päätösten lakisääteiset vaatimukset.

Määritä Event Monitoring seurataksesi:

API-tapahtumalokit, jotka näyttävät agenttien järjestelmän vuorovaikutukset
Agenttipalvelutilien sisäänkirjautumistapahtumat
Raportit viedään, kun agentit käyttävät joukkodataa
Tekoälyyn perustuvan datan kenttien kirjausketju: Vakiokenttien historiatiedot säilyttävät datan muutokset 18 kuukauden ajan (24 kuukautta API:n kautta). Kenttien kirjausketju sallii sinun säilyttää kenttähistorian määrittämättömästi — arkistoi se enintään 18 kuukauden kuluttua ja säilyttää arkistoidut tiedot, kunnes poistat ne — tukemalla pitkäaikaisia oikeudenmukaisuustarkastuksia ja lakisääteisiä tutkimuksia. Ota kenttien kirjausketju käyttöön objekteille, jotka sisältävät tai joihin agenttien päätökset vaikuttavat, valitsemalla vakiomuotoiset objektit, joita kenttien kirjausketju tukee sekä mukautetut objektit, joilla on kenttähistorian seuranta käytössä (enintään 200 kenttää per objekti).

Monivuotinen säilytys voi olla lakisääteinen vaatimus luotto- ja työpäätöksille ja muille korvaaville käyttötapauksille. Säilytysajat vaihtelevat järjestelmän mukaan. Vahvista käyttötarkoitukseesi liittyvä vaatimus.

Shield Event Monitoring korkeimmille panoksille: Shield Event Monitoring tarjoaa parannettuja auditointivaihtoehtoja rakenteellisilla tapahtumakentillä ja integroinnin vaatimustenmukaisuusraportointityökaluihin. Tapahtumalokitiedoston tiedot säilytetään oletusarvoisesti vuoden ajan sekä Event Monitoring- että Shield-asiakkaille. Käytä Shieldia tehokkaimmille agenttien päätöksille, kun seurantatietojen eheys on tärkeää.

Tallenna tarpeeksi tietoja rakentaaksesi minkä tahansa historiallisen agentin päätöksen uudelleen tarkasti:

Mallin versio: Tallenna minkä mallin versio (perusmalli, kehotteen versio, hienosäätetty mallin tunnus) teki jokaisen päätöksen. Mallin versiot muuttuvat usein ja tuottavat eri tuloksia. Tarkka versioiden seuranta sallii juurisyyn analysoinnin, kun vinouma havaitaan.
Syöteominaisuuden arvot: Tallenna tarkat syötetyt arvot päätöksen aikana, äläkä tämänhetkisiä arvoja, jotka ovat voineet muuttua. Syötettyjen tilannekuvien avulla voit testata, olisiko päätös erilainen tämänhetkisellä datalla, tai vahvistaa, että alkuperäinen päätös oli oikea, kun tietoja oli saatavilla.
Kokoonpanon tila: Tietueiden kynnysarvot, liiketoimintasäännöt ja parametriasetukset ovat aktiivisia päätöksen aikana. Kokoonpanon muutokset vaikuttavat lopputuloksiin. Määrityshistoria sallii sinun määrittää, vastaako päätöksenteko mallin muutoksia vai kokoonpanon muutoksia.
Ympäristökonteksti: Sieppaa asiaankuuluva konteksti: käyttäjän identiteetti, aikaleima, keskusteluhistoria, istunnon konteksti. Konteksti vaikuttaa agenttien toimintatapaan, ja se täytyy säilyttää, jotta se voidaan rakentaa uudelleen.

Vinouman havaitsemisen täytyy olla jatkuvaa, ei kertakäyttöistä ennen käyttöönottoa. Agentit kehittyvät kehotteiden päivitysten, perusmallin versioiden muutosten ja datan jakaumien vaihtamisen kautta.

Rightness-mittaristot: Rakenna CRM Analytics -mittaristoja, jotka seuraavat oikeudenmukaisuuden tilastoja Einsteinin Trust Layer -lokeista. Seuraa demografista tasa-arvoa, yhtä kuin mahdollisuuksia ja eriarvoisia vaikutussuhteita jatkuvasti. Määritä hälytyksiä, kun tilastot rikkovat määritettyjä kynnysarvoja.

Luo mittaristo, joka näyttää:

Päätösten jakauma asiakkaiden demografisten segmenttien mukaan (pylväskaaviot)
Fairness-tilastot tietyltä aikaväliltä (trend-rivit hälytyksen kynnysarvoilla)
Eriarvoiset vaikutussuhteen laskennat neljän viidesosan säännön osoittimella
Päätöksiin vaikuttavat tärkeimmät ennustavat muuttujat, joissa perustana oleva malli paljastaa ne
Korvaussuhde demografisten ryhmien mukaan
Jakauman työvuorojen tunnistus: Valvo agenttien syöttämiä tietoja, kun muutokset osoittavat mahdollisia oikeudenmukaisuusongelmia. Jos agenttien päätöksiä vastaanottavien käyttäjien demografinen koostumus eroaa merkittävästi koulutusdatan demografisista tiedoista, mallin oikeudenmukaisuus saattaa heikentyä.

Hälytys, kun syötteen jakauma muuttuu: "Agentforce liidien reitityksen asiakassegmenttien jakauma on siirtynyt 15 % Enterpriseen edellisen 30 päivän aikana. Tarkasta, pysyykö reitityslogiikka reiluna SMB-asiakkaille, jotka saavat nyt eri palvelukuvioita."

Käyttäjien palautteen integrointi: Salli käyttäjien raportoida havaittuja vinoumia helppokäyttöisten mekanismien avulla. Käyttäjäraportit paljastavat kvalitatiivisia ongelmia, joiden kvantitatiiviset tilastot puuttuvat.

Lisää Agentforce chat -käyttöliittymään "Raportti huoli" -vaihtoehto. Reititä raportteja eettiseen tarkastusnäkymään keskustelun täydellisellä asiayhteydellä. Seuraa mukautetun objektin raportteja vaaditulla tutkintatyönkululla ja dokumentoidulla ratkaisulla.

Suunnittele agenttien arkkitehtuurit, jotka ennustavat ulkoisia tarkastuksia, joita sääntelyviranomaiset, kansalaisoikeusjärjestöt tai asiakkaat tarvitsevat ja jotka vaativat algoritmisia vastuullisuuden esittelyjä.

Vientitoiminnot: Rakenna vientitoimintoja, joiden avulla vaatimustenmukaisuustiimit voivat noutaa täydellisiä päätöksentekotietojen joukkoja demografisella kerrostumisella ulkoisten auditointien tarkastamista varten. Viejien täytyy noudattaa tietoturvaa koskevia säännöksiä ja tarjota riittävästi läpinäkyvyyttä oikeudenmukaisuuden vahvistamiseksi.
Tarkastusdokumentaatio: Ylläpidä tämänhetkistä dokumentaatiota:
Agentin käyttötarkoitus ja käyttötarkoitukset
Koulutusdatan demografiat ja tunnetut rajoitukset
Ennen käyttöönottoa ja tuotantoympäristössä lasketut oikeudenmukaisuuden tilastot
Käytetyt vinoumusstrategiat
Henkilökohtaisten rajoitusten kokoonpanot
Valvotaan lähestymistapoja ja hälytysten kynnysarvoja
Vastuuhenkilöiden kohdistukset (mallin omistaja, päätöksen omistaja, valtuus)
Algoritmisten vaikutusten arvioinnit: Ennen kuin otat agentteja käyttöön tekemään johdonmukaisia päätöksiä, suorita vaikutustenarviointeja arvioidaksesi kaikkien sidosryhmien mahdollisia positiivisia ja negatiivisia vaikutuksia. Vaikutusten arvioinnit osoittavat, että sääntelyviranomaiset arvostavat due diligence- ja ennakoivaa riskienhallintaa.

Käyttäjät voivat hallita, miten Agentforce vaikuttaa heidän käyttökokemukseensa.

Tilaus seuraaville agenteille: Agentit, jotka tekevät käyttäjiin merkittävästi vaikuttavia päätöksiä, tarvitsevat suoran tilauksen sen sijaan, että he olisivat oletusarvoisesti aktiivisia. Hyvityspäätösagentit, työtarkastusagentit ja palveluhyväksyntöjen agentit aktivoituvat vain käyttäjien suostumuksella ja ymmärtävät selkeästi, miten agentti vaikuttaa heihin.
Yleinen suostumus: Ota suostumus käyttöön per agentin käyttötapa, äläkä tyhjä tekoälyn suostumus. Asiakas saattaa suostua Agentforce, mutta kieltäytyä Agentforce. Arkkitehtuuri, joka tukee käyttöskenaarioiden suostumusten seurantaa, on yksi input-arvo. Vaatimustenmukautuslogiikan testaaminen ja säännöllinen auditointi auttavat vahvistamaan, että suostumus portit säilytetään käytännössä.
Uuden ominaisuuden dynaaminen suostumus: Kun otat käyttöön uusia Agentforce, jotka vaikuttavat olemassa oleviin käyttäjiin, pyydä suostumusta ennakoivasti uusille käyttötarkoituksille sen sijaan, että luottaisit alkuperäiseen suostumukseen, joka ei sisältänyt tiettyjä sovelluksia. Kaikki käyttäjiin vaikuttavat merkittävästi uudet agenttien ominaisuudet käynnistävät suostumusten tarkastuksen selkeällä selityksellä.
Suostumuksen peruuttaminen välittömästi: Salli käyttäjien peruuttaa suostumus milloin tahansa ja lopettaa agenttien käsittely välittömästi. Suostumuksen peruuttamisen on oltava yhtä helppoa kuin suostumuksen myöntäminen ilman, että tarvitset tukihenkilöitä tai byrokraattisia prosesseja.

Valintojen hallinta: Salli käyttäjien määrittää agenttien toimintatapa määritetyissä rajoissa:
- Viestintätyyli (lyhyt vs. yksityiskohtaiset selitykset)
- Ennakoivuustaso (vastaa vain pyydettäessä vs. ehdottaa ennakoivasti)
- Eskalointiasetus (suosittelemme tekoälyn ratkaisua vs. suosittelemme ihmistä nopeasti)

Tallenna valinnat käyttäjätietueiden mukautettuihin kenttiin. Viitevalinnat agenttien järjestelmän kehotteissa: ”Käyttäjä haluaa yksityiskohtaisia selityksiä. Tarjoa kattavia vastauksia perustelulla."

Human handoff pyydettäessä: Tarjoa pysyvä "Yhteyden muodostaminen ihmisen agentille" -vaihtoehto Agentforce ilman, että käyttäjiä vaaditaan suorittamaan agenttien vuorovaikutuksia tai selittämään, miksi he suosivat ihmisiä.

Määritä välitön reititys: Kun käyttäjä valitsee "Henkilöagentti", se reititetään Omni-Channeliin, jossa on koko keskustelun konteksti ja prioriteettilippu, joka osoittaa käyttäjän valinnan. Ihmisen vuorovaikutuksen valitsemiseen ei sovelleta heikennettyä palvelua tai odotusaikoja.

Avoimuusindikaattorit: Merkitse agenttien vuorovaikutukset selkeästi pysyvällä visuaalisella osoittimella, jotta käyttäjät voivat pysyä ajan tasalla vuorovaikutustilasta. Käyttäjillä, jotka unohtavat vuorovaikuttavansa agenttien kanssa, saattaa olla epärealistisia odotuksia tai he näkevät petoksen, kun rajoitukset näkyvät.

Suunnittele agentteja, jotka tuottavat oikeudenmukaisia lopputuloksia suojatuille väestöryhmille tarkoituksellisten arkkitehtuurivalintojen avulla.

Seuraavia päätöksiä tekevien agenttien ei saa syrjiä suojattujen ominaisuuksien perusteella (mukaan lukien rotu, sukupuoli, ikä, vamma, uskonto, kansallinen alkuperä tai seksuaalinen suuntautuminen), ellei se ole oikeudellisesti perusteltua tietyissä tarkoituksissa, kuten vammaisille.

Ominaisuuksien auditointi: Tarkasta kaikki tietolähteet, joita käytetään suojattujen ominaisuuksien sisällön agenttien perusteluissa. CRM-data, Data 360 -segmentit ja Knowledge saattavat sisältää demografisia tietoja, joita agenttien ei tulisi ottaa huomioon tietyissä päätöksissä.

Poista tai peitä agentin syöttämistä tiedoista suojattuja ominaisuuksia, kun ne eivät ole lakisääteisesti perusteltuja päätöstyypille. Jätä luottopäätöksille pois vammaisuuden tila, koska se ei ole relevantti. Vammaisille tarkoitettujen majoituspyyntöjen tila on välttämätön, ja se täytyy sisällyttää mukaan.

Kehotteiden suunnittelu syrjimättömyyttä varten: Sisällytä agenttien järjestelmän kehotteisiin selkeitä syrjimättömiä ohjeita:

”palveluagentti asiakaspalveluagentti. Käsittele kaikkia asiakkaita yhtä ammattimaisesti heidän nimestään, sijainnistaan, viestintätyyleistään tai muista ominaisuuksista riippumatta. Tarjoa kaikille asiakkaille yhtä laadukkaita ja yksityiskohtaisia suosituksia. Älä koskaan tee oletuksia asiakkaista demografisten ominaisuuksien perusteella."

Testaus demografisten henkilökuvien avulla: Ennen tuotantoympäristön käyttöönottoa, testaa agentteja, joilla on erilaisia henkilöitä, jotka edustavat suojattuja ryhmiä. Luo identtisiä pyyntöjä, jotka vaihtelevat vain demografisilla merkeillä (mukaan lukien eri etnisyyksiä ehdottavat nimet, eri alueita ehdottavat sijainnit ja eri koulutustasoja ehdottavat viestintätyypit).

Vertaa agenttien vastauksia eri henkilöiden laatuun, pituuteen, ammattitaitoon ja lopputuloksiin. Erot osoittavat, että vinouma vaatii lieventämistä.

Valvoa Agentforce laatua asiakkaiden demografioista varmistaaksesi, että käyttökokemukset ovat vertailukelpoisia:

Ratkaisusuhde segmentin mukaan: Laske ensimmäisen yhteyshenkilön ratkaisuhinnat asiakassegmentin mukaan. Jos Enterprise-asiakkaat saavuttavat 75 prosentin tarkkuuden, kun taas SMB-asiakkaat saavuttavat 55 prosentin tarkkuuden, tutki, eroavatko Knowledge laatu, agenttien koulutus tai tuotteiden ominaisuudet segmentin mukaan.
Vastauksen laatu segmentin mukaan: Esimerkkejä agenttien keskusteluista eri segmenteissä ja pyydä tarkastajia arvioimaan vastauksen laatua yhdenmukaisten ulottuvuuksien perusteella: tarkkuus, täydellisyys, ammattitaito, avuliaisuus. Arvioijien välinen luotettavuustesti varmistaa, että tarkastajat käyttävät yhdenmukaisia standardeja.
Eskalointisuhde segmentin mukaan: Seuraa, kuinka usein agentit eskaloituvat ihmisille asiakkaiden demografioiden mukaan. Tiettyjen segmenttien korkeammat eskalointisuhteet osoittavat, että agentit eivät ole tehokkaita käyttäjille, mikä aiheuttaa palvelun laadun eroavaisuuksia.
Tyytyväisyys segmentin mukaan: Kysele käyttäjiä kaikista väestöryhmistä ja vertaa tyytyväisyyspisteitä. Kokonaissummainen tyytyväisyys saattaa peittää huonoja kokemuksia vähemmistöryhmille, jotka ovat tyytyväisiä enemmistöön.

Agentforce-rajapintojen täytyy olla käytettävissä vammaisille käyttäjille, jotka täyttävät WCAG 2.2 AA -standardit. Viittaa Salesforcen Lightning Design System -komponenttiin ja kuvioiden kirjastoihin saadaksesi uudelleenkäytettäviä, käytettävissä olevia Agentforce-komponentteja ja suunnittelukuvioita. Nämä kuviot tekevät agenttien käyttökokemuksista helppokäyttöisiä, yhdenmukaisia ja helposti oppittavia.

Ruudunlukijan yhteensopivuus: Agentforce chat-rajapintoja tarjoavat Lightning sisältävät peruskäyttötilan, kun niitä käytetään suunnitellusti. Mukautetut chat-toteutukset vaativat helppokäyttötoteutuksen manuaalisesti:
Semanttinen HTML-rakenne oikeilla maamerkeillä
ARIA-live-alueet, jotka ilmoittavat uusista viesteistä
Näppäimistön navigointi viestihistoriassa
Selkeyttää interaktiivisten elementtien keskitysosoittimia

Testaa JAWS-, NVDA- ja VoiceOver-ruudunlukijan avustavaa teknologiaa koko kehityksen ajan, äläkä pelkästään automatisoitua skannausta.

Kognitiivinen käytettävyys: Agenttien vastaukset käyttävät tavallista kieltä yleisille kohdeyleisöille. Vältä jargonia ja tarjoa sanastoja välttämättömille teknisille termeille. Rakenna pitkiä vastauksia otsikoilla ja käytä numeroituja tai numeroituja luetteloita ymmärtääksesi niitä tarvittaessa.
Kielen oikeutus: Agentforce tukee useita kieliä perusmallin monikielisten ominaisuuksien avulla. Vahvistettu vastauksen laatu on verrattavissa eri kielillä natiivikäyttäjien arvioinnin avulla, eikä pelkästään automatisoitujen tilastojen avulla, jotka puuttuvat kulttuurisista piirteistä.

Jos liiketoiminnalle kriittinen käyttötarkoitus palvelee useita kieliä, määritä kielikohtainen käsittely (kielikohtaiset muuttujat, lokalisoidut kehotteet ja Knowledge suodattaminen kielen mukaan) ja vahvista laatua kieltä kohden sen sijaan, että luottaisit vain perusmallin monikieliseen siirtoon, mikä saattaa heikentää laatua alhaisemman resurssin kielille.

Ota oikeudenmukaisuus käyttöön Agentforcelle vaiheissa, jotka vastaavat agenttien käyttöönoton kypsyyttä.

Vaihe 1: Perus (ennen kaikkia tuotanto-agentteja)

Laadi eettinen tarkastuslautakunta, jolla on valvontaviranomainen
Asiakirjojen vastuun kohdistukset (mallin omistaja, päätöksen omistaja, valtuus)
Einstein Trust Layer -tarkistuksen kaappauksen ottaminen käyttöön
Event Monitoringin määrittäminen agenttien toiminnoille
Luo perustason oikeudenmukaisuuden valvontamittaristoja CRM Analyticsissa
Määritä pakolliset käyttöönottoportaalit: datan auditointi, oikeudenmukaisuuden tilastot, vaikutusten arviointi

Vaihe 2: Ensimmäinen tuotanto-agentti

Suorita kattava vaikutusarviointi käyttötapaukselle
Koulutus-/RAG-datan auditointi väestötietojen esittämiseksi
Laske oikeudenmukaisuuden tilastot demografisissa ryhmissä
Toteuta ihmisten valvontakuvio (ihminen silmukassa, luottamuksen eskalointi tai aikarajoitettu)
Määritä käyttäjille vinoumien raportointimekanismi
Asiakirjamallin versio, kokoonpano ja päätösten rakennusmenetelmä

Vaihe 3: Jatkuva valvonta

Seuraa fairness-mittaristoja viikoittain ja tutki kynnysarvon rikkomuksia 24 tunnin kuluessa (tai organisaatiosi hyväksymän vastauspalvelutasosopimuksen)
Suorita kuukausittainen korvauskuvioanalyysi, joka tunnistaa järjestelmälliset ongelmat
Tarkasta käyttäjien vinoumien raportit viikoittain dokumentoitujen tutkimusten lopputuloksilla
Suorita neljännesvuosittain kattavia oikeudenmukaisuustarkastuksia korkean panoksen agenteille
Päivitä dokumentaatiota, kun agentit kehottavat sinua päivittämään kehotteita tai muuttamaan malleja

Vaihe 4: Skaalautuminen ja hallinta

Luo uudelleenkäytettäviä Fairness-mittaristomalleja yleisimmille agenttityypeille
Rakenna agenttien päätösten uudelleenrakennustyökaluja, jotka sallivat vaatimustenmukaisuustiimien itsepalvelun
Standardoi suostumusten hallintakuvioita kaikille uusille agenteille
Automatisoitujen reiluusregressioiden testaaminen CI/CD-putkissa
Ajoita kolmansien osapuolten puolivuosittaiset ulkoiset oikeudenmukaisuustarkastukset
Ylläpidä lakisääteistä valvontaa ja sopeudu aktiivisiin ja uusiin velvoitteisiin, mukaan lukien EU AI Act (vaiheittain käyttöön 2025-2027), osavaltioiden lakeihin ja toimialakohtaisiin säännöksiin

Fairness on tärkeä tekijä Salesforce Platformin agenttien järjestelmien arkkitehtuurissa. Organisaatiot, jotka suunnittelevat Agentforcen oikeudenmukaisesti ensiluokkaiseksi arkkitehtuurin huolenaiheeksi, asettavat itsensä ennen lakisääteisiä vaatimuksia ja rakentavat ratkaisuja, joihin kaikki käyttäjät voivat Trust ja käyttää tehokkaasti. Sovellusalustan ominaisuudet ovat olemassa. Kysymys kuuluu, käyttävätkö arkkitehdit niitä.

Jaa palautetta hyvin rakennetusta kehysjärjestelmästä.