Equità AI e rilevamento della distorsione - Schemi agentici

Ulteriori informazioni su Equità ben progettata → Equità aziendale

Schemi

Dove cercareChe bell’aspetto
Agentforce | Configurazione agente✅ Testare sistematicamente gli agenti per la distorsione demografica utilizzando profili diversi che rappresentano gruppi protetti; generare richieste identiche che variano solo i segnali demografici come nomi, posizioni o stili di comunicazione
Data 360 | Segmenti di dati✅ Prima di utilizzare i dati Salesforce per la formazione degli agenti o il radicamento nei criteri RAG, controllare la rappresentazione demografica e identificare i gruppi sottorappresentati
Data 360 | Knowledge Base✅ Controllare le Knowledge Base e le fonti di recupero per l’equilibrio demografico; garantire che la qualità, la completezza e l’accuratezza della documentazione siano comparabili in tutti i segmenti di clienti
Agentforce | Monitoraggio degli agenti✅ Monitorare le interazioni degli agenti tra i gruppi demografici per la coerenza del comportamento; analizzare la lunghezza della risposta, il livello di dettaglio, gli indicatori di cortesia e la qualità della soluzione stratificata per caratteristiche dell’utente
Agentforce | Monitoraggio degli agenti✅ Rileva loop di feedback monitorando le modifiche della distribuzione delle decisioni nel tempo; rompi loop attraverso la revisione umana dei casi limite e il ribilanciamento periodico
Data 360 | Dati di addestramento✅ sovracampionare gruppi demografici sottorappresentati nell’addestramento dei dati garantendo una rappresentazione equilibrata; sintetizzare dati aggiuntivi utilizzando tecniche come SMOTE quando i dati reali sono insufficienti
Agentforce | Modello di prompt✅ Limitare il comportamento degli agenti tramite prompt di sistema: “Trattare tutti i dati demografici dei clienti con la stessa professionalità e dettaglio. Fornire spiegazioni di lunghezza e qualità comparabili indipendentemente dallo stile di comunicazione o dal background del cliente.”
Einstein | Modello di previsione✅ Calcolare i coefficienti di correlazione tra tutte le funzioni del modello e le caratteristiche protette; valutare se il valore predittivo legittimo giustifica l’inclusione di funzioni strettamente correlate
Einstein | Modello di previsione✅ Identificare e rimuovere le funzioni proxy correlate alle caratteristiche protette (proxy CAP per razza, proxy di modelli di nome per genere / etnia, proxy di temporizzazione della comunicazione per religione / assistenza, proxy di tipo dispositivo per reddito, proxy di assegnazione territorio per composizione demografica)

Anti-schemi

Dove cercareChe brutto aspetto
Data 360 | Dati di addestramento⚠️ Utilizzo dei dati CRM storici per la formazione degli agenti senza controllare la rappresentazione demografica, consentendo la distorsione algoritmica per aggravare la distorsione umana
Agentforce | Configurazione agente⚠️ Distribuzione di agenti senza test sistematici di distorsione demografica tra profili diversi che rappresentano gruppi protetti
Data 360 | Knowledge Base⚠️ Fornire articoli Knowledge dettagliati per i clienti aziendali ma solo risposte generiche per i clienti delle piccole imprese, perpetuando le disparità di qualità del servizio
Agentforce | Monitoraggio degli agenti⚠️ Consentire agli agenti di adattare il comportamento in base a segnali di conversazione correlati a caratteristiche protette (stile di comunicazione, complessità del linguaggio, schemi temporali) senza monitoraggio
Einstein | Modello di previsione⚠️ Includere funzioni proxy (CAP, schemi di nome, tipo di dispositivo) nei modelli decisionali consequenziali senza valutare la correlazione con le caratteristiche protette
Agentforce | Configurazione agente⚠️ Consentire loop di feedback in cui le decisioni degli agenti creano la disparità che giustifica le decisioni avverse future (ad esempio, instradare gli agenti riducendo le opportunità a determinati territori, generando meno dati di successo, riducendo ulteriormente il successo previsto)
Data 360 | Segmenti di dati⚠️ Per impostazione predefinita, utilizzare riferimenti alla cultura maggioritaria negli esempi di contenuto che alienano gli utenti sottorappresentati

Schemi

Dove cercareChe bell’aspetto
Agentforce | Monitoraggio degli agenti✅ Registrare gli input e gli output completi per ogni agente in una catena di orchestrazione in modo che la distorsione in un esito finale possa essere ricondotta alla fase che l’ha introdotta e a dove si è verificata l’amplificazione
Piattaforma | CRM Analytics✅ Creare cruscotti digitali che mostrano le distribuzioni delle decisioni in ogni fase dell’orchestrazione suddivise per dati demografici per identificare dove nella catena le disparità emergono o si espandono
Piattaforma | CRM Analytics✅ Calcolare la parità demografica, le pari opportunità e l’impatto discriminatorio in ogni fase della catena, non solo sul risultato finale; le metriche a livello di fase catturano il compounding che sembra accettabile in ogni singola fase ma degrada in tutta la catena
Agentforce | Configurazione del modello✅ Massimizzare la diversità tra gli agenti negli schemi di consenso per ridurre gli errori correlati: modelli di base diversi, se possibile (ad esempio tramite configurazioni Bring Your Own LLM), fonti di recupero diverse, approcci rapidi diversi e calibrazioni delle soglie di confidenza diverse
Agentforce | Configurazione agente✅ Inserire revisione umana nei punti di flessione dell’orchestrazione in cui una fase restringe in modo significativo le opzioni a valle, anche quando la confidenza dei singoli agenti è alta, perché l’orchestrazione crea effetti emergenti che i punteggi di confidenza per agente non acquisiscono
Agentforce | Configurazione agente✅ Configurare gli interruttori dei circuiti di orchestrazione che si arrestano e inoltrano al livello superiore a un essere umano quando la confidenza di un agente scende al di sotto della soglia, la distribuzione dell’output cambia in modo significativo tra le fasi, la catena incontra dati non rappresentati nell’addestramento o nella convalida o l’utente contesta una decisione intermedia

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Monitoraggio degli agenti⚠️ Esecuzione di catene di orchestrazione senza registrare gli input e gli output di ogni agente, rendendo impossibile tracciare quale fase ha introdotto una distorsione quando si verifica un esito discriminatorio
Agentforce | Configurazione del modello⚠️ Considerare il consenso tra più agenti come correzione della distorsione quando tutti gli agenti condividono lo stesso modello di base o dati di addestramento, quindi l’accordo convalida solo la distorsione condivisa anziché correggerla
Piattaforma | CRM Analytics⚠️ Misurare l’equità solo sul risultato finale dell’orchestrazione, mancando il compounding a livello di fase in cui ogni fase appare accettabile isolatamente ma la catena si aggiunge a una disparità inaccettabile
Agentforce | Configurazione agente⚠️ Affidarsi ai punteggi di confidenza dei singoli agenti per bloccare una catena di orchestrazione senza inserire una revisione umana nei punti di flessione in cui una fase si restringe
Agentforce | Configurazione agente⚠️ Consentendo a una catena di orchestrazione di procedere senza interruttore quando un agente a monte ha una bassa confidenza, le distribuzioni si spostano tra le fasi o la catena incontra dati esterni ai suoi insiemi di addestramento e convalida

Schemi

Dove cercareChe bell’aspetto
Business | Cancello di distribuzione✅ Rendere la valutazione dell’equità un cancello di distribuzione obbligatorio equivalente in termini di autorità alla revisione della sicurezza prima di distribuire qualsiasi agente che prenda decisioni consequenziali
Einstein | Modello di previsione✅ Calcolare la parità demografica dividendo la popolazione in segmenti demografici, misurando i tassi di esito positivo per segmento e confrontando i tassi tra i segmenti
Einstein | Modello di previsione✅ Garantire pari opportunità verificando che gli agenti identifichino le persone qualificate altrettanto bene indipendentemente dalle caratteristiche demografiche; verificare che i tassi di veri positivi siano confrontabili tra i gruppi
Einstein | Modello di previsione✅ Applicare la regola dei quattro quinti: se un gruppo riceve risultati positivi inferiori all’80% rispetto al tasso del gruppo con le prestazioni più elevate, verificare la presenza di distorsioni
Einstein | Modello di previsione✅ Calcola rapporti di impatto diversi per tutte le decisioni degli agenti consequenziali e documenta i risultati delle indagini quando i rapporti scendono al di sotto dell’80%
Business | Documentazione✅ Documentare quando le violazioni della parità demografica riflettono fattori aziendali legittimi anziché discriminazione
Business | Revisione legale✅ Consultare un consulente legale quando si implementano quote uguali attraverso soglie specifiche del gruppo, notando che negli Stati Uniti, la rettifica dei punteggi o dei limiti per classe protetta per le decisioni relative all’occupazione è vietata ai sensi del Titolo VII (Civil Rights Act del 1991) e che altre giurisdizioni impongono i propri vincoli

Anti-schemi

Dove cercareChe brutto aspetto
Business | Cancello di distribuzione⚠️ Distribuzione di agenti che prendono decisioni consequenziali senza calcolare le metriche di equità tra i gruppi demografici
Einstein | Modello di previsione⚠️ Mancanza sistematica di candidati qualificati da parte di gruppi sottorappresentati impostando soglie di evidenza più alte per tali gruppi rispetto ai gruppi di maggioranza
Einstein | Modello di previsione⚠️ Implementare soglie specifiche del gruppo senza giustificazione giuridica o convalida che le soglie migliorino l’equità senza creare altri effetti discriminatori, o, negli Stati Uniti, implementarle per le decisioni relative all’occupazione, laddove il titolo VII vieti di rettificare i punteggi o i limiti per classe protetta
Business | Documentazione⚠️ Mancata documentazione quando le violazioni delle metriche di equità riflettono legittime differenze aziendali rispetto alla discriminazione

Schemi

Dove cercareChe bell’aspetto
Einstein | Livello Trust✅ Utilizzare i dati di controllo Trust Layer per analizzare le distribuzioni delle risposte tra i gruppi demografici; creare cruscotti digitali CRM Analytics che confrontano le percentuali di approvazione, gli schemi di consiglio e i punteggi di rischio per segmento di clienti
Einstein | Livello Trust✅ Query Trust Layer logs regular (Esegui query regolari sul Trust Layer): mostra tutte le previsioni di valore elevato raggruppate per settore, regione e dimensione dell’account del cliente per verificare che le distribuzioni previsione siano coerenti tra i segmenti
Agentforce | Tracciamento delle sessioni✅ Esempi di 100 decisioni degli agenti stratificate per gruppo demografico e chiedere ai revisori di valutare se la qualità del ragionamento è comparabile tra i gruppi utilizzando le tracce di ragionamento Session Tracing Agentforce
Piattaforma | CRM Analytics✅ Configurare gli avvisi quando gli schemi decisionali degli agenti si discostano in modo significativo dalla base di riferimento (ad esempio, le percentuali di approvazione per un segmento specifico diminuiscono del 20% settimana dopo settimana)
Piattaforma | CRM Analytics✅ Creare un monitoraggio personalizzato per avvisare sui segnali di equità: “Notifica quando la durata media della conversazione per qualsiasi segmento di clienti supera 1,5 volte la media complessiva per tre giorni consecutivi”
Piattaforma | CRM Analytics✅ Creare modelli di cruscotti digitali CRM Analytics riutilizzabili che tengono traccia delle metriche di equità per i casi d’uso comuni degli agenti, tra cui parità demografica, pari opportunità, rapporti di impatto discriminatori e grafici di tendenza

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Tracciamento delle sessioni⚠️ Ignorare le tracce di ragionamento del tracciamento sessione Agentforce e l’itinerario di controllo Trust Layer quando gli utenti segnalano una distorsione, mancando le fasi di ragionamento, le fonti di dati o gli schemi di recupero che hanno introdotto la distorsione
Piattaforma | CRM Analytics⚠️ Impossibile configurare gli avvisi di rilevamento dell’anomalia per i segnali di equità, consentendo turni di distribuzione improvvisi per non essere rilevati
Piattaforma | CRM Analytics⚠️ Creazione di cruscotti digitali di equità ad hoc per team anziché condividere modelli riutilizzabili che standardizzano il monitoraggio dell’equità

Schemi

Dove cercareChe bell’aspetto
Agentforce | Configurazione agente✅ Progettare gli agenti per le decisioni ad alto rischio (impiego, credito, assistenza sanitaria, legale, alloggio) per analizzare, consigliare e preparare le decisioni richiedendo l’approvazione umana prima dell’esecuzione
Piattaforma | Processo di approvazione✅ Configurare Agentforce per generare consigli con prove a supporto, instradare le decisioni al di sopra della soglia ai revisori umani tramite il processo di approvazione e le tracce del ragionamento degli agenti di superficie nell’interfaccia di approvazione
Agentforce | Configurazione agente✅ Implementare l’inoltro al livello superiore basato sulla confidenza: l’alta confidenza (>90%) procede in modo autonomo, la moderata (70-90%) richiede una revisione umana, la bassa (<70%) si riferisce interamente all’uomo con riepilogo contesto
Agentforce | Configurazione agente✅ Calibrare le soglie di confidenza utilizzando i dati di produzione; prendere decisioni degli agenti di esempio in ogni fascia di confidenza e calcolare le percentuali di successo effettive per convalidare la calibrazione
Agentforce | Configurazione agente✅ Imposta trigger di inoltro al livello superiore limitati nel tempo: dopo 5-7 turni senza risoluzione, dopo 10 minuti trascorsi, quando l’utente esprime frustrazione o quando l’agente ripete la stessa risposta
Piattaforma | Omnicanale✅ Configurare Omnicanale per instradare i casi inoltrati al livello superiore alle aree di attesa appropriate basate sulle competenze con contesto di conversazione completo; addestrare gli agenti umani a gestire gli inoltri al livello superiore senza richiedere agli utenti di ripetere le informazioni
Agentforce | UX✅ Fornire un’opzione “Connetti con l’agente umano” nelle interfacce chat degli agenti in qualsiasi momento, senza essere bloccati dietro un numero minimo di interazioni non riuscite
Agentforce | Configurazione agente✅ Abilitare le persone autorizzate a ignorare qualsiasi decisione dell’agente in qualsiasi momento con una motivazione documentata; aggiungere il pulsante “Ignora agente” a tutte le interfacce decisionali dell’agente che richiedono una spiegazione di testo multi riga
Piattaforma | Oggetto personalizzato✅ Registrare le sostituzioni nell’oggetto personalizzato con ID decisione, indicazione oraria della sostituzione, logica e sostituzione; creare schemi di sostituzione del tracciamento dei cruscotti digitali CRM Analytics per agente, tipo di decisione e dati demografici dei clienti
Business | Documentazione✅ Richiedere una motivazione documentata per le approvazioni o i rifiuti che divergono dai consigli degli agenti; tenere traccia degli schemi di sostituzione per identificare le carenze sistematiche degli agenti

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Configurazione agente⚠️ Distribuzione di agenti come decisori autonomi per decisioni ad alto rischio (occupazione, credito, assistenza sanitaria, legale, alloggio) senza cancelli di approvazione umana
Agentforce | Configurazione agente⚠️ Utilizzo di punteggi di confidenza errati in cui le decisioni “ad alta confidenza” hanno successo solo il 75% delle volte, minando Trust nei meccanismi di inoltro al livello superiore
Agentforce | Configurazione agente⚠️ Intrappolare i clienti in inutili loop automatici senza inoltro al livello umano limitato nel tempo o nei turni
Piattaforma | Omnicanale⚠️ Instradamento dei casi inoltrati al livello superiore senza contesto completo della conversazione, costringendo gli utenti a ripetere le informazioni già fornite all’agente
Business | Gestione⚠️ Consentire la diffusione delle responsabilità dove tutti danno per scontato che l’intelligenza artificiale sia responsabile e nessuno si faccia carico delle decisioni
Business | Gestione⚠️ Assegnazione della responsabilità dopo che si sono verificati incidenti anziché prima della distribuzione con persone denominate documentate nei record decisione dell’architettura

Schemi

Dove cercareChe bell’aspetto
Business | Documentazione✅ Assegnare la responsabilità prima della distribuzione: titolare del modello (correttezza/accuratezza), titolare della decisione (caso d’uso/impatto), autorità di ricorso (ricorsi di equità), autorità di controllo (controlli periodici)
Business | Documentazione✅ Documentare tutti i ruoli di responsabilità con nomi, non solo titoli, assicurando la persistenza della responsabilità attraverso le modifiche organizzative
Business | Gestione✅ Consentire all’autorità di ricorso (commissione di revisione etica o team designato) di gestire i ricorsi degli utenti che ritengono che le decisioni degli agenti siano ingiuste con processi accessibili e tempestivi che possono ribaltare le decisioni degli agenti
Business | Gestione✅ Autorizzare l’autorità di controllo (team di conformità) a condurre controlli periodici e sospendere gli agenti che non rispettano gli standard di equità in attesa di una riparazione
Business | Gestione✅ Pianificare la revisione mensile degli schemi di sostituzione ad alta frequenza con il team di sviluppo degli agenti

Anti-schemi

Dove cercareChe brutto aspetto
Business | Gestione⚠️ Documentare i ruoli di responsabilità solo con titoli (ad esempio, “Data Science Lead”) senza persone denominate, consentendo la scomparsa della responsabilità durante i cambiamenti organizzativi
Business | Gestione⚠️ Consentire ai titolari delle decisioni di delegare la responsabilità ai sistemi di intelligenza artificiale anziché mantenere la responsabilità personale per l’impatto sul mondo reale
Business | Gestione⚠️ Rendere i processi di appello inaccessibili, intempestivi o privi di autorità per invertire le decisioni degli agenti

Schemi

Dove cercareChe bell’aspetto
Agentforce | Configurazione agente✅ Architetto di più livelli di spiegazione: rivolto agli utenti (linguaggio normale), aziendale (fattori decisionali chiave), tecnico (dettagli del modello / pesi delle funzioni) e di controllo (tracce decisionali complete)
Agentforce | Configurazione agente✅ Visualizzare il ragionamento di riepilogo in tempo reale quando si prendono decisioni: “Ho consigliato il prodotto A in base alla cronologia acquisti (3 acquisti simili), alla promozione corrente (20% di sconto) e alla disponibilità dell’inventario”
Agentforce | Configurazione agente✅ Fornire il link “Perché hai consigliato questo?” che consente agli utenti di visualizzare il ragionamento completo, inclusi tutti gli articoli Knowledge recuperati, i record consultati e la logica decisionale
Agentforce | Tracciamento delle sessioni✅ Recuperare le tracce di ragionamento dal tracciamento delle sessioni Agentforce per la ricostruzione storica quando gli utenti contestano le decisioni passate settimane o mesi dopo
Agentforce | Tracciamento delle sessioni✅ Tracce di ragionamento sessione Agentforce di esempio stratificate per gruppi demografici per analizzare se la qualità delle decisioni è coerente; rivedere 100 tracce da ogni segmento di clienti
Agentforce | Configurazione agente✅ Comunicare la fiducia in termini appropriati per l’utente: “Alta confidenza” / “Confidenza moderata” / “Bassa confidenza” con contesto di affidabilità in linguaggio normale anziché punteggi di probabilità non elaborati
Agentforce | Configurazione agente✅ Per le decisioni di moderata o bassa confidenza, spiegare quale riesame aggiuntivo si verificherà e la tempistica prevista
Agentforce | Configurazione agente✅ Fornire spiegazioni controfattuali che mostrano agli utenti cosa cambierebbe l’esito: “Il punteggio dei lead aumenterebbe con le informazioni sull’impiego verificate (+8 punti)”

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Configurazione agente⚠️ Visualizzazione di punteggi di probabilità non elaborati (ad esempio, “confidenza del 73%”) che gli utenti interpretano in modo errato anziché linguaggio di confidenza appropriato
Agentforce | Configurazione agente⚠️ Fornire controfattuali che incoraggiano il gioco del sistema o rivelano inavvertitamente caratteristiche protette come fattori decisionali (ad esempio, “la tua applicazione avrebbe un punteggio più alto se tu avessi 10 anni in meno”)
Agentforce | Configurazione agente⚠️ Fornire un solo livello di spiegazione che non serve né agli utenti finali (troppo tecnico) né agli auditor (troppo semplificato)
Agentforce | Configurazione agente⚠️ Non memorizzare le tracce del ragionamento storico, rendendo impossibile spiegare le decisioni passate quando vengono contestate

Schemi

Dove cercareChe bell’aspetto
Agentforce | Configurazione agente✅ Indicare chiaramente quando gli utenti interagiscono con gli agenti Agentforce con un’informativa ben visibile e continua (non nascosta nei termini di servizio o visualizzata una sola volta all’inizio dell’interazione)
Agentforce | Configurazione agente✅ Visualizza indicatori visivi persistenti: avatar dell’agente contrassegnato come “Assistente AI”, intestazione che mostra “Stai chattando con un agente dell’assistenza Agentforce” e opzione “Connettiti con un agente umano” visibile durante la conversazione
Agentforce | Configurazione agente✅ Assicurarsi che gli utenti che preferiscono l’interazione umana possano passare senza frizioni o penalità per la qualità del servizio

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Configurazione agente⚠️ Seppellire l’informativa AI in termini di servizio o mostrarla una sola volta all’avvio dell’interazione anziché mantenere indicatori visivi persistenti
Agentforce | Configurazione agente⚠️ Penalizzare gli utenti che scelgono l’interazione umana con un servizio degradato o tempi di attesa aumentati
Agentforce | Configurazione agente⚠️ Nascondere l’opzione “Connettiti con un agente umano” o richiedere agli utenti di completare le interazioni con gli agenti prima di accedere al supporto umano

Schemi

Dove cercareChe bell’aspetto
Piattaforma | Monitoraggio evento✅ Configurare Monitoraggio evento per monitorare: Registri eventi API che mostrano le interazioni del sistema degli agenti, gli eventi di accesso per gli account di servizio degli agenti e le esportazioni di rapporti quando gli agenti accedono ai dati in blocco
Piattaforma | Monitoraggio evento✅ Streaming dei registri di Monitoraggio evento a SIEM esterni per la conservazione a lungo termine e la prova di manomissione che soddisfano i requisiti normativi
Piattaforma | Itinerario di controllo sul campo✅ Abilitare Itinerario di controllo campi (conservazione indefinita della cronologia archiviata) per gli oggetti che memorizzano o sono influenzati dalle decisioni degli agenti, scegliendo tra gli oggetti standard supportati e gli oggetti personalizzati con tracciamento della cronologia dei campi abilitato; fondamentale per il credito, l’occupazione e altri casi d’uso con rischi elevati
Piattaforma | Shield✅ Utilizzare Monitoraggio evento Shield per le decisioni degli agenti con le maggiori probabilità in cui l’integrità dell’itinerario di controllo è fondamentale (funzionalità ottimizzate, campi evento strutturati, integrazione dei rapporti sulla conformità)
Piattaforma | Oggetto personalizzato✅ Creare l’oggetto personalizzato AgentDecision__c che memorizza: Decision_ID, Timestamp, Agent_Type, Model_Version, Confidence_Score, Outcome, User_ID, Record_ID; con oggetto-nodo DecisionInput__c che collega le decisioni alle istantanee della funzione di input
Piattaforma | Oggetto personalizzato✅ Memorizzazione dei valori esatti delle funzioni di input al momento della decisione (non dei valori correnti che possono cambiare) per consentire di verificare se le decisioni differirebbero con i dati aggiornati
Business | Documentazione✅ Versione del modello di record, stato di configurazione (soglie, regole aziendali, parametri) e contesto ambientale (identità utente, indicazione oraria, cronologia conversazioni) per ogni decisione conseguente
Piattaforma | LWC✅ Creare l’incorporamento del componente LWC nei record per visualizzare la cronologia decisioni con i link “Visualizza ragionamento”

Anti-schemi

Dove cercareChe brutto aspetto
Piattaforma | Itinerario di controllo sul campo⚠️ Basarsi sulla cronologia dei campi standard (conservazione di 18 mesi) per le decisioni con rischi elevati che richiedono una conservazione normativa pluriennale
Piattaforma | Oggetto personalizzato⚠️ Memorizzazione solo dei valori dei record correnti anziché delle istantanee degli input del momento della decisione, rendendo impossibile ricostruire le decisioni storiche in modo preciso
Business | Documentazione⚠️ Impossibile registrare la versione del modello e lo stato di configurazione attivi al momento della decisione, rendendo impossibile l’analisi della causa principale quando viene rilevata una distorsione
Piattaforma | Monitoraggio evento⚠️ Conservazione dei registri di controllo solo all’interno di Salesforce senza streaming SIEM esterno, senza prove di manomissione per la conformità ai regolamenti

Schemi

Dove cercareChe bell’aspetto
Piattaforma | CRM Analytics✅ Creare cruscotti digitali che mostrano: distribuzione delle decisioni per segmento demografico (grafici a barre), metriche di equità nel tempo (linee di tendenza con soglie di avviso), rapporto di impatto discriminatorio con indicatore di regola dei quattro quinti, predittori migliori che contribuiscono alle decisioni, percentuale di sostituzione per gruppo demografico
Piattaforma | CRM Analytics✅ Avvisare quando le distribuzioni degli input cambiano in modo significativo rispetto ai dati demografici dell’addestramento; monitorare il turno di distribuzione che indica un potenziale deterioramento dell’equità
Agentforce | Configurazione agente✅ Aggiungere l’opzione “Segnala preoccupazione” all’interfaccia chat Agentforce; instradare i rapporti al consiglio di revisione etica con contesto della conversazione completo; tenere traccia dell’oggetto personalizzato con flusso di lavoro di indagine richiesto
Business | Gestione✅ Monitorare i cruscotti digitali di equità ogni settimana, analizzare le violazioni delle soglie entro 24 ore, condurre analisi mensili dello schema di sostituzione, eseguire controlli trimestrali completi dell’equità
Business | Gestione✅ Consentire agli utenti di segnalare la distorsione percepita attraverso meccanismi accessibili; i rapporti utente evidenziano problemi qualitativi che le metriche quantitative non rilevano

Anti-schemi

Dove cercareChe brutto aspetto
Business | Gestione⚠️ Considerare il rilevamento delle distorsioni come una convalida pre-distribuzione singola anziché un monitoraggio continuo man mano che gli agenti evolvono attraverso aggiornamenti rapidi, modifiche della versione del modello e distribuzione dei dati in movimento
Piattaforma | CRM Analytics⚠️ Impossibile configurare gli avvisi quando le metriche di equità superano le soglie definite, consentendo una fluttuazione graduale non rilevata
Agentforce | Configurazione agente⚠️ Non fornire agli utenti meccanismi accessibili per segnalare la distorsione percepita, problemi qualitativi mancanti che le metriche quantitative non possono evidenziare

Schemi

Dove cercareChe bell’aspetto
Piattaforma | Integrazione✅ Creare funzionalità di esportazione che consentono ai team di conformità di estrarre serie di dati decisionali complete con stratificazione demografica per l’esame da parte di auditor esterni rispettando i regolamenti sulla privacy dei dati
Business | Documentazione✅ Mantenere la documentazione corrente che copre: scopo degli agenti e casi d’uso previsti, dati demografici di addestramento e limitazioni note, metriche di equità (pre-distribuzione e produzione), strategie di mitigazione della distorsione, configurazioni di supervisione umana, approccio di monitoraggio e assegnazioni di responsabilità
Business | Gestione✅ Prima di distribuire gli agenti che prendono decisioni consequenziali, eseguire valutazioni d’impatto algoritmiche che valutano i potenziali effetti positivi e negativi nei gruppi di stakeholder
Business | Gestione✅ Pianificare controlli semestrali di equità esterni da parte di terzi; mantenere la scansione dell’orizzonte normativo adattandosi alla legge UE sull’intelligenza artificiale, alle leggi statali e ai regolamenti di settore

Anti-schemi

Dove cercareChe brutto aspetto
Piattaforma | Integrazione⚠️ Progettare architetture degli agenti senza anticipare gli audit esterni da parte di autorità di regolamentazione, organizzazioni per i diritti civili o clienti; mancanza di capacità di esportazione per la revisione degli auditor
Business | Documentazione⚠️ Consentire alla documentazione di diventare obsoleta man mano che gli agenti evolvono attraverso aggiornamenti rapidi o modifiche del modello senza aggiornare le metriche di equità e le strategie di mitigazione
Business | Gestione⚠️ Distribuzione di agenti che prendono decisioni consequenziali senza condurre valutazioni d’impatto che valutano gli effetti tra i gruppi di stakeholder

Schemi

Dove cercareChe bell’aspetto
Agentforce | Configurazione agente✅ Richiedere il consenso esplicito per gli agenti consequenziali (decisione creditizia, screening dell’impiego, idoneità al servizio) anziché attivarlo per impostazione predefinita
Piattaforma | Oggetto personalizzato✅ Creare AI_Consent__c con i campi: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; abilitare l’itinerario di controllo campi per la conservazione dei record consenso a lungo termine
Agentforce | Configurazione agente✅ Aggiungere il controllo del consenso alla logica di invocazione dell’agente: eseguire query AI_Consent__c per ottenere il consenso attivo prima dell’elaborazione; supportare il consenso a livello di caso d’uso (agente dell’assistenza e agente di vendita)
Piattaforma | Comunità/Sito Experience✅ Creare un’interfaccia di gestione del consenso self-service accessibile dal profilo utente; pianificare promemoria di rinnovo del consenso ogni 12 mesi
Agentforce | Configurazione agente✅ Quando si distribuiscono nuove funzionalità che interessano gli utenti esistenti, cercare in modo proattivo il consenso per i nuovi casi d’uso anziché affidarsi al consenso originale che non contemplava applicazioni specifiche
Agentforce | Configurazione agente✅ Abilitare la revoca del consenso in qualsiasi momento con cessazione immediata del trattamento degli agenti; rendere il ritiro facile come la concessione senza richiedere contatti di assistenza
Agentforce | Configurazione agente✅ Abilitare la gestione delle preferenze utente: stile di comunicazione (conciso rispetto a dettagliato), livello di proattività, preferenza di inoltro al livello superiore; memorizzare nei campi personalizzati record utente e riferimento nei prompt di sistema degli agenti
Piattaforma | Omnicanale✅ Fornire l’opzione “Connetti con agente umano” permanente durante le interazioni; quando selezionata, instradare a Omnicanale con contesto di conversazione completo e flag di priorità senza penalità per servizio o tempo di attesa degradati

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Configurazione agente⚠️ Attivazione degli agenti consequenziali per impostazione predefinita senza esplicito consenso esplicito dell’utente a capire in che modo gli agenti li influenzeranno
Agentforce | Configurazione agente⚠️ Richiedere il consenso AI globale anziché abilitare il consenso granulare a livello di caso d’uso (un cliente potrebbe acconsentire agli agenti dell’assistenza mentre rifiuta gli agenti di vendita)
Agentforce | Configurazione agente⚠️ Effettuare la revoca del consenso richiede contatti di assistenza o processi burocratici anziché self-service con effetto immediato
Agentforce | Configurazione agente⚠️ Basarsi sul consenso originale quando si distribuiscono funzionalità degli agenti materialmente nuove che non erano previste nel consenso originale
Agentforce | Configurazione agente⚠️ Richiedere agli utenti di completare le interazioni degli agenti o spiegare le loro preferenze prima di connetterli a un agente umano

Schemi

Dove cercareChe bell’aspetto
Agentforce | Configurazione agente✅ Esaminare tutte le fonti di dati utilizzate nel ragionamento degli agenti per il contenuto delle caratteristiche protette; rimuovere o mascherare le caratteristiche protette dagli input degli agenti quando non sono legalmente giustificate per il tipo di decisione
Agentforce | Modello di prompt✅ Includere istruzioni esplicite di non discriminazione nei prompt di sistema: “Trattare tutti i clienti con la stessa professionalità indipendentemente dal nome, dalla posizione, dallo stile di comunicazione o da qualsiasi altra caratteristica. Non fare mai supposizioni sui clienti in base alle caratteristiche demografiche.”
Agentforce | Configurazione agente✅ Testare con profili diversi prima della produzione: generare richieste identiche variando solo i segnali demografici (nomi che suggeriscono etnie, posizioni, stili di comunicazione diversi); confrontare le risposte per qualità, lunghezza, professionalità e risultati
Agentforce | Monitoraggio degli agenti✅ Calcolare le percentuali di risoluzione al primo contatto stratificate per segmento di clienti; analizzare quando esistono differenze significative tra i segmenti
Agentforce | Monitoraggio degli agenti✅ Esempi di conversazioni degli agenti tra i segmenti e chiedere ai revisori di valutare la qualità della risposta su dimensioni coerenti (accuratezza, completezza, professionalità, disponibilità) con test di affidabilità inter-rater
Agentforce | Monitoraggio degli agenti✅ Tenere traccia dei tassi di inoltro al livello superiore stratificati in base ai dati demografici dei clienti; i tassi più alti per alcuni segmenti indicano che gli agenti sono meno efficaci per quegli utenti
Business | Sondaggi✅ Indagare gli utenti di tutti i gruppi demografici e confrontare i punteggi di soddisfazione; nel complesso, un’alta soddisfazione può mascherare esperienze scadenti per i gruppi minoritari

Anti-schemi

Dove cercareChe brutto aspetto
Agentforce | Configurazione agente⚠️ Includere dati caratteristici protetti (stato di disabilità, religione, origine nazionale) negli input degli agenti per le decisioni in cui tali caratteristiche non sono legalmente giustificate
Agentforce | Modello di prompt⚠️ Distribuzione degli agenti senza istruzioni esplicite di non discriminazione nei prompt di sistema, basandosi solo sul comportamento del modello di base
Agentforce | Configurazione agente⚠️ Testare gli agenti solo con profili demografici maggioritari, mancanza di distorsione nei confronti dei gruppi sottorappresentati
Business | Sondaggi⚠️ Basarsi sui punteggi di soddisfazione complessivi che mascherano le esperienze negative per i gruppi minoritari soffocati dalla soddisfazione della maggioranza

Schemi

Dove cercareChe bell’aspetto
Piattaforma | LWC✅ Per le implementazioni chat personalizzate, assicurarsi di: struttura HTML semantica con punti di riferimento appropriati, regioni live ARIA che annunciano nuovi messaggi, navigazione da tastiera nella cronologia dei messaggi, indicatori di messa a fuoco chiara sugli elementi interattivi
Piattaforma | LWC✅ Test con JAWS, NVDA e VoiceOver durante lo sviluppo, non solo scansione automatica
Agentforce | Configurazione agente✅ Configurare le risposte degli agenti per utilizzare un linguaggio normale per i pubblici generali; evitare il gergo e fornire glossari per i termini tecnici inevitabili; strutturare risposte lunghe con intestazioni ed elenchi puntati
Agentforce | Configurazione agente✅ Convalida la qualità della risposta è comparabile in tutte le lingue attraverso la valutazione madrelingua, non solo le metriche automatiche che mancano di sfumature culturali
Agentforce | Configurazione agente✅ Per i casi d’uso business-critical che servono popolazioni linguistiche diverse, configurare la gestione specifica della lingua (variabili di lingua, prompt localizzati, filtro degli articoli Knowledge per lingua) e convalidare la qualità per lingua anziché basarsi esclusivamente sul trasferimento multilingue del modello di base

Anti-schemi

Dove cercareChe brutto aspetto
Piattaforma | LWC⚠️ Creazione di implementazioni chat personalizzate senza test di accessibilità manuali (basandosi solo sulla scansione automatica)
Agentforce | Configurazione agente⚠️ Utilizzo del gergo e del linguaggio complesso senza glossari, creando barriere cognitive per gli utenti
Agentforce | Configurazione agente⚠️ Basarsi esclusivamente sul trasferimento multilingue del modello di base per le lingue con risorse più limitate, offrendo una qualità degradata per gli utenti delle lingue non maggioritarie
Agentforce | Configurazione agente⚠️ Convalidare la qualità della risposta multilingue solo attraverso metriche automatiche che non presentano sfumature culturali

Schemi

Dove cercareChe bell’aspetto
Business | Gestione✅ Istituire una commissione di revisione etica con l’autorità di applicazione prima di distribuire qualsiasi agente di produzione
Business | Gestione✅ Definire porte di distribuzione obbligatorie: controllo dei dati, calcolo delle metriche di equità e valutazione dell’impatto algoritmico
Piattaforma | CRM Analytics✅ Creare cruscotti digitali di monitoraggio dell’equità di base in CRM Analytics prima della distribuzione del primo agente
Piattaforma | Monitoraggio evento✅ Abilitare l’acquisizione del controllo Einstein Trust Layer e configurare Monitoraggio evento per le azioni degli agenti come base prima della produzione
Business | Gestione✅ Implementare test di regressione dell’equità automatizzati nelle pipeline CI / CD per la scalabilità
Business | Gestione✅ Standardizzare gli schemi di gestione del consenso in tutti i nuovi agenti man mano che le distribuzioni vengono scalate
Piattaforma | Integrazione✅ Creazione di strumenti di ricostruzione delle decisioni degli agenti che consentono il self-service del team di conformità

Anti-schemi

Dove cercareChe brutto aspetto
Business | Gestione⚠️ Distribuire agenti di produzione prima di istituire una commissione per il riesame etico con autorità di controllo
Business | Gestione⚠️ Considerare l’equità come un ripensamento anziché un cancello di distribuzione obbligatorio equivalente a un riesame della sicurezza
Business | Gestione⚠️ Saltare le valutazioni dell’impatto algoritmico prima di distribuire gli agenti che prendono decisioni consequenziali
Piattaforma | CRM Analytics⚠️ Distribuzione del primo agente di produzione senza cruscotti digitali di monitoraggio dell’equità di base