Etica e governance dell’intelligenza artificiale - Schemi

Ulteriori informazioni su Equità ben progettata → Practice Ethical AI Governance

Schemi

Dove cercare	Che bell’aspetto
Einstein \| Dati di addestramento	✅ I dati di Salesforce CRM vengono controllati per rilevare eventuali lacune nella rappresentazione demografica e incoerenze di misurazione prima di addestrare i modelli predittivi
Einstein \| Dati di addestramento	✅ I dati di conversione storici vengono analizzati dai dati demografici dei clienti per identificare i segmenti sottorappresentati che richiedono un sovracampionamento o una raccolta di dati aggiuntiva
Einstein \| Distribuzione	✅ La valutazione dell’equità è considerata come un cancello obbligatorio equivalente all’esame della sicurezza prima che i modelli predittivi raggiungano la produzione
Einstein \| Distribuzione	✅ La parità demografica, le pari opportunità e i rapporti di impatto discriminatori vengono calcolati nei gruppi protetti prima della distribuzione
Einstein \| Distribuzione	✅ Le metriche di equità vengono valutate in base alla regola dei quattro quinti (soglia dell’80%) come trigger di screening (non come pass/fail line legale) per tutti i segmenti di clienti prima della distribuzione del modello
Einstein Discovery \| Strumentazione	✅ I dati decisionali del modello predittivo (input previsione, output e versioni del modello) vengono acquisiti tramite Einstein Discovery e la strumentazione personalizzata che abilita il rilevamento della distorsione
CRM Analytics \| Monitoraggio	✅ I cruscotti digitali CRM Analytics analizzano i dati decisionali acquisiti dal modello predittivo per gli schemi decisionali nei gruppi demografici nel tempo
CRM Analytics \| Monitoraggio	✅ Gli avvisi CRM Analytics vengono attivati quando le metriche della parità demografica o delle pari opportunità superano le soglie accettabili
Einstein \| Ingegneria delle funzioni	✅ Tutte le caratteristiche del modello predittivo vengono analizzate per la correlazione con le caratteristiche protette utilizzando metodi statistici
Einstein \| Ingegneria delle funzioni	✅ Le funzioni proxy (territorio, codice postale, schemi di nome account, tempistica attività, tipo di dispositivo) vengono identificate e valutate per la correlazione demografica
Einstein \| Ingegneria delle funzioni	✅ Le funzioni proxy vengono rimosse o trasformate dopo aver valutato se il valore predittivo giustifica l’inclusione nonostante gli effetti proxy

Anti-schemi

Dove cercare	Che brutto aspetto
Einstein \| Dati di addestramento	⚠️ Il calcolo del punteggio dei lead viene addestrato su 10 anni di dati storici senza esaminare la rappresentazione demografica o le differenze di qualità del servizio
Einstein \| Dati di addestramento	⚠️ I dati di conversione storici vengono utilizzati direttamente senza controllare se dati demografici diversi hanno ricevuto un trattamento diverso
Einstein \| Distribuzione	⚠️ Le funzioni Einstein vengono distribuite esclusivamente in base alle metriche di precisione complessive senza valutazione dell’equità
Einstein \| Distribuzione	⚠️ La parità demografica o i rapporti di impatto discriminatori non vengono calcolati prima della distribuzione in produzione
Einstein \| Livello Trust	⚠️ Le interazioni Agentforce vengono distribuite senza abilitare l’acquisizione del controllo Trust Layer per il rilevamento della distorsione
CRM Analytics \| Monitoraggio	⚠️ Gli schemi decisionali non vengono tracciati dai gruppi demografici nel tempo; la deriva di distorsione non viene rilevata
Einstein \| Ingegneria delle funzioni	⚠️ Le caratteristiche protette vengono rimosse dai dati di addestramento presumendo che ciò elimini automaticamente la distorsione
Einstein \| Ingegneria delle funzioni	⚠️ Gli schemi di territorio, codice postale e nome account vengono utilizzati come funzioni senza analisi della correlazione proxy
Einstein \| Ingegneria delle funzioni	⚠️ Le funzioni proxy che fungono da proxy demografici perfetti vengono mantenute senza valutare alternative

Schemi

Dove cercare	Che bell’aspetto
Agentforce \| Analytics	✅ I cruscotti digitali CRM Analytics tengono traccia degli esiti delle decisioni Agentforce in base ai dati demografici dei clienti utilizzando i dati di controllo Einstein Trust Layer
Agentforce \| Analytics	✅ Percentuali di approvazione, tempi di risposta del servizio, percentuali di inoltro al livello superiore e punteggi di soddisfazione sono monitorati stratificati per gruppo demografico
Agentforce \| Analytics	✅ Gli avvisi CRM Analytics vengono configurati attivando quando le metriche di equità superano le soglie definite che richiedono un’indagine
Agentforce \| Monitoraggio evento	✅ I registri di Monitoraggio evento vengono instradati a SIEM esterni per la conservazione a lungo termine che supera i limiti di conservazione nativi
Agentforce \| Monitoraggio evento	✅ Le query SIEM identificano concentrazioni anomale di esiti negativi per popolazioni di utenti specifiche
Agentforce \| Itinerario di controllo sul campo	✅ Itinerario di controllo campi è abilitato per gli oggetti personalizzati che archiviano i dati delle decisioni Agentforce, conservando la cronologia archiviata a tempo indeterminato fino a quando non viene eliminata
Agentforce \| Itinerario di controllo sul campo	✅ Field Audit Trail supporta controlli di equità a lungo termine e indagini normative che richiedono la ricostruzione delle decisioni AI storiche
CRM Analytics \| Monitoraggio	✅ I cruscotti digitali CRM Analytics tengono traccia dei segnali di equità: cambiamenti improvvisi nelle distribuzioni delle decisioni, picchi nei casi correlati alla distorsione, deterioramento delle prestazioni per popolazioni specifiche
CRM Analytics \| Monitoraggio	✅ Gli avvisi vengono attivati quando le percentuali di approvazione per qualsiasi segmento di clienti scendono di oltre il 15% settimana dopo settimana, richiedendo un’indagine sulla correttezza

Anti-schemi

Dove cercare	Che brutto aspetto
Agentforce \| Analytics	⚠️ Gli esiti delle decisioni non vengono tracciati dai dati demografici; la fluttuazione della distorsione non viene rilevata quando le distribuzioni dei dati si spostano
Agentforce \| Analytics	⚠️ Le metriche di qualità del servizio non sono stratificate per gruppo demografico; esiti diversi rimangono invisibili
Agentforce \| Monitoraggio evento	⚠️ I registri di Monitoraggio evento si basano su limiti di conservazione nativi senza SIEM esterno per controlli di equità a lungo termine
Agentforce \| Monitoraggio evento	⚠️ Gli schemi decisionali non vengono analizzati in grandi volumi di interazioni; le concentrazioni anomale non vengono analizzate
Agentforce \| Itinerario di controllo sul campo	⚠️ Itinerario di controllo sul campo non abilitato; le decisioni AI storiche non possono essere ricostruite per le indagini normative
CRM Analytics \| Monitoraggio	⚠️ I segnali di equità non vengono monitorati; i cambiamenti improvvisi nelle distribuzioni delle decisioni passano inosservati

Schemi

Dove cercare	Che bell’aspetto
Einstein \| Dati di addestramento	✅ I dati di Salesforce CRM vengono riequilibrati attraverso il sovracampionamento dei segmenti sottorappresentati o il sottocampionamento dei segmenti sovrarappresentati prima dell’addestramento
Data 360 \| Architettura	✅ Data 360 aggrega i dati in più organizzazioni garantendo insiemi di addestramento diversi per i modelli predittivi
Einstein \| Dati di addestramento	✅ La generazione di dati sintetici integra segmenti scarsi preservando la privacy attraverso tecniche di privacy differenziale
Einstein \| Ingegneria delle funzioni	✅ Le funzioni proxy sono sostituite da funzioni alternative che forniscono potenza predittiva senza correlazione demografica
Einstein \| Ingegneria delle funzioni	✅ La classificazione del settore o le dimensioni dell’azienda vengono utilizzate al posto del territorio quando il territorio funge da proxy demografico
Einstein \| Ingegneria delle funzioni	✅ Gli attributi firmagrafici vengono utilizzati al posto degli schemi di nome account quando i nomi sono correlati ai dati demografici
Agentforce \| Post-elaborazione	✅ Le soglie decisionali sono modificate per segmento demografico per equalizzare le percentuali di esito dopo l’addestramento del modello, tranne per il fatto che, negli Stati Uniti, il Titolo VII (Civil Rights Act del 1991) vieta l’adeguamento dei punteggi o dei limiti per classe protetta per le decisioni relative all’occupazione e altre giurisdizioni impongono i propri vincoli
Agentforce \| Post-elaborazione	✅ Vengono utilizzate soglie di confidenza diverse per contesti diversi, ottenendo percentuali di approvazione eque utilizzando lo stesso modello predittivo sottostante
Agentforce \| Post-elaborazione	✅ Le rettifiche di soglia sono documentate con giustificazione aziendale per il trattamento differenziato, riconoscendo che negli Stati Uniti, nessuna documentazione rende lecito il punteggio per gruppo o la rettifica del limite per le decisioni relative all’occupazione ai sensi del titolo VII
Einstein \| Riaddestramento del modello	✅ Pianificazione trimestrale o basata sugli eventi per la riconversione che coglie gli schemi di distorsione emergenti e corregge la deviazione dai valori di riferimento originali per l’equità
Einstein \| Riaddestramento del modello	✅ Le metriche di equità vengono convalidate nuovamente su ogni versione del modello prima della distribuzione in produzione, assicurando che la riqualificazione non introduca nuove distorsioni

Anti-schemi

Dove cercare	Che brutto aspetto
Einstein \| Dati di addestramento	⚠️ I dati di addestramento vengono utilizzati direttamente senza riequilibrare i segmenti sottorappresentati o sovrarappresentati
Einstein \| Dati di addestramento	⚠️ Segmenti demografici poco ampi non sono integrati con dati sintetici o aggregazione tra organizzazioni
Einstein \| Ingegneria delle funzioni	⚠️ Le funzioni proxy vengono mantenute senza valutare funzioni alternative che forniscono potere predittivo senza correlazione demografica
Agentforce \| Post-elaborazione	⚠️ Le stesse soglie di confidenza vengono applicate a tutti i segmenti demografici senza equalizzare i tassi di esito
Agentforce \| Post-elaborazione	⚠️ Il trattamento differenziato attraverso gli adeguamenti delle soglie manca di una giustificazione documentata per le imprese o, negli Stati Uniti, è applicato alle decisioni relative all’occupazione, dove il titolo VII vieta l’adeguamento dei punteggi o dei limiti per classe protetta indipendentemente dalla documentazione
Einstein \| Riaddestramento del modello	⚠️ I modelli vengono distribuiti e mai riaddestrati; gli schemi di distorsione emergenti e la fluttuazione non vengono corretti
Einstein \| Riaddestramento del modello	⚠️ La riqualificazione avviene senza riconvalidare le metriche di equità; viene introdotta silenziosamente una nuova distorsione

Schemi

Dove cercare	Che bell’aspetto
Einstein Discovery \| UX	✅ Le spiegazioni di Einstein Discovery che mostrano i fattori di previsione vengono presentati nei componenti Lightning al momento della decisione
Einstein Discovery \| UX	✅ Le spiegazioni mostrano quali variabili hanno influenzato maggiormente previsioni specifiche con impatto direzionale per gli utenti nei punti decisionali
Einstein Discovery \| UX	✅ Le spiegazioni sono suddivise in livelli per diversi tipi di pubblico: utenti aziendali, utenti tecnici, clienti e auditor
Einstein Discovery \| UX	✅ Gli utenti aziendali visualizzano “Questo lead ha un punteggio alto perché il reddito annuale supera 1 milione di dollari e il punteggio di coinvolgimento è nel primo 10%“
Einstein Discovery \| UX	✅ Gli utenti tecnici visualizzano le schede dei modelli con i pesi delle funzioni, le caratteristiche dei dati di addestramento e le metriche di convalida
Einstein Discovery \| UX	✅ I clienti visualizzano “Questo consiglio si basa sugli acquisti recenti e sui clienti con preferenze simili”
Einstein Discovery \| UX	✅ Gli auditor visualizzano la discendenza decisionale completa da Einstein Discovery e dal Gestore modelli con la versione del modello, i valori di input e i fattori che hanno determinato la previsione
Einstein Discovery \| UX	✅ la confidenza della previsione viene visualizzata in termini appropriati per l’utente come categorie (alta confidenza, moderata confidenza, necessita di revisione) con spiegazioni
Einstein Discovery \| UX	✅ Le categorie di confidenza spiegano che cosa significa livello di confidenza per l’affidabilità delle decisioni e quale riesame aggiuntivo si verificherà

Anti-schemi

Dove cercare	Che brutto aspetto
Einstein Discovery \| UX	⚠️ Le spiegazioni vengono adattate a sistemi opachi dopo la distribuzione anziché creare la spiegabilità nell’architettura dall’inizio
Einstein Discovery \| UX	⚠️ Le spiegazioni delle previsioni richiedono la navigazione per separare i cruscotti digitali CRM Analytics anziché visualizzarli nei punti decisionali
Einstein Discovery \| UX	⚠️ Gli utenti visualizzano le metriche delle prestazioni del modello astratte anziché spiegazioni trasparenti quando le decisioni li riguardano
Einstein Discovery \| UX	⚠️ Le spiegazioni non variano a seconda del pubblico; le schede dei modelli tecnici vengono visualizzate ai clienti o agli utenti aziendali
Einstein Discovery \| UX	⚠️ I punteggi delle previsioni non elaborati (0,73) vengono visualizzati senza alcuna spiegazione del significato del numero o dei fattori che hanno determinato la previsione
Einstein Discovery \| UX	⚠️ La fiducia è visualizzata come percentuali di probabilità che gli utenti interpretano in modo errato senza contesto in merito all’affidabilità o alla revisione

Schemi

Dove cercare	Che bell’aspetto
Einstein \| Livello Trust	✅ Einstein Trust Layer registra automaticamente prompt, risposte, fonti di radicamento e segnali Trust senza strumentazione personalizzata
Einstein \| Livello Trust	✅ Le policy di conservazione dei dati sono progettate in modo da soddisfare i requisiti normativi che variano a seconda del settore e della giurisdizione (ad esempio, la regola FINRA 4511(b) imposta un periodo di conservazione predefinito di sei anni e l’HIPAA richiede un minimo di sei anni per la documentazione di conformità)
CRM Analytics \| Monitoraggio	✅ I cruscotti digitali CRM Analytics analizzano i dati decisionali del modello predittivo acquisiti per individuare schemi decisionali, metriche di equità e prestazioni del modello nel tempo
CRM Analytics \| Monitoraggio	✅ Le lenti CRM Analytics mostrano le distribuzioni delle previsioni per livello di confidenza, segmento demografico e tipo di risultato
CRM Analytics \| Monitoraggio	✅ Le storie Einstein Discovery identificano schemi anomali che richiedono un’indagine
Piattaforma \| Itinerario di controllo sul campo	✅ Itinerario di controllo campi è abilitato per gli oggetti personalizzati che memorizzano i dati delle decisioni AI, conservando la cronologia archiviata a tempo indeterminato fino a quando non viene eliminata per i record consenso, le decisioni di sostituzione e i rapporti di distorsione
Piattaforma \| Monitoraggio evento	✅ Monitoraggio evento acquisisce le trascrizioni delle conversazioni Agentforce, le chiamate agli strumenti e i punti decisionali
Piattaforma \| Monitoraggio evento	✅ I registri di Monitoraggio evento vengono instradati a SIEM esterni tramite Eventi piattaforma per l’archiviazione senza manomissioni
Piattaforma \| Monitoraggio evento	✅ Le query SIEM rilevano schemi di distorsione in grandi volumi di interazioni Agentforce

Anti-schemi

Dove cercare	Che brutto aspetto
Einstein \| Livello Trust	⚠️ Le interazioni Agentforce vengono distribuite senza abilitare l’acquisizione del controllo Trust Layer o definire policy di conservazione
Einstein \| Livello Trust	⚠️ Le politiche di conservazione non tengono conto dei requisiti normativi specifici del settore (servizi finanziari, assistenza sanitaria)
CRM Analytics \| Monitoraggio	⚠️ I dati decisionali del modello predittivo acquisiti non vengono analizzati; gli schemi decisionali e le metriche di equità non vengono tracciati nel tempo
Piattaforma \| Itinerario di controllo sul campo	⚠️ La cronologia dei campi standard di 18 mesi viene utilizzata per gli itinerari di controllo decisioni AI senza considerare i requisiti di conservazione normativi
Piattaforma \| Itinerario di controllo sul campo	⚠️ Itinerario di controllo campi non è abilitato per gli oggetti con record consenso, decisioni di sostituzione e rapporti di distorsione
Piattaforma \| Monitoraggio evento	⚠️ I registri di Monitoraggio evento si basano su limiti di conservazione nativi senza SIEM esterno per l’archiviazione a lungo termine senza manomissioni
Piattaforma \| Monitoraggio evento	⚠️ I registri di interazione Agentforce non vengono analizzati per individuare gli schemi di distorsione in grandi volumi

Schemi

Dove cercare	Che bell’aspetto
Governance \| Legge UE sull’intelligenza artificiale	✅ I sistemi di intelligenza artificiale ad alto rischio sono documentati con documentazione sulla trasparenza, documentazione tecnica, capacità di supervisione umana e metriche di accuratezza/equità
Governance \| Legge UE sull’intelligenza artificiale	✅ Gli itinerari di controllo Einstein Trust Layer e le schede dei modelli Discovery offrono le basi per i requisiti di trasparenza dell’EU AI Act
Governance \| Legge UE sull’intelligenza artificiale	✅ I dati demografici dei dati di addestramento del modello, gli approcci di convalida e le limitazioni note sono documentati nei record decisione dell’architettura
Governance \| GDPR	✅ I sistemi generano spiegazioni coerenti per qualsiasi decisione storica su richiesta entro i tempi di richiesta di accesso dell’interessato (che variano a seconda della giurisdizione, tra 15 e 45 giorni)
Governance \| GDPR	✅ I dati decisionali del modello predittivo acquisiti e i fattori di spiegazione Einstein Discovery vengono memorizzati con una conservazione sufficiente per consentire la ricostruzione della spiegazione per il diritto alla spiegazione del GDPR
Governance \| Responsabilità algoritmica	✅ Le valutazioni dell’impatto algoritmico vengono condotte prima di distribuire l’intelligenza artificiale consequenziale come conformità proattiva anziché risposta reattiva
Governance \| Responsabilità algoritmica	✅ I dati decisionali del modello predittivo acquisiti e i cruscotti digitali CRM Analytics per il monitoraggio dell’equità offrono le basi di dati per i rapporti di affidabilità algoritmica

Anti-schemi

Dove cercare	Che brutto aspetto
Governance \| Legge UE sull’intelligenza artificiale	⚠️ I sistemi di intelligenza artificiale ad alto rischio vengono distribuiti senza documentazione sulla trasparenza, capacità di supervisione umana o metriche di equità
Governance \| Legge UE sull’intelligenza artificiale	⚠️ I dati demografici e le limitazioni note dei dati di addestramento del modello non sono documentati nei record decisione dell’architettura
Governance \| GDPR	⚠️ I sistemi non sono in grado di generare spiegazioni coerenti per le decisioni storiche entro i tempi di richiesta di accesso degli interessati al GDPR
Governance \| GDPR	⚠️ La conservazione dei dati delle decisioni del modello predittivo acquisita non è sufficiente per supportare la ricostruzione delle spiegazioni per le decisioni passate
Governance \| Responsabilità algoritmica	⚠️ Le valutazioni dell’impatto algoritmico non vengono condotte prima della distribuzione dell’intelligenza artificiale consequenziale; la conformità è reattiva dopo l’indagine normativa

Schemi

Dove cercare	Che bell’aspetto
Piattaforma \| OWD	✅ Le impostazioni predefinite dell’organizzazione privata sono stabilite per gli oggetti contenenti dati sensibili dei clienti con accesso concesso tramite la gerarchia dei ruoli e le regole di condivisione
Piattaforma \| OWD	✅ OWD privati con sovvenzioni di condivisione esplicite creano schemi di accesso controllabili che supportano la conformità alla non discriminazione
Piattaforma \| Protezione a livello di campo	✅ I campi sensibili contenenti caratteristiche protette (etnia, religione, stato di disabilità) sono nascosti tramite FLS per gli utenti senza legittime esigenze aziendali
Piattaforma \| Protezione a livello di campo	✅ L’accesso in lettura ai campi sensibili viene rimosso tramite FLS per la maggior parte dei profili; l’accesso viene concesso in minima parte tramite insiemi di autorizzazioni con giustificazione documentata
Piattaforma \| Assegnazione e instradamento	✅ Le regole di assegnazione, le aree di attesa e l’instradamento Omnicanale distribuiscono equamente il lavoro tra territori, team e agenti dell’assistenza in base a criteri oggettivi
Piattaforma \| Regole di condivisione	✅ Le regole di condivisione automatiche si basano su criteri oggettivi (settore, area geografica, linea di prodotti) anziché sulla discrezionalità soggettiva del responsabile
Piattaforma \| Insiemi di autorizzazioni	✅ L’accesso temporaneo ai dati sensibili viene concesso tramite insiemi di autorizzazioni con scadenza documentata anziché modifiche permanenti del profilo
Piattaforma \| Insiemi di autorizzazioni	✅ Flusso pianificato revoca automaticamente gli insiemi di autorizzazioni dopo periodi definiti quando è necessario accedere ai dati demografici per progetti specifici

Anti-schemi

Dove cercare	Che brutto aspetto
Piattaforma \| OWD	⚠️ Le OWD Lettura/Scrittura pubblica rendono la limitazione dell’accesso in seguito disgregativa (restringendo i trigger predefiniti un ricalcolo della condivisione); gli schemi di accesso controllabili non esistono
Piattaforma \| OWD	⚠️ Account OWD è impostato su Lettura/Scrittura pubblica con campi demografici non protetti visibili a tutti gli utenti che abilitano la distorsione soggettiva
Piattaforma \| Protezione a livello di campo	⚠️ I campi demografici sensibili sono visibili a tutti i profili senza restrizioni FLS; l’utilizzo discriminatorio dei dati non è impedito
Piattaforma \| Regole di condivisione	⚠️ La condivisione manuale concentra le opportunità di valore elevato con gruppi di utenti specifici senza una giustificazione aziendale documentata
Piattaforma \| Regole di condivisione	⚠️ Le regole di condivisione si basano sulla discrezione soggettiva del responsabile anziché su criteri oggettivi che abilitano la distorsione
Piattaforma \| Insiemi di autorizzazioni	⚠️ I profili vengono modificati in modo permanente a tutti gli utenti anziché concedere l’accesso temporaneo tramite gli insiemi di autorizzazioni
Piattaforma \| Insiemi di autorizzazioni	⚠️ Gli insiemi di autorizzazioni che concedono l’accesso ai dati sensibili non scadono automaticamente; l’accesso rimane indefinito dopo il completamento del progetto

Schemi

Dove cercare	Che bell’aspetto
Shield \| Monitoraggio evento	✅ Shield Event Monitoring tiene traccia dell’accesso ai campi contenenti caratteristiche protette o attributi sensibili
Shield \| Monitoraggio evento	✅ Le query di Monitoraggio evento tengono traccia di chi accede ai campi demografici, quando e in quale contesto rilevando schemi anomali
Shield \| Monitoraggio evento	✅ Modelli di accesso anomalo (picchi improvvisi, accesso da parte di utenti inattesi) attivano indagini per un potenziale uso improprio
Piattaforma \| Reportistica	✅ I rapporti analizzano come le regole di condivisione distribuiscono i record tra utenti, team e territori calcolando le statistiche di distribuzione in base ai dati demografici dei clienti
Piattaforma \| Reportistica	✅ I rapporti identificano le concentrazioni in cui gruppi di utenti specifici ricevono un accesso sproporzionato a record importanti senza una giustificazione documentata
Piattaforma \| Itinerario di controllo impostazioni	✅ Itinerario di controllo impostazioni viene esaminato per le modifiche alle impostazioni OWD, alle regole di condivisione, alle configurazioni FLS e agli insiemi di autorizzazioni che rilevano modifiche non autorizzate
Piattaforma \| Sicurezza delle transazioni	✅ Le policy sulla sicurezza delle transazioni agiscono su eventi di Monitoraggio evento in tempo reale ad alto rischio (attività API anomale, accessi sospetti, grandi esportazioni di dati sensibili); le modifiche FLS e di condivisione si basano su Itinerario di controllo impostazioni e approvazioni documentate per la gestione del cambiamento

Anti-schemi

Dove cercare	Che brutto aspetto
Shield \| Monitoraggio evento	⚠️ L’accesso ai campi demografici sensibili non è monitorato; un potenziale uso improprio non viene rilevato
Shield \| Monitoraggio evento	⚠️ Gli schemi di accesso anomali (picchi, utenti imprevisti) non vengono tracciati o analizzati
Piattaforma \| Reportistica	⚠️ Le distribuzioni delle regole di condivisione non vengono analizzate; l’accesso sproporzionato ai record importanti rimane invisibile
Piattaforma \| Reportistica	⚠️ Le concentrazioni di account di valore elevato con gruppi di utenti specifici non hanno una giustificazione aziendale documentata
Piattaforma \| Itinerario di controllo impostazioni	⚠️ Itinerario di controllo impostazioni non viene esaminato; non vengono rilevate modifiche non autorizzate ai controlli di accesso ai dati che abilitano l’accesso ai dati sensibili
Piattaforma \| Sicurezza delle transazioni	⚠️ Gli eventi di Monitoraggio evento in tempo reale ad alto rischio (attività API anomala, grandi esportazioni di dati sensibili) non vengono eseguiti con le policy sulla sicurezza delle transazioni

Schemi

Dove cercare	Che bell’aspetto
Piattaforma \| Oggetti personalizzati	✅ Il consenso granulare per caso d’uso AI è abilitato tramite lo scopo di tracciamento personalizzato dell’oggetto Consenso, la data/metodo di concessione, la data di ritiro e l’ID utente/referente correlato
Piattaforma \| Oggetti personalizzati	✅ I clienti acconsentono ai consigli sui prodotti Einstein mentre rifiutano le decisioni di credito basate sull’intelligenza artificiale tramite record di consenso separati per caso d’uso
Piattaforma \| Itinerario di controllo sul campo	✅ Itinerario di controllo campi è abilitato per l’oggetto Consenso per la conservazione a lungo termine che soddisfa i requisiti normativi
Data 360 \| Consenso	✅ La gestione del consenso di Data 360 viene utilizzata per le funzioni di Personalizzazione Einstein, l’inserimento e l’archiviazione delle preferenze di consenso tramite connettori mappati al modello di dati sulla privacy e l’utilizzo come criteri di filtro nella segmentazione e all’attivazione
Data 360 \| Consenso	✅ Le categorie di consenso vengono mappate a casi d’uso AI specifici che consentono agli utenti di disattivare la personalizzazione mantenendo il servizio centrale
Marketing Cloud \| Consenso	✅ Il consenso di Marketing Cloud si integra con Approfondimenti messaggistica Einstein e gli agenti di marketing Agentforce rispettando lo stato dell’abbonamento
Marketing Cloud \| Consenso	✅ Lo stato del consenso di Marketing Cloud viene sottoposto a query prima che Agentforce avvii un contatto automatico per impedire contatti indesiderati con gli utenti che hanno scelto di non ricevere

Anti-schemi

Dove cercare	Che brutto aspetto
Piattaforma \| Oggetti personalizzati	⚠️ Il consenso AI viene tracciato nei fogli di calcolo o si basa sull’accesso come consenso implicito senza record espliciti
Piattaforma \| Oggetti personalizzati	⚠️ Viene utilizzato il consenso AI coperta anziché il consenso granulare per ogni caso d’uso; gli utenti non possono escludere funzioni AI specifiche
Piattaforma \| Itinerario di controllo sul campo	⚠️ Itinerario di controllo campi non abilitato per l’oggetto Consenso; la conservazione a lungo termine che soddisfa i requisiti normativi non viene mantenuta
Data 360 \| Consenso	⚠️ Il consenso di Data 360 non viene utilizzato per la Personalizzazione Einstein; le categorie di consenso non vengono mappate a casi d’uso specifici
Marketing Cloud \| Consenso	⚠️ Il consenso di Marketing Cloud non è integrato con Einstein o Agentforce; lo stato dell’abbonamento non viene rispettato nel contatto automatico

Schemi

Dove cercare	Che bell’aspetto
Experience Cloud \| Impostazioni profilo	✅ Gli utenti scelgono di non utilizzare le interazioni Agentforce tramite controlli delle preferenze accessibili nelle impostazioni del profilo Experience Cloud o Impostazioni personali con descrizioni chiare
Piattaforma \| Record utente/referente	✅ Le preferenze AI sono memorizzate nei record Utente o Referente che abilitano la query nella logica decisionale Flusso e Agentforce
Agentforce \| Omnicanale	✅ Gli utenti che scelgono di non utilizzare Agentforce vengono instradati agli agenti umani tramite Omnicanale anziché ricevere un servizio degradato
Agentforce \| Flusso	✅ Il flusso controlla i campi consenso e preferenza prima del coinvolgimento Agentforce; se l’utente ha scelto di non partecipare, il record di lavoro viene creato e instradato all’area di attesa umana
Agentforce \| Omnicanale	✅ Personale umano dell’area di attesa fornisce tempi di attesa comparabili al servizio automatico per gli utenti che hanno scelto di non ricevere
Piattaforma \| Record utente/referente	✅ Le preferenze AI sono memorizzate nei record Utente o Referente garantendo coerenza tra i canali (web, cellulare, telefono, email)
Piattaforma \| Flusso	✅ La preferenza viene interrogata in modo coerente in tutti i flussi di interazione evitando che gli utenti debbano riaffermare le preferenze ripetutamente su ogni canale

Anti-schemi

Dove cercare	Che brutto aspetto
Experience Cloud \| Impostazioni profilo	⚠️ Il rifiuto esplicito è disponibile solo tramite email al team di assistenza; non esistono controlli delle preferenze accessibili
Piattaforma \| Record utente/referente	⚠️ Le preferenze AI non sono memorizzate nei record Utente o Referente; le preferenze non possono essere sottoposte a query nella logica Flusso o Agentforce
Agentforce \| Omnicanale	⚠️ Gli utenti che rifiutano il servizio ricevono un servizio degradato come pressione implicita ad accettare l’intelligenza artificiale anziché instradarsi agli agenti umani
Agentforce \| Flusso	⚠️ Il flusso non controlla i campi consenso o preferenza prima del coinvolgimento Agentforce; le preferenze di rifiuto esplicito vengono ignorate
Piattaforma \| Record utente/referente	⚠️ Le preferenze non sono coerenti tra i canali; gli utenti devono riaffermare il rifiuto esplicito su Web, cellulare, telefono ed email separatamente

Schemi

Dove cercare	Che bell’aspetto
Governance \| Documentazione	✅ Ogni modello predittivo di produzione è documentato con dati demografici di addestramento, metriche di equità, casi d’uso previsti, strategie di mitigazione della distorsione e approcci di monitoraggio
Governance \| Documentazione	✅ La documentazione del modello include l’approccio di monitoraggio dell’equità, le soglie di allarme, i requisiti di sorveglianza umana, il programma di riesame e le considerazioni normative
Piattaforma \| Oggetti personalizzati	✅ La documentazione del modello è archiviata in Salesforce utilizzando un oggetto Modello personalizzato o Salesforce Files allegato ai progetti che consente la ricerca e il controllo delle versioni
Governance \| Cancelli di distribuzione	✅ I cancelli di equità pre-distribuzione richiedono il controllo dei dati di addestramento, il calcolo delle metriche di equità, la valutazione dell’impatto, la progettazione della supervisione umana e la revisione della trasparenza prima della produzione
Governance \| Cancelli di distribuzione	✅ I gap di rappresentazione dei dati di addestramento vengono analizzati e documentati come gate di distribuzione obbligatorio
Governance \| Cancelli di distribuzione	✅ La parità demografica, le pari opportunità e l’impatto discriminatorio vengono calcolati come soglia di raggiungimento obbligatoria
Governance \| Cancelli di distribuzione	✅ La valutazione dell’impatto valuta i potenziali danni tra le popolazioni colpite come cancello obbligatorio
Governance \| Cancelli di distribuzione	✅ La progettazione della supervisione umana, inclusi gli schemi di inoltro al livello superiore, i flussi di lavoro di approvazione e i meccanismi di sostituzione, sono progettati e testati come cancello obbligatorio
Governance \| Cancelli di distribuzione	✅ Le capacità di spiegazione sono convalidate per tutti i tipi di decisione come cancello obbligatorio
Governance \| Cancelli di distribuzione	✅ I cancelli di equità sono trattati con lo stesso rigore dei cancelli di sicurezza con l’autorità di bloccare le distribuzioni che non superano qualsiasi cancello

Anti-schemi

Dove cercare	Che brutto aspetto
Governance \| Documentazione	⚠️ Le funzioni Einstein vengono distribuite senza documentare i dati di addestramento, le metriche di equità, la mitigazione della distorsione o gli approcci di monitoraggio
Governance \| Documentazione	⚠️ La documentazione del modello non include l’approccio di controllo dell’equità, i requisiti di sorveglianza umana o le considerazioni normative
Piattaforma \| Oggetti personalizzati	⚠️ La documentazione del modello è archiviata in fogli di calcolo o wiki senza possibilità di ricerca o controllo della versione
Governance \| Cancelli di distribuzione	⚠️ Le funzioni Einstein passano alla produzione senza barriere di equità; la distribuzione si basa esclusivamente sulle metriche di precisione complessive
Governance \| Cancelli di distribuzione	⚠️ Controllo dei dati di addestramento, calcolo delle metriche di equità o valutazione dell’impatto vengono saltati prima della distribuzione in produzione
Governance \| Cancelli di distribuzione	⚠️ La progettazione della supervisione umana, la revisione della trasparenza o la convalida della spiegazione non vengono eseguite prima della produzione
Governance \| Cancelli di distribuzione	⚠️ I fairness gate sono solo consultivi senza l’autorità di bloccare le distribuzioni; i modelli procedono nonostante i criteri di equità non siano soddisfatti

Schemi

Dove cercare	Che bell’aspetto
Governance \| Commissione di revisione	✅ Comitato di revisione include esperti tecnici (architetti, data scientist), stakeholder aziendali, consulenti legali, specialisti della privacy e rappresentanti delle comunità interessate
Governance \| Commissione di revisione	✅ Diverse prospettive evidenziano problemi di equità che mancano ai gruppi omogenei durante il riesame etico
Governance \| Revisione dei trigger	✅ Vengono definiti i trigger di riesame: decisioni che riguardano i diritti di lavoro/credito/alloggio/assistenza sanitaria/legale, sistemi che interessano più di 10.000 utenti all’anno, nuovi casi d’uso, rischio di danno significativo
Governance \| Revisione dei trigger	✅ le applicazioni AI che utilizzano dati personali sensibili (sanitari, finanziari, demografici) richiedono un riesame etico prima della distribuzione
Governance \| Autorità di revisione	✅ Il comitato di revisione etica ha l’autorità di richiedere modifiche, imporre condizioni di monitoraggio o bloccare le distribuzioni che non rispettano gli standard etici
Piattaforma \| Oggetti personalizzati	✅ Tutte le revisioni sono documentate nel nome dell’applicazione di tracciamento degli oggetti personalizzati Salesforce, nella data di revisione, nelle preoccupazioni sollevate, nei requisiti di mitigazione e nelle condizioni di approvazione

Anti-schemi

Dove cercare	Che brutto aspetto
Governance \| Commissione di revisione	⚠️ La commissione di revisione manca di diversità (solo gli esperti tecnici); i gruppi omogenei mancano di questioni di equità che riguardano popolazioni diverse
Governance \| Commissione di revisione	⚠️ I rappresentanti delle comunità colpite non sono inclusi; ne risultano punti ciechi nelle considerazioni di equità
Governance \| Revisione dei trigger	⚠️ I trigger di revisione non sono definiti; le applicazioni AI ad alto rischio procedono senza revisione etica prima della distribuzione
Governance \| Autorità di revisione	⚠️ La revisione etica è solo consultiva senza applicazione; le distribuzioni procedono nonostante gli standard etici non rispettati (teatro di responsabilità)
Piattaforma \| Oggetti personalizzati	⚠️ I riesami non sono documentati in modo sistematico; le decisioni, le preoccupazioni e le mitigazioni dei riesami storici non vengono tracciate

Schemi

Dove cercare	Che bell’aspetto
CRM Analytics \| Monitoraggio	✅ I cruscotti digitali CRM Analytics tengono traccia delle metriche di equità Einstein e Agentforce dai dati decisionali acquisiti e dai dati di controllo Trust Layer con una cadenza pianificata
CRM Analytics \| Monitoraggio	✅ Parità demografica, pari opportunità, rapporti di impatto eterogenei e metriche di qualità del servizio sono monitorati in base al segmento di clienti
CRM Analytics \| Monitoraggio	✅ Gli avvisi CRM Analytics vengono configurati attivando quando le metriche di equità superano le soglie definite che richiedono un’indagine
CRM Analytics \| Monitoraggio	✅ I cruscotti digitali CRM Analytics tengono traccia dei segnali di equità: cambiamenti improvvisi nelle distribuzioni delle decisioni, picchi nei casi correlati alla distorsione, deterioramento delle prestazioni per popolazioni specifiche
CRM Analytics \| Monitoraggio	✅ Gli avvisi vengono attivati per Calcolo dei punteggi opportunità Einstein quando le percentuali di approvazione per qualsiasi segmento scendono di oltre il 15% settimana dopo settimana richiedendo un’indagine sull’equità
Governance \| Controlli pianificati	✅ Controlli completi dell’equità vengono condotti trimestralmente per l’intelligenza artificiale ad alta posta (credito, occupazione, assistenza sanitaria) o semestralmente per i sistemi con bassa posta in gioco
Governance \| Controlli pianificati	✅ I controlli esaminano le attuali metriche di equità, rivedono gli schemi di sostituzione, analizzano i commenti degli utenti e i rapporti di distorsione e convalidano l’efficacia dei controlli di governance
Governance \| Risposta agli incidenti	✅ I chiari processi di risposta agli incidenti sono documentati in Salesforce Knowledge per rispondere quando viene rilevata una distorsione
Governance \| Risposta agli incidenti	✅ Valutazione immediata della gravità eseguendo query sui dati decisionali del modello predittivo in CRM Analytics; la distorsione grave sospende il processo decisionale automatico in attesa di indagine
Governance \| Risposta agli incidenti	✅ La mitigazione temporanea implementa una maggiore supervisione umana tramite soglie di confidenza rettificate, disabilitazione delle funzioni o sospensione completa dell’agente
Governance \| Risposta agli incidenti	✅ L’analisi delle cause principali identifica il modo in cui la distorsione è stata immessa o evoluta; i dati di addestramento, le versioni del modello e le modifiche della configurazione vengono analizzati tramite Itinerario di controllo campi
Governance \| Risposta agli incidenti	✅ La correzione permanente implementa la correzione dei dati, il riaddestramento del modello o le modifiche del processo con una comunicazione appropriata agli utenti interessati
Governance \| Risposta agli incidenti	✅ Le misure di prevenzione sono documentate in runbook che prevengono il ripetersi di incidenti di distorsione

Anti-schemi

Dove cercare	Che brutto aspetto
CRM Analytics \| Monitoraggio	⚠️ Le metriche di equità non vengono tracciate con cadenza pianificata dai dati decisionali acquisiti o dai dati di controllo Trust Layer; la fluttuazione della distorsione non viene rilevata quando cambiano le distribuzioni dei dati
CRM Analytics \| Monitoraggio	⚠️ Gli avvisi CRM Analytics non sono configurati; le violazioni delle metriche di equità che richiedono un’indagine non vengono attivate
CRM Analytics \| Monitoraggio	⚠️ I segnali di equità non vengono monitorati; non vengono rilevati cambiamenti improvvisi nelle distribuzioni delle decisioni
Governance \| Controlli pianificati	⚠️ I controlli completi dell’equità non vengono condotti secondo alcun calendario; i controlli di governance sono instabili e diventano inefficaci
Governance \| Controlli pianificati	⚠️ Gli schemi di sostituzione, i commenti degli utenti e i rapporti di distorsione non vengono analizzati sistematicamente durante i controlli
Governance \| Risposta agli incidenti	⚠️ I chiari processi di risposta agli incidenti non sono documentati; il rilevamento della distorsione porta a risposte specifiche senza un approccio sistematico
Governance \| Risposta agli incidenti	⚠️ La mitigazione temporanea o la riparazione permanente non sono implementate sistematicamente; la distorsione persiste che interessa gli utenti
Governance \| Risposta agli incidenti	⚠️ L’analisi delle cause principali non viene condotta; il modo in cui la distorsione è entrata o evoluta rimane sconosciuto
Governance \| Risposta agli incidenti	⚠️ Le misure di prevenzione non sono documentate; la ricorrenza non è impedita

Schemi

Dove cercare	Che bell’aspetto
Piattaforma \| Campi obbligatori	✅ Ogni campo obbligatorio contiene una giustificazione aziendale documentata per il motivo per cui i dati sono obbligatori anziché facoltativi; i campi senza cui un processo può funzionare vengono resi facoltativi con la gestione a valle dei valori mancanti
Piattaforma \| Campi obbligatori	✅ L’email è facoltativa con metodi di comunicazione alternativi (SMS, telefono, posta ordinaria) in modo che gli utenti senza Internet affidabile o email personali non siano esclusi dalla creazione dell’account
Piattaforma \| Campi nome	✅ L’architettura dei nomi utilizza un singolo campo nome completo o una struttura flessibile in più parti che accoglie mononimi, sistemi patronimici e più nomi dati o cognomi senza assumere ordine o eredità
Piattaforma \| Campi nome	✅ I campi nome vengono testati con nomi internazionali diversi, accettando nomi di singole parole, nomi lunghi, diacritici, apostrofi, trattini e caratteri non latini (arabo, cinese, cirillico, devanagari)
Piattaforma \| Convalida indirizzo	✅ La convalida indirizzo permissiva accetta l’immissione in formato libero quando la convalida strutturata non riesce e memorizza gli indirizzi mentre gli utenti li inseriscono anziché forzare correzioni non valide
Piattaforma \| Convalida indirizzo	✅ La verifica degli indirizzi è integrata nei processi di evasione in cui la precisione è importante operativamente anziché bloccare in anticipo l’acquisizione dati
Piattaforma \| Preferenze di comunicazione	✅ I metodi di comunicazione preferiti sono memorizzati nei record Referente e rispettati in modo coerente in tutti i sistemi in uscita, offrendo alternative Omnicanale anziché presupposti a canale singolo
Oggetto personalizzato \| Dati demografici	✅ I dati demografici volontari vengono raccolti tramite un sondaggio separato con un’opzione “Preferisci non rispondere”, archiviati in un oggetto personalizzato con OWD privato, limitato da FLS e utilizzato solo per l’analisi dell’equità aggregata
Shield \| Monitoraggio evento	✅ Shield Event Monitoring registra gli eventi di accesso (esportazioni di rapporti, query di oggetti API) sui dati demografici per controllare gli schemi di accesso
Piattaforma \| Arricchimento di terze parti	✅ I fornitori di arricchimento di terze parti vengono controllati per i test di equità, copertura demografica e precisione, metodologia di inferenza e restrizioni contrattuali sull’utilizzo dei dati prima dell’implementazione

Anti-schemi

Dove cercare	Che brutto aspetto
Piattaforma \| Campi obbligatori	⚠️ L’email è obbligatoria per la creazione dell’account senza alternative e la convalida di telefono o indirizzo rifiuta i formati non statunitensi, le caselle postali e i percorsi rurali, escludendo gli utenti che non possono fornire i dati
Piattaforma \| Campi obbligatori	⚠️ I campi sono contrassegnati come obbligatori senza documentare se il processo potrebbe funzionare senza i dati, creando popolazioni invisibili dai record incompleti rifiutati
Piattaforma \| Campi nome	⚠️ I campi Nome applicano le convenzioni Primo/Ultimo occidentale e rifiutano mononimi, caratteri diacritici o non latini, sottoponendo gli utenti al rifiuto del sistema in base all’identità culturale
Piattaforma \| Convalida indirizzo	⚠️ La convalida dell’indirizzo richiede il formato postale degli Stati Uniti e non riconosce gli indirizzi internazionali, le caselle postali, gli indirizzi militari (APO/FPO) o tribali, bloccando la creazione di account e la fornitura di servizi
Piattaforma \| Preferenze di comunicazione	⚠️ Un unico canale di comunicazione è considerato universale (solo email o solo telefono), escludendo gli utenti senza Internet, senza accesso telefonico o sordi o non udenti
Oggetto personalizzato \| Dati demografici	⚠️ I dati demografici vengono dedotti da nomi o posizioni senza Knowledge utente, memorizzati in campi Referente standard visibili a tutti gli utenti e utilizzati nel calcolo del punteggio o nella previsione dei lead senza divulgazione
Piattaforma \| Arricchimento di terze parti	⚠️ I dati di terze parti vengono aggiunti senza controllare le pratiche di equità del fornitore o la copertura demografica, importando la distorsione introdotta dal fornitore nelle decisioni dell’organizzazione

Schemi

Dove cercare	Che bell’aspetto
Piattaforma \| Assegnazione e instradamento	✅ Le regole di assegnazione e instradamento utilizzano criteri oggettivi (linee di prodotti, SLA, requisiti linguistici) e le distribuzioni delle assegnazioni vengono controllate trimestralmente, stratificate in base ai dati demografici dei clienti, per garantire che non emergano schemi di concentrazione
Piattaforma \| Omnicanale	✅ Il tempo medio di gestione, la risoluzione del primo contatto e la soddisfazione dei clienti vengono monitorati nei percorsi di instradamento per rilevare se i segmenti di clienti ricevono sistematicamente agenti meno esperti
Piattaforma \| Flusso	✅ I flussi che prendono decisioni consequenziali vengono rivisti per individuare i criteri correlati alle caratteristiche protette (tenuta account, preferenza del canale, cronologia acquisti, orario di ufficio) e la loro logica decisionale viene documentata nei record decisione dell’architettura
Piattaforma \| Flusso	✅ I flussi che influiscono sull’occupazione, sul credito o sull’accesso ai servizi sono soggetti allo stesso processo di revisione etica dei sistemi AI
Piattaforma \| Regole di convalida	✅ Le regole di convalida vengono testate con dati diversi (indirizzi internazionali, nomi non occidentali, formati di telefono alternativi) ed espanse ogni volta che rifiutano dati legittimi; i campi Nome accettano Unicode e tutti gli script
Platform \| Progettazione di territori	✅ I dati demografici dei clienti vengono mappati attraverso i confini dei territori proposti prima che i progetti siano finalizzati; dove emergono concentrazioni, l’allocazione delle risorse viene valutata per l’equità e la giustificazione aziendale viene documentata e monitorata
Piattaforma \| Controllo	✅ La logica di automazione (regole aziendali, criteri di assegnazione, decisioni sui flussi) è documentata in Salesforce Knowledge o nelle ADR e i risultati vengono controllati trimestralmente stratificati in base ai dati demografici: distribuzioni delle assegnazioni, percentuali di approvazione dei flussi, percentuali di rifiuto della convalida e allocazione delle risorse del territorio

Anti-schemi

Dove cercare	Che brutto aspetto
Piattaforma \| Assegnazione e instradamento	⚠️ Le regole di assegnazione assegnano la priorità ai lead di determinati codici postali ai “migliori performer” in base alle percentuali di conseguimento storiche senza esaminare se il successo riflette la competenza o il vantaggio demografico
Piattaforma \| Omnicanale	⚠️ Le metriche di qualità dell’instradamento non vengono monitorate in tutti i segmenti di clienti, quindi le disparità nell’esperienza o nella risoluzione degli agenti non vengono rilevate
Piattaforma \| Flusso	⚠️ I criteri decisionali del flusso sono correlati alle caratteristiche protette (tenuta, canale, volume degli acquisti, fuso orario) e sono considerati oggettivi perché la logica deterministica si sente neutra
Piattaforma \| Flusso	⚠️ I flussi ad alto rischio prendono decisioni consequenziali senza revisione etica, documentazione ADR o gestione per gli utenti esterni al profilo cliente tipico
Piattaforma \| Regole di convalida	⚠️ La convalida del nome è limitata alla A-Z e rifiuta gli script diacritici o non latini, e la convalida dell’indirizzo richiede il formato postale degli Stati Uniti: i dati legittimi vengono rifiutati e gli utenti abbandonano le richieste non segnalate
Platform \| Progettazione di territori	⚠️ I confini dei territori seguono una geografia correlata ai dati demografici, con retribuzioni o personale diversi nei territori e nessuna analisi della concentrazione demografica
Piattaforma \| Controllo	⚠️ La logica di automazione non è documentata e gli esiti non vengono mai controllati, quindi gli schemi discriminatori nell’assegnazione, nelle approvazioni, nella convalida o nell’allocazione dei territori rimangono invisibili