AI Ethiek en Governance - Patronen
Lees meer over Eerlijkheid in goede architectuur → Ethische praktijk AI governance
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Einstein | Trainingsgegevens | ✅ Salesforce CRM-gegevens worden gecontroleerd op demografische representatiehiaten en inconsistenties in metingen voordat voorspellingsmodellen worden getraind |
| Einstein | Trainingsgegevens | ✅ Historische conversiegegevens worden geanalyseerd door demografische gegevens van klanten om ondervertegenwoordigde segmenten te identificeren die overbemonstering of aanvullende gegevensverzameling vereisen |
| Einstein | Implementatie | ✅ Eerlijkheid evaluatie wordt behandeld als verplichte poort equivalent aan beveiligingsbeoordeling voordat voorspellende modellen productie bereiken |
| Einstein | Implementatie | ✅ Demografische pariteit, gelijke kansen en ongelijksoortige impact ratio’s worden berekend over beschermde groepen vóór implementatie |
| Einstein | Implementatie | ✅ Eerlijkheidsmeetgegevens worden geëvalueerd op basis van de viervijfde regel (80% drempelwaarde) als een screeningtrigger—geen wettelijke pass / fail line—voor alle klantsegmenten vóór implementatie van het model |
| Einstein Discovery | Instrumentatie | ✅ Beslissingsgegevens van voorspellingsmodellen—invoer, uitvoer en modelversies—worden vastgelegd via Einstein Discovery en aangepaste instrumentatie die vertekeningsdetectie mogelijk maakt |
| CRM Analytics | Bewaking | ✅ CRM Analytics-dashboards analyseren vastgelegde beslissingsgegevens van voorspellingsmodellen voor beslissingspatronen binnen demografische groepen in de loop van de tijd |
| CRM Analytics | Bewaking | ✅ CRM Analytics-waarschuwingen worden geactiveerd wanneer meetgegevens over demografische gelijkheid of gelijke kansen boven acceptabele drempelwaarden uitkomen |
| Einstein | Voorzieningentechniek | ✅ Alle predictieve modelfuncties worden geanalyseerd op correlatie met beschermde kenmerken met behulp van statistische methoden |
| Einstein | Voorzieningentechniek | ✅ Proxyvoorzieningen (territorium, postcode, accountnaampatronen, timing van activiteit, apparaattype) worden geïdentificeerd en geëvalueerd voor demografische correlatie |
| Einstein | Voorzieningentechniek | ✅ Proxyvoorzieningen worden verwijderd of getransformeerd nadat is geëvalueerd of de voorspellende waarde opname rechtvaardigt, ondanks proxyeffecten |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Einstein | Trainingsgegevens | ⚠️ Leadscores worden getraind op basis van 10 jaar historische gegevens zonder demografische weergave of verschillen in servicekwaliteit te onderzoeken |
| Einstein | Trainingsgegevens | ⚠️ Historische conversiegegevens worden rechtstreeks gebruikt zonder te controleren of verschillende demografische gegevens een verschillende behandeling hebben gekregen |
| Einstein | Implementatie | ⚠️ Einstein voorzieningen worden uitsluitend geïmplementeerd op basis van algemene meetgegevens over nauwkeurigheid zonder fairness evaluatie |
| Einstein | Implementatie | ⚠️ De demografische pariteit of ongelijksoortige impactverhoudingen worden niet berekend vóór productie-implementatie |
| Einstein | Trust laag | ⚠️ Agentforce interacties worden geïmplementeerd zonder Trust Layer audit capture in te schakelen voor vertekeningsdetectie |
| CRM Analytics | Bewaking | ⚠️ Beslissingspatronen worden niet bijgehouden door demografische groepen in de loop van de tijd; vertekeningsdrift wordt niet gedetecteerd |
| Einstein | Voorzieningentechniek | ⚠️ Beschermde kenmerken worden verwijderd uit trainingsgegevens, ervan uitgaande dat dit automatisch vertekening elimineert |
| Einstein | Voorzieningentechniek | ⚠️ Territorium-, postcode- en accountnaampatronen worden gebruikt als voorzieningen zonder proxycorrelatieanalyse |
| Einstein | Voorzieningentechniek | ⚠️ Proxyvoorzieningen die dienen als perfecte demografische volmachten, worden behouden zonder alternatieven te evalueren |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Analytics | ✅ CRM Analytics-dashboards houden Agentforce beslissingsuitkomsten bij op demografische gegevens van klanten met behulp van Einstein Trust Layer-auditgegevens |
| Agentforce | Analytics | ✅ Goedkeuringsscores, serviceresponstijden, escalatiescores en tevredenheidsscores worden gestratificeerd op demografische groep bewaakt |
| Agentforce | Analytics | ✅ CRM Analytics-waarschuwingen worden geconfigureerd via een trigger wanneer fairness-meetgegevens gedefinieerde drempelwaarden overschrijden die onderzoek vereisen |
| Agentforce | Event Monitoring | ✅ Event Monitoring logboeken worden gerouteerd naar externe SIEM voor langdurige retentie die native retentielimieten overschrijdt |
| Agentforce | Event Monitoring | ✅ SIEM-query’s identificeren abnormale concentraties van negatieve uitkomsten voor specifieke gebruikerspopulaties |
| Agentforce | Veldcontroletraject | ✅ Veldcontroletraject is ingeschakeld voor aangepaste objecten die Agentforce beslissingsgegevens opslaan, waarbij de gearchiveerde historie voor onbepaalde tijd wordt bewaard totdat deze wordt verwijderd |
| Agentforce | Veldcontroletraject | ✅ Field Audit Trail ondersteunt fairness audits op de lange termijn en regelgevende onderzoeken die reconstructie van historische AI-beslissingen vereisen |
| CRM Analytics | Bewaking | ✅ CRM Analytics-dashboards houden eerlijkheidssignalen bij: plotselinge veranderingen in beslissingsverdelingen, pieken in aan vertekening gerelateerde cases, prestatievermindering voor specifieke populaties |
| CRM Analytics | Bewaking | ✅ Waarschuwingen via een trigger wanneer goedkeuringsscores voor een klantsegment meer dan 15% dalen week na week, wat eerlijkheidsonderzoek vereist |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Analytics | ⚠️ Beslissingsuitkomsten worden niet bijgehouden door demografische gegevens; vertekeningsdrift wordt niet gedetecteerd als gegevensverdelingen verschuiven |
| Agentforce | Analytics | ⚠️ Meetgegevens over servicekwaliteit zijn niet gestratificeerd op demografische groep; ongelijksoortige uitkomsten blijven onzichtbaar |
| Agentforce | Event Monitoring | ⚠️ Event Monitoring logboeken vertrouwen op native bewaarlimieten zonder externe SIEM voor fairness audits op de lange termijn |
| Agentforce | Event Monitoring | ⚠️ Beslissingspatronen worden niet geanalyseerd over grote volumes van interacties; abnormale concentraties worden gemist |
| Agentforce | Veldcontroletraject | ⚠️ Veldcontroletraject is niet ingeschakeld; historische AI-beslissingen kunnen niet worden gereconstrueerd voor wettelijke onderzoeken |
| CRM Analytics | Bewaking | ⚠️ Eerlijkheidssignalen worden niet bewaakt; plotselinge veranderingen in beslissingsverdelingen blijven onopgemerkt |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Einstein | Trainingsgegevens | ✅ Salesforce CRM-gegevens worden opnieuw in balans gebracht door overbemonstering van ondervertegenwoordigde segmenten of onderbemonstering van oververtegenwoordigde segmenten vóór training |
| Data 360 | Architectuur | ✅ Data 360 aggregeert gegevens binnen meerdere organisaties, waardoor diverse trainingssets voor voorspellingsmodellen worden gegarandeerd |
| Einstein | Trainingsgegevens | ✅ Synthetische gegevensgeneratie vult spaarzame segmenten aan en behoudt privacy door middel van differentiële privacytechnieken |
| Einstein | Voorzieningentechniek | ✅ Proxyvoorzieningen worden vervangen door alternatieve voorzieningen die voorspellend vermogen bieden zonder demografische correlatie |
| Einstein | Voorzieningentechniek | ✅ Sectorclassificatie of bedrijfsgrootte worden gebruikt in plaats van territorium wanneer territorium dient als demografische proxy |
| Einstein | Voorzieningentechniek | ✅ Firmografische kenmerken worden gebruikt in plaats van accountnaampatronen wanneer namen correleren met demografische gegevens |
| Agentforce | Naverwerking | ✅ Beslissingsdrempels worden aangepast per demografisch segment om de uitkomstscores na modeltraining gelijk te maken, behalve dat in de Verenigde Staten Titel VII (Civil Rights Act van 1991) het aanpassen van scores of cutoffs per beschermde klasse verbiedt voor beslissingen op het gebied van werkgelegenheid en andere rechtsgebieden hun eigen beperkingen opleggen |
| Agentforce | Naverwerking | ✅ Verschillende drempelwaarden voor vertrouwen worden gebruikt voor verschillende contexten die eerlijke goedkeuringsscores bereiken terwijl hetzelfde onderliggende voorspellingsmodel wordt gebruikt |
| Agentforce | Naverwerking | ✅ Drempelwaardeaanpassingen worden gedocumenteerd met een zakelijke rechtvaardiging voor een verschillende behandeling, waarbij wordt erkend dat in de Verenigde Staten geen enkele documentatie de score per groep of cutoff-aanpassing wettig maakt voor beslissingen op het gebied van werkgelegenheid krachtens titel VII |
| Einstein | Modelhertraining | ✅ Driemaandelijkse of event-gestuurde hertrainingsschema wordt vastgesteld, waarbij opkomende vertekeningspatronen worden gedetecteerd en afwijking van oorspronkelijke fairness baselines wordt gecorrigeerd |
| Einstein | Modelhertraining | ✅ Eerlijkheidsmeetgegevens worden opnieuw gevalideerd voor elke modelversie vóór productie-implementatie, zodat hertraining geen nieuwe vertekening introduceert |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Einstein | Trainingsgegevens | ⚠️ Trainingsgegevens worden direct gebruikt zonder ondervertegenwoordigde of oververtegenwoordigde segmenten opnieuw in evenwicht te brengen |
| Einstein | Trainingsgegevens | ⚠️ Spaarzame demografische segmenten worden niet aangevuld met synthetische gegevens of inter-organisatorische aggregatie |
| Einstein | Voorzieningentechniek | ⚠️ Proxyvoorzieningen blijven behouden zonder evaluatie van alternatieve voorzieningen die voorspellend vermogen bieden zonder demografische correlatie |
| Agentforce | Naverwerking | ⚠️ Dezelfde drempelwaarden voor vertrouwen worden toegepast op alle demografische segmenten zonder de uitkomstcijfers te evenaren |
| Agentforce | Naverwerking | ⚠️ Verschillende behandeling door middel van drempelwaardenaanpassingen heeft geen gedocumenteerde zakelijke rechtvaardiging of wordt in de Verenigde Staten überhaupt toegepast op beslissingen op het gebied van werkgelegenheid, waarbij titel VII het aanpassen van scores of verlagingen per beschermde klasse verbiedt, ongeacht de documentatie |
| Einstein | Modelhertraining | ⚠️ Modellen worden geïmplementeerd en nooit opnieuw getraind; opkomende vertekeningspatronen en drift worden niet gecorrigeerd |
| Einstein | Modelhertraining | ⚠️ Hertraining vindt plaats zonder het opnieuw valideren van eerlijkheidsmeetgegevens; nieuwe vertekening wordt geruisloos geïntroduceerd |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Einstein Discovery | UX | ✅ Einstein Discovery verklaringen met voorspellingsfactoren worden zichtbaar in Lightning componenten op het punt van beslissing |
| Einstein Discovery | UX | ✅ Verklaringen tonen welke variabelen het meest van invloed waren op specifieke voorspellingen met directionele impact voor gebruikers op beslissingspunten |
| Einstein Discovery | UX | ✅ Verklaringen zijn gelaagd voor verschillende doelgroepen: zakelijke gebruikers, technische gebruikers, klanten en auditors |
| Einstein Discovery | UX | ✅ Zakelijke gebruikers zien “Deze lead scoort hoog omdat de jaarlijkse omzet hoger is dan $ 1M en betrokkenheid score is in de top 10%“ |
| Einstein Discovery | UX | ✅ Technische gebruikers zien modelkaarten met functiegewichten, trainingsgegevenskenmerken en validatiemeetgegevens |
| Einstein Discovery | UX | ✅ Klanten zien “Deze aanbeveling is gebaseerd op uw recente aankopen en klanten met soortgelijke voorkeuren” |
| Einstein Discovery | UX | ✅ Auditors zien volledige afstamming van beslissingen van Einstein Discovery en Modelbeheer met modelversie, invoerwaarden en de factoren die de voorspelling hebben gestuurd |
| Einstein Discovery | UX | ✅ Voorspelling vertrouwen wordt weergegeven in gebruikersgeschikte termen als categorieën (groot vertrouwen, gematigd vertrouwen, behoeft beoordeling) met uitleg |
| Einstein Discovery | UX | ✅ Vertrouwenscategorieën leggen uit wat het vertrouwensniveau betekent voor de betrouwbaarheid van beslissingen en welke extra beoordeling zal plaatsvinden |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Einstein Discovery | UX | ⚠️ Uitleg wordt na implementatie opnieuw ingebouwd in ondoorzichtige systemen in plaats van vanaf het begin uitlegbaarheid in de architectuur in te bouwen |
| Einstein Discovery | UX | ⚠️ Voorspellingsverklaringen vereisen navigatie naar afzonderlijke CRM Analytics-dashboards in plaats van weergave op beslissingspunten |
| Einstein Discovery | UX | ⚠️ Gebruikers zien abstracte meetgegevens van modelprestaties in plaats van transparante verklaringen wanneer beslissingen hen beïnvloeden |
| Einstein Discovery | UX | ⚠️ Uitleg verschilt niet per doelgroep; technische modelkaarten worden getoond aan klanten of zakelijke gebruikers |
| Einstein Discovery | UX | ⚠️ Ruwe voorspellingsscores (0,73) worden weergegeven zonder uitleg van wat het getal betekent of welke factoren de voorspelling hebben gestuurd |
| Einstein Discovery | UX | ⚠️ Vertrouwen wordt getoond als waarschijnlijkheidspercentages die gebruikers verkeerd interpreteren zonder context over betrouwbaarheid of beoordeling |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Einstein | Trust laag | ✅ Einstein Trust Layer logt aanwijzingen, responsen, aardingsbronnen en Trust signalen automatisch zonder aangepaste instrumentatie |
| Einstein | Trust laag | ✅ Beleidsvormen voor gegevensbewaring zijn ontworpen om te voldoen aan wettelijke vereisten die variëren per sector en jurisdictie (zo stelt FINRA-regel 4511(b) een standaard bewaarperiode van zes jaar in en vereist HIPAA een minimum van zes jaar voor nalevingsdocumentatie) |
| CRM Analytics | Bewaking | ✅ CRM Analytics-dashboards analyseren vastgelegde beslissingsgegevens van voorspellingsmodellen voor beslissingspatronen, meetgegevens over eerlijkheid en modelprestaties in de loop van de tijd |
| CRM Analytics | Bewaking | ✅ CRM Analytics-lenzen tonen voorspellingsverdelingen op vertrouwensniveau, demografisch segment en uitkomsttype |
| CRM Analytics | Bewaking | ✅ Einstein Discovery verhalen identificeren abnormale patronen die onderzoek vereisen |
| Platform | Veldcontroletraject | ✅ Veldcontroletraject is ingeschakeld voor aangepaste objecten die AI-beslissingsgegevens opslaan, waarbij de gearchiveerde historie voor onbepaalde tijd wordt bewaard totdat deze wordt verwijderd voor instemmingsrecords, overschrijvingsbeslissingen en vertekeningsrapporten |
| Platform | Event Monitoring | ✅ Event Monitoring legt Agentforce gesprekstranscripties, toolaanroepen en beslissingspunten vast |
| Platform | Event Monitoring | ✅ Event Monitoring logboeken worden gerouteerd naar externe SIEM via Platform Events voor sabotage-evidente opslag |
| Platform | Event Monitoring | ✅ SIEM query’s detecteren vertekeningspatronen binnen grote volumes Agentforce interacties |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Einstein | Trust laag | ⚠️ Agentforce interacties worden geïmplementeerd zonder Trust Layer audit capture in te schakelen of bewaarbeleid te definiëren |
| Einstein | Trust laag | ⚠️ Bewaarbeleid houdt geen rekening met sectorspecifieke wettelijke vereisten (financiële diensten, gezondheidszorg) |
| CRM Analytics | Bewaking | ⚠️ Vastgelegde voorspellingsmodelbeslissingsgegevens worden niet geanalyseerd; beslissingspatronen en meetgegevens over eerlijkheid worden niet bijgehouden in de loop van de tijd |
| Platform | Veldcontroletraject | ⚠️ Standaard 18-maanden veldhistorie wordt gebruikt voor AI-beslissingscontroletrajecten zonder rekening te houden met wettelijke bewaarvereisten |
| Platform | Veldcontroletraject | ⚠️ Veldcontroletraject is niet ingeschakeld voor objecten met instemmingsrecords, overschrijvingsbeslissingen en vertekeningsrapporten |
| Platform | Event Monitoring | ⚠️ Event Monitoring logboeken vertrouwen op native bewaarlimieten zonder externe SIEM voor sabotage-evidente langetermijnopslag |
| Platform | Event Monitoring | ⚠️ Agentforce interactielogboeken worden niet geanalyseerd op vertekeningspatronen voor grote volumes |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Governance | EU AI Act | ✅ AI-systemen met hoog risico worden gedocumenteerd met transparantiedocumentatie, technische documentatie, menselijke toezichtsmogelijkheden en meetgegevens over nauwkeurigheid/eerlijkheid |
| Governance | EU AI Act | ✅ Einstein Trust Layer audit trails en Discovery modelkaarten bieden de basis voor EU AI Act transparantievereisten |
| Governance | EU AI Act | ✅ Demografie van modeltrainingsgegevens, validatiebenaderingen en bekende beperkingen worden gedocumenteerd in architectuurbeslissingsrecords |
| Governance | AVG | ✅ Systemen genereren coherente verklaringen voor historische beslissingen op verzoek binnen de tijdsbestekken voor toegangsverzoeken van betrokkenen (die variëren per jurisdictie, tussen 15 en 45 dagen) |
| Governance | AVG | ✅ Vastgelegde predictieve-model beslissingsgegevens en Einstein Discovery verklaringsfactoren worden opgeslagen met voldoende bewaring waardoor verklaringsreconstructie voor AVG-recht op uitleg mogelijk is |
| Governance | Algoritmische verantwoording | ✅ Algoritmische impactbeoordelingen worden uitgevoerd voordat gevolg-AI wordt geïmplementeerd als proactieve naleving in plaats van reactieve reactie |
| Governance | Algoritmische verantwoording | ✅ Vastgelegde beslissingsgegevens van voorspellingsmodellen en CRM Analytics-dashboards voor eerlijkheidscontrole bieden gegevensbasissen voor algoritmische verantwoordingsrapportage |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Governance | EU AI Act | ⚠️ AI-systemen met hoog risico worden geïmplementeerd zonder transparantiedocumentatie, mogelijkheden voor menselijk toezicht of meetgegevens over eerlijkheid |
| Governance | EU AI Act | ⚠️ Demografie van modeltrainingsgegevens en bekende beperkingen zijn niet gedocumenteerd in beslissingenrecords voor architectuur |
| Governance | AVG | ⚠️ Systemen kunnen geen samenhangende verklaringen genereren voor historische beslissingen binnen de tijdsbestekken voor toegangsverzoeken van betrokkenen van de AVG |
| Governance | AVG | ⚠️ Vastgelegde predictief-model beslissingsgegevensbewaring is onvoldoende om reconstructie van verklaring voor beslissingen uit het verleden te ondersteunen |
| Governance | Algoritmische verantwoording | ⚠️ Algoritmische effectbeoordelingen worden niet uitgevoerd vóór de implementatie van AI met consequentie; naleving is reactief na onderzoek van regelgeving |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | OWD | ✅ Privé standaardinstellingen voor de hele organisatie worden vastgesteld voor objecten met gevoelige klantgegevens met toegang verleend via rollenhiërarchie en regels voor delen |
| Platform | OWD | ✅ Privé-OWD’s met expliciete subsidies voor delen creëren controleerbare toegangspatronen die naleving van non-discriminatie ondersteunen |
| Platform | Beveiliging op veldniveau | ✅ Gevoelige velden met beschermde kenmerken (etniciteit, religie, handicapstatus) zijn verborgen via FLS voor gebruikers zonder legitieme zakelijke noodzaak |
| Platform | Beveiliging op veldniveau | ✅ Leestoegang tot gevoelige velden wordt verwijderd via FLS voor de meeste profielen; toegang wordt minimaal verleend via machtigingensets met gedocumenteerde rechtvaardiging |
| Platform | Toewijzing en routering | ✅ Toewijzingsregels, wachtrijen en Omni-Channel-routering verdelen werk eerlijk over territoria, teams en serviceagenten op basis van objectieve criteria |
| Platform | Regels voor delen | ✅ Regels voor automatisch delen zijn gebaseerd op objectieve criteria (sector, geografie, productlijn) in plaats van subjectieve managersbeoordeling |
| Platform | Machtigingensets | ✅ Tijdelijke toegang tot gevoelige gegevens wordt verleend via machtigingensets met gedocumenteerde vervaldatum in plaats van permanente profielwijzigingen |
| Platform | Machtigingensets | ✅ Geplande stroom trekt machtigingensets automatisch in na gedefinieerde perioden wanneer toegang tot demografische gegevens nodig is voor specifieke projecten |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | OWD | ⚠️ Openbare OWD’s voor lezen/schrijven maken het beperken van toegang later verstorend (het aanscherpen van de standaard activeert een herberekening van delen); auditieve toegangspatronen bestaan niet |
| Platform | OWD | ⚠️ Account OWD is ingesteld op Openbaar lezen/schrijven met onbeschermde demografische velden zichtbaar voor alle gebruikers die subjectieve vertekening inschakelen |
| Platform | Beveiliging op veldniveau | ⚠️ Gevoelige demografische velden zijn zichtbaar voor alle profielen zonder FLS-beperkingen; discriminerend gegevensgebruik wordt niet voorkomen |
| Platform | Regels voor delen | ⚠️ Handmatig delen concentreert waardevolle opportunities met specifieke gebruikersgroepen zonder gedocumenteerde zakelijke rechtvaardiging |
| Platform | Regels voor delen | ⚠️ Regels voor delen vertrouwen op subjectieve beoordelingsvrijheid van managers in plaats van objectieve criteria die vertekening mogelijk maken |
| Platform | Machtigingensets | ⚠️ Profielen worden permanent gewijzigd voor alle gebruikers in plaats van tijdelijke toegang te verlenen via machtigingensets |
| Platform | Machtigingensets | ⚠️ Machtigingensets die toegang tot gevoelige gegevens verlenen, vervallen niet automatisch; toegang blijft voor onbepaalde tijd na voltooiing van het project |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Shield | Event Monitoring | ✅ Shield Event Monitoring houdt toegang bij tot velden met beschermde kenmerken of gevoelige kenmerken |
| Shield | Event Monitoring | ✅ Event Monitoring-query’s houden bij wie toegang heeft tot demografische velden, wanneer en in welke context het detecteren van abnormale patronen |
| Shield | Event Monitoring | ✅ Afwijkende toegangspatronen (plotselinge pieken, toegang door onverwachte gebruikers) trigger onderzoek voor potentieel misbruik |
| Platform | Rapportage | ✅ Rapporten analyseren hoe regels voor delen records verdelen over gebruikers, teams en territoria die distributiestatistieken berekenen op basis van demografische gegevens van klanten |
| Platform | Rapportage | ✅ Rapporten identificeren concentraties waarbij specifieke gebruikersgroepen onevenredige toegang tot waardevolle records krijgen zonder gedocumenteerde rechtvaardiging |
| Platform | Set-up controletraject | ✅ Set-up controletraject wordt gecontroleerd op wijzigingen aan OWD-instellingen, regels voor delen, FLS-configuraties en machtigingensets detecteren ongeoorloofde wijzigingen |
| Platform | Transactiebeveiliging | ✅ Transactiebeveiligingsbeleidsvormen reageren op risicovolle Real-time Event Monitoring-events (anomaleuze API-activiteit, verdachte logins, grote exports van gevoelige gegevens); FLS en wijzigingen in delen zijn afhankelijk van Set-up controletraject en gedocumenteerde goedkeuringen voor wijzigingsbeheer |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Shield | Event Monitoring | ⚠️ Toegang tot gevoelige demografische velden wordt niet bewaakt; potentieel misbruik wordt niet gedetecteerd |
| Shield | Event Monitoring | ⚠️ Afwijkende toegangspatronen (pieken, onverwachte gebruikers) worden niet bijgehouden of onderzocht |
| Platform | Rapportage | ⚠️ Distributies van regels voor delen worden niet geanalyseerd; onevenredige toegang tot waardevolle records blijft onzichtbaar |
| Platform | Rapportage | ⚠️ Concentraties van accounts met een hoge waarde met specifieke gebruikersgroepen hebben geen gedocumenteerde zakelijke rechtvaardiging |
| Platform | Set-up controletraject | ⚠️ Set-up controletraject wordt niet beoordeeld; ongeoorloofde wijzigingen aan besturingselementen voor gegevenstoegang die toegang tot gevoelige gegevens inschakelen, worden niet gedetecteerd |
| Platform | Transactiebeveiliging | ⚠️ Real-time Event Monitoring-events met hoog risico (anomale API-activiteit, grote exports van gevoelige gegevens) worden niet aangepakt met transactiebeveiligingsbeleid |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | Aangepaste objecten | ✅ Granulaire instemming per AI-gebruikscase wordt ingeschakeld via aangepast doel voor het bijhouden van instemmingsobjecten, toekenningsdatum/-methode, intrekkingsdatum en gerelateerde gebruikers-/contactpersoons-ID |
| Platform | Aangepaste objecten | ✅ Klanten stemmen in met Einstein productaanbevelingen terwijl ze AI-gestuurde kredietbeslissingen afwijzen via afzonderlijke instemmingsrecords per gebruikscase |
| Platform | Veldcontroletraject | ✅ Veldcontroletraject is ingeschakeld voor het object Instemming voor langdurige bewaring die voldoet aan wettelijke vereisten |
| Data 360 | Instemming | ✅ Data 360-instemmingsbeheer wordt gebruikt voor Einstein Personaliserings voorzieningen, het opnemen en opslaan van instemmingsvoorkeuren via connectoren die zijn toegewezen aan het Privacy Data Model en deze gebruiken als filtercriteria bij segmentering en bij activering |
| Data 360 | Instemming | ✅ Instemmingscategorieën worden toegewezen aan specifieke AI-gebruikscases, waardoor gebruikers zich kunnen afmelden voor personalisatie met behoud van de kernservice |
| Marketing Cloud | Instemming | ✅ Marketing Cloud-instemming kan worden geïntegreerd met Einstein Messaging Insights en Agentforce marketingagenten die de abonnementsstatus respecteren |
| Marketing Cloud | Instemming | ✅ Er wordt een query uitgevoerd op de Marketing Cloud-instemmingsstatus voordat Agentforce geautomatiseerde ondersteuning initieert om ongewenst contact met gebruikers die zich hebben afgemeld, te voorkomen |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | Aangepaste objecten | ⚠️ AI-instemming wordt bijgehouden in spreadsheets of vertrouwt op inloggen als impliciete algemene instemming zonder expliciete records |
| Platform | Aangepaste objecten | ⚠️ Blanket AI-instemming wordt gebruikt in plaats van granulaire instemming per gebruikscase; gebruikers kunnen zich niet afmelden voor specifieke AI-voorzieningen |
| Platform | Veldcontroletraject | ⚠️ Veldcontroletraject is niet ingeschakeld voor het object Instemming; langdurige bewaring die voldoet aan wettelijke vereisten, wordt niet onderhouden |
| Data 360 | Instemming | ⚠️ Data 360-instemming wordt niet gebruikt voor Einstein Personalisering; instemmingscategorieën worden niet toegewezen aan specifieke gebruikscases |
| Marketing Cloud | Instemming | ⚠️ Marketing Cloud-instemming is niet geïntegreerd met Einstein of Agentforce; abonnementsstatus wordt niet gerespecteerd in geautomatiseerde outreach |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Experience Cloud | Profielinstellingen | ✅ Gebruikers melden zich af voor Agentforce interacties via toegankelijke voorkeurenbesturingselementen in Experience Cloud-profielinstellingen of Mijn instellingen met duidelijke beschrijvingen |
| Platform | Gebruikers-/contactpersoonsrecords | ✅ AI voorkeuren worden opgeslagen in Gebruiker of Contactpersoon records inschakelen van query in Flow en Agentforce beslissingslogica |
| Agentforce | Omni-Channel | ✅ Gebruikers die zich afmelden voor Agentforce worden naar menselijke agenten gerouteerd via Omni-Channel in plaats van een minder goede service te ontvangen |
| Agentforce | Stroom | ✅ Stroom controleert instemmings- en voorkeurvelden vóór Agentforce betrokkenheid; als gebruiker zich afmeldt, wordt de werkrecord gemaakt en naar de menselijke wachtrij gerouteerd |
| Agentforce | Omni-Channel | ✅ Human queue staffing biedt vergelijkbare wachttijden als geautomatiseerde service voor gebruikers die zich hebben afgemeld |
| Platform | Gebruikers-/contactpersoonsrecords | ✅ AI voorkeuren worden opgeslagen in Gebruiker of Contactpersoon records zorgen voor consistentie binnen kanalen (web, mobiel, telefoon, e-mail) |
| Platform | Stroom | ✅ Voorkeur wordt consistent opgevraagd in alle interactiestromen, waardoor gebruikers voorkeuren niet herhaaldelijk opnieuw hoeven in te voeren op elk kanaal |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Experience Cloud | Profielinstellingen | ⚠️ Afmelding is alleen beschikbaar via e-mail naar het ondersteuningsteam; toegankelijke voorkeurenbesturingselementen bestaan niet |
| Platform | Gebruikers-/contactpersoonsrecords | ⚠️ AI voorkeuren worden niet opgeslagen in Gebruiker of Contactpersoon records; voorkeuren kunnen niet worden opgevraagd in Flow of Agentforce logica |
| Agentforce | Omni-Channel | ⚠️ Gebruikers die zich afmelden, krijgen een verminderde service als impliciete druk om AI te accepteren in plaats van te routeren naar menselijke agenten |
| Agentforce | Stroom | ⚠️ Stroom controleert geen instemmings- of voorkeurvelden vóór Agentforce betrokkenheid; afmeldingsvoorkeuren worden genegeerd |
| Platform | Gebruikers-/contactpersoonsrecords | ⚠️ Voorkeuren zijn niet consistent voor alle kanalen; gebruikers moeten zich afzonderlijk afmelden voor web, mobiel, telefoon en e-mail |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Governance | Documentatie | ✅ Elk productie voorspellend model is gedocumenteerd met demografische gegevens van training, eerlijkheidsmeetgegevens, beoogde gebruikscases, vertekeningsverminderingsstrategieën en bewakingsbenaderingen |
| Governance | Documentatie | ✅ Modeldocumentatie omvat de fairness-monitoring benadering, waarschuwingsdrempels, vereisten voor menselijk toezicht, beoordelingsschema en overwegingen bij regelgeving |
| Platform | Aangepaste objecten | ✅ Modeldocumentatie wordt opgeslagen in Salesforce met behulp van een aangepast modelobject of Salesforce Files die zijn bijgevoegd bij Projecten en die doorzoekbaarheid en versiebeheer inschakelen |
| Governance | Implementatiepoorten | ✅ Pre-implementatie fairness gates vereisen training data audit, berekening van eerlijkheidsmeetgegevens, impactbeoordeling, menselijk toezicht ontwerp en transparantie beoordeling vóór productie |
| Governance | Implementatiepoorten | ✅ Trainingsgegevensrepresentatiehiaten worden geanalyseerd en gedocumenteerd als verplichte implementatiepoort |
| Governance | Implementatiepoorten | ✅ Demografische pariteit, gelijke kansen en ongelijksoortige gevolgen worden berekend als verplichte poort |
| Governance | Implementatiepoorten | ✅ Effectbeoordeling evalueert potentiële schade over de getroffen populaties als verplichte poort |
| Governance | Implementatiepoorten | ✅ Menselijk toezicht ontwerp inclusief escalatiepatronen, goedkeuring werkstromen en overschrijvingsmechanismen zijn ontworpen en getest als verplichte poort |
| Governance | Implementatiepoorten | ✅ Verklaringsmogelijkheden worden gevalideerd voor alle beslissingstypen als verplichte poort |
| Governance | Implementatiepoorten | ✅ Fairness poorten worden behandeld met dezelfde strengheid als beveiligingspoorten met de bevoegdheid om implementaties te blokkeren die mislukken bij elke poort |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Governance | Documentatie | ⚠️ Einstein voorzieningen worden geïmplementeerd zonder trainingsgegevens, meetgegevens over eerlijkheid, vertekeningsvermindering of bewakingsbenaderingen te documenteren |
| Governance | Documentatie | ⚠️ Modeldocumentatie omvat niet de fairness-monitoring benadering, vereisten voor menselijk toezicht of overwegingen bij regelgeving |
| Platform | Aangepaste objecten | ⚠️ Modeldocumentatie wordt opgeslagen in spreadsheets of wiki’s zonder doorzoekbaarheid of versiebeheer |
| Governance | Implementatiepoorten | ⚠️ Einstein voorzieningen gaan door naar productie zonder fairness gates; implementatie is uitsluitend gebaseerd op algemene meetgegevens over nauwkeurigheid |
| Governance | Implementatiepoorten | ⚠️ Trainingsgegevensaudit, berekening van eerlijkheidsmeetgegevens of effectbeoordeling worden overgeslagen vóór productie-implementatie |
| Governance | Implementatiepoorten | ⚠️ Ontwerp van menselijk toezicht, transparantiebeoordeling of verklaringsvalidatie worden niet uitgevoerd vóór productie |
| Governance | Implementatiepoorten | ⚠️ Eerlijkheidspoorten zijn alleen adviserend zonder bevoegdheid om implementaties te blokkeren; modellen gaan door ondanks falende eerlijkheidscriteria |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Governance | Beoordelingscommissie | ✅ Review board bestaat uit technische experts (architecten, datawetenschappers), zakelijke belanghebbenden, juridisch adviseur, privacyspecialisten en vertegenwoordigers van betrokken gemeenschappen |
| Governance | Beoordelingscommissie | ✅ Diverse perspectieven naar boven komen eerlijkheid problemen homogene groepen missen tijdens ethische beoordeling |
| Governance | Triggers beoordelen | ✅ Beoordelingstriggers worden gedefinieerd: beslissingen die van invloed zijn op werk/krediet/huisvesting/gezondheidszorg/wettelijke rechten, systemen die jaarlijks >10K gebruikers beïnvloeden, nieuwe gebruikscases, significant risico op schade |
| Governance | Triggers beoordelen | ✅ AI-toepassingen die gevoelige persoonsgegevens gebruiken (gezondheid, financieel, demografisch) vereisen een ethische beoordeling vóór implementatie |
| Governance | Beoordelingsinstantie | ✅ Ethische beoordelingscommissie heeft de bevoegdheid om wijzigingen te vereisen, controlevoorwaarden op te leggen of implementaties te blokkeren die aan ethische normen voldoen |
| Platform | Aangepaste objecten | ✅ Alle beoordelingen worden gedocumenteerd in de Salesforce-toepassingsnaam voor het bijhouden van aangepaste objecten, beoordelingsdatum, geuite zorgen, risicobeperkingsvereisten en goedkeuringsvoorwaarden |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Governance | Beoordelingscommissie | ⚠️ Beoordelingscommissie mist diversiteit (alleen technische experts); homogene groepen missen eerlijkheidskwesties die verschillende populaties betreffen |
| Governance | Beoordelingscommissie | ⚠️ Vertegenwoordigers van betroffen gemeenschappen zijn niet opgenomen; blinde vlekken in overwegingen van eerlijkheid resulteren |
| Governance | Triggers beoordelen | ⚠️ Beoordelingstriggers zijn niet gedefinieerd; AI-toepassingen met hoog risico gaan door zonder ethische beoordeling vóór implementatie |
| Governance | Beoordelingsinstantie | ⚠️ Ethische beoordeling is alleen adviserend zonder afdwinging; implementaties gaan door ondanks falende ethische normen (accountability theater) |
| Platform | Aangepaste objecten | ⚠️ Beoordelingen worden niet systematisch gedocumenteerd; historische beoordelingsbeslissingen, zorgen en oplossingen worden niet bijgehouden |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| CRM Analytics | Bewaking | ✅ CRM Analytics dashboards houden Einstein en Agentforce fairness meetgegevens bij van vastgelegde beslissingsgegevens en Trust Layer auditgegevens op een geplande cadans |
| CRM Analytics | Bewaking | ✅ Demografische pariteit, gelijke kansen, ongelijksoortige impact ratio’s en servicekwaliteitsmeetgegevens worden bewaakt per klantsegment |
| CRM Analytics | Bewaking | ✅ CRM Analytics-waarschuwingen worden geconfigureerd via een trigger wanneer fairness-meetgegevens gedefinieerde drempelwaarden overschrijden die onderzoek vereisen |
| CRM Analytics | Bewaking | ✅ CRM Analytics-dashboards houden eerlijkheidssignalen bij: plotselinge veranderingen in beslissingsverdelingen, pieken in aan vertekening gerelateerde cases, prestatievermindering voor specifieke populaties |
| CRM Analytics | Bewaking | ✅ Waarschuwingen trigger voor Einstein Opportunity Scores wanneer goedkeuringsscores voor een segment dalen meer dan 15% week-na-week vereisen eerlijkheid onderzoek |
| Governance | Geplande controles | ✅ Uitgebreide fairness audits worden driemaandelijks uitgevoerd voor high-stakes AI (krediet, werkgelegenheid, gezondheidszorg) of halfjaarlijks voor systemen met een lagere inzet |
| Governance | Geplande controles | ✅ Audits onderzoeken huidige meetgegevens over eerlijkheid, beoordelen overschrijvingspatronen, analyseren feedback van gebruikers en vertekeningsrapporten, en valideren governance controles effectief blijven |
| Governance | Incidentrespons | ✅ Duidelijke incidentresponsprocessen worden gedocumenteerd in Salesforce Knowledge om te reageren wanneer vertekening wordt gedetecteerd |
| Governance | Incidentrespons | ✅ Onmiddellijke beoordeling van de ernst door een query uit te voeren op beslissingsgegevens van een predictief model in CRM Analytics; ernstige vertekening schort geautomatiseerde besluitvorming op in afwachting van onderzoek |
| Governance | Incidentrespons | ✅ Tijdelijke vermindering implementeert meer menselijk toezicht via aangepaste drempelwaarden voor vertrouwen, uitschakeling van voorzieningen of volledige opschorting van agenten |
| Governance | Incidentrespons | ✅ Analyse van de hoofdoorzaak identificeert hoe vertekening is ingevoerd of geëvolueerd; trainingsgegevens, modelversies en configuratiewijzigingen worden geanalyseerd via Veldcontroletraject |
| Governance | Incidentrespons | ✅ Permanente remediëring implementeert gegevenscorrectie, modelhertraining of proceswijzigingen met de juiste communicatie naar betroffen gebruikers |
| Governance | Incidentrespons | ✅ Preventiemaatregelen worden gedocumenteerd in runbooks die herhaling van vertekeningsincidenten voorkomen |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| CRM Analytics | Bewaking | ⚠️ Fairness meetgegevens worden niet bijgehouden op een geplande cadans van vastgelegde beslissingsgegevens of Trust Layer auditgegevens; vertekening drift blijft onopgemerkt als gegevensdistributies veranderen |
| CRM Analytics | Bewaking | ⚠️ CRM Analytics-waarschuwingen zijn niet geconfigureerd; inbreuken op meetgegevens over eerlijkheid die onderzoek vereisen, worden niet geactiveerd |
| CRM Analytics | Bewaking | ⚠️ Eerlijkheidssignalen worden niet bewaakt; plotselinge veranderingen in beslissingsverdelingen worden niet gedetecteerd |
| Governance | Geplande controles | ⚠️ Uitgebreide fairness audits worden niet uitgevoerd volgens een schema; governance controles drift en worden ineffectief |
| Governance | Geplande controles | ⚠️ Overschrijvingspatronen, feedback van gebruikers en vertekeningsrapporten worden niet systematisch geanalyseerd tijdens audits |
| Governance | Incidentrespons | ⚠️ Duidelijke incidentresponsprocessen zijn niet gedocumenteerd; vertekeningsdetectie leidt tot ad-hocreacties zonder systematische aanpak |
| Governance | Incidentrespons | ⚠️ Tijdelijke vermindering of permanente oplossing worden niet systematisch uitgevoerd; vertekening blijft gebruikers treffen |
| Governance | Incidentrespons | ⚠️ Analyse van de hoofdoorzaak wordt niet uitgevoerd; hoe vertekening is ingevoerd of geëvolueerd, blijft onbekend |
| Governance | Incidentrespons | ⚠️ Preventiemaatregelen zijn niet gedocumenteerd; herhaling wordt niet voorkomen |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | Verplichte velden | ✅ Elk verplicht veld draagt een gedocumenteerde zakelijke rechtvaardiging voor waarom de gegevens verplicht zijn in plaats van optioneel; velden een proces kan functioneren zonder zijn optioneel gemaakt met downstream afhandeling voor ontbrekende waarden |
| Platform | Verplichte velden | ✅ E-mail is optioneel met alternatieve communicatiemethoden (sms, telefoon, post), zodat gebruikers zonder betrouwbaar internet of persoonlijke e-mail niet worden uitgesloten van het maken van een account |
| Platform | Naamvelden | ✅ Naam architectuur maakt gebruik van een enkele volledige-naam veld of flexibele structuur met meerdere delen die mononiemen, patroniem systemen, en meerdere voor-of achternaam zonder het aannemen van volgorde of overerving herbergt |
| Platform | Naamvelden | ✅ Naamvelden worden getest met verschillende internationale namen, het accepteren van namen van één woord, lange namen, diakritische tekens, apostrof, afbreekstreepjes en niet-Latijnse schriften (Arabisch, Chinees, Cyrillisch, Devanagari) |
| Platform | Adresvalidatie | ✅ Toegestane adresvalidatie accepteert invoer in vrije vorm wanneer gestructureerde validatie mislukt en slaat adressen op zoals gebruikers ze invoeren in plaats van ongeldige correcties af te dwingen |
| Platform | Adresvalidatie | ✅ Adresverificatie is ingebouwd in leveringsprocessen waar nauwkeurigheid operationeel belangrijk is in plaats van gegevensvastlegging vooraf te blokkeren |
| Platform | Communicatievoorkeuren | ✅ Voorkeur communicatiemethoden worden opgeslagen in contactpersoonsrecords en consistent gerespecteerd in alle uitgaande systemen, waarbij omnichannel alternatieven worden geboden in plaats van aannames via één kanaal |
| Aangepast object | Demografische gegevens | ✅ Vrijwillige demografische gegevens worden verzameld via een afzonderlijke enquête met een optie “Geef er de voorkeur aan om niet te antwoorden”, opgeslagen in een aangepast object met een privé-OWD, beperkt door FLS en alleen gebruikt voor geaggregeerde eerlijkheidsanalyses |
| Shield | Event Monitoring | ✅ Shield Event Monitoring logt toegangsevents (rapportexports, API-objectquery’s) op demografische gegevens om toegangspatronen te controleren |
| Platform | Verrijking door derden | ✅ Externe verrijkingsleveranciers worden gecontroleerd op eerlijkheidstests, demografische dekking en nauwkeurigheid, gevolgtrekkingsmethodologie en contractuele beperkingen voor gegevensgebruik vóór implementatie |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | Verplichte velden | ⚠️ E-mail is vereist voor het maken van een account zonder alternatief en telefoon- of adresvalidatie wijst niet-Amerikaanse notaties, postbussen en landelijke routes af, met uitzondering van gebruikers die de gegevens niet kunnen aanleveren |
| Platform | Verplichte velden | ⚠️ Velden zijn als verplicht gemarkeerd zonder te documenteren of het proces zou kunnen functioneren zonder de gegevens, waardoor onzichtbare populaties worden gemaakt van afgewezen onvolledige records |
| Platform | Naamvelden | ⚠️ Naamvelden dwingen westerse voor- / achternaamconventies af en wijzen mononiemen, diakritische tekens of niet-Latijnse schriften af, waardoor gebruikers worden afgewezen op basis van hun culturele identiteit |
| Platform | Adresvalidatie | ⚠️ Adresvalidatie vereist Amerikaanse postindeling en herkent geen internationale adressen, postbussen, militaire (APO / FPO) of stamlandadressen, waardoor het maken van een account en het leveren van services wordt geblokkeerd |
| Platform | Communicatievoorkeuren | ⚠️ Eén enkel communicatiekanaal wordt universeel geacht (alleen e-mail of alleen telefoon), met uitzondering van gebruikers zonder internet, zonder telefoontoegang of die doof of slechthorend zijn |
| Aangepast object | Demografische gegevens | ⚠️ Demografische gegevens worden afgeleid van namen of locaties zonder User Knowledge, opgeslagen in standaard contactpersoonsvelden die zichtbaar zijn voor alle gebruikers, en gebruikt in leadscores of prognoses zonder openbaarmaking |
| Platform | Verrijking door derden | ⚠️ Externe gegevens worden toegevoegd zonder controle van eerlijke praktijken van leveranciers of demografische dekking, waarbij door de leverancier geïntroduceerde vertekening wordt geïmporteerd in organisatiebeslissingen |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | Toewijzing en routering | ✅ Toewijzings- en routeringsregels gebruiken objectieve criteria (productlijnen, SLA’s, taalvereisten) en toewijzingsdistributies worden elk kwartaal gecontroleerd, gestratificeerd op klantdemografie, om ervoor te zorgen dat er geen concentratiepatronen ontstaan |
| Platform | Omni-Channel | ✅ Gemiddelde afhandelingstijd, oplossing bij het eerste contact en klanttevredenheid worden bewaakt binnen routeringstrajecten om te detecteren of klantsegmenten systematisch minder ervaren agenten ontvangen |
| Platform | Stroom | ✅ Stromen die belangrijke beslissingen nemen, worden beoordeeld op criteria die correleren met beschermde kenmerken (accounttenure, kanaalvoorkeur, aankoophistorie, kantooruren) en hun beslissingslogica wordt gedocumenteerd in architectuurbeslissingsrecords |
| Platform | Stroom | ✅ Stromen met grote belangen die van invloed zijn op toegang tot werkgelegenheid, krediet of service, zijn onderworpen aan hetzelfde proces van ethische beoordeling als AI-systemen |
| Platform | Validatieregels | ✅ Validatieregels worden getest met diverse gegevens (internationale adressen, niet-westerse namen, alternatieve telefoonnotaties) en uitgebreid wanneer ze legitieme gegevens afwijzen; Naamvelden accepteren Unicode en alle scripts |
| Platform | Territoriumontwerp | ✅ Demografie van klanten wordt in kaart gebracht over voorgestelde territoriumgrenzen heen voordat ontwerpen worden afgerond; waar concentraties ontstaan, wordt resourcetoewijzing geëvalueerd voor equity en zakelijke rechtvaardiging wordt gedocumenteerd en bewaakt |
| Platform | Controleren | ✅ Automatiseringslogica (bedrijfsregels, toewijzingscriteria, stroombeslissingen) wordt gedocumenteerd in Salesforce Knowledge of ADR’s, en uitkomsten worden per kwartaal gecontroleerd, gestratificeerd op demografische gegevens: toewijzingsverdelingen, goedkeuringsscores voor stromen, afwijzingsscores voor validatie en toewijzing van territoriumresources |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | Toewijzing en routering | ⚠️ Toewijzingsregels prioriteren leads van bepaalde postcodes naar “best performers” op basis van historische winscores zonder te onderzoeken of dat succes vaardigheid of demografisch voordeel weerspiegelt |
| Platform | Omni-Channel | ⚠️ Meetgegevens over de routeringskwaliteit worden niet bewaakt binnen klantsegmenten, waardoor verschillen in agentervaring of -oplossing niet worden gedetecteerd |
| Platform | Stroom | ⚠️ Stroombeslissingscriteria correleren met beschermde kenmerken (tenure, kanaal, inkoopvolume, tijdzone) en worden als objectief behandeld omdat deterministische logica neutraal aanvoelt |
| Platform | Stroom | ⚠️ Stromen met grote belangen nemen beslissingen zonder ethische beoordeling, ADR-documentatie of afhandeling voor gebruikers buiten het typische klantprofiel |
| Platform | Validatieregels | ⚠️ Naamvalidatie is beperkt tot A-Z en wijst diakritische tekens of niet-Latijnse scripts af, en adresvalidatie vereist Amerikaanse postindeling - legitieme gegevens worden afgewezen en gebruikers zien af van ongemelde verzoeken |
| Platform | Territoriumontwerp | ⚠️ Territoriumgrenzen volgen geografie die correleert met demografie, met verschillende beloningen of personeelsbezetting tussen territoria en geen analyse van demografische concentratie |
| Platform | Controleren | ⚠️ Automatiseringslogica is ongedocumenteerd en uitkomsten worden nooit gecontroleerd, waardoor discriminerende patronen in toewijzing, goedkeuringen, validatie of territoriumtoewijzing onzichtbaar blijven |