AI Fairness and Bias Detection (AI-Fairness und Verzerrungserkennung – Agentenmuster)

Weitere Informationen zu Well-Architected Fairness → Agentic Enterprise Fairness (Wohlarchitektonische Fairness)

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenkonfiguration	✅ Testen Sie Agenten systematisch auf demografische Verzerrungen mithilfe verschiedener Personas, die geschützte Gruppen darstellen. Generieren Sie identische Anforderungen, die nur demografische Signale wie Namen, Standorte oder Kommunikationsstile variieren
Data 360 \| Datensegmente	✅ Bevor Sie Salesforce-Daten für die Agentenschulung oder RAG-Kontextbildung verwenden, sollten Sie die demografische Darstellung prüfen und unterrepräsentierte Gruppen identifizieren.
Data 360 \| Knowledge Base	✅ Überprüfen Sie Knowledge Bases und Abrufquellen für die demografische Balance. Stellen Sie sicher, dass Qualität, Vollständigkeit und Genauigkeit der Dokumentation in allen Kundensegmenten vergleichbar sind
Agentforce \| Agentenüberwachung	✅ Überwachen von Agenteninteraktionen über demografische Gruppen hinweg auf Verhaltenskonsistenz; Analysieren von Antwortlänge, Detailebene, Höflichkeitsmarkierungen und Lösungsqualität stratifiziert nach Benutzereigenschaften
Agentforce \| Agentenüberwachung	✅ Erkennen von Feedback-Schleifen durch Überwachen von Änderungen bei der Entscheidungsverteilung im Laufe der Zeit; Durchbrechen von Schleifen durch die menschliche Überprüfung von Edge-Kundenvorgängen und regelmäßiges Neuabstimmen
Data 360 \| Trainingsdaten	✅ Überstichprobe unterrepräsentierter demografischer Gruppen in Trainingsdaten, um eine ausgewogene Darstellung zu gewährleisten; Synthese zusätzlicher Daten mit Techniken wie SMOTE, wenn reale Daten nicht ausreichen
Agentforce \| Aufforderungsvorlage	✅ Beschränken Sie das Agentenverhalten durch Systemaufforderungen: “Behandeln Sie alle Kundendemografien mit der gleichen Professionalität und Detailgenauigkeit. Stellen Sie Erklärungen von vergleichbarer Länge und Qualität bereit, unabhängig vom Kommunikationsstil oder Hintergrund des Kunden.”
Einstein \| Prognosemodell	✅ Berechnen von Korrelationskoeffizienten zwischen allen Modellfunktionen und geschützten Merkmalen; Bewerten, ob legitimer Prognosewert die Einbeziehung hochkorrelierter Funktionen rechtfertigt
Einstein \| Prognosemodell	✅ Identifizieren und Entfernen von Proxy-Funktionen, die mit geschützten Merkmalen korrelieren (Postleitzahlen-Proxys für Rasse, Namensmuster-Proxy für Geschlecht/Ethnie, Kommunikationszeit-Proxys für Religion/Pflege, Gerätetyp-Proxys für Einkommen, Regionszuweisungs-Proxys für demografische Zusammensetzung)

Antimuster

Wohin schauen	Wie schlecht sieht
Data 360 \| Trainingsdaten	⚠️ Verwenden von historischen CRM-Daten für die Agentenschulung ohne Prüfung der demografischen Darstellung, wodurch algorithmische Verzerrungen menschlicher Verzerrungen verstärken können
Agentforce \| Agentenkonfiguration	⚠️ Bereitstellen von Agenten ohne systematische demografische Verzerrungstests in verschiedenen Personas, die geschützte Gruppen darstellen
Data 360 \| Knowledge Base	⚠️ Bereitstellen detaillierter Knowledge-Artikel für Unternehmenskunden, jedoch nur allgemeiner Antworten für Kleinunternehmenskunden, wodurch die Unterschiede bei der Servicequalität beibehalten werden
Agentforce \| Agentenüberwachung	⚠️ Ermöglichen der Anpassung des Verhaltens von Agenten anhand von Unterhaltungshinweisen, die mit geschützten Merkmalen (Kommunikationsstil, Sprachkomplexität, Zeiteinteilungsmuster) korrelieren, ohne Überwachung
Einstein \| Prognosemodell	⚠️ Einbeziehung von Proxy-Funktionen (Postleitzahl, Namensmuster, Gerätetyp) in Folgeentscheidungsmodelle ohne Auswertung der Korrelation mit geschützten Merkmalen
Agentforce \| Agentenkonfiguration	⚠️ Zulassen von Feedbackschleifen, wenn Agentenentscheidungen zu Ungleichheiten führen, die künftige negative Entscheidungen rechtfertigen (z. B. Weiterleitung von Agenten, die Opportunities auf bestimmte Regionen reduzieren, weniger Erfolgsdaten generieren, prognostizierter Erfolg weiter reduzieren)
Data 360 \| Datensegmente	⚠️ Standardmäßige Verweise auf die Mehrheitskultur in Inhaltsbeispielen, die unterrepräsentierte Benutzer verfremden

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenüberwachung	✅ Protokollieren vollständiger Eingaben und Ausgaben für jeden Agenten in einer Orchestrierungskette, damit Verzerrungen in einem endgültigen Ergebnis rückwärts bis zur Phase verfolgt werden können, in der sie eingeführt wurden und in der die Verstärkung erfolgte
Plattform \| CRM Analytics	✅ Erstellen von Dashboards mit Entscheidungsverteilungen in jeder Orchestrierungsphase, aufgeschlüsselt nach demografischen Daten, um festzustellen, wo in der Kette Unterschiede auftreten oder sich erweitern
Plattform \| CRM Analytics	✅ Berechnen der demografischen Parität, der Chancengleichheit und der ungleichen Auswirkungen in jeder Phase der Kette, nicht nur auf das Endergebnis; phasenweise Kennzahlen erfassen die Compoundierung, die in jeder einzelnen Phase akzeptabel aussieht, sich jedoch in der gesamten Kette verschlechtert
Agentforce \| Modellkonfiguration	✅ Maximieren Sie die Vielfalt zwischen Agenten in Konsensmustern, um korrelierte Fehler zu reduzieren: unterschiedliche Grundlagenmodelle, sofern durchführbar (z. B. durch Bring Your Own LLM-Konfigurationen), unterschiedliche Abrufquellen, unterschiedliche Aufforderungsansätze und unterschiedliche Konfidenzschwellenkalibrierungen
Agentforce \| Agentenkonfiguration	✅ Einfügen einer menschlichen Überprüfung an Orchestrierungswendepunkten, an denen eine Phase die nachgelagerten Optionen erheblich einschränkt, selbst wenn die Konfidenz einzelner Agenten hoch ist, da die Orchestrierung auftauchende Effekte erzeugt, die die Konfidenzbewertungen pro Agent nicht erfassen
Agentforce \| Agentenkonfiguration	✅ Konfigurieren von Orchestrierungs-Leistungsschaltern, die angehalten und für einen Menschen eskaliert werden, wenn das Vertrauen eines Agenten unter den Schwellenwert fällt, sich die Ausgabeverteilung erheblich zwischen den Phasen verschiebt, die Kette auf Daten stößt, die im Training oder in der Validierung nicht dargestellt sind, oder der Benutzer eine Zwischenentscheidung anficht

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Agentenüberwachung	⚠️ Orchestrierungsketten ausführen, ohne die Eingaben und Ausgaben der einzelnen Agenten zu protokollieren, wodurch es unmöglich wird, nachzuvollziehen, welche Phase zu einer Verzerrung geführt hat, wenn ein diskriminierendes Ergebnis angezeigt wird
Agentforce \| Modellkonfiguration	⚠️ Behandeln des Konsenses mehrerer Agenten als Korrektur von Verzerrungen, wenn alle Agenten dasselbe Grundlagenmodell oder dieselben Trainingsdaten verwenden, sodass die Vereinbarung nur die gemeinsame Verzerrung validiert, statt sie zu korrigieren
Plattform \| CRM Analytics	⚠️ Messung der Fairness nur im Hinblick auf das endgültige Orchestrierungsergebnis, fehlende phasenweise Compoundierung, wobei jede Phase isoliert akzeptabel erscheint, die Kette jedoch zu einer inakzeptablen Disparität führt
Agentforce \| Agentenkonfiguration	⚠️ Vertrauen auf einzelne Agentenkonfidenzbewertungen, um eine Orchestrierungskette zu durchlaufen, ohne menschliche Überprüfung an Wendepunkten einzufügen, an denen eine Phase die nachgelagerten Optionen eingrenzt
Agentforce \| Agentenkonfiguration	⚠️ Zulassen, dass eine Orchestrierungskette ohne Leistungsschalter fortgesetzt wird, wenn ein vorgelagerter Agent eine geringe Konfidenz aufweist, sich Verteilungen zwischen Phasen verschieben oder die Kette auf Daten außerhalb ihrer Trainings- und Validierungssätze stößt

Muster

Wohin schauen	Wie gut aussieht
Business \| Deployment Gate (Unternehmen \| Bereitstellungstor)	✅ Legen Sie die Fairnessbewertung als obligatorisches Bereitstellungs-Gate fest, das der Sicherheitsüberprüfung entspricht, bevor Sie Agenten bereitstellen, die Folgeentscheidungen treffen
Einstein \| Prognosemodell	✅ Berechnen Sie die demografische Parität, indem Sie die Population in demografische Segmente unterteilen, positive Ergebnisraten pro Segment messen und Raten segmentübergreifend vergleichen.
Einstein \| Prognosemodell	✅ Stellen Sie die Chancengleichheit sicher, indem Sie sicherstellen, dass Agenten qualifizierte Einzelpersonen unabhängig von demografischen Merkmalen gleich gut identifizieren. Überprüfen Sie, ob die tatsächlich positiven Raten gruppenübergreifend vergleichbar sind
Einstein \| Prognosemodell	✅ Wenden Sie die Vier-Fünftel-Regel an: Wenn eine Gruppe positive Ergebnisse mit weniger als 80 % der Rate der Gruppe mit der höchsten Leistung erhält, auf Verzerrung untersuchen
Einstein \| Prognosemodell	✅ Berechnen ungleicher Auswirkungsquoten für alle Folgeentscheidungen von Agenten und Dokumentuntersuchungsergebnisse, wenn die Quoten unter 80 % fallen
Unternehmen \| Dokumentation	✅ Dokument, wenn Verstöße gegen die demografische Parität legitime Geschäftsfaktoren und keine Diskriminierung widerspiegeln
Wirtschaft \| Rechtliche Überprüfung	✅ Wenden Sie sich an einen Rechtsbeistand, wenn Sie gruppenspezifische Schwellenwerte für ausgeglichene Quoten anwenden. Beachten Sie, dass in den USA die Anpassung von Bewertungen oder Cutoffs nach geschützter Klasse für beschäftigungsbezogene Entscheidungen gemäß Titel VII (Civil Rights Act von 1991) verboten ist und dass andere Rechtsordnungen ihre eigenen Einschränkungen auferlegen.

Antimuster

Wohin schauen	Wie schlecht sieht
Business \| Deployment Gate (Unternehmen \| Bereitstellungstor)	⚠️ Bereitstellen von Agenten, die konsequente Entscheidungen treffen, ohne Fairnesskennzahlen für demografische Gruppen zu berechnen
Einstein \| Prognosemodell	⚠️ Systematisch fehlende qualifizierte Kandidaten aus unterrepräsentierten Gruppen durch Festlegen höherer Nachweisschwellenwerte für diese Gruppen als für Mehrheitsgruppen
Einstein \| Prognosemodell	⚠️ Einführung gruppenspezifischer Schwellenwerte ohne rechtliche Begründung oder Validierung, die die Fairness erhöhen, ohne andere diskriminierende Auswirkungen zu haben, oder – in den Vereinigten Staaten – Umsetzung dieser Schwellenwerte für beschäftigungsbezogene Entscheidungen überhaupt, wenn Titel VII die Anpassung von Bewertungen oder Grenzwerten nach geschützter Klasse verbietet
Unternehmen \| Dokumentation	⚠️ Nichtdokumentierung, wenn Verstöße gegen Fairnesskennzahlen berechtigte Geschäftsunterschiede und Diskriminierung widerspiegeln

Muster

Wohin schauen	Wie gut aussieht
Einstein \| Trust Layer	✅ Verwenden von Trust Layer-Aktivierungsdaten zum Analysieren von Antwortverteilungen zwischen demografischen Gruppen; Erstellen von CRM Analytics-Dashboards zum Vergleichen von Genehmigungsraten, Empfehlungsmustern und Risikobewertungen nach Kundensegment
Einstein \| Trust Layer	✅ Regelmäßige Protokollierung der Query Trust Layer: alle Prognosen mit hohem Wert gruppiert nach Kundenbranche, Region und Accountgröße anzeigen, um sicherzustellen, dass die Prognoseverteilungen segmentübergreifend konsistent sind
Agentforce \| Sitzungsverfolgung	✅ Stichprobe von 100 nach demografischer Gruppe stratifizierten Agentenentscheidungen, in denen Überprüfer mithilfe von Agentforce Session Tracing-Überlegungen beurteilen können, ob die Argumentationsqualität gruppenübergreifend vergleichbar ist
Plattform \| CRM Analytics	✅ Konfigurieren von Benachrichtigungen, wenn Agentenentscheidungsmuster erheblich vom Basiswert abweichen (z. B. sinken die Genehmigungsraten für ein bestimmtes Segment um 20 % im Wochenvergleich)
Plattform \| CRM Analytics	✅ Erstellen einer benutzerdefinierten Überwachung zur Warnung bei Fairness-Signalen: “Benachrichtigung, wenn die durchschnittliche Unterhaltungsdauer für ein Kundensegment das 1,5-fache des Gesamtdurchschnitts an drei aufeinanderfolgenden Tagen überschreitet”
Plattform \| CRM Analytics	✅ Erstellen Sie wiederverwendbare CRM Analytics-Dashboard-Vorlagen, die Fairness-Kennzahlen für allgemeine Agentenanwendungsfälle verfolgen, einschließlich demografischer Parität, Chancengleichheit, ungleicher Auswirkungsverhältnisse und Trenddiagrammen

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Sitzungsverfolgung	⚠️ Ignorieren der Argumentationsspuren für das Agentforce Session Tracing und des Trust Layer-Aktivierungsprotokolls, wenn Benutzer Verzerrungen melden und nicht wissen, welche Argumentationsschritte, Datenquellen oder Abrufmuster die Verzerrung verursacht haben
Plattform \| CRM Analytics	⚠️ Fehlende Konfiguration von Warnungen zur Anomalieerkennung für Fairnesssignale, wodurch plötzliche Verteilungsverschiebungen unentdeckt bleiben
Plattform \| CRM Analytics	⚠️ Erstellen von Fairness-Dashboards ad-hoc pro Team anstelle der Freigabe wiederverwendbarer Vorlagen zur Standardisierung der Fairness-Überwachung

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenkonfiguration	✅ Entwerfen von Agenten für Entscheidungen mit hohem Einsatz (Beschäftigung, Kredit, Gesundheitswesen, Recht, Wohnungswesen) zum Analysieren, Empfehlen und Vorbereiten von Entscheidungen, während sie vor der Ausführung die Genehmigung durch den Menschen benötigen
Plattform \| Genehmigungsprozess	✅ Konfigurieren Sie Agentforce so, dass Empfehlungen mit unterstützenden Nachweisen generiert werden, Entscheidungen über einen Schwellenwert per Genehmigungsprozess an menschliche Überprüfer weitergeleitet werden und Agentengründe auf der Genehmigungsoberfläche angezeigt werden
Agentforce \| Agentenkonfiguration	✅ Konfidenzbasierte Eskalation implementieren: Hohes Vertrauen (>90 %) verläuft autonom, mäßig (70-90 %) erfordert eine menschliche Überprüfung, niedrig (<70 %) wird vollständig auf menschlich mit Kontextzusammenfassung zurückgestellt
Agentforce \| Agentenkonfiguration	✅ Kalibrieren von Konfidenzschwellenwerten mithilfe von Produktionsdaten; Stichprobenentnahme von Agentenentscheidungen in jedem Konfidenzband und Berechnung der tatsächlichen Erfolgsraten zum Validieren der Kalibrierung
Agentforce \| Agentenkonfiguration	✅ Legen Sie zeitlich begrenzte Eskalationsauslöser fest: nach 5-7 Runden ohne Auflösung, nach 10 Minuten, wenn der Benutzer Frust ausdrückt oder wenn der Agent dieselbe Antwort wiederholt
Plattform \| Omnikanal	✅ Konfigurieren Sie Omnikanal, um eskalierte Kundenvorgänge an die entsprechenden fertigkeitsbasierten Warteschlangen mit vollständigem Unterhaltungskontext weiterzuleiten; trainieren Sie menschliche Agenten im Umgang mit Eskalationen, ohne dass Benutzer Informationen wiederholen müssen
Agentforce \| UX	✅ Option “Mit menschlichem Agenten verbinden” jederzeit auf Agenten-Chat-Oberflächen bereitstellen und nicht hinter einer Mindestanzahl fehlgeschlagener Interaktionen zurückbleiben
Agentforce \| Agentenkonfiguration	✅ Ermöglichen Sie es autorisierten Personen, Agentenentscheidungen jederzeit mit dokumentierten Gründen zu überschreiben; fügen Sie allen Agentenentscheidungsoberflächen, die eine mehrzeilige Texterklärung erfordern, die Schaltfläche “Agent überschreiben” hinzu.
Plattform \| Benutzerdefiniertes Objekt	✅ Protokollieren von Überschreibungen im benutzerdefinierten Objekt mit Entscheidungs-ID, Überschreibungszeitstempel, Begründung und Überschreibung; Erstellen von CRM Analytics-Dashboards zur Verfolgung von Überschreibungsmustern nach Agent, Entscheidungstyp und Kundendemografie
Unternehmen \| Dokumentation	✅ Dokumentierte Gründe für Genehmigungen oder Ablehnungen anfordern, die von der Agentenempfehlung abweichen; Überschreibungsmuster verfolgen, um systematische Agentenmängel zu identifizieren

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Agentenkonfiguration	⚠️ Bereitstellen von Agenten als autonome Entscheidungsträger für Entscheidungen mit hohem Einsatz (Beschäftigung, Kredit, Gesundheitswesen, Recht, Wohnungswesen) ohne menschliche Genehmigungstore
Agentforce \| Agentenkonfiguration	⚠️ Verwendung falsch kalibrierter Konfidenzbewertungen, bei denen Entscheidungen mit hoher Konfidenz nur 75 % der Fälle erfolgreich sind, was Trust in Eskalationsmechanismen untergräbt
Agentforce \| Agentenkonfiguration	⚠️ Einklemmen von Kunden in nicht hilfreiche automatisierte Schleifen ohne zeit- oder rundengebundene Eskalation für Menschen
Plattform \| Omnikanal	⚠️ Weiterleiten eskalierter Kundenvorgänge ohne vollständigen Unterhaltungskontext, wodurch Benutzer gezwungen werden, die dem Agenten bereits bereitgestellten Informationen zu wiederholen
Unternehmen \| Unternehmensführung	⚠️ Zulassen der Verteilung von Verantwortung, wenn alle davon ausgehen, dass die AI verantwortlich ist und niemand die Verantwortung für Entscheidungen übernimmt
Unternehmen \| Unternehmensführung	⚠️ Zuweisen der Rechenschaftspflicht nach Vorfällen und nicht vor der Bereitstellung mit benannten Einzelpersonen, die in Architekturentscheidungsdatensätzen dokumentiert sind

Muster

Wohin schauen	Wie gut aussieht
Unternehmen \| Dokumentation	✅ Weisen Sie die Rechenschaftspflicht vor der Bereitstellung zu: Modellinhaber (Fairness/Genauigkeit), Entscheidungsinhaber (Anwendungsfall/Auswirkung), Beschwerdebehörde (Fairness-Beschwerde), Prüfbehörde (regelmäßige Prüfungen)
Unternehmen \| Dokumentation	✅ Dokumentieren Sie alle Verantwortlichkeitsrollen mit Namen und nicht nur mit Titeln, um sicherzustellen, dass die Verantwortlichkeit durch organisatorische Änderungen erhalten bleibt
Unternehmen \| Unternehmensführung	✅ Ermöglichen Sie es der Beschwerdebehörde (Ethiküberprüfungskommission oder benanntes Team), Beschwerden von Benutzern zu bearbeiten, die glauben, dass Agentenentscheidungen unfair waren, mit zugänglichen, zeitnahen Prozessen, die Agentenentscheidungen rückgängig machen können
Unternehmen \| Unternehmensführung	✅ Autorisieren der Prüfbehörde (Compliance-Team) zur Durchführung regelmäßiger Prüfungen und Aussetzen von Agenten, die gegen Fairnessstandards verstoßen, bis die Korrektur aussteht
Unternehmen \| Unternehmensführung	✅ Planen einer monatlichen Überprüfung von Überschreibungsmustern mit hoher Häufigkeit mit dem Agentenentwicklungsteam

Antimuster

Wohin schauen	Wie schlecht sieht
Unternehmen \| Unternehmensführung	⚠️ Dokumentieren von Verantwortlichkeitsrollen nur mit Titeln (z. B. “Data Science Lead”) ohne benannte Einzelpersonen, wodurch die Verantwortlichkeit bei Organisationsänderungen entfällt
Unternehmen \| Unternehmensführung	⚠️ Ermöglichen, dass Entscheidungsinhaber die Rechenschaftspflicht an AI-Systeme delegieren können, statt die persönliche Rechenschaftspflicht für reale Auswirkungen beizubehalten
Unternehmen \| Unternehmensführung	⚠️ Unzugängliche, nicht rechtzeitige oder fehlende Befugnis zum Rückgängigmachen von Agentenentscheidungen

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenkonfiguration	✅ Architekt mehrere Erklärungsebenen: Benutzerorientiert (einfache Sprache), geschäftlich (wichtige Entscheidungsfaktoren), technisch (Modelldetails/Funktionsgewichtungen) und auditiert (vollständige Entscheidungsverfolgung)
Agentforce \| Agentenkonfiguration	✅ Anzeigen von Zusammenfassungsansätzen in Echtzeit beim Treffen von Entscheidungen: “Ich habe Produkt A basierend auf Ihrem Kaufverlauf (3 ähnliche Käufe), dem aktuellen Sonderangebot (20 % Rabatt) und der Inventarverfügbarkeit empfohlen”
Agentforce \| Agentenkonfiguration	✅ Geben Sie “Warum haben Sie dies empfohlen?” Link, über den Benutzer die vollständige Überlegung anzeigen können, einschließlich aller abgerufenen Knowledge-Artikel, der abgerufenen Datensätze und der Entscheidungslogik
Agentforce \| Sitzungsverfolgung	✅ Abrufen von Argumentationsspuren aus dem Agentforce Session Tracing zur historischen Rekonstruktion, wenn Benutzer vergangene Entscheidungen Wochen oder Monate später anfechten
Agentforce \| Sitzungsverfolgung	✅ Beispiel einer nach demografischen Gruppen stratifizierten Agentforce Session Tracing-Erklärung, um zu analysieren, ob die Entscheidungsqualität konsistent ist; Überprüfen von 100 Verfolgungen aus jedem Kundensegment
Agentforce \| Agentenkonfiguration	✅ Kommunizieren Sie Vertrauen in benutzergerechte Begriffe: “Hohe Konfidenz” / “Moderate Konfidenz” / “Geringe Konfidenz” mit Kontext der Zuverlässigkeit in reiner Sprache anstelle von Rohwahrscheinlichkeitsbewertungen
Agentforce \| Agentenkonfiguration	✅ Erklären Sie bei Entscheidungen mit moderatem oder niedrigem Konfidenzniveau, welche zusätzliche Überprüfung und welcher erwartete Zeitplan erfolgen wird
Agentforce \| Agentenkonfiguration	✅ Geben Sie kontrafaktische Erklärungen an, die Benutzern zeigen, was das Ergebnis ändern würde: “Ihre Leadbewertung würde mit überprüften Beschäftigungsinformationen steigen (+8 Punkte)”

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Agentenkonfiguration	⚠️ Anzeige von Rohwahrscheinlichkeitsbewertungen (z. B. “73 % Konfidenz”), die Benutzer falsch interpretieren, anstelle der für den Benutzer geeigneten Konfidenzsprache
Agentforce \| Agentenkonfiguration	⚠️ Bereitstellen von Kontrafakten, die das Spielen des Systems fördern oder versehentlich geschützte Merkmale als Entscheidungsfaktoren anzeigen (z. B. “Ihre Anwendung würde eine höhere Bewertung erzielen, wenn Sie 10 Jahre jünger wären”)
Agentforce \| Agentenkonfiguration	⚠️ Angabe nur einer Erklärungsebene, die weder den Endbenutzern (zu technisch) noch den Prüfern (zu vereinfacht) dient
Agentforce \| Agentenkonfiguration	⚠️ Fehler beim Speichern historischer Argumentationsspuren, was es unmöglich macht, vergangene Entscheidungen bei Anfechtung zu erklären

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenkonfiguration	✅ Geben Sie deutlich an, wann Benutzer mit Agentforce Agenten interagieren, indem Sie eine deutlich sichtbare, kontinuierliche Offenlegung machen (nicht in Bezug auf den Service begraben oder nur einmal zu Beginn der Interaktion angezeigt)
Agentforce \| Agentenkonfiguration	✅ Anzeigen persistenter visueller Indikatoren: Agentenavatar mit der Markierung “AI-Assistent”, Kopfzeile mit “Sie chatten mit einem Agentforce Serviceagenten” und sichtbarer Option ‘Mit menschlichem Agenten verbinden’ während der Unterhaltung
Agentforce \| Agentenkonfiguration	✅ Sicherstellen, dass Benutzer, die menschliche Interaktion bevorzugen, ohne Reibung oder Servicequalitätseinbußen wechseln können

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Agentenkonfiguration	⚠️ AI-Offenlegung in Bezug auf den Service begraben oder nur einmal beim Interaktionsstart anzeigen, statt persistente visuelle Indikatoren beizubehalten
Agentforce \| Agentenkonfiguration	⚠️ Bestrafen von Benutzern, die sich für eine menschliche Interaktion entscheiden, mit beeinträchtigtem Service oder erhöhten Wartezeiten
Agentforce \| Agentenkonfiguration	⚠️ Ausblenden der Option “Mit menschlichem Agenten verbinden” oder Verlangen, dass Benutzer Agenteninteraktionen abschließen, bevor sie auf menschlichen Support zugreifen

Muster

Wohin schauen	Wie gut aussieht
Plattform \| Ereignisüberwachung	✅ Konfigurieren der Ereignisüberwachung zum Verfolgen von: API-Ereignisprotokolle mit Agentensysteminteraktionen, Anmeldeereignissen für Agentenservice-Accounts und Berichtexporten, wenn Agenten auf Massendaten zugreifen
Plattform \| Ereignisüberwachung	✅ Streamen von Ereignisüberwachungsprotokollen an externe SIEM-Systeme für die langfristige Aufbewahrung und Manipulationsnachweise, die die gesetzlichen Anforderungen erfüllen
Plattform \| Feld-Aktivierungsprotokoll	✅ Aktivieren des Feld-Aktivierungsprotokolls (unbestimmte Aufbewahrung des archivierten Verlaufs) für Objekte, die Agentenentscheidungen speichern oder von ihnen beeinflusst werden, wobei aus den unterstützten Standardobjekten sowie benutzerdefinierten Objekten mit aktivierter Feldverlaufsverfolgung ausgewählt wird; wichtig für Anwendungsfälle mit Krediten, Beschäftigung und anderen hohen Beteiligungen
Plattform \| Shield	✅ Verwenden Sie die Shield-Ereignisüberwachung für Agentenentscheidungen mit dem höchsten Anteil, bei denen die Integrität des Prüfpfads entscheidend ist (erweiterte Funktionen, strukturierte Ereignisfelder, Integration von Compliance-Berichten)
Plattform \| Benutzerdefiniertes Objekt	✅ Erstellen eines benutzerdefinierten Objekts vom Typ “AgentDecision__c”, in dem Folgendes gespeichert wird: Decision_ID, Zeitstempel, Agent_Type, Model_Version, Confidence_Score, Outcome, User_ID, Record_ID; mit dem Verknüpfungsobjekt DecisionInput__c, das Entscheidungen mit Snapshots der Eingabefunktion verknüpft
Plattform \| Benutzerdefiniertes Objekt	✅ Speichern genauer Eingabefunktionswerte zum Zeitpunkt der Entscheidung (keine aktuellen Werte, die sich ändern können), um zu testen, ob Entscheidungen mit aktualisierten Daten abweichen würden
Unternehmen \| Dokumentation	✅ Datensatzmodellversion, Konfigurationsstatus (Schwellenwerte, Geschäftsregeln, Parameter) und Umgebungskontext (Benutzeridentität, Zeitstempel, Unterhaltungsverlauf) für jede Folgeentscheidung
Plattform \| LWC	✅ Erstellen der LWC-Komponenteneinbettung in Datensätze zum Anzeigen des Entscheidungsverlaufs mit Links vom Typ “Überlegungen anzeigen”

Antimuster

Wohin schauen	Wie schlecht sieht
Plattform \| Feld-Aktivierungsprotokoll	⚠️ Verlassen auf die Standardfeldhistorie (18-monatige Aufbewahrung) für Entscheidungen mit hohem Beteiligungsgrad, die eine mehrjährige behördliche Aufbewahrung erfordern
Plattform \| Benutzerdefiniertes Objekt	⚠️ Speichern von nur aktuellen Datensatzwerten anstelle von Snapshots für die Eingabe von Entscheidungszeitpunkten, wodurch historische Entscheidungen nicht genau rekonstruiert werden können
Unternehmen \| Dokumentation	⚠️ Fehler bei der Datensatzmodellversion und dem Konfigurationsstatus, die zum Zeitpunkt der Entscheidung aktiv waren, was die Ursachenanalyse unmöglich macht, wenn eine Verzerrung erkannt wird
Plattform \| Ereignisüberwachung	⚠️ Führen von Überwachungsprotokollen nur innerhalb von Salesforce ohne externes SIEM-Streaming, da keine Manipulationsnachweise für die Einhaltung gesetzlicher Vorschriften vorliegen

Muster

Wohin schauen	Wie gut aussieht
Plattform \| CRM Analytics	✅ Erstellen von Dashboards mit folgenden Elementen: Entscheidungsverteilung nach demografischem Segment (Balkendiagramme), Fairness-Kennzahlen im Zeitverlauf (Trendlinien mit Warnschwellenwerten), ungleiches Auswirkungsverhältnis mit Vier-Fünftel-Regelindikator, wichtigste Prädiktoren, die zu Entscheidungen beitragen, Überschreibungsrate nach demografischer Gruppe
Plattform \| CRM Analytics	✅ Warnung, wenn sich Eingabeverteilungen erheblich von den demografischen Daten für Trainingsdaten ändern; Überwachung auf Verteilungsverschiebung mit Hinweis auf eine potenzielle Verschlechterung der Fairness
Agentforce \| Agentenkonfiguration	✅ Option “Berichtanliegen” zur Agentforce Chat-Oberfläche hinzufügen; Berichte mit vollständigem Unterhaltungskontext an Ethikprüfungsgremium weiterleiten; benutzerdefiniertes Objekt mit erforderlichem Untersuchungs-Workflow verfolgen
Unternehmen \| Unternehmensführung	✅ Fairness-Dashboards wöchentlich überwachen, Schwellenwertverletzungen innerhalb von 24 Stunden untersuchen, monatliche Überschreibungsmusteranalysen durchführen, vierteljährlich umfassende Fairness-Audits durchführen
Unternehmen \| Unternehmensführung	✅ Ermöglichen Sie es Benutzern, wahrgenommene Verzerrungen über zugängliche Mechanismen zu melden; Benutzerberichte zeigen qualitative Probleme auf, die bei quantitativen Kennzahlen nicht auftreten

Antimuster

Wohin schauen	Wie schlecht sieht
Unternehmen \| Unternehmensführung	⚠️ Behandlung der Verzerrungserkennung als einmalige Validierung vor der Bereitstellung und nicht als kontinuierliche Überwachung, wenn Agenten sich durch Aufforderungsaktualisierungen, Änderungen an der Modellversion und verschobene Datenverteilungen weiterentwickeln
Plattform \| CRM Analytics	⚠️ Fehlende Konfiguration von Benachrichtigungen, wenn Fairness-Kennzahlen definierte Schwellenwerte überschreiten, wodurch eine allmähliche Abweichung unentdeckt bleibt
Agentforce \| Agentenkonfiguration	⚠️ Keine Bereitstellung zugänglicher Mechanismen für Benutzer zum Melden wahrgenommener Verzerrungen, fehlende qualitative Probleme, die bei quantitativen Kennzahlen nicht auftreten können

Muster

Wohin schauen	Wie gut aussieht
Plattform \| Integration	✅ Erstellen von Exportfunktionen, mit denen Compliance-Teams vollständige Entscheidungsdatensets mit demografischer Schichtung zur Überprüfung durch externe Prüfer extrahieren können, unter Beachtung der Datenschutzbestimmungen
Unternehmen \| Dokumentation	✅ Pflegen Sie die aktuelle Dokumentation zu: Agentenzweck und beabsichtigte Anwendungsfälle, demografische Daten und bekannte Einschränkungen, Fairnesskennzahlen (vor der Bereitstellung und Produktion), Strategien zur Verzerrungsminderung, Konfigurationen der menschlichen Aufsicht, Überwachungsansatz und Zuweisungen zur Rechenschaftspflicht
Unternehmen \| Unternehmensführung	✅ Führen Sie vor dem Bereitstellen von Agenten, die Folgeentscheidungen treffen, algorithmische Folgenabschätzungen durch, um potenzielle positive und negative Auswirkungen auf alle Beteiligtengruppen zu bewerten
Unternehmen \| Unternehmensführung	✅ halbjährliche externe Fairness-Überprüfungen durch Drittanbieter planen; Regulierungshorizont-Scans beibehalten und an EU-AI-Gesetze, Landesgesetze und Sektorvorschriften angepasst

Antimuster

Wohin schauen	Wie schlecht sieht
Plattform \| Integration	⚠️ Entwerfen von Agentenarchitekturen ohne Vorwegnahme externer Prüfungen durch Regulierungsbehörden, Bürgerrechtsorganisationen oder Kunden; Fehlende Exportmöglichkeiten für die Überprüfung durch Prüfer
Unternehmen \| Dokumentation	⚠️ Zulassen, dass die Dokumentation veraltet wird, während Agenten sich durch sofortige Aktualisierungen oder Modelländerungen weiterentwickeln, ohne Fairnesskennzahlen und Strategien zur Eindämmung zu aktualisieren
Unternehmen \| Unternehmensführung	⚠️ Bereitstellen von Agenten, die Folgeentscheidungen treffen, ohne Folgenabschätzungen zur Bewertung der Auswirkungen auf alle Beteiligtengruppen durchzuführen

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenkonfiguration	✅ Explizite Anmeldung für Folgeagenten anfordern (Kreditentscheidung, Beschäftigungsprüfung, Serviceanspruch) statt standardmäßige Aktivierung
Plattform \| Benutzerdefiniertes Objekt	✅ Erstellen Sie AI_Consent__c mit Feldern: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; Feld-Aktivierungsprotokoll für die langfristige Aufbewahrung von Einwilligungsdatensätzen aktivieren
Agentforce \| Agentenkonfiguration	✅ Einwilligungsprüfung zur Agentenaufruflogik hinzufügen: AI_Consent__c vor der Verarbeitung nach aktiver Einwilligung abfragen; Einwilligung auf Anwendungsfallebene unterstützen (Serviceagent vs. Vertriebsagent)
Plattform \| Community/Erfahrungs-Site	✅ Erstellen einer Self-Service-Einwilligungsverwaltungsoberfläche, auf die über das Benutzerprofil zugegriffen werden kann; Planen von Erinnerungen zur Verlängerung der Einwilligung alle 12 Monate
Agentforce \| Agentenkonfiguration	✅ Wenn Sie neue Funktionen bereitstellen, die sich auf bestehende Benutzer auswirken, suchen Sie proaktiv nach einer Einwilligung für neue Anwendungsfälle, statt sich auf die ursprüngliche Einwilligung zu verlassen, die bestimmte Anwendungen nicht berücksichtigt
Agentforce \| Agentenkonfiguration	✅ Aktivieren Sie den Widerruf der Einwilligung jederzeit mit sofortiger Einstellung der Agentenverarbeitung. Vereinfachen Sie den Widerruf so einfach wie die Erteilung, ohne dass Supportkontakte erforderlich sind
Agentforce \| Agentenkonfiguration	✅ Aktivieren der Benutzervoreinstellungsverwaltung: Kommunikationsstil (prägnant im Vergleich zu detailliert), Proaktivitätsebene, Eskalationsvoreinstellung; Speichern in benutzerdefinierten Benutzerdatensatzfeldern und Verweisen in Agentensystemaufforderungen
Plattform \| Omnikanal	✅ Beibehaltende Option “Mit menschlichem Agenten verbinden” während der Interaktionen bereitstellen; bei Auswahl dieser Option Weiterleiten an Omnikanal mit vollständigem Unterhaltungskontext und Prioritätskennzeichnung ohne beeinträchtigte Service- oder Wartezeitstrafen

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Agentenkonfiguration	⚠️ Standardmäßiges Aktivieren von Folgeagenten ohne explizite Benutzeranmeldung, um zu verstehen, wie sich Agenten auf sie auswirken
Agentforce \| Agentenkonfiguration	⚠️ Anforderung einer allgemeinen AI-Einwilligung anstelle der Aktivierung einer detaillierten Einwilligung auf Anwendungsfallebene (ein Kunde kann Serviceagenten zustimmen, während Vertriebsagenten abgelehnt werden)
Agentforce \| Agentenkonfiguration	⚠️ Für den Widerruf der Einwilligung sind Supportkontakte oder bürokratische Prozesse anstelle von Self-Service mit sofortiger Wirkung erforderlich
Agentforce \| Agentenkonfiguration	⚠️ Bei der Bereitstellung wesentlich neuer Agentenfunktionen, die in der ursprünglichen Einwilligung nicht vorgesehen waren, auf die ursprüngliche Einwilligung zurückgreifen
Agentforce \| Agentenkonfiguration	⚠️ Verpflichtung von Benutzern, Agenteninteraktionen abzuschließen oder ihre Präferenz zu erläutern, bevor sie eine Verbindung mit einem menschlichen Agenten herstellen

Muster

Wohin schauen	Wie gut aussieht
Agentforce \| Agentenkonfiguration	✅ Überprüfen Sie alle Datenquellen, die in der Agentenüberlegungen verwendet werden, auf geschützte charakteristische Inhalte. Entfernen oder maskieren Sie geschützte Merkmale aus Agenteneingaben, wenn dies für den Entscheidungstyp rechtlich nicht gerechtfertigt ist
Agentforce \| Aufforderungsvorlage	✅ Fügen Sie explizite Anweisungen für Nichtdiskriminierung in Systemaufforderungen ein: “Behandeln Sie alle Kunden unabhängig von Name, Standort, Kommunikationsstil oder anderen Merkmalen mit der gleichen Professionalität. Treffen Sie niemals Annahmen über Kunden anhand demografischer Merkmale.”
Agentforce \| Agentenkonfiguration	✅ Test mit verschiedenen Personas vor der Produktion: Erstellen identischer Anforderungen, die nur demografische Signale variieren (Namen, die unterschiedliche Ethnien, Standorte, Kommunikationsstile angeben); Vergleichen von Antworten auf Qualität, Länge, Professionalität und Ergebnisse
Agentforce \| Agentenüberwachung	✅ Berechnen der Lösungsraten für Erstkontakte stratifiziert nach Kundensegment; Untersuchen, ob erhebliche Unterschiede zwischen Segmenten bestehen
Agentforce \| Agentenüberwachung	✅ Beispielhafte Agentenunterhaltungen über Segmente hinweg und Überprüfer können die Antwortqualität anhand konsistenter Dimensionen (Genauigkeit, Vollständigkeit, Professionalität, Hilfsbereitschaft) mit Inter-Rateer-Zuverlässigkeitstests bewerten
Agentforce \| Agentenüberwachung	✅ Verfolgen von Eskalationsraten, stratifiziert nach Kundendemografie; höhere Raten für bestimmte Segmente zeigen, dass Agenten für diese Benutzer weniger effektiv sind
Unternehmen \| Umfragen	✅ Befragen Sie Benutzer aus allen demografischen Gruppen und vergleichen Sie Zufriedenheitsbewertungen. Eine insgesamt hohe Zufriedenheit kann schlechte Erfahrungen für Minderheitengruppen maskieren

Antimuster

Wohin schauen	Wie schlecht sieht
Agentforce \| Agentenkonfiguration	⚠️ Aufnahme geschützter Merkmalsdaten (Behinderungsstatus, Religion, nationale Herkunft) in Agenteneingaben für Entscheidungen, bei denen diese Merkmale rechtlich nicht gerechtfertigt sind
Agentforce \| Aufforderungsvorlage	⚠️ Bereitstellen von Agenten ohne explizite Nichtdiskriminierungsanweisungen in Systemaufforderungen, die sich allein auf das Verhalten des Grundlagenmodells verlassen
Agentforce \| Agentenkonfiguration	⚠️ Testen von Agenten nur mit Personas mit Mehrheitsdemografie, fehlende Verzerrung gegenüber unterrepräsentierten Gruppen
Unternehmen \| Umfragen	⚠️ Vertrauen auf Gesamtzufriedenheitsbewertungen, die schlechte Erfahrungen für Minderheitengruppen übertönen, die von der Mehrheitszufriedenheit übertönt werden

Muster

Wohin schauen	Wie gut aussieht
Plattform \| LWC	✅ Stellen Sie für benutzerdefinierte Chat-Implementierungen Folgendes sicher: semantische HTML-Struktur mit richtigen Landmarken, ARIA-Live-Regionen, in denen neue Nachrichten angekündigt werden, Tastaturnavigation durch den Nachrichtenverlauf, klare Fokusindikatoren für interaktive Elemente
Plattform \| LWC	✅ Testen mit JAWS, NVDA und VoiceOver während der gesamten Entwicklung, nicht nur beim automatisierten Scannen
Agentforce \| Agentenkonfiguration	✅ Konfigurieren Sie Agentenantworten so, dass sie für allgemeine Zielgruppen unformatiert sind; vermeiden Sie Jargon und stellen Sie Glossare für unvermeidbare Fachbegriffe bereit; strukturieren Sie lange Antworten mit Überschriften und Aufzählungslisten
Agentforce \| Agentenkonfiguration	✅ Die Validierungsantwortqualität ist sprachübergreifend durch die Auswertung von Muttersprachlern vergleichbar, nicht nur durch automatisierte Kennzahlen, die kulturelle Nuancen übersehen
Agentforce \| Agentenkonfiguration	✅ Konfigurieren Sie für geschäftskritische Anwendungsfälle, die verschiedene Sprachpopulationen bedienen, die sprachspezifische Handhabung (Sprachvariablen, lokalisierte Eingabeaufforderungen, Knowledge nach Sprache) und validieren Sie die Qualität pro Sprache, statt sich ausschließlich auf die sprachübergreifende Übertragung des Grundlagenmodells zu verlassen

Antimuster

Wohin schauen	Wie schlecht sieht
Plattform \| LWC	⚠️ Erstellen von benutzerdefinierten Chat-Implementierungen ohne manuelle Tests für den barrierefreien Zugriff (basierend nur auf automatisiertem Scannen)
Agentforce \| Agentenkonfiguration	⚠️ Verwenden von Jargon und komplexer Sprache ohne Glossare zur Schaffung kognitiver Barrieren für Benutzer
Agentforce \| Agentenkonfiguration	⚠️ Ausschließliche Nutzung der sprachübergreifenden Übertragung von Grundlagenmodellen für Sprachen mit geringeren Ressourcen, wodurch Benutzer von Sprachen ohne Mehrheitssprachen eine schlechtere Qualität erhalten
Agentforce \| Agentenkonfiguration	⚠️ Validieren der mehrsprachigen Antwortqualität nur durch automatisierte Kennzahlen, die kulturelle Nuancen vermissen

Muster

Wohin schauen	Wie gut aussieht
Unternehmen \| Unternehmensführung	✅ Richten Sie ein Ethiküberprüfungsgremium mit der Durchsetzungsbehörde ein, bevor Sie Produktionsagenten bereitstellen
Unternehmen \| Unternehmensführung	✅ Definieren Sie obligatorische Bereitstellungs-Gates: Datenüberprüfung, Berechnung von Fairness-Kennzahlen und algorithmische Folgenabschätzung
Plattform \| CRM Analytics	✅ Erstellen von Dashboards zur Überwachung der Fairness vor der ersten Agentenbereitstellung in CRM Analytics
Plattform \| Ereignisüberwachung	✅ Aktivieren der Einstein Trust Layer-Aktivierungserfassung und Konfigurieren der Ereignisüberwachung für Agentenaktionen als Grundlage vor der Produktion
Unternehmen \| Unternehmensführung	✅ Implementieren automatisierter Fairness-Regressionstests in CI/CD-Pipelines für die Skalierung
Unternehmen \| Unternehmensführung	✅ Standardisieren von Einwilligungsverwaltungsmustern für alle neuen Agenten bei der Skalierung von Bereitstellungen
Plattform \| Integration	✅ Erstellen von Tools zur Rekonstruktion von Agentenentscheidungen, die Self-Service für Compliance-Teams ermöglichen

Antimuster

Wohin schauen	Wie schlecht sieht
Unternehmen \| Unternehmensführung	⚠️ Bereitstellen von Produktionsagenten vor der Einrichtung eines Ethik-Überprüfungsgremiums mit der Durchsetzungsbehörde
Unternehmen \| Unternehmensführung	⚠️ Fairness als nachträglicher Gedanke behandeln und nicht als obligatorisches Bereitstellungstor, das einer Sicherheitsüberprüfung entspricht
Unternehmen \| Unternehmensführung	⚠️ Überspringen algorithmischer Folgenabschätzungen vor dem Bereitstellen von Agenten, die Folgeentscheidungen treffen
Plattform \| CRM Analytics	⚠️ Bereitstellen des ersten Produktionsagenten ohne vorhandene Dashboards zur Überwachung der Fairness