Fairness für das Agentenunternehmen

Wenn autonome Agenten Entscheidungen treffen, die Kunden, Mitarbeiter und Communities betreffen, wird Fairness zur architektonischen Qualität, die verantwortliche Automatisierung von schädlicher Automatisierung unterscheidet. Agentforce Agenten, die mit eingeschränkter menschlicher Überwachung arbeiten, können Verzerrungen in einem noch nie dagewesenen Ausmaß beibehalten und verstärken, wodurch einzelne diskriminierende Muster in systemische Ungleichheit umgewandelt werden. Fairness in agentischen Systemen ist ein erstklassiges architektonisches Anliegen auf der Salesforce Platform, das AI-Fairness, Barrierefreiheit, menschliche Aufsicht, algorithmische Verantwortlichkeit und ethische Governance zu einer einheitlichen architektonischen Säule vereint.

Auf dieser Seite werden die Herausforderungen an die Fairness behandelt, die nur für Agentenarchitekturen gelten. Kernprinzipien der Fairness, Anforderungen an den barrierefreien Zugriff und Rahmen für ethische Unternehmensführung werden in der Säule Fairness behandelt. Hier konzentrieren wir uns auf Überlegungen zu autonomen Agenten: Die Verzerrungserkennung für Agenten, die konsequente Entscheidungen treffen, und Aufsichtsmuster, die darauf abzielen, die Rechenschaftspflicht substanziell und nicht nominell zu gestalten, Transparenz, die es betroffenen Benutzern ermöglicht, Entscheidungen anzufechten, und Plattformfunktionen wie die Einstein Trust Layer, die verantwortungsvolle AI-Praxis durch Datenkontrollen und Überprüfungsprotokollierung unterstützen.

Agentforce Agenten lernen Muster aus Trainingsdaten, Abrufquellen und realen Interaktionen kennen. Wenn diese Quellen Verzerrungen enthalten, die historische Diskriminierungen oder demografische Ungleichgewichte widerspiegeln, behalten Agenten diese Verzerrung mit algorithmischer Effizienz bei, die Tausende von Benutzern betrifft, bevor Menschen das Muster erkennen.

Grundlagenmodellverzerrung: Große Sprachmodelle werden anhand von Daten im Internet trainiert, die gesellschaftliche Verzerrungen in Bezug auf Rasse, Geschlecht, Alter, Behinderung und andere geschützte Merkmale enthalten. Diese Verzerrungen treten in Agentenantworten auch ohne explizite diskriminierende Anweisungen auf und werden wahrscheinlich nicht vollständig durch Prompt Engineering oder Tests behoben. Sie spiegeln Muster wider, die teilweise Trainingsdaten zur Internetskalierung innewohnen. Beispielsweise kann ein Agentforce-Anstellungsagent Führungsrollen mithilfe maskuliner Sprachmuster beschreiben. Oder ein Serviceagent reagiert möglicherweise anders auf Kunden, deren Name auf eine nicht mehrheitsbezogene Ethnie oder ein Geschlecht hinweist – ein repräsentatives Qualitätsproblem, das sich unabhängig von einem Entscheidungsergebnis auf die Kundenerfahrung auswirken kann.

Testen Sie Agenten systematisch auf demografische Verzerrungen, indem Sie verschiedene Personas verwenden, die geschützte Gruppen darstellen. Generieren Sie identische Anforderungen, die nur demografische Signale wie Namen, Standorte oder Kommunikationsstile variieren. Vergleichen Sie Agentenantworten über Personas hinweg auf Qualitätsunterschiede, Tonvariationen und Ergebnisunterschiede.

Schulungsdatendarstellungslücken: Wenn die historischen CRM-Daten (Customer Relationship Management) Ihrer Organisation bestimmte Kundensegmente unterrepräsentieren, schneiden Agentforce Agenten, die in diesen Daten geschult sind oder darauf basieren, in diesen Segmenten schlecht ab. Ein Leadbewertungsagent, der anhand von Opportunity-Daten aus zehn Jahren trainiert wurde, unterschätzt potenzielle Kunden systematisch aus Regionen, die Ihr Vertriebsteam historisch nicht priorisiert hat, wodurch eine Feedbackschleife entsteht, in der algorithmische Verzerrungen menschliche Verzerrungen verstärken.

Bevor Sie Salesforce-Daten für die Agentenschulung oder die Retrieval-Augmented Generation (RAG)-Kontextbildung verwenden, prüfen Sie die demografische Darstellung. Identifizieren Sie unterrepräsentierte Gruppen und bewerten Sie, ob Repräsentationslücken legitime Geschäftsunterschiede oder historische Diskriminierungen widerspiegeln. Reduzieren Sie Ungleichgewichte durch Datenvergrößerung oder explizite Verzerrungsminderung, bevor Sie Agenten bereitstellen. Einige verbleiben tendenziell und werden in der Regel durch nachgelagerte Überwachung und Aufsicht verwaltet, statt die gelöste Bereitstellung vorzubereiten.

Abrufverzerrung in RAG-Systemen: Agentforce-Agenten, die RAG-Bodenantworten in Knowledge Bases, Data 360-Segmenten und Salesforce-Datensätzen verwenden. Wenn diese Abrufquellen verzerrte Inhalte enthalten oder in der Qualität zwischen demografischen Gruppen variieren, kann der bereitgestellte Agent diese Verzerrung in die Erfahrungen der betroffenen Benutzer einfließen lassen. Überprüfen Sie Abrufquellen vor der Produktion als bewährte Vorgehensweise, um dieses Risiko zu reduzieren. Ein Serviceagent, der Knowledge-Artikel abruft, die eine detaillierte Fehlerbehebung für Unternehmenskunden bieten, aber nur allgemeine Antworten für Kleinunternehmenskunden, wird die Unterschiede bei der Servicequalität aufrechterhalten. Dies ist ein faires Anliegen, wenn die Kundenstufe mit geschützten Merkmalen korreliert.

Überprüfen Sie Knowledge Bases und Abrufquellen auf demografische Darstellungslücken und Qualitätsunterschiede. Wenn Lücken schwer zu schließen sind, behandeln Sie diese Einschränkungen als Leitplanken, wenn der Agent gut passt. Stellen Sie sicher, dass Qualität, Vollständigkeit und Genauigkeit der Dokumentation in allen Kundensegmenten vergleichbar sind. Fügen Sie verschiedene Darstellungen in Inhaltsbeispiele ein, statt standardmäßig Verweise auf die Mehrheitskultur zu verwenden, die unterrepräsentierte Benutzer verfremden.

Interaktionsmusterverzerrung: Agenten können das Verhalten anhand von Unterhaltungshinweisen anpassen, die mit geschützten Merkmalen korrelieren. Die Überwachung dieses Musters ist auch nach der Bereitstellung gängige Praxis, da einige Interaktionsdynamiken aus dem Benutzerverhalten hervorgehen, das in Trainingsdaten nicht vorhanden ist. Kommunikationsstil, Sprachkomplexität und Zeitpläne können demografische Informationen signalisieren. Ein Agent, der formale Kommunikationsstile anders behandelt als beiläufige Stile, kann versehentlich aufgrund des kulturellen Hintergrunds, des Bildungsniveaus oder des Status der Muttersprache diskriminieren.

Überwachen Sie Agenteninteraktionen über demografische Gruppen hinweg auf Verhaltenskonsistenz. Analysieren Sie die Antwortlänge, die Detailebene, die Höflichkeitsmarkierungen und die Lösungsqualität stratifiziert nach Benutzereigenschaften. Unterschiede deuten auf Interaktionsverzerrungen hin, die eine Untersuchung rechtfertigen.

Verstärkung der Feedbackschleife: Agenten, die ihre eigenen zukünftigen Trainingsdaten beeinflussen, führen zu einer sich selbst verstärkenden Verzerrung. Beispielsweise generiert ein Weiterleitungsagent, der bestimmten Vertriebsregionen weniger hochwertige Opportunities zuweist, weniger Erfolgsdaten für diese Regionen. Dies wiederum senkt ihre prognostizierte Erfolgswahrscheinlichkeit, was die zukünftige Opportunity-Weiterleitung an sie weiter reduziert. Ohne Intervention wird diese anfängliche Verzerrung im Laufe der Zeit verstärkt.

Erkennen Sie Feedbackschleifen, indem Sie Änderungen der Entscheidungsverteilung im Laufe der Zeit überwachen. Wenn bestimmte demografische Gruppen systematisch weniger positive Ergebnisse erhalten, untersuchen Sie, ob Agentenentscheidungen die Disparität verursachen, die künftige negative Entscheidungen rechtfertigt. Brechen Sie Schleifen durch die menschliche Überprüfung von Edge-Kundenvorgängen und regelmäßige Neuausrichtung auf.

Wenn mehrere Agentforce-Agenten in Orchestrierungsketten zusammenarbeiten, wird die Verzerrung eines Agenten zu einer Eingabe für nachgelagerte Agenten, was zu erschwerenden Effekten führt, bei denen kleine anfängliche Verzerrungen zu erheblichen diskriminierenden Ergebnissen führen.

Sequenzielle Agentenketten: Wenn die Ausgabe von Agent A zur Eingabe von Agent B wird, besteht die Gefahr, dass die verzerrten Entscheidungen von Agent A die Optionen von Agent B auf eine Weise einschränken, die Diskriminierungen aufrechterhalten oder verstärken.

Stellen Sie sich eine Leadqualifikationsorchestrierung vor:

Research Agent erfasst Kundenintelligenzen aus Webquellen und dem CRM-Verlauf.
Der Bewertungsagent weist die Leadbewertung anhand der Ergebnisse des Forschungsagenten zu.
Der Weiterleitungsagent weist den Lead basierend auf der Bewertung der Region zu.
Engagementagent personalisiert die Kontaktaufnahme anhand aller vorherigen Agentenausgaben.

Wenn Research Agent systematisch weniger umfassende Daten für bestimmte Kundendemografien abruft (aufgrund von Trainingsdatenlücken oder Abrufverzerrungen), interpretiert der Bewertungsagent unvollständige Informationen als negative Signale. Der Weiterleitungsagent wird dann einer Region mit niedrigerer Priorität zugewiesen und der Engagementagent bietet eine weniger personalisierte Kontaktaufnahme. Der zusammengesetzte Effekt führt zu Servicequalitätsunterschieden, die weit über die Verzerrung einzelner Agenten hinausgehen.

Konsens für parallele Agenten: Muster, bei denen mehrere Agenten unabhängig dieselbe Eingabe analysieren und Ergebnisse aggregiert werden, bieten Möglichkeiten zur Verzerrung, wenn Agenten Trainingsdaten oder Grundlagenmodelle freigeben.

Wenn fünf Agenten unabhängig voneinander einen Lead bewerten, alle jedoch verzerrte Trainingsdaten oder Verzerrungen des Grundlagenmodells verwenden, korrigiert der Konsens die Verzerrung nicht – er validiert sie lediglich. “Fünf Agenten haben zugestimmt” bietet falsches Vertrauen in diskriminierende Ergebnisse, wenn alle fünf dieselbe systematische Verzerrung aufweisen.

Abhilfestrategien für Orchestrierungsverzerrungen:

Agentenausgabeüberprüfung in jeder Phase: Protokollieren Sie vollständige Eingaben und Ausgaben für jeden Agenten in Orchestrierungsketten. Wenn eine Verzerrung in den endgültigen Ergebnissen erkannt wird, verfolgen Sie die Verzerrung rückwärts durch die Kette, um zu ermitteln, welcher Agent die Verzerrung eingeführt hat und in welcher Phase die Verstärkung erfolgte.

Erstellen Sie CRM Analytics-Dashboards, in denen Entscheidungsverteilungen in jeder Orchestrierungsphase nach demografischen Daten aufgeschlüsselt angezeigt werden. Identifizieren Sie, wo in der Kette Unterschiede auftreten oder sich ausweiten.

Vielfalt bei der Agentenschulung und -aufforderung – Vielfalt reduziert korrelierte Fehler, wodurch Verzerrungen unwahrscheinlicher werden. Maximieren Sie bei Verwendung von Konsensmustern mit mehreren Agenten die Vielfalt:
Unterschiedliche Grundlagenmodelle, sofern kommerziell machbar und unterstützt, beispielsweise durch Bring Your Own LLM-Konfigurationen (BYOLLM)
Unterschiedliche Abrufquellen zwischen Agenten
Unterschiedliche Ansätze für die Eingabeaufforderungstechnik
Unterschiedliche Konfidenzschwellenkalibrierungen
Menschliche Überprüfung an Wendepunkten: Identifizieren Sie Phasen in der Orchestrierung, in denen Entscheidungen die nachgelagerten Optionen erheblich einschränken. Fügen Sie an diesen Wendepunkten eine menschliche Überprüfung ein, selbst wenn das Vertrauen der einzelnen Agenten hoch ist. Die Orchestrierung erstellt auftauchende Effekte, die von einzelnen Agentenkonfidenzbewertungen nicht erfasst werden.
Fairness-Kennzahlen pro Orchestrierungsphase: Messen Sie nicht nur die Fairness der Endergebnisse. Berechnen Sie demografische Parität, Chancengleichheit und ungleiche Auswirkungen in jeder Phase der Kette.

Wenn Phase 1 eine demografische Parität von 90 %, Phase 2 eine Parität von 85 %, Phase 3 eine Parität von 78 % und Phase 4 eine Parität von 70 % anzeigt, erscheint jede Phase isoliert akzeptabel, führt jedoch zu einer inakzeptablen endgültigen Disparität. Stufenweise Kennzahlen erfassen die Verknüpfung, bevor sie diskriminierende Ergebnisse hervorruft.

Leistungsschalter für Orchestrierungsfehler – Konfigurieren Sie die Orchestrierungslogik so, dass sie angehalten und für Menschen eskaliert wird, wenn:
Die Agentenkonfidenz sinkt unter den Schwellenwert, auch wenn nachgelagerte Agenten zuversichtlich sind
Ausgabeverteilung ändert sich erheblich zwischen Orchestrierungsphasen
Entscheidungskette trifft auf Daten, die nicht in Schulungs- oder Validierungssets dargestellt sind
Der Benutzer stellt Zwischenentscheidungen explizit in Frage oder stellt sie in Frage

Die Orchestrierung mehrerer Agenten ermöglicht komplexe Argumentation, schafft jedoch opake Entscheidungsketten, in denen die Verantwortlichkeit diffus und verzerrend ist. Architektonische Aufmerksamkeit für die phasenweise Fairness-Überwachung und strategische menschliche Aufsicht verhindert, dass die Orchestrierung zu einem Mechanismus der Verzerrung wird.

Bevor Sie Agentforce Agenten bereitstellen, die Folgeentscheidungen über Benutzer treffen, sollten Sie Fairnesskennzahlen über demografische Gruppen hinweg berechnen. Legen Sie die Fairnessbewertung als obligatorisches Bereitstellungs-Gate fest, das der Sicherheitsüberprüfung entspricht.

Demografische Parität: Die positiven Ergebnisraten müssen zwischen geschützten demografischen Gruppen etwa gleich sein. Wenn ein Agent Serviceanforderungen für Gruppe A zu 60 %, Gruppe B zu 40 % genehmigt, wird gegen die demografische Parität verstoßen. Die demografische Parität ist angemessen, wenn es keinen legitimen Grund für gruppenübergreifende Ergebnisratenunterschiede gibt.

Berechnen Sie die demografische Parität, indem Sie die Population in demografische Segmente unterteilen, positive Ergebnisraten pro Segment messen und die Raten segmentübergreifend vergleichen. Dokumentparitätslücken bei benannten Genehmigern und Begründungen.

Opportunity: Richtig positive Raten bleiben gruppenübergreifend vergleichbar. Agenten identifizieren qualifizierte Einzelpersonen unabhängig von demografischen Merkmalen gleichermaßen gut. Ein Prognosemodell erkennt kreditwürdige Antragsteller zu ähnlichen Raten über geschützte Gruppen hinweg, wenn die zugrunde liegende Kreditwürdigkeit ähnlich ist.

Bei Entscheidungen über individuelle Qualifikationen, bei denen die Basissätze berechtigterweise abweichen können, ist die Chancengleichheit oft die geeignetere Kennzahl als die demografische Parität. Überwachen Sie, ob Agenten qualifizierte Kandidaten aus unterrepräsentierten Gruppen systematisch übersehen. Wenn nach der Abmilderung noch Unterschiede bestehen, ist der Agent möglicherweise nicht gut für diesen Anwendungsfall geeignet.

Gleiche Quoten: Sowohl die tatsächlich positiven als auch die falsch positiven Raten sind gruppenübergreifend gleich. Hierbei handelt es sich um eine strenge Definition, die sowohl wahrhaft positive als auch falsch positive Raten in Bezug auf demografische Daten einschränkt. Gleiche Quoten verhindern, dass sich verpasste Opportunities auf bestimmte Gruppen und falsche Anschuldigungen auf bestimmte Gruppen konzentrieren.

Zum Erreichen ausgeglichener Chancen sind oft separate Entscheidungsschwellenwerte pro demografischer Gruppe erforderlich. In den Vereinigten Staaten ist es bei beschäftigungsbezogenen Entscheidungen gemäß Titel VII (Civil Rights Act von 1964) verboten, Bewertungen anzupassen oder unterschiedliche Cutoff-Bewertungen nach geschützter Klasse festzulegen. Daher können ausgeglichene Quoten bei der Einstellung nicht verfolgt werden. In anderen Kontexten und in anderen Rechtsordnungen wirft sie rechtliche Fragen zur expliziten Differenzbehandlung auf. Wenden Sie sich daher an einen Rechtsbeistand, bevor Sie gruppenspezifische Schwellenwerte implementieren.

Verhältnis der ungleichen Auswirkungen: Die Vier-Fünftel-Regel enthält einen Screening-Schwellenwert: Wenn eine Gruppe positive Ergebnisse mit weniger als 80 % der Rate der Gruppe mit der höchsten Leistung erhält, untersuchen Sie die Verzerrung. Eine 75 %-Quote (beispielsweise eine Genehmigungsrate von 45 % gegenüber einer Genehmigungsrate von 60 %) liegt unter dem Vier-Fünftel-Schwellenwert und deutet auf eine potenzielle Diskriminierung hin, die gerechtfertigt oder abgemildert werden muss.

Disparate Auswirkungsanalysen sind im Arbeitsrecht Standard und werden zunehmend auf AI-Systeme angewendet. Wenn die Rationen unter 80 % fallen, dokumentieren Sie Untersuchungs- und Korrekturschritte. Wenn die Korrektur das Verhältnis nicht anhebt, können Teams zu dem Schluss kommen, dass der Anwendungsfall nicht passt.

Individuelle Fairness: Ähnliche Personen erhalten ähnliche Prognosen unabhängig von der Gruppenmitgliedschaft. Zwei Kunden mit identischer Bonität, Kaufhistorie und identischem Engagement erhalten unabhängig von demografischen Unterschieden ähnliche Empfehlungen zur Kreditobergrenze.

Individuelle Fairness ist philosophisch wichtig, aber operativ herausfordernd, da “Ähnlichkeit” subjektiv und kontextabhängig ist. Verwenden Sie die individuelle Fairness als Designprinzip, das die Auswahl und Prüfung von Funktionen steuert, und nicht als strenge mathematische Einschränkung.

Zwei Plattformfunktionen erfassen Daten zur Verzerrungserkennung. Die Einstein Trust Layer zeichnet für jede Agentforce Interaktion einen generative-AI-Aktivierungsprotokoll auf: die an das Modell gesendeten Aufforderungen, die zurückgegebenen Antworten, die verwendeten Erdungsquellen und Trust Signale wie Toxizitätsbewertungen. Das Agentforce Session Tracing zeichnet die schrittweisen Überlegungen zu jeder Entscheidung auf. Zusammen stellen sie Daten bereit, die die Verzerrungserkennung und Fairnessüberwachung unterstützen. Die Interpretation dieser Daten ist menschliche Arbeit und erfordert in der Regel geschulte Überprüfer und engagierte Zeit.

Antwortprotokollierung: Trust Layer protokolliert die Aufforderungen, Modellantworten und Trust Signale für jede generative Interaktion. Verwenden Sie diese Daten, um Prognoseverteilungen über demografische Gruppen hinweg zu analysieren. Erstellen Sie CRM Analytics-Dashboards, die Genehmigungsraten, Empfehlungsmuster und Risikobewertungen nach Kundensegment vergleichen.

Query Trust Layer protokolliert regelmäßig: Verwenden Sie die folgende Aufforderung: “Zeigen Sie mir alle Opportunity-Prognosen mit hohem Wert in den letzten 30 Tagen gruppiert nach Kundenbranche, Region und Accountgröße an. Sind Prognoseverteilungen segmentübergreifend konsistent oder werden bestimmte Segmente systematisch höher/niedriger bewertet?”

Grundlegende Verfolgungserfassung: Agentforce Agenten erfassen im Rahmen des Agentforce Session Tracing, wie der Agent ihre Entscheidung getroffen hat, während im Trust Layer-Aktivierungsprotokoll die Aufforderungen, Antworten und Kontextquellen erfasst werden, einschließlich der Knowledge-Artikel und Salesforce-Datensätze. Überprüfen Sie beides, wenn Benutzer Verzerrungen melden, um zu verstehen, welche Datenquellen, Abrufmuster oder Argumentationsschritte möglicherweise zu Verzerrungen geführt haben.

Mithilfe von Argumentationsprotokollen können nachträgliche Fairness-Aktivierungen genauer und einfacher durchgeführt werden als bei herkömmlichen Systemen. Nehmen Sie eine Stichprobe von 100 Agentenentscheidungen vor, die nach demografischer Gruppe stratifiziert sind, und lassen Sie Überprüfer beurteilen, ob die Argumentationsqualität gruppenübergreifend vergleichbar ist.

Anomalieerkennung: Konfigurieren Sie Benachrichtigungen, wenn Agentenentscheidungsmuster erheblich von der Grundlage abweichen. Wenn die Genehmigungsraten für ein bestimmtes Kundensegment von Woche zu Woche um 20 % sinken, lösen Sie eine Untersuchung aus. Plötzliche Verteilungsverschiebungen können auf Datenqualitätsprobleme, Modellabweichungen oder auftretende Verzerrungen hindeuten, die sofortige Aufmerksamkeit erfordern.

Erstellen einer benutzerdefinierten Überwachung zur Warnung bei Fairnesssignalen: “Benachrichtigen Sie uns, wenn die durchschnittliche Unterhaltungsdauer von Agentforce Serviceagenten für ein Kundensegment an drei aufeinanderfolgenden Tagen das 1,5-fache des Gesamtdurchschnitts überschreitet.” Längenunterschiede können auf bestimmte Gruppen hindeuten, die einen weniger effektiven Service erhalten.

Dashboard-Vorlagen für Fairness: Erstellen Sie wiederverwendbare CRM Analytics-Dashboard-Vorlagen, die Fairness-Kennzahlen für allgemeine Agentenanwendungsfälle verfolgen. Schließen Sie Berechnungen der demografischen Parität, Kennzahlen zur Chancengleichheit, ungleiche Auswirkungsverhältnisse und Trenddiagramme ein, die die Entwicklung der Kennzahlen im Zeitverlauf darstellen. Geben Sie Vorlagen für Agentenentwicklungsteams frei, um die Fairnessüberwachung zu standardisieren.

Wenn eine Verzerrung erkannt wird, wenden Sie die Abhilfe in der entsprechenden Phase basierend auf der Ursache an.

Dateninterventionen vor der Verarbeitung: Korrigieren Sie die Verzerrung auf Datenebene vor dem Agententraining oder der RAG-Indizierung. Eine Überstichprobe unterrepräsentierter demografischer Gruppen in Trainingsdaten gewährleistet eine ausgewogene Darstellung. Synthetisieren Sie zusätzliche Daten für unterrepräsentierte Gruppen mithilfe von Techniken wie Synthetic Minority Oversampling Technique (SMOTE), wenn reale Daten nicht ausreichen. Beachten Sie, dass SMOTE numerische, tabellarische Funktionen interpoliert, also für strukturierte CRM-Trainingsdaten gilt, nicht für den unstrukturierten Text, der für die RAG-Kontextbildung verwendet wird.

Überprüfen Sie Salesforce CRM-Daten auf demografische Lücken, bevor Sie sie für die Modellschulung verwenden. Wenn historische Opportunity-Daten bestimmte Kundentypen überrepräsentieren, sollten Sie Trainingssätze neu abstimmen oder Stichprobengewichtungen verwenden, um zu verhindern, dass Agenten diese Überrepräsentation als Entscheidungssignal erfahren.

Einschränkungen des Verarbeitungsalgorithmus: Wenden Sie während des Modelltrainings Fairnesseinschränkungen an, die gleichzeitig auf Genauigkeit und Gleichberechtigung hin optimiert werden. Dies kann die Rohgenauigkeit um 2-3 % reduzieren und gleichzeitig die Fairness zwischen Gruppen erheblich verbessern. Wenn Sie das Modelltraining steuern, ist das fairitätsbeschränkte Training oft der effektivste Ansatz zur Eindämmung.

Wenn Agentforce Agenten Grundlagenmodelle verwenden, bei denen Sie das Training nicht ändern können, schränken Sie das Verhalten von Agenten durch Systemaufforderungen ein: “Behandeln Sie alle Kundendemografien mit der gleichen Professionalität und Detailgenauigkeit. Stellen Sie Erklärungen von vergleichbarer Länge und Qualität bereit, unabhängig vom Kommunikationsstil oder Hintergrund des Kunden.”

Schwellenwertanpassung nach der Verarbeitung: Wenn dies rechtmäßig ist, kann die Anpassung der Entscheidungsschwellenwerte pro demografischer Gruppe die Ergebnisraten nach dem Modelltraining angleichen. Ein Genehmigungsagent wendet beispielsweise einen Konfidenzschwellenwert von 80 % für eine Gruppe und einen Schwellenwert von 75 % für eine andere Gruppe an, um die zugrunde liegende Modellverzerrung auszugleichen. Antidiskriminierungsgesetze schränken diese Technik stark ein und einige Rechtsordnungen verbieten sie für bestimmte Entscheidungen (siehe unten).

Die Schwellenwertanpassung ist umstritten, da sie Gruppen explizit unterschiedlich behandelt und durch Antidiskriminierungsgesetze in vielen Ländern eingeschränkt oder verboten wird. In den USA ist es für beschäftigungsbezogene Entscheidungen grundsätzlich verboten: Titel VII (Civil Rights Act von 1964) verbirgt die Anpassung von Bewertungen oder die Verwendung unterschiedlicher Cutoff-Bewertungen nach geschützter Klasse, und keine ausreichend dokumentierte Begründung macht die Praxis rechtmäßig. Andere Rechtsordnungen weisen ihre eigenen Einschränkungen auf. Bestätigen Sie daher die Regeln, die für Ihre Benutzer gelten. Dokumentieren Sie bei der Implementierung gruppenspezifischer Schwellenwerte die rechtliche Rechtfertigung und validieren Sie, dass Schwellenwerte die Fairness erhöhen, ohne andere diskriminierende Auswirkungen zu haben.

Erkennung und Entfernung von Proxy-Funktionen: Identifizieren Sie Funktionen, die mit geschützten Merkmalen korrelieren und als indirekte Diskriminierungsmechanismen dienen. Allgemeine Proxys:
**Postleitzahlen-**Proxys für Rasse, ethnische Zugehörigkeit und Einkommensstufe
**Namensmuster-**Proxy für Geschlecht und ethnische Zugehörigkeit
**Kommunikationszeitraum-**Proxys für Religion und Fürsorgeaufgaben
**Gerätetyp-**Proxys für die Einkommensstufe
Regionszuweisung kann Proxy für demografische Zusammensetzung sein

Berechnen Sie Korrelationskoeffizienten zwischen allen Modellfunktionen und geschützten Merkmalen. Bewerten Sie bei stark korrelierten Funktionen, ob der legitime Prognosewert die Einbeziehung rechtfertigt oder ob alternative Funktionen eine ähnliche Prognose ohne Proxy-Effekte bereitstellen könnten.

Agentforce-Agenten können mit menschlicher Aufsicht arbeiten, um die Überprüfung substanziell und nicht nominal zu gestalten. Die geeignete Aufsichtsebene hängt von den Entscheidungsfeldern, der Reversibilität und den regulatorischen Anforderungen ab.

Leiten Sie Folgeentscheidungen vor der Ausführung durch eine menschliche Überprüfung weiter. Ob eine Entscheidung mit hohem Einsatz genug ist, um eine menschliche Überprüfung zu rechtfertigen, ist ein risikobasiertes Urteil: Abwägen des Schweregrads des potenziellen Schadens und der Wahrscheinlichkeit, dass dieser Schaden auftritt. Konsequente Entscheidungen werden oft in regulierten Bereichen wie dem Gesundheitswesen, Finanzdienstleistungen und dem öffentlichen Sektor getroffen, aber auch außerhalb. Allgemeine Kontexte mit hohem Einsatz:

Beschäftigungsentscheidungen – Einstellung, Höherstufung, Kündigung, Vergütung, Leistungsüberprüfung
Kredit- und Finanzdienstleistungen – Kreditgenehmigungen, Limitänderungen, Kontoschließungen, Preise
Gesundheitswesen – Diagnosevorschläge, Behandlungsempfehlungen, Abdeckungsentscheidungen
Rechte – Vertragsinterpretation, Streitbeilegung, Zugang zu Services
Wohnungsbau - Mieterscreening, Mietgenehmigungen, Räumungsempfehlungen

Legen Sie fest, dass Agentforce-Agenten in diesen Kontexten Entscheidungen analysieren, empfehlen und vorbereiten können, während sie vor der Ausführung die Genehmigung der Mitarbeiter benötigen. Positionieren Sie Agenten als Tools zur Entscheidungsunterstützung, die das menschliche Urteilsvermögen erhöhen, und nicht als autonome Entscheidungsträger, die Menschen ersetzen.

Konfidenzschwellenwerte konfigurieren, die basierend auf der Unsicherheit des Agenten eine menschliche Überprüfung auslösen:

Hohe Konfidenz (>90 %) – Agent fährt autonom mit vollständiger Auditprotokollierung fort
Moderate Konfidenz (70–90 %) – Der Agent empfiehlt mit menschlicher Überprüfung vor der Aktion
Geringe Konfidenz (<70 %) – Agent wird vollständig auf Mensch mit Kontextzusammenfassung zurückgestellt

Kalibrieren Sie Schwellenwerte mithilfe von Produktionsdaten. Eine “70 % Konfidenz”-Prognose ist bei der Validierung in etwa 70 % der Fälle erfolgreich. Falsch kalibrierte Konfidenzbewertungen untergraben Trust in Eskalationsmechanismen.

Testen Sie die Kalibrierung, indem Sie Agentenentscheidungen in jedem Konfidenzband abtasten und die tatsächlichen Erfolgsraten berechnen. Wenn Entscheidungen mit hoher Konfidenz nur 75 % der Fälle erfolgreich sind, sollten Sie Schwellenwerte neu kalibrieren oder die Modellkonfidenzschätzung verbessern.

Wenn Agentforce eine Anforderung nicht innerhalb definierter Grenzen lösen kann, eskalieren Sie sie zu “Menschen”. Überprüfen Sie, ob das Eskalationsziel über Kapazitäten zur Unterstützung verfügt – die Weiterleitung an überlastete Warteschlangen verringert nicht den Schaden.

Legen Sie Eskalationsauslöser fest:

Unterhaltungsrunden: Nach 5-7 Runden ohne Auflösung eskalieren
Verstrichene Zeit: Nach 10 Minuten ohne Auflösung eskalieren
Benutzerstimmung: Wenn der Benutzer Frustration ausdrückt, eskaliert er
Wiederholungserkennung: Wenn Agent dieselbe Antwort wiederholt, eskaliert

Konfigurieren Sie Omnikanal so, dass eskalierte Kundenvorgänge an die entsprechenden fertigkeitsbasierten Warteschlangen mit vollständigem Unterhaltungskontext weitergeleitet werden. Trainieren Sie menschliche Agenten im effizienten Umgang mit Eskalationen, ohne dass Benutzer die dem Agenten bereits bereitgestellten Informationen wiederholen müssen.

Legen Sie fest, dass autorisierte Personen Agentforce-Entscheidungen jederzeit mit dokumentierten Gründen überschreiben können. Überschreibungen dienen mehreren Zwecken:

Fehlerkorrektur: Menschen korrigieren Agentenfehler, die Benutzern schaden oder gegen Richtlinien verstoßen würden. Die Überschreibungsfunktion bietet ein Sicherheitsventil für autonome Systeme, die in komplexen Umgebungen arbeiten, in denen Randfälle unvermeidbar sind.
Bias-Erkennung: Wenn Agentforce-Ablehnungen bei bestimmten demografischen Daten häufiger überschrieben werden als andere, sollten Sie beide Möglichkeiten prüfen: Der Agent kann diese Gruppe systematisch benachteiligen und Menschen korrigieren oder Überschreibungen können neue Verzerrungen einführen. Das erste Muster verweist auf die Überprüfung des Agenten, das zweite auf die Schulung des Überprüfers.
Agentenverbesserung: Überschreibungen mit Begründungen werden zu Trainingsdaten für die Agentenverbesserung. Hier finden Sie überschriebene Entscheidungen und analysieren, warum Menschen mit Agenten nicht einverstanden sind. Integrieren Sie Überschreibungsmuster in die Aufforderungsverfeinerung oder die Modellneuschulung.
Rechenschaftspflicht: Überschreibungen weisen die Rechenschaftspflicht zu. Die Person, die eine Agentenentscheidung überschreibt, übernimmt die Verantwortung für die Ergebnisse dieser Entscheidung. Eine klare Verantwortlichkeit verhindert die Verteilung der Verantwortung, wenn alle davon ausgehen, dass die AI verantwortlich ist und niemand die Verantwortung übernimmt.

Weisen Sie die Rechenschaftspflicht vor der Bereitstellung zu, nicht nach Vorfällen:

Modellinhaber: Der Data Science-Lead, der für Fairness, Genauigkeit und Verhalten des Modells verantwortlich ist. Genehmigt Bereitstellungen, reagiert auf Fairnesswarnungen und autorisiert Aktualisierungen. Der Modellinhaber ist eine benannte Person, die in Architekturentscheidungsdatensätzen dokumentiert ist.
Entscheidungsinhaber: Produktinhaber, der dafür verantwortlich ist, AI für einen bestimmten Anwendungsfall bereitzustellen, und für die Auswirkungen auf Kunden in der Praxis. Der Entscheidungsinhaber kann die Rechenschaftspflicht nicht an AI-Systeme delegieren.
Berufungsbehörde: Das Ethiküberprüfungsgremium oder das benannte Team bearbeitet Beschwerden von Benutzern, die glauben, dass Agentenentscheidungen unfair waren. Berufungsprozesse müssen zugänglich, zeitnah und befähigt sein, Agentenentscheidungen rückgängig zu machen.
Prüfbehörde: Das Compliance-Team, das regelmäßige Audits durchführt, bei denen Agenten validiert werden, arbeitet innerhalb der Fairness-Parameter und kann Agenten, bei denen Standards nicht eingehalten werden, bis zur Behebung aussetzen.

Dokumentieren Sie alle Rollen mit Namen und nicht nur Titeln, um sicherzustellen, dass die Rechenschaftspflicht durch organisatorische Änderungen erhalten bleibt.

Wenn Agentforce Agenten Entscheidungen treffen, die Benutzer betreffen, verdienen diese Benutzer verständliche Erklärungen, die proportional zu den Auswirkungen der Entscheidung sind.

Architekt mehrerer Erklärungsebenen für unterschiedliche Zielgruppen:

Benutzerseitige Erläuterungen: Argumentation in einfacher Sprache ohne Fachkenntnisse verständlich. “Ihre Serviceanforderung erfordert die Genehmigung des Vorgesetzten, da der angeforderte Betrag (12 000 EUR) Ihre Autorisierungsobergrenze (10.000 EUR) überschreitet. Die Genehmigung durch den Vorgesetzten erfolgt in der Regel innerhalb von 24 Stunden oder im Rahmen Ihres vereinbarten Service Level Agreement (SLA).”
Geschäftserklärungen: Operativen Benutzern werden wichtige Entscheidungsfaktoren mit Geschäftskontext angezeigt. “Leadbewertung: 73/100. Primäre positive Faktoren: Unternehmensgröße (500 Mitarbeiter), Aktives Website-Engagement (12 Besuche in 30 Tagen), Branchenübereinstimmung (SaaS). Primäre negative Faktoren: Kein MQL-Engagement, außerhalb der Zielregion.”
Technische Erklärungen: Datenwissenschaftlern werden Modelldetails angezeigt: Funktionsgewichtungen, Konfidenzkalibrierung, Modellversion, Trainingsdatum, Eingabeverteilungen. Technische Erklärungen unterstützen Debugging und Verzerrungsuntersuchungen.
Prüfungserklärungen: Compliance-Teams werden vollständige Entscheidungsverfolgungen angezeigt: Modellversion, genaue Eingabewerte zum Zeitpunkt der Entscheidung, alle abgefragten Datenquellen, Argumentationsverfolgung, Konfigurationsstatus. Auditerklärungen unterstützen behördliche Untersuchungen und Fairness-Überprüfungen, die eine genaue Rekonstruktion erfordern.

Das Agentforce Session Tracing zeichnet die schrittweisen Überlegungen zu Agentenentscheidungen auf, während die Einstein Trust Layer den Aufforderungs- und Antwort-Aktivierungsprotokoll, einschließlich der Verknüpfungsquellen, erfasst. Zusammen ermöglichen sie Ihnen Transparenz auf den entsprechenden Detailebenen:

Echtzeittransparenz: Wenn Agentforce eine Entscheidung trifft, zeigen Sie Benutzern Zusammenfassungsansätze an: “Ich habe Produkt A basierend auf Ihrem Kaufverlauf (3 ähnliche Käufe), dem aktuellen Sonderangebot (20 % Rabatt) und der Inventarverfügbarkeit (auf Lager, morgen lieferbar) empfohlen.”
Detaillierte On-Demand-Erläuterung: Geben Sie “Warum haben Sie dies empfohlen?” Link, der es Benutzern ermöglicht, die vollständige Argumentation einschließlich aller abgerufenen Knowledge-Artikel, der konsultierten Salesforce-Datensätze und der Entscheidungslogik anzuzeigen. Detaillierte Erläuterungen schaffen Trust und ermöglichen es Benutzern, Fehler oder Verzerrungen zu erkennen.
Historische Rekonstruktion: Wenn Benutzer vergangene Entscheidungen Wochen oder Monate später anfechten, rufen Sie Sitzungsansätze und den Trust Layer-Aktivierungsverlauf ab, um historische Entscheidungen genau zu erklären. Die historische Rekonstruktion unterstützt Berufungen und behördliche Untersuchungen.
Aggregierte Musteranalyse: Beispiel für Argumentationsverfolgungen, stratifiziert nach demografischen Gruppen, um zu analysieren, ob die Entscheidungsqualität konsistent ist. Überprüfen Sie 100 Spuren aus jedem Kundensegment und beurteilen Sie, ob Argumentationstiefe, Quellqualität und Logik gruppenübergreifend vergleichbar sind.

Zeigen Sie die Prognosekonfidenz in benutzergerechten Begriffen an, um zu vermeiden, dass grobe Wahrscheinlichkeitsbewertungen von Benutzern falsch interpretiert werden.

Statt “73 % Vertrauen” kommunizieren Sie Vertrauen wie folgt:

Hohes Vertrauen – “Ich bin sicher, dass diese Empfehlung aufgrund ähnlicher Fälle angemessen ist”
Moderate Konfidenz – “Diese Empfehlung ist wahrscheinlich angemessen, aber Managerüberprüfung wird empfohlen”
Geringe Zuversicht: “Diese Situation ist ungewöhnlich. Ich eskaliere zu einem Spezialisten, der eine bessere Anleitung bereitstellen kann”

Erläutern Sie, was Konfidenzniveau für die Zuverlässigkeit bedeutet: “Empfehlungen mit hoher Konfidenz sind laut historischer Validierung in etwa 95 % der Fälle richtig.”

Erläutern Sie bei Entscheidungen mit moderatem oder niedrigem Konfidenzniveau, welche zusätzliche Überprüfung erfolgen soll: “Da diese Anforderung außerhalb unserer Standardparameter liegt, wird sie von einem leitenden Spezialisten überprüft, dessen Genehmigung in der Regel innerhalb von 24 Stunden oder innerhalb Ihres vereinbarten Service Level Agreement (SLA) abgeschlossen ist.”

Zeigen Sie Benutzern gegebenenfalls an, was das Ergebnis ändern würde. Mithilfe von Kontrafakten können Benutzer Ergebnisse durch bestimmte Aktionen verbessern, statt sie nur über bereits getroffene Entscheidungen zu informieren.

Beispiel: “Ihre Leadbewertung würde mit überprüften Beschäftigungsinformationen (+8 Punkte) und zusätzlichen Kreditverweisen (+5 Punkte) steigen. Wenn Sie diese Dokumentation bereitstellen, wird Ihre Anwendung in die Warteschlange für die Prioritätsüberprüfung verschoben.”

Kontrafaktoren sind leistungsstarke Transparenzmechanismen, die jedoch sorgfältig konzipiert werden müssen. Vermeiden Sie die Bereitstellung von Kontrafakten, die das Spielen des Systems fördern oder versehentlich geschützte Eigenschaften als Entscheidungsfaktoren offenbaren. “Ihr Antrag würde höher abschneiden, wenn Sie 10 Jahre jünger wären” ist illegale Diskriminierung und keine hilfreiche Transparenz.

In einigen Ländern ist die klare Offenlegung, dass Benutzer mit einem Bot interagieren, eine gesetzliche Anforderung und nicht nur eine bewährte Vorgehensweise für das Design. Geben Sie deutlich an, wann Benutzer mit Agentforce Agenten und nicht mit menschlichen Agenten interagieren. Die Offenlegung muss deutlich sichtbar und kontinuierlich sein, darf nicht in Bezug auf den Service vergraben oder nur einmal zu Beginn der Interaktion angezeigt werden.

Anzeigen persistenter visueller Indikatoren:

Agentenavatar deutlich mit “AI-Assistent” gekennzeichnet
Kopfzeile mit “Sie chatten mit einem Agentforce Serviceagenten”
Option ‘Mit menschlichem Agenten verbinden’ in der Unterhaltung sichtbar

Bei der Offenlegung wird die Benutzerautonomie berücksichtigt, sodass eine fundierte Auswahl über den Interaktionsmodus möglich ist. Benutzer, die menschliche Interaktion bevorzugen, müssen über diese Option verfügen, ohne dass Reibungs- oder Servicequalitätseinbußen auftreten.

Salesforce Platform-Funktionen wie die Ereignisüberwachung und das Feld-Aktivierungsprotokoll, die vor der Agenten-AI stehen, erweitern die algorithmische Rechenschaftspflicht auf die Entscheidungen, die einzelne Agenten treffen.

Ereignisüberwachung für Agentenaktionen: Die Ereignisüberwachung erfasst den Zugriff auf Agentendaten, API-Aufrufe und Systemänderungen mit der von Salesforce gesteuerten Integrität. Streamen Sie Ereignisüberwachungsprotokolle an externe SIEM-Systeme, um Nachweise für die langfristige Aufbewahrung und Manipulationen zu erhalten, die die gesetzlichen Anforderungen für Folgeentscheidungen erfüllen.

Konfigurieren Sie die Ereignisüberwachung so, dass Folgendes verfolgt wird:

API-Ereignisprotokolle mit Agentensysteminteraktionen
Anmeldeereignisse für Agentenservice-Accounts
Berichtexporte, wenn Agenten auf Massendaten zugreifen
Field Audit Trail für AI-beeinflusste Daten: Im Standardfeldverlauf werden Datenänderungen 18 Monate lang (24 Monate über die API) beibehalten. Mit dem Feld-Aktivierungsprotokoll können Sie den Feldverlauf unbegrenzt speichern – nach bis zu 18 Monaten archivieren und dann die archivierten Daten bis zur Löschung aufbewahren – und langfristige Fairness-Aktivierungen und behördliche Untersuchungen unterstützen. Aktivieren Sie “Feld-Aktivierungsprotokoll” für die Objekte, die Agentenentscheidungen speichern oder von ihnen beeinflusst werden, und wählen Sie aus den Standardobjekten “Feld-Aktivierungsprotokoll” und allen benutzerdefinierten Objekten mit aktivierter Feldverlaufsverfolgung (bis zu 200 Felder pro Objekt) aus.

Bei Kreditentscheidungen, Beschäftigungsentscheidungen und anderen Anwendungsfällen mit hohem Einsatz kann eine mehrjährige Aufbewahrung gesetzlich vorgeschrieben sein. Aufbewahrungszeiträume variieren je nach Regime. Bestätigen Sie die entsprechende Anforderung für Ihren Anwendungsfall.

Shield-Ereignisüberwachung für höchste Einsätze: Die Shield-Ereignisüberwachung bietet erweiterte Überwachungsfunktionen mit strukturierten Ereignisfeldern und Integration in Compliance-Berichtstools. Ereignisprotokolldatei-Daten werden standardmäßig für ein Jahr für Ereignisüberwachungs- und Shield-Kunden gespeichert. Verwenden Sie Shield für Agentenentscheidungen mit dem höchsten Anteil, bei denen die Integrität des Prüfprotokolls entscheidend ist.

Speichern Sie ausreichende Informationen, um eine historische Agentenentscheidung genau zu rekonstruieren:

Modellversion: Zeichnen Sie auf, welche Modellversion (Grundlagenmodell, Aufforderungsversion, optimierte Modell-ID) die jeweilige Entscheidung getroffen hat. Modellversionen ändern sich häufig und erzeugen unterschiedliche Ausgaben. Die genaue Versionsverfolgung ermöglicht die Ursachenanalyse, wenn Verzerrungen festgestellt werden.
Eingabefunktionswerte: Speichern Sie genaue Eingabewerte zum Zeitpunkt der Entscheidung, keine aktuellen Werte, die sich möglicherweise geändert haben. Mithilfe von Eingabe-Snapshots können Sie testen, ob eine Entscheidung mit den aktuellen Daten abweicht, oder überprüfen, ob die ursprüngliche Entscheidung richtig war, wenn die Informationen zu diesem Zeitpunkt verfügbar sind.
Konfigurationsstatus: Datensatzschwellenwerte, Geschäftsregeln und Parametereinstellungen, die zum Zeitpunkt der Entscheidung aktiv sind. Konfigurationsänderungen wirken sich auf die Ergebnisse aus. Mit dem Konfigurationsverlauf kann bestimmt werden, ob die Entscheidungsabweichung Modelländerungen oder Konfigurationsänderungen widerspiegelt.
Umweltkontext: Erfassen des relevanten Kontexts: Benutzeridentität, Zeitstempel, Unterhaltungsverlauf, Sitzungskontext. Kontext wirkt sich auf das Agentenverhalten aus und muss für eine genaue Rekonstruktion beibehalten werden.

Die Verzerrungserkennung muss kontinuierlich sein und darf nicht vor der Bereitstellung einmalig validiert werden. Agenten entwickeln sich durch Aufforderungsaktualisierungen, Änderungen an der Basismodellversion und sich verschiebende Datenverteilungen weiter.

Dashboards für Fairness-Kennzahlen: Erstellen Sie CRM Analytics-Dashboards, die Fairnesskennzahlen aus Einstein Trust Layer-Protokollen verfolgen. Überwachen Sie die demografische Parität, die Chancengleichheit und die ungleichen Auswirkungen kontinuierlich. Konfigurieren Sie Benachrichtigungen, wenn Kennzahlen definierte Schwellenwerte überschreiten.

Erstellen Sie ein Dashboard, das Folgendes anzeigt:

Entscheidungsverteilung nach demografischen Kundensegmenten (Balkendiagramme)
Fairnesskennzahlen im Zeitverlauf (Trendlinien mit Warnschwellenwerten)
Berechnungen der ungleichen Auswirkungsquote mit Vier-Fünftel-Regelindikator
Wichtigste Prädiktoren, die zu Entscheidungen beitragen, wenn sie vom zugrunde liegenden Modell zur Verfügung gestellt werden
Überschreibungsrate nach demografischer Gruppe
Erkennung von Verteilungsschichten: Überwachen Sie Agenteneingabeverteilungen auf Änderungen, die auf potenzielle Fairnessprobleme hinweisen. Wenn sich die demografische Zusammensetzung der Benutzer, die Agentenentscheidungen erhalten, erheblich von den demografischen Trainingsdaten ändert, kann die Modellgerechtigkeit beeinträchtigt werden.

Benachrichtigung bei Änderung der Eingabeverteilungen: “Die Verteilung des Kundensegments für die Agentforce-Leadweiterleitung hat sich in den letzten 30 Tagen um 15 % in Richtung Enterprise verschoben. Überprüfen Sie, ob die Weiterleitungslogik für KMU-Kunden, die jetzt unterschiedliche Servicemuster erhalten, fair bleibt.”

Integration von Benutzerfeedback: Ermöglichen Sie es Benutzern, wahrgenommene Verzerrungen über barrierefreie Mechanismen zu melden. In Benutzerberichten werden qualitative Probleme aufgedeckt, die bei quantitativen Kennzahlen fehlen.

Fügen Sie der Chat-Oberfläche von Agentforce die Option “Anliegen melden” hinzu. Leiten Sie Berichte mit vollständigem Unterhaltungskontext an das Ethiküberprüfungsgremium weiter. Verfolgen Sie Berichte in einem benutzerdefinierten Objekt mit einem erforderlichen Untersuchungs-Workflow und dokumentierter Lösung.

Entwerfen Sie Agentenarchitekturen, die externe Prüfungen durch Regulierungsbehörden, Bürgerrechtsorganisationen oder Kunden antizipieren, die Vorführungen zur algorithmischen Rechenschaftspflicht erfordern.

Exportfunktionen: Erstellen Sie Exportfunktionen, mit denen Compliance-Teams vollständige Entscheidungsdatensets mit demografischer Stratifizierung extrahieren können, um externe Prüfer zu überprüfen. Exporteure müssen die Datenschutzbestimmungen einhalten und gleichzeitig für ausreichende Transparenz bei der Validierung der Fairness sorgen.
Aktivierungsdokumentation: Aktuelle Dokumentation pflegen:
Agentenzweck und vorgesehene Anwendungsfälle
Trainingsdatendemografie und bekannte Einschränkungen
Fairness-Kennzahlen, die vor der Bereitstellung und in der Produktion berechnet wurden
Angewendete Strategien zur Verzerrungsminderung
Konfigurationen der menschlichen Aufsicht
Überwachungsansatz und Warnschwellenwerte
Zuweisungen zur Rechenschaftspflicht (Modellinhaber, Entscheidungsinhaber, Beschwerdebehörde)
Algorithmische Folgenabschätzungen: Führen Sie vor dem Bereitstellen von Agenten, die Folgeentscheidungen treffen, Folgenabschätzungen durch, um potenzielle positive und negative Auswirkungen auf alle Beteiligtengruppen zu bewerten. Folgenabschätzungen belegen die von den Regulierungsbehörden geschätzte Sorgfaltspflicht und das proaktive Risikomanagement.

Benutzer behalten die Kontrolle darüber, wie sich Agentforce auf ihre Erfahrung auswirkt.

Anmeldung für Folgeagenten: Agenten, die Entscheidungen treffen, die sich erheblich auf Benutzer auswirken, müssen sich explizit anmelden und sind nicht standardmäßig aktiv. Kreditentscheidungsagenten, Agenten für Beschäftigungsüberprüfungen und Serviceanspruchsagenten werden erst aktiviert, nachdem die Benutzer zugestimmt haben, wobei klar ist, wie sich der Agent auf sie auswirkt.
Granulare Einwilligung: Aktivieren Sie die Einwilligung pro Agentenanwendungsfall, statt die allgemeine AI-Einwilligung zu verwenden. Ein Kunde kann Agentforce Serviceagenten zustimmen, während Agentforce Vertriebsagenten abgelehnt werden. Die Architektur, die die Einwilligungsverfolgung auf Anwendungsfallebene unterstützt, ist eine Eingabe. Tests und regelmäßige Überprüfungen der Erzwingungslogik helfen, zu bestätigen, dass Einwilligungs-Gates in der Praxis gültig sind.
Dynamische Einwilligung für neue Funktionen: Suchen Sie beim Bereitstellen neuer Agentforce-Funktionen, die sich auf vorhandene Benutzer auswirken, proaktiv nach einer Einwilligung für neue Anwendungsfälle, statt sich auf die ursprüngliche Einwilligung zu verlassen, die keine spezifischen Anwendungen berücksichtigt. Jede wesentlich neue Agentenfunktion, die Benutzer betrifft, löst eine Einwilligungsüberprüfung mit klaren Erläuterungen aus.
Widerruf der Einwilligung mit sofortiger Wirkung: Ermöglichen Sie es Benutzern, die Einwilligung jederzeit mit sofortiger Einstellung der Agentenverarbeitung zu widerrufen. Der Widerruf der Einwilligung muss so einfach sein wie die Erteilung, ohne dass Supportkontakte oder bürokratische Prozesse erforderlich sind.

Voreinstellungsverwaltung: Ermöglichen Sie es Benutzern, das Agentenverhalten innerhalb definierter Grenzen zu konfigurieren:
- Kommunikationsstil (prägnante vs. detaillierte Erläuterungen)
- Proaktivitätsebene (Antwort nur auf Fragen im Vergleich zu proaktiven Vorschlägen)
- Eskalationsvoreinstellung (bevorzugen Sie die AI-Auflösung im Vergleich zu einer schnellen menschlichen Lösung)

Speichern Sie Voreinstellungen in benutzerdefinierten Benutzerdatensatzfeldern. Referenzvoreinstellungen in Agentensystem-Aufforderungen: “Der Benutzer bevorzugt detaillierte Erläuterungen. Stellen Sie umfassende Antworten mit unterstützenden Argumenten bereit.”

Menschenübergabe auf Anfrage: Stellen Sie in Agentforce-Interaktionen die Option “Mit menschlichem Agenten verbinden” bereit, ohne dass Benutzer Agenteninteraktionen abschließen oder erklären müssen, warum sie Menschen bevorzugen.

Konfigurieren der sofortigen Weiterleitung: Wenn der Benutzer “Menschlicher Agent” auswählt, leiten Sie ihn zu Omnikanal weiter, wobei der vollständige Unterhaltungskontext und die Prioritätskennzeichnung die Benutzervoreinstellung angeben. Für die Auswahl der menschlichen Interaktion gelten keine Service- oder Wartezeitstrafen.

Transparenzindikatoren: Markieren Sie Agenteninteraktionen deutlich mit persistenten visuellen Indikatoren, damit Benutzer weiterhin auf den Interaktionsmodus achten können. Benutzer, die vergessen, mit Agenten zu interagieren, haben möglicherweise unrealistische Erwartungen oder nehmen Täuschung wahr, wenn Einschränkungen auftreten.

Entwerfen Sie Agenten, die durch gezielte architektonische Entscheidungen gerechte Ergebnisse für geschützte demografische Gruppen erzielen.

Agenten, die Folgeentscheidungen treffen, dürfen keine Diskriminierung aufgrund geschützter Merkmale (einschließlich Rasse, Geschlecht, Alter, Behinderung, Religion, nationaler Herkunft oder sexueller Orientierung) vornehmen, es sei denn, dies ist für bestimmte Zwecke wie die Unterbringung in einer Behinderung rechtlich gerechtfertigt.

Funktionsprüfung: Überprüfen Sie alle Datenquellen, die in der Agentenüberlegungen verwendet werden, auf geschützte charakteristische Inhalte. CRM-Daten, Data 360-Segmente und Knowledge Bases können demografische Informationen enthalten, die Agenten bei bestimmten Entscheidungen nicht berücksichtigen sollten.

Entfernen oder maskieren Sie geschützte Merkmale aus Agenteneingaben, wenn diese Merkmale für den Entscheidungstyp rechtlich nicht gerechtfertigt sind. Schließen Sie bei Kreditentscheidungen den Invaliditätsstatus aus, da er irrelevant ist. Bei Anfragen zur Unterbringung von Behinderten ist der Behindertenstatus unerlässlich und muss enthalten sein.

Aufforderungsplanung für Nichtdiskriminierung: Fügen Sie explizite Anweisungen für Nichtdiskriminierung in Aufforderungen des Agentensystems ein:

“Sie sind ein Kundendienstagent. Behandeln Sie alle Kunden mit der gleichen Professionalität, unabhängig von ihrem Namen, ihrem Standort, ihrem Kommunikationsstil oder anderen Merkmalen. Stellen Sie allen Kunden Empfehlungen gleicher Qualität und Detailgenauigkeit bereit. Treffen Sie niemals Annahmen über Kunden anhand demografischer Merkmale.”

Tests mit demografischen Personas: Testen Sie vor der Produktionsbereitstellung Agenten mit verschiedenen Personas, die geschützte Gruppen darstellen. Generieren Sie identische Anforderungen, die nur demografische Signale variieren (einschließlich Namen, die unterschiedliche Ethnien angeben, Standorten, die unterschiedliche Regionen vorschlagen, und Kommunikationsstilen, die unterschiedliche Bildungsniveaus vorschlagen).

Vergleichen Sie Agentenantworten über Personas hinweg hinsichtlich Qualität, Länge, Professionalität und Ergebnissen. Unterschiede deuten auf Verzerrungen hin, die abgemildert werden müssen.

Überwachen der Servicequalität von Agentforce über Kundendemografien hinweg, um vergleichbare Erfahrungen zu gewährleisten:

Auflösungsrate nach Segment: Berechnen Sie die Lösungsraten für Erstkontakte stratifiziert nach Kundensegment. Wenn Enterprise-Kunden eine Auflösung von 75 % erreichen, während KMU-Kunden eine Auflösung von 55 % erreichen, sollten Sie untersuchen, ob sich Knowledge Base-Qualität, Agentenschulung oder Produktfunktionen je nach Segment unterscheiden.
Antwortqualität nach Segment: Führen Sie segmentübergreifende Agentenunterhaltungen durch und lassen Sie Überprüfer die Antwortqualität anhand einheitlicher Dimensionen bewerten: Genauigkeit, Vollständigkeit, Professionalität, Hilfsbereitschaft. Bei Zuverlässigkeitstests zwischen den Bewertungen wird sichergestellt, dass Überprüfer konsistente Standards anwenden.
Eskalationsrate nach Segment: Verfolgen Sie, wie oft Agenten nach Kundendemografien stratifiziert zu Menschen eskalieren. Höhere Eskalationsraten für bestimmte Segmente weisen darauf hin, dass Agenten für diese Benutzer weniger effektiv sind, was zu Servicequalitätsunterschieden führt.
Zufriedenheit nach Segment: Befragen Sie Benutzer aus allen demografischen Gruppen und vergleichen Sie Zufriedenheitsbewertungen. Die allgemeine hohe Zufriedenheit kann schlechte Erfahrungen für Minderheiten übertönen, die von der Mehrheitszufriedenheit übertönt werden.

Agentforce-Schnittstellen müssen für Benutzer mit Behinderungen zugänglich sein, die die WCAG 2.2 AA-Standards erfüllen. Verweisen Sie auf die Komponente “Salesforce Lightning Design System” und Musterbibliotheken für wiederverwendbare, zugängliche Agentforce-Komponenten und -Designmuster. Diese Muster machen Agentenerfahrungen zugänglich, konsistent und erlernbar.

Kompatibilität mit Bildschirmleseprogrammen: Lightning-Messaging-Komponenten, die Agentforce Chat-Oberflächen bereitstellen, enthalten bei bestimmungsgemäßer Verwendung den barrierefreien Zugriff auf der Grundlage. Für benutzerdefinierte Chat-Implementierungen ist eine Implementierung für den manuellen barrierefreien Zugriff erforderlich:
Semantische HTML-Struktur mit richtigen Landmarken
ARIA-Live-Regionen, die neue Nachrichten ankündigen
Tastaturnavigation durch den Nachrichtenverlauf
Klare Fokusindikatoren für interaktive Elemente

Testen Sie mit JAWS, NVDA und der unterstützenden VoiceOver-Technologie für Bildschirmleseprogramme während der gesamten Entwicklung, nicht nur beim automatisierten Scannen.

Kognitiver barrierefreier Zugriff: Agentenantworten verwenden für allgemeine Zielgruppen unformatierte Sprache. Vermeiden Sie Jargon und stellen Sie Glossare für unvermeidbare Fachbegriffe bereit. Strukturieren Sie lange Antworten mit Überschriften und verwenden Sie ggf. Listen mit Gliederungspunkten oder Zahlen, um das Verständnis zu erleichtern.
Sprachgerechtigkeit: Agentforce unterstützt mehrere Sprachen durch mehrsprachige Funktionen des Grundlagenmodells. Validieren Sie die Antwortqualität über mehrere Sprachen hinweg durch die Auswertung von Muttersprachlern und nicht nur durch automatisierte Kennzahlen, die kulturelle Nuancen vermissen.

Konfigurieren Sie für geschäftskritische Anwendungsfälle, die unterschiedliche Sprachpopulationen bedienen, die sprachspezifische Handhabung (Sprachvariablen, lokalisierte Eingabeaufforderungen und Knowledge-Artikelfilterung nach Sprache) und validieren Sie die Qualität pro Sprache, statt sich ausschließlich auf die sprachübergreifende Übertragung des Grundlagenmodells zu verlassen, was für Sprachen mit geringeren Ressourcen eine verschlechterte Qualität bieten kann.

Implementieren Sie Fairness für Agentforce in Phasen, die an die Reife der Agentenbereitstellung angepasst sind.

Phase 1: Gründung (vor Produktionsagenten)

Einrichten eines Ethiküberprüfungsgremiums mit Durchsetzungsbehörde
Dokumentzuweisungen zur Rechenschaftspflicht (Modellinhaber, Entscheidungsinhaber, Beschwerdebehörde)
Aktivieren der Einstein Trust Layer-Aktivierungserfassung
Konfigurieren der Ereignisüberwachung für Agentenaktionen
Erstellen von Dashboards zur Überwachung der Fairness auf der Grundlage von CRM Analytics
Definieren Sie obligatorische Bereitstellungs-Gates: Datenüberprüfung, Fairnesskennzahlen, Folgenabschätzung

Phase 2: Erster Produktionsagent

Ausführen einer umfassenden Folgenabschätzung für Anwendungsfälle
Überwachungsschulung/RAG-Daten für demografische Darstellung
Fairness-Kennzahlen für demografische Gruppen berechnen
Implementieren eines menschlichen Aufsichtsmusters (Human-in-the-Loop, Konfidenzeskalation oder zeitlich begrenzt)
Konfigurieren von Verzerrungsberichten für Benutzer
Dokumentmodellversion, Konfiguration und Entscheidungsrekonstruktionsansatz

Phase 3: Kontinuierliche Überwachung

Überwachen Sie Fairness-Dashboards wöchentlich und untersuchen Sie Schwellenwertverstöße innerhalb von 24 Stunden (oder das vereinbarte Antwort-SLA Ihrer Organisation).
Durchführen einer monatlichen Überschreibungsmusteranalyse zur Identifizierung systematischer Probleme
Wöchentliches Überprüfen von Berichten zu Benutzerverzerrungen mit dokumentierten Untersuchungsergebnissen
Vierteljährliche umfassende Fairness-Audits für Agenten mit hohem Einsatz
Aktualisieren der Dokumentation im Zuge der Weiterentwicklung von Agenten durch Aufforderungsaktualisierungen oder Modelländerungen

Phase 4: Skalierung und Governance

Erstellen wiederverwendbarer Fairness-Dashboard-Vorlagen für gängige Agententypen
Erstellen von Tools für die Rekonstruktion von Agentenentscheidungen, die Self-Service für Compliance-Teams ermöglichen
Standardisieren von Einwilligungsverwaltungsmustern für alle neuen Agenten
Implementieren automatisierter Fairness-Regressionstests in CI/CD-Pipelines
Planen halbjährlicher externer Fairness-Audits durch Dritte
Aufrechterhalten der regulatorischen Überwachung und Anpassung an aktive und neue Verpflichtungen, einschließlich des EU AI Act (schrittweise Einführung bis 2025-2027), staatlicher Gesetze und Sektorvorschriften

Fairness ist ein zentrales architektonisches Anliegen für Agentensysteme auf der Salesforce Platform. Organisationen, die Agentforce mit Fairness als erstklassiges architektonisches Anliegen entwerfen, positionieren sich vor den gesetzlichen Anforderungen und entwickeln Lösungen, denen alle Benutzer Trust schenken und die sie effektiv nutzen können. Die Plattformfunktionen sind vorhanden. Die Frage ist, ob Architekten sie verwenden.

Teilen Sie uns Ihr Feedback zum Well-Architected Framework mit.