Équité pour l’entreprise Agentic

Lorsque les agents autonomes prennent des décisions qui affectent les clients, les employés et les communautés, l’équité devient la qualité architecturale qui distingue l’automatisation responsable de l’automatisation nuisible. Les agents Agentforce opérant avec une surveillance humaine limitée perpétuent et amplifient les biais à une échelle sans précédent, transformant les schémas discriminatoires individuels en iniquités systémiques. L’équité dans les systèmes agentsiques est une préoccupation architecturale de premier ordre sur la plate-forme Salesforce, qui combine l’équité en IA, l’accessibilité, la supervision humaine, la responsabilité algorithmique et la gouvernance éthique dans un pilier architectural unifié.

Cette page traite des défis d’équité propres aux architectures agentiques. Les principes fondamentaux d’équité, les exigences en matière d’accessibilité et les cadres de gouvernance éthique sont abordés dans le pilier Équité. Nous nous intéressons ici aux considérations relatives aux agents autonomes : détection des biais pour les agents qui prennent des décisions conséquentes et des modèles de surveillance qui visent à rendre la responsabilité substantielle plutôt que nominale, transparence qui permet aux utilisateurs affectés de contester les décisions, et capacités de la plate-forme comme la couche Trust Einstein qui soutiennent la pratique responsable de l’IA via des contrôles de données et la consignation d’audit.

Les agents Agentforce apprennent des modèles à partir des données d’entraînement, des sources de récupération et des interactions réelles. Lorsque ces sources contiennent des biais reflétant une discrimination historique ou des déséquilibres démographiques, les agents perpétuent ces biais avec une efficacité algorithmique affectant des milliers d’utilisateurs avant que les humains ne détectent le modèle.

Biais du modèle de base : Les grands modèles de langage (LLM) sont entraînés sur des données à l’échelle d’Internet contenant des biais sociétaux concernant la race, le sexe, l’âge, le handicap et d’autres caractéristiques protégées. Ces biais apparaissent dans les réponses des agents, même sans instructions discriminatoires explicites, et il est peu probable qu’ils soient entièrement corrigés uniquement par l’ingénierie rapide ou des tests; ils reflètent des modèles partiellement inhérents aux données de formation à l’échelle d’Internet. Par exemple, un agent de recrutement Agentforce peut décrire des rôles de direction en utilisant des modèles de langage masculins. Alternativement, un agent de service peut répondre différemment aux clients dont le nom signale une appartenance ethnique ou un sexe non majoritaire, un problème de qualité de représentation qui peut affecter l’expérience du client indépendamment de tout résultat de décision.

Testez systématiquement les biais démographiques des agents en utilisant diverses personnes représentant des groupes protégés. Générez des requêtes identiques en variant uniquement les signaux démographiques tels que les noms, les emplacements ou les styles de communication. Comparez les réponses des agents entre les personnes pour les différences de qualité, les variations de ton et les disparités de résultat.

Déficits de représentation des données de formation : Si les données historiques de gestion de la relation client (CRM) de votre organisation sous-représentent certains segments de clients, les agents Agentforce formés ou ancrés dans ces données seront peu performants pour ces segments. Un agent de score des pistes entraîné sur dix ans de données d’opportunité sous-évalue systématiquement les prospects des zones géographiques que votre équipe commerciale a historiquement dépréciées, créant une boucle de rétroaction dans laquelle les biais algorithmiques aggravent les biais humains.

Avant d’utiliser les données Salesforce pour la formation des agents ou l’ancrage RAG (Retrieval-Augmented Generation), auditez la représentation démographique. Identifier les groupes sous-représentés et déterminer si les écarts de représentation reflètent des différences commerciales légitimes ou une discrimination historique. Réduisez les déséquilibres en augmentant les données ou en atténuant explicitement les biais avant de déployer les agents. Certains biais résiduels ont tendance à persister et sont généralement gérés par une surveillance et une supervision en aval plutôt que par un pré-déploiement résolu.

Biais de récupération dans les systèmes RAG : Agents Agentforce utilisant des réponses au sol RAG dans des bases Knowledge, des segments Data 360 et des enregistrements Salesforce. Lorsque ces sources de récupération contiennent des contenus biaisés ou que leur qualité varie d’un groupe démographique à l’autre, l’agent déployé peut transmettre ces biais dans l’expérience des utilisateurs affectés. Pour réduire ce risque, vérifiez les sources de récupération avant la production comme meilleure pratique. Un agent de service qui récupère des articles Knowledge offrant un dépannage détaillé pour les clients entreprises, mais uniquement des réponses génériques pour les clients petites entreprises perpétuera les disparités de qualité du service, un problème d’équité où le niveau client est corrélé avec des caractéristiques protégées.

Vérifier les bases Knowledge et les sources de récupération des écarts de représentation démographique et des disparités de qualité. Lorsque les écarts sont difficiles à combler, traitez ces limitations comme des garde-fous lorsque l’agent convient. Assurez-vous que la qualité, l’exhaustivité et la précision de la documentation sont comparables dans tous les segments de clients. Insérez une représentation diversifiée dans des exemples de contenu plutôt que d’appliquer par défaut des références de culture majoritaire qui aliénent les utilisateurs sous-représentés.

Biais de schéma d’interaction : Les agents peuvent adapter leur comportement en fonction d’indices conversationnels corrélés à des caractéristiques protégées. La surveillance de ce schéma est une pratique courante même après le déploiement, car certaines dynamiques d’interaction émergent du comportement des utilisateurs qui n’est pas présent dans les données d’entraînement. Le style de communication, la complexité de la langue et les modèles temporels peuvent indiquer des informations démographiques. Un agent qui traite les styles de communication formels différemment des styles occasionnels peut involontairement faire de la discrimination en fonction de l’origine culturelle, du niveau d’études ou du statut de langue maternelle.

Surveillez les interactions des agents entre les groupes démographiques pour vérifier la cohérence du comportement. Analysez la longueur de réponse, le niveau de détail, les marqueurs de politesse et la qualité de la solution stratifiée par les caractéristiques de l’utilisateur. Les disparités suggèrent des biais d’interaction qui justifient une enquête.

Amplification de boucle de rétroaction : Les agents qui influencent leurs propres données de formation futures créent des biais auto-renforçants. Par exemple, un agent d’acheminement qui attribue moins d’opportunités importantes à certains territoires commerciaux génère moins de données de réussite pour ces territoires. Cela réduit leur probabilité de réussite prédite, ce qui réduit encore l’acheminement des opportunités futures vers eux. Sans intervention, ce biais initial s’aggrave au fil du temps.

Détectez les boucles de rétroaction en surveillant les changements de distribution des décisions au fil du temps. Lorsque certains groupes démographiques reçoivent systématiquement moins de résultats positifs, examinez si les décisions des agents créent la disparité qui justifie de futures décisions défavorables. Les boucles de rupture à travers l’examen humain des requêtes edge et le rééquilibrage périodique.

Lorsque plusieurs agents Agentforce travaillent ensemble dans des chaînes d’orchestration, le biais d’un agent devient une entrée pour les agents en aval, créant des effets aggravants où de petits biais initiaux s’amplifient en résultats discriminatoires significatifs.

Chaînes d’agents séquentielles : Lorsque la sortie de l’agent A devient la sortie de l’agent B, il y a un risque que les décisions biaisées de l’agent A limitent les options de l’agent B de manière à perpétuer ou à amplifier la discrimination.

Prenons une orchestration de qualification de piste :

Research Agent recueille Intelligence client à partir de sources Web et de l’historique CRM.
L’agent de score attribue le score des pistes en fonction des conclusions de l’agent de recherche.
L’agent d’acheminement attribue la piste au territoire en fonction du score.
L’agent d’engagement personnalise la portée en fonction de toutes les sorties antérieures de l’agent.

Lorsque l’agent de recherche récupère systématiquement des données moins complètes pour certaines données démographiques des clients (en raison de lacunes dans les données de formation ou de biais de récupération), l’agent de score interprète les informations incomplètes comme des signaux négatifs. L’agent d’acheminement attribue ensuite un territoire de moindre priorité, et l’agent d’engagement offre une portée moins personnalisée. L’effet d’aggravation crée des disparités de qualité de service qui dépassent de loin les biais de chaque agent.

Consensus des agents parallèles : Les schémas dans lesquels plusieurs agents analysent indépendamment la même entrée et les mêmes résultats sont agrégés offrent des opportunités d’amplification des biais lorsque les agents partagent des données d’entraînement ou des modèles de base.

Si cinq agents obtiennent indépendamment un score de piste, mais partagent tous des données d’entraînement biaisées ou des biais de modèle de base, le consensus ne corrige pas les biais, mais les valide simplement. « Cinq agents d’accord » offre une fausse confiance dans les résultats discriminatoires lorsque les cinq partagent le même biais systématique.

Stratégies d’atténuation des biais d’orchestration :

Audit de sortie des agents à chaque étape : Consignez des entrées et des sorties complètes pour chaque agent dans les chaînes d’orchestration. Lorsque le biais est détecté dans les résultats finaux, remontez à travers la chaîne pour identifier l’agent qui a introduit le biais et à quel stade l’amplification s’est produite.

Élaborez des tableaux de bord CRM Analytics qui montrent des distributions de décision à chaque étape d’orchestration réparties par données démographiques. Identifiez où dans la chaîne les disparités apparaissent ou augmentent.

Diversité dans la formation et l’incitation des agents - La diversité réduit les erreurs corrélées, ce qui rend l’amplification des biais moins probable. Lors de l’utilisation de modèles de consensus multi-agents, maximisez la diversité :
Différents modèles de base lorsque cela est commercialement possible et pris en charge, par exemple via des configurations Bring Your Own LLM (BYOLLM)
Sources de récupération différentes entre les agents
Différentes approches d’ingénierie des invites
Différents étalonnages de seuil de confiance
Examen humain aux points d’inflexion : Identifiez les étapes de l’orchestration dans lesquelles les décisions réduisent considérablement les options en aval. Insérez un examen humain à ces points d’inflexion, même si la confiance des agents individuels est élevée. L’orchestration crée des effets émergents que les scores de confiance des agents individuels ne capturent pas.
Métriques d’équité par étape d’orchestration : Ne mesurez pas seulement l’équité des résultats finaux. Calculez la parité démographique, l’égalité des chances et l’impact différent à chaque étape de la chaîne.

Si l’étape 1 affiche une parité démographique de 90 %, l’étape 2 affiche 85 %, l’étape 3 affiche 78 % et l’étape 4 affiche 70 %, chaque étape semble acceptable isolément, mais entraîne une disparité finale inacceptable. Les métriques par étape identifient l’accumulation avant qu’elle ne produise des résultats discriminatoires.

Disjoncteurs pour échecs d’orchestration : configurez une logique d’orchestration pour arrêter et escalader vers les humains lorsque :
Toute confiance des agents passe sous le seuil même si les agents en aval sont confiants
La distribution des sorties change considérablement entre les étapes d’orchestration
La chaîne de décision rencontre des données non représentées dans des ensembles de formation ou de validation
L’utilisateur remet explicitement en question ou conteste des décisions intermédiaires

L’orchestration multi-agents permet un raisonnement sophistiqué, mais crée des chaînes de décision opaques où la responsabilité est diffusée et biaisée. L’attention architecturale à la surveillance de l’équité au niveau de l’étape et à la surveillance humaine stratégique empêche l’orchestration de devenir un mécanisme d’amplification des biais.

Avant de déployer un agent Agentforce prenant des décisions conséquentes sur les utilisateurs, calculez des métriques d’équité à travers les groupes démographiques. Faire de l’évaluation de l’équité une porte de déploiement obligatoire équivalente à un contrôle de sécurité.

Parité démographique : Les taux de résultats positifs doivent être à peu près égaux entre les groupes démographiques protégés. Si un agent approuve des demandes de service pour le groupe A à un taux de 60 % et le groupe B à un taux de 40 %, la parité démographique est violée. La parité démographique est appropriée lorsqu’il n’y a pas de raison légitime à des différences de taux de résultat entre les groupes.

Calculez la parité démographique en divisant la population en segments démographiques, en mesurant les taux de résultats positifs par segment et en comparant les taux entre les segments. Documentez les écarts de parité avec les approbateurs nommés et la justification.

Égalité des chances : Les taux de vrais positifs restent comparables entre les groupes. Les agents identifient également bien les personnes qualifiées, quelles que soient leurs caractéristiques démographiques. Un modèle prédictif reconnaît les demandeurs solvables à des taux similaires dans les groupes protégés lorsque la solvabilité sous-jacente est similaire.

L’égalité des chances est souvent la métrique la plus appropriée que la parité démographique pour les décisions concernant les qualifications individuelles, où les taux de base peuvent légitimement différer. Vérifiez si les agents manquent systématiquement des candidats qualifiés appartenant à des groupes sous-représentés. S’il existe encore des disparités après l’atténuation, l’agent peut ne pas convenir à ce cas d’utilisation.

Cotes égalisées : Les taux de vrais positifs et de faux positifs sont égaux entre les groupes. Il s’agit d’une définition stricte qui limite les taux de vrais positifs et de faux positifs entre les données démographiques. Les cotes égalisées empêchent les opportunités manquées de se concentrer dans des groupes spécifiques et les fausses accusations de se concentrer dans des groupes spécifiques.

L’obtention d’une cote égale nécessite souvent des seuils de décision séparés par groupe démographique. Aux États-Unis, pour les décisions relatives à l’emploi, l’ajustement des scores ou la fixation de scores de seuil différents par catégorie protégée est interdit par le titre VII (Civil Rights Act of 1964), de sorte que les chances égales ne peuvent pas être recherchées de cette façon à l’embauche. Dans d’autres contextes, et dans d’autres juridictions, il soulève des questions juridiques au sujet d’un traitement différencié explicite. Par conséquent, consultez un conseiller juridique avant de mettre en place des seuils spécifiques à un groupe.

Ratio d’impact différent : La règle des quatre cinquièmes prévoit un seuil de présélection : Si un groupe reçoit des résultats positifs inférieurs à 80 % du taux du groupe le plus performant, examinez les biais. Un ratio de 75 % (par exemple, un taux d’approbation de 45 % par rapport à un taux d’approbation de 60 %) est inférieur au seuil des quatre cinquièmes et indique une discrimination potentielle qui nécessite une justification ou une atténuation.

L’analyse d’impact différent est standard en droit du travail et s’applique de plus en plus aux systèmes d’IA. Lorsque les rations sont inférieures à 80 %, documenter les étapes d’enquête et de remise en état; lorsque la remise en état n’entraîne pas une augmentation du ratio, les équipes peuvent conclure que le cas d’utilisation ne convient pas.

Équité individuelle : Les individus similaires reçoivent des prédictions similaires, quelle que soit leur appartenance au groupe. Deux clients avec une solvabilité, un historique d’achat et un engagement identiques reçoivent des recommandations de limite de crédit similaires, quelles que soient les différences démographiques.

L’équité individuelle est philosophiquement importante, mais opérationnellement difficile, car la « similarité » est subjective et dépend du contexte. Utilisez l’équité individuelle comme principe de conception guidant la sélection et le test des fonctionnalités plutôt qu’une contrainte mathématique stricte.

Deux capacités de plate-forme capturent les données pour la détection des biais. La couche Trust Einstein enregistre un journal d’audit d’IA générative pour chaque interaction Agentforce : les invites envoyées au modèle, les réponses renvoyées, les sources d’ancrage utilisées et les signaux Trust tels que les scores de toxicité. Le Traçage des sessions Agentforce enregistre le raisonnement étape par étape derrière chaque décision. Ensemble, ils fournissent des données qui appuient la détection des biais et la surveillance de l’équité; l’interprétation de ces données est un travail humain et nécessite généralement des examinateurs formés et du temps dédié.

Consignation des réponses : Trust Layer consigne les invites, les réponses du modèle et les signaux Trust de chaque interaction générative. Utilisez ces données pour analyser les distributions de prédiction entre les groupes démographiques. Élaborez des tableaux de bord CRM Analytics qui comparent les taux d’approbation, les modèles de recommandation et les scores de risque par segment de clients.

Query Trust Layer consigne régulièrement: Utilisez l’invite suivante : « Affichez-moi toutes les prédictions d’opportunités à valeur élevée au cours des 30 derniers jours, regroupées par secteur d’activité client, région et taille du compte. Les distributions de prédiction sont-elles cohérentes entre les segments ou certains segments sont-ils systématiquement évalués plus haut/moins? »

Capture des traces de raisonnement : Pour les agents Agentforce, le Traçage des sessions Agentforce enregistre comment l’agent a pris sa décision, tandis que le journal d’audit Trust Layer capture les invites, les réponses et les sources d’ancrage, notamment les articles Knowledge et les enregistrements Salesforce récupérés. Examinez les deux rapports lorsque les utilisateurs signalent des biais afin de comprendre les sources de données, les modèles de récupération ou les étapes de raisonnement qui peuvent avoir introduit des biais.

Les traces de raisonnement rendent les audits d’équité a posteriori plus précis et plus faciles à réaliser qu’avec les systèmes traditionnels. Échantillonnez 100 décisions d’agent stratifiées par groupe démographique et demandez aux examinateurs d’évaluer si la qualité du raisonnement est comparable entre les groupes.

Détection des anomalies : Configurez des alertes lorsque les modèles de décision des agents s’écartent sensiblement de la base. Si les taux d’approbation d’un segment de clients spécifique chutent de 20 % d’une semaine à l’autre, déclenchez une enquête. Des changements soudains de distribution peuvent indiquer des Problèmes de qualité des données, une dérive du modèle ou des biais émergents qui nécessitent une attention immédiate.

Élaborez une surveillance personnalisée pour alerter sur les signaux d’équité : « Notifier lorsque la durée moyenne des conversations de l’agent de service Agentforce pour n’importe quel segment de clients dépasse 1,5 fois la moyenne générale pendant trois jours consécutifs. » Les disparités de longueur peuvent indiquer que certains groupes reçoivent un service moins efficace.

Modèles de tableau de bord d’équité : Élaborez des modèles de tableau de bord CRM Analytics réutilisables pour suivre les métriques d’équité des cas d’utilisation courants des agents. Incluez des calculs de parité démographique, des métriques d’égalité des chances, des ratios d’impact différents et des graphiques de tendance montrant l’évolution des métriques au fil du temps. Partagez des modèles entre les équipes de développement des agents en standardisant la surveillance de l’équité.

Lorsque des biais sont détectés, appliquez l’atténuation au stade approprié en fonction de la cause première.

Interventions préalables au traitement des données : Corrigez les biais au niveau des données avant la formation des agents ou l’indexation RAG. Suréchantillonner les groupes démographiques sous-représentés dans les données de formation afin de garantir une représentation équilibrée. Synthétisez des données supplémentaires pour les groupes sous-représentés en utilisant des techniques telles que la technique de suréchantillonnage des minorités synthétiques (SMOTE) lorsque les données réelles sont insuffisantes. Notez que SMOTE interpole des fonctionnalités numériques tabulaires. Par conséquent, il s’applique aux données d’entraînement CRM structurées, pas au texte non structuré utilisé pour l’ancrage RAG.

Auditez les écarts démographiques dans les données Salesforce CRM avant de les utiliser pour l’entraînement du modèle. Si les données historiques des opportunités surreprésentent certains types de clients, rééquilibrez les ensembles de formations ou utilisez des pondérations d’échantillonnage afin d’empêcher les agents d’apprendre cette surreprésentation en tant que signal de décision.

Contraintes de l’algorithme en cours de traitement : Appliquez des contraintes d’équité pendant l’entraînement du modèle qui optimisent simultanément la précision et l’équité. Cela peut réduire la précision brute de 2 à 3 % tout en améliorant considérablement l’équité entre les groupes. Lorsque vous contrôlez l’entraînement du modèle, l’entraînement avec contrainte d’équité est souvent l’approche d’atténuation la plus efficace.

Pour les agents Agentforce utilisant des modèles de base dans lesquels vous ne pouvez pas modifier la formation, limitez le comportement des agents via des invites système : “Traitez toutes les données démographiques des clients avec le même professionnalisme et le même détail. Fournissez des explications de longueur et de qualité comparables, quel que soit le style de communication ou l’arrière-plan du client. »

Ajustement du seuil de post-traitement : Lorsqu’il est licite, l’ajustement des seuils de décision par groupe démographique peut égaliser les taux de résultat après l’entraînement du modèle. Par exemple, un agent d’approbation peut appliquer un seuil de confiance de 80 % pour un groupe et de 75 % pour un autre afin de compenser les biais sous-jacents du modèle. La législation antidiscrimination limite fortement cette technique et certaines juridictions l ’ interdisent purement et simplement pour certaines décisions (voir ci-après).

L’ajustement des seuils est controversé parce qu’il traite explicitement les groupes différemment, et la législation antidiscrimination de nombreuses juridictions le restreint ou l’interdit. Aux États-Unis, les décisions relatives à l’emploi sont purement et simplement interdites : Le titre VII (Civil Rights Act of 1964) interdit d ’ ajuster les scores ou d ’ utiliser des scores de seuil différents par catégorie protégée, et aucune justification documentée ne rend la pratique licite. Les autres juridictions imposent leurs propres contraintes. Par conséquent, vérifiez les règles qui s’appliquent à vos utilisateurs. Lorsque la pratique est autorisée, documenter la justification juridique lors de la mise en œuvre de seuils spécifiques à un groupe et vérifier que les seuils améliorent l’équité sans créer d’autres effets discriminatoires.

Détection et retrait de fonctionnalités proxy : Identifier les caractéristiques qui correspondent aux caractéristiques protégées et qui servent de mécanismes de discrimination indirecte. Les proxy courants comprennent :
Renvois de code postal pour race, origine ethnique et niveau de revenu
Modèles de nom proxy pour le sexe et l’ethnicité
Renvois temporels de communication pour la religion et les responsabilités de soignant
Renvois de type d’appareil pour le niveau de revenu
L’attribution de territoire peut être une approximation de la composition démographique

Calculez des coefficients de corrélation entre toutes les caractéristiques du modèle et les caractéristiques protégées. Pour des fonctionnalités hautement corrélées, déterminez si une valeur prédictive légitime justifie l’inclusion ou si des fonctionnalités alternatives peuvent fournir une prédiction similaire sans effet proxy.

Les agents Agentforce peuvent fonctionner avec une surveillance humaine conçue pour rendre l’examen substantiel plutôt que nominal. Le niveau de surveillance approprié dépend des enjeux de décision, de la réversibilité et des exigences réglementaires.

Acheminez les décisions corrélatives par un examen humain avant l’exécution. La question de savoir si une décision est suffisamment importante pour justifier un examen humain est un jugement fondé sur le risque : soupeser la gravité du dommage potentiel et la probabilité de ce dommage. Les décisions corrélatives surviennent souvent dans des domaines réglementés tels que la santé, les services financiers et le secteur public, mais elles surviennent également hors de ces domaines. Les contextes à fort enjeu courants comprennent :

Décisions d’emploi - Embauche, promotion, licenciement, rémunération, examens du rendement
Crédit et services financiers - Approbations de crédit, changements de limite, fermetures de compte, tarification
Soins de santé - Suggestions de diagnostic, recommandations de traitement, décisions de couverture
Droits juridiques - Interprétation des contrats, résolution des litiges, accès aux services
Logement - Contrôle des locataires, approbation des baux, recommandations d’expulsion

Concevez des agents Agentforce dans ces contextes pour analyser, recommander et préparer des décisions tout en nécessitant l’approbation humaine avant l’exécution. Positionnez les agents comme des outils d’aide à la décision augmentant le jugement humain, pas comme des décideurs autonomes qui remplacent les humains.

Configurez des seuils de confiance qui déclenchent un examen humain en fonction de l’incertitude des agents :

Confiance élevée (>90 %) - L’agent procède de façon autonome avec la consignation complète des audits
Confiance modérée (70-90%) - L’agent recommande avec un examen humain avant l’action
Faible confiance (<70 %) - L’agent s’en remet entièrement à l’humain avec un résumé du contexte

Étalonner les seuils en utilisant les données de production. Une prédiction de « confiance à 70 % » réussit environ 70 % du temps lorsqu’elle est validée. Des scores de confiance mal calibrés sapent Trust dans les mécanismes d’escalade.

Testez l’étalonnage en échantillonnant les décisions des agents dans chaque bande de confiance et en calculant les taux de réussite réels. Si les décisions de « confiance élevée » ne réussissent que 75 % du temps, recalibrez les seuils ou améliorez l’estimation de la confiance du modèle.

Si Agentforce ne peut pas résoudre une requête dans les limites définies, escaladez vers l’humain. Vérifiez que la destination de l’escalade a la capacité d’aider - l’acheminement vers des files d’attente surchargées ne réduit pas les dommages.

Définissez des déclencheurs d’escalade :

La conversation tourne : après 5 à 7 tours sans résolution, escalade
Durée écoulée – Après 10 minutes sans résolution, escalade
Sentiment de l’utilisateur : lorsque l’utilisateur exprime sa frustration, escalade
Détection des répétitions : lorsque l’agent répète la même réponse, escalade

Configurez Omni-Channel pour acheminer les requêtes escaladées vers les files d’attente basées sur les compétences appropriées avec un contexte de conversation complet. Entraînez les agents humains à gérer efficacement les escalades sans demander aux utilisateurs de répéter les informations déjà fournies à l’agent.

Permettez aux humains autorisés d’annuler n’importe quelle décision Agentforce à tout moment avec une justification documentée. Les remplacements ont plusieurs objectifs :

Correction d’erreur : Les humains corrigent les erreurs des agents qui pourraient nuire aux utilisateurs ou enfreindre la politique. La capacité de remplacement fournit une soupape de sécurité pour les systèmes autonomes fonctionnant dans des environnements complexes où les cas de bord sont inévitables.
Détection des biais : Si les humains remplacent plus fréquemment les refus Agentforce pour certaines données démographiques que d’autres, étudiez les deux possibilités: l’agent peut désavantager systématiquement le groupe et les humains qui le corrigent, ou les remplaçants peuvent introduire de nouveaux biais. Le premier modèle pointe vers l’examen de l’agent; le deuxième vers la formation des examinateurs.
Amélioration de l’agent : Les remplacements avec justification deviennent des données d’entraînement pour l’amélioration des agents. Échantillonnez les décisions annulées et analysez les raisons pour lesquelles les humains n’étaient pas d’accord avec les agents. Incorporez des modèles de remplacement à un affinement rapide ou à un réentraînement du modèle.
Responsabilisation : Les remplacements attribuent la responsabilité. L’humain qui remplace une décision de l’agent assume la responsabilité des résultats de cette décision. Une responsabilisation claire empêche la diffusion des responsabilités où tout le monde considère que l’IA est responsable et personne ne s’en approprie la responsabilité.

Attribuez la responsabilité avant le déploiement, pas après des incidents :

Propriétaire du modèle : Le responsable de la science des données est responsable de l’équité, de la précision et du comportement du modèle. Approuve les déploiements, répond aux alertes d’équité, autorise les mises à jour. Le propriétaire du modèle est un individu nommé documenté dans des enregistrements de décision d’architecture.
Propriétaire de décision : Propriétaire de produit responsable du choix de déployer l’IA pour des cas d’utilisation spécifiques et pour l’impact réel sur les clients. Le propriétaire de la décision ne peut pas déléguer la responsabilité aux systèmes IA.
Autorité d’appel : Le comité d’éthique ou l’équipe désignée traite les appels interjetés par les utilisateurs qui estiment que les décisions des agents sont injustes. Les processus d’appel doivent être accessibles, opportuns et habilités à annuler les décisions des agents.
Autorité de vérification : L’équipe de conformité qui effectue des audits périodiques validant les agents opère dans le respect des paramètres d’équité et peut suspendre les agents qui ne respectent pas les normes dans l’attente de mesures correctives.

Documentez tous les rôles avec des noms, pas seulement des titres, pour vous assurer que la responsabilité persiste grâce aux changements organisationnels.

Lorsque les agents Agentforce prennent des décisions qui affectent des utilisateurs, ces derniers méritent des explications compréhensibles proportionnelles à l’impact de la décision.

Architecture de plusieurs couches d’explication servant différentes audiences :

Explications pour les utilisateurs : Raisonnement en langage clair compréhensible sans expertise technique. « Votre demande de service nécessite l’approbation du gestionnaire, car le montant demandé (12 000 $) dépasse votre limite d’autorisation (10 000 $). Généralement, l’approbation du responsable est effectuée dans les 24 heures ou dans le cadre de votre accord de niveau de service (SLA) convenu. »
Explications commerciales : Les utilisateurs opérationnels affichent les principaux facteurs de décision en fonction du contexte métier. “Score des pistes : 73/100. Principaux facteurs positifs : Taille de l’entreprise (500 employés), Engagement actif sur le site Web (12 visites en 30 jours), Correspondance du secteur d’activité (SaaS). Facteurs négatifs principaux : Aucun engagement MQL, Région cible extérieure.”
Explications techniques : Les scientifiques des données affichent les détails du modèle : poids des fonctionnalités, étalonnage de la confiance, version du modèle, date d’entraînement, distributions d’entrée. Les explications techniques prennent en charge le débogage et les enquêtes de biais.
Explications d’audit : Les équipes de conformité affichent des traces de décision complètes : version du modèle, valeurs d’entrée exactes au moment de la décision, toutes les sources de données consultées, trace de raisonnement, état de configuration. Les explications des audits appuient les enquêtes réglementaires et les audits d’équité qui nécessitent une reconstruction précise.

Le Traçage des sessions Agentforce enregistre le raisonnement pas à pas derrière les décisions des agents, tandis que la couche Trust Einstein capture le journal d’audit des invites et des réponses, y compris les sources d’ancrage. Ensemble, ils permettent d’offrir une transparence à des niveaux de détail appropriés :

Transparence en temps réel : Lorsque Agentforce prend une décision, affichez un raisonnement récapitulatif pour les utilisateurs: “J’ai recommandé le Produit A en fonction de votre historique d’achat (3 achats similaires), de la promotion actuelle (20 % de remise) et de la disponibilité de l’inventaire (en stock, expédition demain).”
Explication détaillée à la demande : Saisissez « Pourquoi l’avez-vous recommandé ? » lien permettant aux utilisateurs d’afficher un raisonnement complet comprenant tous les articles Knowledge récupérés, les enregistrements Salesforce consultés, et une logique de décision. Les explications détaillées établissent Trust et permettent aux utilisateurs d’identifier les erreurs ou les biais.
Reconstruction historique : Lorsque les utilisateurs contestent des décisions passées des semaines ou des mois plus tard, récupérez les traces de raisonnement de session et l’historique d’audit Trust Layer permettant une explication précise des décisions historiques. La reconstitution historique appuie les appels et les enquêtes réglementaires.
Analyse des modèles agrégés : Exemple de traces de raisonnement stratifiées par groupes démographiques afin d’analyser si la qualité des décisions est cohérente. Examinez 100 traces de chaque segment de clients et déterminez si la profondeur de raisonnement, la qualité de la source et la logique sont comparables entre les groupes.

Affichez la confiance dans les prédictions en termes appropriés pour l’utilisateur en évitant les scores de probabilité bruts que les utilisateurs interprètent mal.

Au lieu de « 73 % de confiance », communiquez la confiance comme suit :

Confiance élevée – « Je suis convaincu que cette recommandation est appropriée compte tenu de cas semblables »
Confiance modérée – « Cette recommandation est probablement appropriée, mais il est recommandé d’examiner les gestionnaires »
Faible confiance – « Cette situation est inhabituelle. Je suis en train d’escalader vers un spécialiste qui peut fournir un meilleur guide”

Expliquez ce que signifie le niveau de confiance pour la fiabilité : « Les recommandations de niveau de confiance élevé sont correctes environ 95 % du temps selon la validation historique.

Pour des décisions modérées ou de faible confiance, expliquez l’examen supplémentaire qui aura lieu : « Comme cette demande ne respecte pas nos paramètres standard, elle sera examinée par un spécialiste chevronné et approuvée généralement dans les 24 heures ou dans le cadre de votre accord de niveau de service (SLA) convenu. »

Si nécessaire, montrez aux utilisateurs ce qui pourrait changer le résultat. Les contrefactuels permettent aux utilisateurs d’améliorer les résultats avec des actions spécifiques au lieu de simplement les informer des décisions déjà prises.

Par exemple : “Votre score de piste augmenterait avec des informations d’emploi vérifiées (+8 points) et des références de crédit supplémentaires (+5 points). La fourniture de cette documentation déplacerait votre demande vers la file d’attente d’examen prioritaire.

Les contrefactuels sont de puissants mécanismes de transparence, mais nécessitent une conception soignée. Évitez de fournir des contrefacteurs qui encouragent le jeu du système ou qui révèlent involontairement des caractéristiques protégées en tant que facteurs de décision. « Votre demande obtiendrait un meilleur score si vous aviez 10 ans de moins » est une discrimination illégale, pas une transparence utile.

Dans certaines juridictions, une divulgation claire indiquant que les utilisateurs interagissent avec un robot est une exigence légale, pas seulement une meilleure pratique de conception. Indiquez clairement quand les utilisateurs interagissent avec des agents Agentforce plutôt qu’avec des agents humains. La divulgation doit être bien en vue et continue, ne pas être enterrée en termes de service ou affichée une seule fois au début de l’interaction.

Affichez des indicateurs visuels persistants :

Avatar de l’agent clairement marqué “Assistant IA”
En-tête montrant « Vous discutez avec un agent de service Agentforce »
Option « Connecter avec un agent humain » visible pendant la conversation

La divulgation respecte l’autonomie de l’utilisateur, ce qui permet de choisir en connaissance de cause le mode d’interaction. Les utilisateurs qui préfèrent l’interaction humaine doivent avoir cette option sans friction ni pénalité de qualité de service.

Les capacités de la plate-forme Salesforce, telles que la Surveillance des événements et le Journal d’audit des champs, antérieures à l’IA des agents, étendent la responsabilité algorithmique aux décisions prises par les agents individuels.

Surveillance des événements pour les actions des agents : Event Monitoring capture l’accès aux données des agents, les appels d’API et les modifications du système avec l’intégrité contrôlée par Salesforce. Diffusez les journaux de Surveillance des événements dans le SIEM externe pour conserver à long terme et falsifier les preuves en respectant les exigences réglementaires relatives aux décisions corrélatives.

Configurez la Surveillance des événements pour suivre :

Journaux des événements d’API montrant les interactions système des agents
Événements de connexion pour des comptes de service d’agent
Exportations de rapports lorsque les agents accèdent à des données en masse
Piste d’audit des champs pour les données influencées par l’IA : L’historique des champs standard conserve les modifications des données pendant 18 mois (24 mois via l’API). Le Journal d’audit des champs permet de conserver l’historique des champs indéfiniment, en l’archivant au bout de 18 mois, puis en conservant les données archivées jusqu’à leur suppression, ce qui favorise les audits d’équité à long terme et les enquêtes réglementaires. Activez le Journal d’audit des champs dans les objets qui stockent ou sont influencés par les décisions des agents, en choisissant parmi les objets standard pris en charge par le Journal d’audit des champs plus tous les objets personnalisés avec le suivi de l’historique des champs activé (jusqu’à 200 champs par objet).

Pour des décisions de crédit, des décisions d’emploi et d’autres cas d’utilisation à fort enjeu, la rétention pluriannuelle peut être une exigence réglementaire. Les périodes de conservation varient selon le régime. Confirmez l’exigence applicable à votre cas d’utilisation.

Surveillance des événements de bouclier pour les enjeux les plus importants : Shield Event Monitoring offre des capacités d’audit avancées avec des champs d’événement structurés et l’intégration aux outils de rapport de conformité. Les données du fichier journal des événements sont conservées par défaut pendant un an pour les clients de la Surveillance des événements et de Shield. Utilisez Shield pour les décisions des agents qui ont les enjeux les plus importants lorsque l’intégrité du journal d’audit est essentielle.

Stockez suffisamment d’informations pour reconstituer avec précision une décision historique de l’agent :

Version du modèle : Enregistrez la version du modèle (modèle de base, version prompte, ID de modèle affiné) qui a pris chaque décision. Les versions du modèle changent fréquemment et produisent des sorties différentes. Le suivi précis des versions active l’analyse des causes premières lorsque des biais sont découverts.
Valeurs de fonctionnalité d’entrée : Stockez les valeurs d’entrée exactes au moment de la décision, pas les valeurs actuelles qui peuvent avoir changé. Les clichés instantanés d’entrée permettent de vérifier si une décision serait différente avec les données actuelles ou de confirmer que la décision d’origine était correcte compte tenu des informations disponibles à l’époque.
État de configuration : Seuils d’enregistrement, règles métiers et paramètres actifs au moment de la décision. Les changements de configuration affectent les résultats. L’historique de configuration permet de déterminer si la dérive des décisions reflète les changements de modèle ou les changements de configuration.
Contexte environnemental : Capturez le contexte pertinent : identité de l’utilisateur, horodatage, historique des conversations, contexte de la session. Le contexte affecte le comportement des agents et doit être préservé pour une reconstruction précise.

La détection des biais doit être continue, pas une validation unique avant le déploiement. Les agents évoluent à travers des mises à jour rapides, des changements de version de modèle de base et des distributions de données mobiles.

Tableaux de bord des métriques d’équité : Élaborez des tableaux de bord CRM Analytics pour suivre les métriques d’équité à partir des journaux Einstein Trust Layer. Surveillez en permanence la parité démographique, l’égalité des chances et les différents ratios d’impact. Configurez des alertes lorsque des métriques dépassent les seuils définis.

Créez un tableau de bord montrant :

Distribution des décisions par segments démographiques de clients (graphiques à barres)
Métriques d’équité au fil du temps (lignes de tendance avec seuils d’alerte)
Calculs de ratio d’impact différents avec un indicateur de règle des quatre cinquièmes
Principaux prédicteurs contribuant aux décisions, lorsque le modèle sous-jacent les expose
Taux de remplacement par groupe démographique
Détection des postes de travail de distribution : Surveillez les distributions d’entrée des agents pour détecter les modifications qui pourraient entraîner des problèmes d’équité. Si la composition démographique des utilisateurs qui reçoivent des décisions de l’agent change considérablement par rapport aux données démographiques de formation, l’équité du modèle peut se dégrader.

Alerte lorsque les distributions d’entrée changent : “La distribution du segment client pour l’acheminement des pistes Agentforce a évolué de 15% vers Enterprise au cours des 30 derniers jours. Vérifiez si la logique d’acheminement reste équitable pour les clients des PME qui reçoivent maintenant des modèles de service différents. »

Intégration des commentaires des utilisateurs : Permettez aux utilisateurs de signaler les biais perçus via des mécanismes accessibles. Les rapports utilisateur révèlent les problèmes qualitatifs que les métriques quantitatives manquent.

Ajoutez l’option ” Signaler un problème ” à l’interface de chat Agentforce. Acheminez les rapports vers le comité d’éthique avec le contexte complet de la conversation. Suivez les rapports dans un objet personnalisé avec un workflow d’enquête requis et une résolution documentée.

Concevez des architectures d’agents anticipant les audits externes par les régulateurs, les organisations de défense des droits civiques ou les clients qui nécessitent des démonstrations algorithmiques de responsabilité.

Capacités d’exportation : Élaborez une fonctionnalité d’exportation permettant aux équipes de conformité d’extraire des jeux de données de décision complets avec une stratification démographique pour examen par un auditeur externe. Les exportateurs doivent respecter la réglementation sur la confidentialité des données tout en assurant une transparence suffisante pour la validation de l’équité.
Documents d’audit : Tenir à jour la documentation :
Objet de l’agent et cas d’utilisation prévus
Données démographiques des formations et limitations connues
Métriques d’équité calculées avant le déploiement et en production
Stratégies d’atténuation des biais appliquées
Configurations de surveillance humaine
Approche de surveillance et seuils d’alerte
Attributions de responsabilité (propriétaire du modèle, propriétaire de la décision, autorité d’appel)
Évaluations d’impact algorithmiques : Avant de déployer les agents pour prendre des décisions corrélatives, effectuez des évaluations d’impact en évaluant les effets positifs et négatifs potentiels entre les groupes de parties prenantes. Les analyses d’impact démontrent une diligence raisonnable et une gestion proactive des risques appréciées par les régulateurs.

Les utilisateurs gardent un contrôle significatif sur l’impact d’Agentforce sur leur expérience.

Adhérer pour les agents indirects : Les agents qui prennent des décisions qui affectent considérablement les utilisateurs doivent s’abonner explicitement au lieu d’être actifs par défaut. Les agents de décision de crédit, les agents de contrôle d’emploi et les agents d’éligibilité au service s’activent uniquement lorsque les utilisateurs y consentent, en comprenant clairement l’impact de l’agent sur eux.
Consentement granulaire : Activez le consentement par cas d’utilisation d’agent plutôt que le consentement général de l’IA. Un client peut consentir aux agents de service Agentforce tout en refusant les agents commerciaux Agentforce. L’architecture qui prend en charge le suivi du consentement au niveau du cas d’utilisation est une entrée; les tests et les audits périodiques de la logique d’application aident à confirmer la validité des portails de consentement dans la pratique.
Consentement dynamique pour de nouvelles capacités : Lors du déploiement de nouvelles capacités Agentforce qui affectent les utilisateurs existants, demandez proactivement le consentement pour de nouveaux cas d’utilisation plutôt que de vous appuyer sur un consentement d’origine qui n’envisageait pas d’applications spécifiques. Chaque capacité d’agent nouvelle affectant les utilisateurs déclenche un contrôle de consentement avec une explication claire.
Retrait du consentement avec effet immédiat : Permettez aux utilisateurs de retirer leur consentement à tout moment en arrêtant immédiatement le traitement des agents. Le retrait du consentement doit être aussi facile que son octroi, sans contact de support ni processus bureaucratique.

Gestion des préférences : Permettez aux utilisateurs de configurer le comportement des agents dans des limites définies :
- Style de communication (explications concises ou détaillées)
- Niveau de proactivité (répondez uniquement lorsqu’on vous le demande ou suggérez proactivement)
- Préférence d’escalade (préférer la résolution IA plutôt que l’humain rapidement)

Stockez les préférences dans les champs personnalisés d’enregistrement utilisateur. Préférences de référence dans les invites système des agents : “L’utilisateur préfère des explications détaillées. Fournissez des réponses complètes avec un raisonnement à l’appui. »

Remise humaine à la demande : Offrez l’option persistante ” Connecter avec un agent humain ” dans toutes les interactions Agentforce sans demander aux utilisateurs de compléter les interactions des agents ni d’expliquer pourquoi ils préfèrent les humains.

Configurez l’acheminement de transfert immédiat : Lorsque l’utilisateur sélectionne « Agent humain », acheminez vers Omni-Channel avec le contexte complet de la conversation et un indicateur de priorité indiquant la préférence de l’utilisateur. Aucune pénalité de service ou de temps d’attente dégradée ne s’applique au choix d’une interaction humaine.

Indicateurs de transparence : Marquez clairement les interactions des agents avec des indicateurs visuels permanents permettant aux utilisateurs de rester informés du mode d’interaction. Les utilisateurs qui oublient d’interagir avec des agents peuvent avoir des attentes irréalistes ou percevoir une tromperie lorsque les limitations sont révélées.

Concevez des agents qui produisent des résultats équitables à travers les groupes démographiques protégés par des choix architecturaux intentionnels.

Les agents qui prennent des décisions corrélatives ne doivent pas exercer de discrimination fondée sur des caractéristiques protégées (notamment la race, le sexe, l’âge, le handicap, la religion, l’origine nationale ou l’orientation sexuelle), sauf si la loi le justifie à des fins spécifiques, par exemple pour des mesures d’adaptation en cas d’incapacité.

Audit de fonctionnalité : Examinez toutes les sources de données utilisées dans le raisonnement des agents pour les contenus caractéristiques protégés. Les données CRM, les segments Data 360 et les bases Knowledge peuvent contenir des informations démographiques que les agents ne doivent pas prendre en compte pour certaines décisions.

Retirez ou masquez les caractéristiques protégées des entrées des agents lorsque ces caractéristiques ne sont pas légalement justifiées pour le type de décision. Pour les décisions de crédit, excluez le statut d’invalidité, car il n’est pas pertinent. Pour les demandes d’adaptation pour déficience, le statut d’invalidité est essentiel et doit être inclus.

Ingénierie prompte pour la non-discrimination : Insérez des instructions explicites de non-discrimination dans les invites système des agents :

“Vous êtes un agent du service client. Traitez tous les clients avec le même professionnalisme, quels que soient leur nom, leur emplacement, leur style de communication ou toute autre caractéristique. Fournissez des recommandations de qualité et de détail égales à tous les clients. Ne formulez jamais d’hypothèses sur les clients en fonction de leurs caractéristiques démographiques. »

Test avec des personnes démographiques : Avant le déploiement en production, testez les agents avec diverses personnes représentant des groupes protégés. Générez des requêtes identiques ne variant que par des signaux démographiques (y compris des noms suggérant différentes ethnies, des emplacements suggérant différentes régions et des styles de communication suggérant différents niveaux d’éducation).

Comparez les réponses des agents entre les personnes pour la qualité, la longueur, le professionnalisme et les résultats. Les différences indiquent que les biais nécessitent une atténuation.

Surveillez la qualité du service Agentforce dans l’ensemble des données démographiques des clients en garantissant des expériences comparables :

Taux de résolution par segment : Calculez les taux de résolution au premier contact stratifiés par segment de clients. Si les clients Enterprise atteignent une résolution de 75 % et les clients PME une résolution de 55 %, vérifiez si la qualité de la base Knowledge, la formation des agents ou les capacités des produits diffèrent selon le segment.
Qualité des réponses par segment : Échantillonnez les conversations des agents à travers les segments et demandez aux examinateurs d’évaluer la qualité des réponses sur des dimensions cohérentes : précision, exhaustivité, professionnalisme, serviabilité. Les tests de fiabilité inter-évaluateurs garantissent que les examinateurs appliquent des normes cohérentes.
Taux d’escalade par segment : Suivez la fréquence à laquelle les agents escaladent en humains stratifiés par les données démographiques des clients. Des taux d’escalade plus élevés pour certains segments indiquent que les agents sont moins efficaces pour ces utilisateurs, créant des disparités de qualité de service.
Satisfaction par segment : Sondez les utilisateurs de tous les groupes démographiques et comparez les scores de satisfaction. Dans l’ensemble, une satisfaction élevée peut masquer des expériences médiocres pour les groupes minoritaires noyés dans la satisfaction de la majorité.

Les interfaces Agentforce doivent être accessibles aux utilisateurs handicapés répondant aux normes WCAG 2.2 AA. Référencer les bibliothèques de composants et de schémas Salesforce Lightning Design System pour les composants et schémas de conception Agentforce réutilisables et accessibles. Ces modèles rendent les expériences des agents accessibles, cohérentes et apprenantes.

Compatibilité du lecteur d’écran : Les composants de messagerie Lightning fournissant des interfaces de chat Agentforce incluent l’accessibilité de base lorsqu’ils sont utilisés tels que conçus. Les implémentations de chat personnalisées nécessitent une implémentation manuelle de l’accessibilité :
Structure HTML sémantique avec des repères appropriés
Régions en direct ARIA annonçant de nouveaux messages
Navigation au clavier dans l’historique des messages
Indicateurs de focus clairs sur les éléments interactifs

Testez avec la technologie d’assistance du lecteur d’écran JAWS, NVDA et VoiceOver tout au long du développement, pas seulement la numérisation automatisée.

Accessibilité cognitive : Les réponses des agents utilisent un langage clair pour l’ensemble des audiences. Évitez le jargon et fournissez des glossaires pour les termes techniques inévitables. Structurez les réponses longues avec des en-têtes et utilisez des listes à puces ou numérotées pour faciliter la compréhension si nécessaire.
Équité linguistique : Agentforce prend en charge plusieurs langues via les capacités multilingues du modèle de base. La qualité des réponses validées est comparable entre les langues à travers l’évaluation des locuteurs natifs, pas seulement les métriques automatisées qui manquent de nuance culturelle.

Pour des cas d’utilisation critiques de l’entreprise desservant diverses populations linguistiques, configurez le traitement spécifique à une langue (variables linguistiques, invites localisées et filtrage des articles Knowledge par langue) et validez la qualité par langue au lieu de vous appuyer uniquement sur le transfert interlinguistique du modèle de base, ce qui peut fournir une qualité dégradée pour les langues à faible ressource.

Implémentez l’équité pour Agentforce par étapes alignées sur la maturité du déploiement des agents.

Phase 1: Fondation (avant tout agent de production)

Établir un comité d’examen de l’éthique doté d’un pouvoir d’application
Documenter les attributions de responsabilité (propriétaire du modèle, propriétaire de la décision, autorité d’appel)
Activer la capture d’audit de la couche de Trust Einstein
Configuration de la surveillance des événements pour les actions des agents
Créer des tableaux de bord de surveillance de l’équité de référence dans CRM Analytics
Définissez des portes de déploiement obligatoires : audit des données, métriques d’équité, analyse d’impact

Phase 2: Premier agent de production

Effectuer une évaluation d’impact complète pour le cas d’utilisation
Formation à l’audit/données RAG pour la représentation démographique
Calculer des métriques d’équité à travers les groupes démographiques
Implémenter un schéma de surveillance humaine (humain dans la boucle, escalade de confiance ou limité dans le temps)
Configurer le mécanisme de rapport de biais pour les utilisateurs
Version du modèle de document, configuration et approche de reconstruction des décisions

Phase 3 : Surveillance continue

Surveillez les tableaux de bord d’équité chaque semaine, en enquêtant sur les infractions au seuil dans les 24 heures (ou accord de niveau de service de réponse convenu par votre organisation)
Effectuer une analyse mensuelle des modèles de remplacement en identifiant les problèmes systématiques
Examinez les rapports sur les biais des utilisateurs chaque semaine avec les résultats d’enquête documentés
Effectuer des audits d’équité complets trimestriels pour les agents à fort enjeu
Mettre à jour la documentation à mesure que les agents évoluent à travers des mises à jour rapides ou des changements de modèle

Phase 4 : Mise à l’échelle et gouvernance

Créer des modèles de tableau de bord d’équité réutilisables pour des types d’agent courants
Élaborer un outil de reconstruction des décisions des agents permettant le libre-service de l’équipe de conformité
Standardiser les modèles de gestion du consentement entre tous les nouveaux agents
Implémenter des tests de régression de l’équité automatisés dans les pipelines CI/CD
Planifier des audits externes semestriels d’équité par des tiers
Maintenir la surveillance réglementaire et s’adapter aux obligations actives et émergentes, notamment la loi IA européenne (progressivement en 2025-2027), les lois des États et les réglementations sectorielles

L’équité est une préoccupation architecturale essentielle pour les systèmes agents sur Salesforce Platform. Les organisations concevant Agentforce avec équité comme une préoccupation architecturale de premier ordre se positionnent en avance sur les exigences réglementaires tout en élaborant des solutions auxquelles tous les utilisateurs peuvent faire Trust et utiliser efficacement. Les capacités de la plate-forme existent. La question est de savoir si les architectes vont les utiliser.

Partagez vos commentaires sur l'infrastructure bien archivée.