Trust Agentic Enterprise - Modèles
En savoir plus sur Well-Architected Trust → Agentic Enterprise Trust
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l’agent | ✅ Créer l’utilisateur d’intégration “Agent_Product_Support” avec un ensemble d’autorisations accordant Lire sur Requête/Produit, l’accès aux articles Knowledge, et des Actions spécifiques uniquement pour les mises à jour de requête |
| Agentforce | Configuration de l’agent | ✅ Configurer l’utilisateur actif avec les autorisations minimales requises pour l’étendue définie par l’agent |
| Plate-forme | Ensembles d’autorisations | ✅ Créer des utilisateurs d’intégration spécialement conçus pour les contextes des agents et accorder des ensembles d’autorisations fournissant exactement ce dont l’agent a besoin |
| Plate-forme | Surveillance des événements | ✅ Après le déploiement, utilisez la Surveillance des événements pour identifier les autorisations accordées qui n’ont jamais été exercées à l’exécution et les retirer. Le Journal d’audit de configuration enregistre les changements de configuration (octrois et révocations), pas les autorisations réellement utilisées. |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l’agent | ⚠️ Attribuer l’administrateur système en tant qu’utilisateur actif car il « fonctionne juste » et évite les erreurs d’autorisation pendant le test |
| Plate-forme | Organisation | ⚠️ Autoriser les agents à conserver les ensembles d’autorisations étendus accordés pendant le développement sans examen postérieur au déploiement |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Agent Builder | ✅ Traiter la configuration des sous-agents et des actions dans le Générateur d’agents comme une frontière d’autorisation, pas seulement d’acheminement : si une action n’est pas attribuée à un sous-agent, l’agent ne peut pas l’invoquer |
| Agentforce | Agent Builder | ✅ Retirez les sous-agents qui exposent les capacités dont l’agent n’a pas besoin (un agent qui répond à des questions produit ne devrait pas avoir de modification d’enregistrement, d’envoi d’e-mail ou d’invocation de flux dans l’étendue), et examinez l’étendue des sous-agents lorsque les responsabilités changent |
| Plate-forme | Apex | ✅ Vérifier chaque action Apex dans l’ensemble d’actions de l’agent utilise avec partage ou partage hérité sauf si le contexte système est délibéré et documenté, de sorte que l’utilisateur actif reste la frontière de sécurité |
| Agentforce | Action | ✅ Valider les sorties d’outil par rapport à un schéma avant que l’agent ne les traite, en traitant chaque réponse de l’outil comme une entrée non approuvée |
| Agentforce | Action | ✅ Contraindre les paramètres de l’outil à des plages de valeurs autorisées (par exemple, valider les domaines de destinataire dans une action Envoyer un e-mail) au lieu de laisser les agents raisonner sur des données non approuvées les déterminer |
| Agentforce | Action | ✅ Appliquer les contrôles d’autorisation au niveau de l’outil au niveau de la couche d’implémentation de l’outil, pas seulement dans la configuration de l’agent, afin qu’une capacité vérifie son contexte d’appel avant d’exécuter |
| Agentforce | Action | ✅ Utiliser des identifiants nommés pour tous les appels externes à partir des actions de l’agent |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Agent Builder | ⚠️ Laisser les sous-agents qui exposent la modification d’enregistrements, l’envoi d’e-mails ou l’invocation de flux sur un agent conçu uniquement pour répondre aux questions des produits |
| Agentforce | Agent Builder | ⚠️ Traiter la configuration de l’agent comme un acheminement uniquement sans reconnaître que tout ce qui est répertorié est accessible via une manipulation rapide, même les capacités que l’agent n’a pas été conçu pour utiliser |
| Plate-forme | Apex | ⚠️ Ajout d’une action Apex personnalisée exécutée en mode système (sans partage) qui contourne les règles de sécurité et de partage au niveau du champ de l’utilisateur actif sans la concevoir délibérément |
| Agentforce | Action | ⚠️ Réponses de l’outil de traitement en tant qu’entrée approuvée sans validation de schéma, laissant les données malformées ou injectées atteindre le raisonnement de l’agent |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l’agent | ✅ Chaîne d’autorisations de document : Orchestrateur de commande (Lire les commandes, Écrire le statut de la commande) → Spécialiste de l’inventaire (Lire/Écrire l’inventaire) → Spécialiste de l’expédition (Créer l’expédition). Vérifier le contexte utilisateur autorise toutes les opérations en aval |
| Agentforce | Configuration de l’agent | ✅ Mapper les autorisations effectives de la chaîne d’orchestration complète avant le déploiement |
| Agentforce | Configuration de l’agent | ✅ Concevoir des limites d’autorisation à travers le workflow complet, pas seulement des agents individuels |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l’agent | ⚠️ Autoriser l’orchestrateur avec des autorisations limitées à invoquer un spécialiste avec Modifier toutes les données, en contournant les restrictions de l’orchestrateur |
| Agentforce | Configuration de l’agent | ⚠️ Évaluer les autorisations individuelles des agents sans mapper le privilège effectif de toute la chaîne d’orchestration |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Modèle d’invite | ✅ Instructions séparées des données architecturalement: Les instructions au niveau système ne doivent pas être mélangées à des contenus provenant d’enregistrements, à des textes fournis par l’utilisateur ou à des réponses d’outils via une concaténation de chaîne |
| Agentforce | Action | ✅ Identifiez Description de la requête, Corps de l’e-mail, Transcription de chat comme champs à risque élevé. Implémenter une couche de prétraitement qui résume le contenu avant de transmettre au raisonnement de l’agent, en retirant les instructions d’injection potentielle tout en préservant le sens |
| Agentforce | Configuration de l’agent | ✅ Définir des contrats de validation d’entrée à chaque frontière de l’agent et traiter chaque source de contenu externe comme non approuvée |
| Data 360 | Sources d’ancrage | ✅ Traiter les articles Knowledge, les documents indexés Data 360 et les sources de récupération externes comme des surfaces d’injection persistantes nécessitant un examen continu |
| Einstein | Couche de Trust | ✅ Traiter les contrôles de sécurité de la couche de Trust Einstein comme une couche dans une solution de défense approfondie, pas complète |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Modèle d’invite | ⚠️ Concaténer la Description de la requête brute dans l’invite de l’agent avec des instructions système, en supposant que le modèle distinguera le contenu de la requête des instructions d’attaque |
| Data 360 | Sources d’ancrage | ⚠️ Trust grounding sources sans considérer que les contenus contradictoires persistent et peuvent être modifiés au fil du temps par des parties sans accès direct de l’agent |
| Einstein | Couche de Trust | ⚠️ S’appuyer exclusivement sur les contrôles de sécurité Trust Layer sans défenses architecturales supplémentaires pour de nouvelles techniques d’injection |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Einstein | Couche de Trust | ✅ L’agent qui récupère les informations de requête interroge uniquement les champs nécessaires au raisonnement (Numéro de requête, Produit, Statut, Priorité) plutôt que tous les champs Requête. Le masquage des PII offre une protection supplémentaire en cas d’apparition d’informations d’identification personnelle inattendues |
| Einstein | Couche de Trust | ✅ Configurer Trust Layer correctement et documenter les flux de données via le traitement Trust Layer |
| Einstein | Couche de Trust | ✅ Déterminer quelles classifications de données peuvent entrer dans l’inférence LLM pour votre contexte réglementaire |
| Plate-forme | Surveillance des événements | ✅ Acheminer les événements d’audit Trust Layer vers SIEM avec les données de Surveillance des événements |
| Plate-forme | Surveillance des événements | ✅ Mettre en œuvre une consignation au niveau de l’application qui capture ce que l’agent a décidé, l’action qu’il a exécutée et le résultat commercial aux côtés des journaux Trust Layer |
| Entreprise | Documentation | ✅ Valider Trust Layer audit rétention répond aux exigences réglementaires |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Einstein | Couche de Trust | ⚠️ Interroger tous les champs Requête, y compris les notes confidentielles et les informations de paiement, en s’appuyant sur le masquage des PII pour retirer tout ce qui pose problème |
| Einstein | Couche de Trust | ⚠️ Concevoir des agents pour envoyer le contexte complet de l’enregistrement à l’inférence LLM en supposant que le masquage des informations d’identification personnelle gère tout |
| Einstein | Couche de Trust | ⚠️ Traiter le masquage des PII Trust Layer comme un substitut à la minimisation des données plutôt que comme une défense en profondeur |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Configuration de l’agent | ✅ Le Spécialiste de l’exécution de commande valide les données de commande fournies par l’orchestrateur, notamment les champs obligatoires (ID de commande, ID de client, UGS produit), les valeurs sont comprises dans les plages attendues (quantité > 0, prix > 0) et le statut de la commande autorise l’exécution avant l’exécution |
| Agentforce | Configuration de l’agent | ✅ Définir des contrats d’interface typés explicites pour la communication inter-agents avec des données structurées, étendues et validées |
| Agentforce | Configuration de l’agent | ✅ Concevoir chaque agent dans un workflow multi-agents pour valider le contexte qu’il reçoit avant d’agir, quelle que soit l’identité de l’appelant |
| Agentforce | Configuration de l’agent | ✅ Traiter le contenu des messages inter-agents avec le même examen que l’entrée utilisateur externe |
| Intégration | Services externes | ✅ Pour les agents qui invoquent des services IA externes ou des agents tiers extérieurs à Salesforce, appliquer les principes de confiance zéro et valider les réponses entrent dans la structure et le périmètre attendus |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l’agent | ⚠️ Spécialiste exécute directement toute action demandée par l’orchestrateur sans valider la structure de la requête, les valeurs ou le contexte d’autorisation |
| Agentforce | Configuration de l’agent | ⚠️ Les orchestrateurs transmettent des chaînes d’instructions brutes que les spécialistes traitent comme des directives faisant autorité |
| Agentforce | Configuration de l’agent | ⚠️ Transmettre le contexte d’exécution complet, les données de session utilisateur ou la trace de raisonnement accumulée à chaque agent en aval |
| Intégration | Services externes | ⚠️ Agir sur les réponses des agents externes qui demandent à votre orchestrateur d’exécuter des actions hors de la portée de la tâche actuelle sans rejet ni escalade |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | Flux | ✅ Agent de remboursement configuré avec le point de contrôle Flux nécessitant une approbation humaine avant l’exécution de tout remboursement supérieur à 1000 €, quelle que soit la confiance de l’agent. Point de contrôle implémenté hors du raisonnement de l’agent |
| Plate-forme | Flux | ✅ Implémenter des points de contrôle HITL en tant que portes de workflow hors de la boucle de raisonnement de l’agent, conçus comme des contrôles architecturaux plutôt que des instructions de l’agent |
| Entreprise | Documentation | ✅ Définir des catégories d’actions nécessitant une confirmation humaine: actions irréversibles, actions supérieures aux seuils financiers, actions communiquant avec l’extérieur, actions impliquant des données réglementées, actions dans lesquelles des erreurs ont été constatées |
| Agentforce | Configuration de l’agent | ✅ Concevoir des interfaces d’examen qui exposent l’action proposée, l’agent de données utilisé pour atteindre la proposition et le parcours de raisonnement si disponible |
| Plate-forme | Audit | ✅ Décision d’examen du magasin avec l’enregistrement d’action de l’agent : qui a examiné, quand, quelles informations ont été affichées, ce qu’ils ont décidé |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Configuration de l’agent | ⚠️ Configurer l’agent avec l’instruction « Demander l’approbation avant d’émettre des remboursements de plus de 1000 $ » en supposant que l’instruction ne peut pas être remplacée par une injection rapide |
| Agentforce | Configuration de l’agent | ⚠️ Implémenter HITL en tant qu’instructions de l’agent qui peuvent être interprétées et éventuellement ignorées, plutôt qu’en tant que points de contrôle de workflow extérieurs au parcours de raisonnement |
| Entreprise | Processus | ⚠️ Présenter aux examinateurs humains des demandes d’approbation sans contexte sur l’action proposée, les données utilisées ou le parcours de raisonnement – sans véritable supervision |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | Surveillance des événements | ✅ Acheminer les événements Event Monitoring et Trust Layer vers SIEM pour une surveillance de sécurité centralisée |
| Plate-forme | Sécurité des transactions | ✅ Configurer des stratégies de sécurité des transactions avec l’évaluation en temps réel, y compris les capacités de blocage et de notification |
| Agentforce | Configuration de l’agent | ✅ Implémenter une consignation d’application personnalisée qui capture les résumés de raisonnement, les invocations d’outils et les échecs de validation |
| Plate-forme | Surveillance des événements | ✅ Concevoir des règles d’alerte détectant les modèles suspects spécifiques à l’agent: accès en masse aux données hors des fenêtres attendues, invocation d’actions non conformes à l’objectif, échecs de validation répétés, modèles d’orchestration anormaux |
| Agentforce | Configuration de l’agent | ✅ Suivre les modèles d’invocation d’action typiques, les volumes d’accès aux données, les taux d’appels d’inférence, les taux d’erreur et les temps d’exécution par agent pour établir des niveaux de référence comportementaux |
| Plate-forme | Surveillance des événements | ✅ Définir des événements de sécurité spécifiques à l’agent : infractions aux limites des autorisations, échecs de validation répétés, anomalies d’orchestration, dépassements de seuil de confiance, schémas d’activation de secours |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Plate-forme | Surveillance des événements | ⚠️ Appliquer des schémas de surveillance de l’activité humaine aux agents sans établir de référence comportementale spécifique à l’agent |
| Plate-forme | Surveillance des événements | ⚠️ S’appuyer uniquement sur la détection basée sur la signature sans surveillance comportementale qui peut détecter de nouvelles attaques |
| Plate-forme | Surveillance des événements | ⚠️ Ignorer les taux d’erreur élevés, les échecs de validation répétés ou les modèles d’orchestration anormaux comme comportement normal des agents |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | Audit | ✅ Pour chaque action importante de l’agent, capturez : identité de l’agent et contexte de l’utilisateur actif, événement déclenchant, données récupérées pour l’ancrage, résumé du raisonnement, action et résultat spécifiques, niveau de confiance, décision d’examen humain si applicable |
| Plate-forme | Audit | ✅ Implémenter une consignation d’audit au niveau de l’application pour le contexte métier que les journaux de plate-forme (Event Monitoring, Trust Layer events) ne comprennent pas |
| Plate-forme | Audit | ✅ Acheminer les événements Event Monitoring et Trust Layer vers un stockage à long terme au-delà des périodes de rétention natives |
| Agentforce | Configuration de l’agent | ✅ Consigner l’identité de l’agent à chaque étape dans la trace d’exécution multi-agents pour l’attribution via des chaînes d’orchestration |
| Agentforce | Configuration de l’agent | ✅ Capturer et exposer des résumés de raisonnement identifiant les facteurs clés qui influencent la recommandation de l’agent pour les décisions à fort impact |
| Entreprise | Documentation | ✅ Concevoir des workflows d’agent afin de permettre aux utilisateurs de demander des explications sur les décisions qui les concernent |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Plate-forme | Audit | ⚠️ Reconstruire ce que l’agent a fait à partir des effets secondaires dans les enregistrements — au moment où vous avez besoin d’un journal d’audit, les enregistrements peuvent avoir changé |
| Plate-forme | Audit | ⚠️ Consigner les workflows multi-agents sans identifier quel agent spécifique a effectué quelle action dans la chaîne |
| Entreprise | Processus | ⚠️ Déployer les agents qui prennent des décisions à fort impact sans capturer de résumés de raisonnement ni fournir de mécanismes d’explication aux utilisateurs affectés |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Agentforce | Instructions de l’agent | ✅ Lorsqu’une nouvelle contrainte apparaît en cours de décision (date limite, budget, dotation en personnel, licence), réexécutez le compromis complet entre tous les facteurs d’origine plutôt que de laisser la nouvelle entrée revenir seule sur la décision précédente |
| Agentforce | Instructions de l’agent | ✅ Indiquer explicitement le changement d’objectif — faire surface lorsque la cible d’optimisation passe de « architecturalement solide et maintenable » à « livrable sous la contrainte » — afin que l’humain puisse voir ce pour quoi on optimise actuellement |
| Entreprise | Processus | ✅ Traiter une tension architecture-livraison comme un compromis appartenant à l’homme : présenter ce qui est gagné (vitesse) par rapport à ce qui est payé (coût total de propriété, maintenabilité, verrouillage) et acheminer la décision vers le propriétaire responsable |
| Agentforce | Instructions de l’agent | ✅ Garder la forme architecturale (la conception répond-elle aux exigences) et la faisabilité de la livraison (cette équipe peut-elle l’expédier à temps) comme des facteurs distincts et visibles plutôt que de les réduire en une seule réponse |
| Plate-forme | Documentation | ✅ Lors de l’annulation d’une décision documentée, pondérez-la de nouveau par rapport à la justification initiale et enregistrez l’annulation en tant que compromis transparent et limité dans le temps avec un déclencheur de revisite — un enregistrement de décision mis à jour indique que le compromis a été pondéré de nouveau, pas seulement remplacé |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Agentforce | Instructions de l’agent | ⚠️ Laisser une seule contrainte nouvelle (équipe non disponible, délai serré) revenir sur une décision technique tout en abandonnant silencieusement les facteurs de coût et de maintenabilité qui ont conduit au choix initial |
| Agentforce | Instructions de l’agent | ⚠️ Déplacement de l’objectif d’optimisation de « architecturalement solide et maintenable » à « livrable sous la contrainte » sans signaler que l’objectif a changé |
| Entreprise | Processus | ⚠️ Renversement d’une conception saine à une option moins chère ou plus rapide sous une nouvelle contrainte, sans faire resurgir le coût total à long terme de propriété, de maintenabilité et de verrouillage qui a conduit au choix initial |
| Entreprise | Processus | ⚠️ Résolution d’un conflit architecture-livraison dans le raisonnement de l’agent au lieu de l’escalader en tant que compromis conscient, appartenant à l’homme |
| Plate-forme | Documentation | ⚠️ Produire un nouvel enregistrement de décision qui consigne l’inversion, mais ne la pondère pas de nouveau par rapport à la justification d’origine — respecter le déclencheur de revisite dans la lettre, mais pas dans le fond |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Entreprise | Documentation | ✅ Suivre les développements réglementaires dans les juridictions où les solutions opèrent et concevoir la conformité en systèmes agents dès le début |
| Entreprise | Documentation | ✅ Évaluer les niveaux de risque du système IA par référentiel applicable (EU AI Act, US AI Bill of Rights, référentiels régionaux) |
| Agentforce | Configuration de l’agent | ✅ Mettre en place des mécanismes de transparence et d’explicabilité et concevoir une surveillance humaine adaptée au niveau de risque |
| Entreprise | Documentation | ✅ Documenter comment chaque exigence spécifique au secteur d’activité (HIPAA, DORA, SOX, GDPR, CCPA) est satisfaite par des contrôles architecturaux spécifiques |
| Entreprise | Documentation | ✅ Valider la conformité avant le déploiement en production |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Entreprise | Processus | ⚠️ Mettre à niveau la transparence, l’explicabilité et la supervision humaine après le déploiement au lieu de les intégrer dès le départ |
| Entreprise | Processus | ⚠️ Déployer des agents qui traitent des données PHI, financières ou personnelles sans valider qu’ils remplissent les exigences HIPAA, DORA/SOX ou GDPR/CCPA |
| Entreprise | Processus | ⚠️ Ignorer les réglementations émergentes spécifiques à l’IA (catégorie de risque EU AI Act, exigences de transparence), en les traitant comme agentiques uniquement lorsque l’automatisation Salesforce traditionnelle n’est pas non plus exempte |
Modèles
| Où chercher | À quoi ressemble le bien |
|---|---|
| Plate-forme | AgentExchange | ✅ Avant d’activer une action tierce pour l’utilisation de l’agent, vérifiez l’action exécutée au niveau du code et du flux de données, les services externes qu’elle appelle et les données qu’elle transmet |
| Plate-forme | AgentExchange | ✅ Revisiter les configurations d’actions tierces lorsque les mises à jour du package géré sont appliquées |
| Agentforce | Modèle d’invite | ✅ Examinez les modèles d’invite provenant de sources extérieures à votre équipe avant de les utiliser et traitez-les comme une exécution de code dans un processus de raisonnement privilégié avec accès aux données de votre organisation |
| Agentforce | Modèle d’invite | ✅ Établir un processus d’examen et d’approbation pour les modèles utilisés dans les agents de production et maintenir l’enregistrement de la provenance des modèles |
| Agentforce | Configuration de l’agent | ✅ Maintenir la suite de tests pour Agent de service client avec des questions représentatives, des cas de bord et des tentatives d’injection connues. Exécuter la suite en sandbox après la notification de mise à jour du modèle, comparer la qualité et la sécurité des réponses avant de promouvoir en production |
| Agentforce | Configuration de l’agent | ✅ Traiter les changements de version de modèle en tant qu’événements de déploiement et gérer des suites de tests comportementaux pour les agents couvrant des entrées représentatives, des requêtes périphériques et des modèles contradictoires connus |
Anti-modèles
| Où chercher | À quoi ressemble mal |
|---|---|
| Plate-forme | AgentExchange | ⚠️ Activer des actions AgentExchange tierces pour l’utilisation des agents sans examiner le code, les flux de données et les appels de service externes |
| Agentforce | Modèle d’invite | ⚠️ Utiliser des modèles d’invite à partir de sources externes ou d’exemples de communauté sans examiner les instructions incorporées qui pourraient modifier le comportement de sécurité des agents ou introduire des biais de raisonnement |
| Agentforce | Configuration de l’agent | ⚠️ Autoriser les mises à jour automatiques du modèle pour les agents de production sans validation, en découvrant les changements de comportement via les plaintes des utilisateurs |