Modèles de fiabilité des agents

En savoir plus sur la fiabilité bien archivée → Fiabilité Agentic Enterprise

Modèles

Où chercherÀ quoi ressemble le bien
Plate-forme | Cache de la plate-forme✅ Implémentez des disjoncteurs qui suivent l’état d’intégrité du service LLM dans Cache de la plate-forme pour les lectures en temps réel à faible latence, appuyés par des Types de métadonnées personnalisées pour les seuils et la configuration. Comme Cache de la plate-forme est le meilleur effort, maintenez l’état ouvert/déclenché dans un magasin durable (tel qu’un objet personnalisé) plutôt que le cache seul. Ouvrez le circuit sur un seuil de défaillance réglé (par exemple, cinq échecs d’inférence consécutifs) et acheminez vers des schémas de repli
Plate-forme | Cache de la plate-forme✅ Stocker les schémas de réponse validés dans le cache de la plate-forme, ce qui permet de valider rapidement les réponses des agents par rapport à la structure attendue
Agentforce | Modèle d’invite✅ Lorsque la validation de la réponse échoue, réessayez avec des invites affinées, notamment l’erreur de validation et un exemple de structure correcte (maximum 3-5 tentatives)
Agentforce | Traçage des sessions✅ Utiliser les traces de raisonnement de Session Tracing Agentforce pour inspecter le parcours de raisonnement de l’agent et détecter l’hallucination dans ses sorties
Data 360 | Recherche vectorielle✅ Demander aux agents de citer des sources de recherche vectorielle Data 360 afin de croiser les réclamations avec les sources récupérées avant l’exécution de l’action
Plate-forme | Proactive Monitoring✅ Pour les comptes qui disposent de l’autorisation Signature Success, fiez-vous à Proactive Monitoring, où le personnel de Salesforce surveille l’organisation pour détecter les problèmes émergents; il ne s’agit pas d’une alerte configurable en libre-service
Plate-forme | Centre d’échelle✅ Utilisez le Centre d’échelle pour identifier les opérations spécifiques des agents qui approchent les limites du gouverneur
Agentforce | Action✅ Implémenter la pagination dans les actions des agents en récupérant des collections d’enregistrements volumineuses
Agentforce | Action✅ Concevoir des actions d’agent avec des limites strictes (maximum 200 enfants par parent) et implémenter des stratégies d’échantillonnage lorsque les limites sont dépassées

Anti-modèles

Où chercherÀ quoi ressemble mal
Plate-forme | Types de métadonnées personnalisées⚠️ Autoriser les tentatives d’inférence illimitées sans disjoncteur, créant ainsi des boucles de nouvelle tentative infinies lorsque le service LLM est dégradé
Agentforce | Modèle d’invite⚠️ Réessayer les réponses échouées des agents sans inclure l’erreur de validation et la structure attendue dans l’invite de nouvelle tentative
Agentforce | Action⚠️ Autoriser les agents à demander un contexte illimité (par exemple, « tout l’historique ») sans limites strictes pour les enfants par enregistrement parent
Agentforce | Action⚠️ Concevoir des actions d’agent qui récupèrent des collections d’enregistrements volumineuses sans pagination, provoquant des pics de limitation du gouverneur
Einstein | Couche de Trust⚠️ Faire confiance aux réponses des agents sans croiser les réclamations avec les sources de données d’ancrage, permettant aux hallucinations d’atteindre l’exécution de l’action
Plate-forme | Organisation⚠️ Traiter la disponibilité du service LLM comme identique à la disponibilité de la plate-forme Salesforce au lieu de la surveiller en tant que dépendance séparée

Modèles

Où chercherÀ quoi ressemble le bien
Agentforce | Configuration de l’agent✅ Concevoir des chaînes de repli à plusieurs niveaux: Agent plein contexte → agent en contexte réduit → moteur de règles déterministes → transfert humain via Omni-Channel
Agentforce | Configuration de l’agent✅ Configurer un agent secondaire en utilisant un contexte condensé (30 derniers jours par rapport à l’historique, 5 principaux résultats de recherche vectorielle par rapport aux 20 premiers) pour réduire la probabilité d’échec
Plate-forme | Flux✅ Implémenter une logique de repli dans un flux d’orchestration ou Apex déclenché par des événements de plate-forme, en consignant quel niveau a réussi pour la visibilité sur les modèles d’échec
Plate-forme | Flux✅ Élaborer une logique de flux ou Apex déterministe traitant les scénarios courants en tant que solution de repli lorsque le raisonnement de l’agent échoue (par ex., règles de validation standard, calcul de score basé sur une règle)
Agentforce | Omni-Channel✅ Configurer l’acheminement basé sur les compétences pour le transfert humain en veillant à ce que les escalades atteignent l’expertise appropriée
Agentforce | Omni-Channel✅ Transmettre le contexte complet de la conversation à la file d’attente humaine, y compris les stratégies tentées, les scores de confiance des agents et les motifs d’échec

Anti-modèles

Où chercherÀ quoi ressemble mal
Agentforce | Configuration de l’agent⚠️ Concevoir des agents avec un parcours d’exécution unique qui échoue complètement lorsqu’un composant se dégrade
Agentforce | Configuration de l’agent⚠️ Utiliser la même configuration d’agent en contexte complet pour les tentatives de repli au lieu de simplifier progressivement le contexte
Agentforce | Omni-Channel⚠️ Acheminement vers le transfert humain sans transmettre le contexte de la conversation, les stratégies tentées ou les motifs d’échec, forçant l’agent à recommencer à zéro
Plate-forme | Flux⚠️ Ne pas consigner le niveau de repli réussi, perte de visibilité sur les modèles d’échec et l’efficacité de repli

Modèles

Où chercherÀ quoi ressemble le bien
Plate-forme | Événements de plate-forme✅ Publier des événements de point de contrôle après chaque étape réussie dans des workflows d’agent à plusieurs étapes, en stockant l’ID de corrélation, les étapes terminées et l’état requis pour la poursuite dans la charge de travail de l’événement
Plate-forme | Événements de plate-forme✅ Concevoir des workflows d’agent comme des chaînes d’événements faiblement couplées où chaque agent peut échouer et réessayer indépendamment sans bloquer le workflow complet
Plate-forme | Événements de plate-forme✅ Implémenter de nouvelles files d’attente avec des délais de recul exponentiels (30s, 2min, 8min, 30min) en utilisant des événements de plate-forme avec un nombre de nouvelles tentatives dans la charge utile
Plate-forme | Événements de plate-forme✅ Acheminer vers la file d’attente des lettres mortes et alerter les opérations une fois le nombre maximal de tentatives (généralement 5) épuisé
Plate-forme | Événements de plate-forme✅ Inclure l’ID de corrélation dans tous les événements associés ; utiliser l’API Platform Event Replay pour reconstruire l’historique complet du workflow pour le débogage
Plate-forme | Événements de plate-forme✅ Exploiter la période de rétention de 72 heures disponible pour les événements de plate-forme à haut volume (les événements à volume standard sont conservés pendant 24 heures) afin de préserver les files d’attente de nouvelle tentative via des fenêtres de maintenance d’organisation ou des temps d’arrêt de déploiement

Anti-modèles

Où chercherÀ quoi ressemble mal
Plate-forme | Événements de plate-forme⚠️ Élaboration de workflows d’agent à plusieurs étapes sans point de contrôle, nécessitant une réexécution complète lorsqu’une étape intermédiaire échoue
Plate-forme | Événements de plate-forme⚠️ Réessayer les requêtes échouées des agents sans recul exponentiel, créant des effets de troupeau tonitruants sur la récupération des services
Plate-forme | Événements de plate-forme⚠️ Concevoir des workflows séquentiels étroitement couplés où une défaillance d’agent unique bloque tout traitement en aval
Plate-forme | Événements de plate-forme⚠️ Omettre les ID de corrélation des événements, ce qui rend impossible le suivi et le débogage de l’exécution complète du workflow
Plate-forme | Événements de plate-forme⚠️ Réessayer indéfiniment sans nombre maximal de nouvelles tentatives ni file d’attente de lettres mortes, en consommant des ressources de plate-forme sur les opérations définitivement échouées

Modèles

Où chercherÀ quoi ressemble le bien
Plate-forme | Apex✅ Utilisez Apex par lot pour les opérations des agents qui analysent plus de 1000 enregistrements, en exploitant les limites du gouverneur asynchrone (200 requêtes SOQL, 150 opérations DML, 60s CPU par exécution)
Plate-forme | Apex✅ Utiliser des chaînes Apex Queueable pour des workflows d’agent à plusieurs étapes nécessitant plusieurs appels d’API externes ou un temps de traitement étendu; suivre la progression dans les objets personnalisés activant la reprise en cas d”échec
Plate-forme | Apex✅ Utilisez des méthodes @future pour des opérations légères d’agents d’incendie et d’oubli (notifications, consignation externe, mises à jour non urgentes) lorsque l’échec est tolérable
Plate-forme | Apex Jobs✅ Surveiller la capacité de traitement asynchrone via la page Tâches Apex (Configuration → Tâches Apex) et la File d’attente Apex Flex: maximum 5 tâches par lot simultanées (file d’attente des tâches supplémentaires dans la File d’attente Flex, jusqu’à 100 sous le statut En attente), et la limite quotidienne de l’organisation en exécutions Apex asynchrones (DailyAsyncApexExecutions) - la plus élevée de 250 000 ou 200 × le nombre de licences utilisateur par 24 heures - partagées entre Apex par lot, Queueable, Future et Scheduled
Plate-forme | Organisation✅ Alerte lorsque la consommation asynchrone approche les limites activant la gestion proactive de la capacité avant le blocage du traitement des agents

Anti-modèles

Où chercherÀ quoi ressemble mal
Plate-forme | Apex⚠️ Traitement de plus de 1000 enregistrements dans des transactions d’agent synchrones au lieu de passer à Apex par lot, atteignant la limite de 100 requêtes SOQL après seulement quelques enregistrements
Plate-forme | Apex⚠️ Utilisation de chaînes Queueable sans suivre la progression dans les objets personnalisés, empêchant la capacité de reprise en cas d’échec
Plate-forme | Organisation⚠️ Ne pas surveiller la limite de 5 tâches par lot simultanées ou la limite d’exécution Apex asynchrone quotidienne partagée (DailyAsyncApexExecutions — la plus élevée des deux valeurs étant 250 000 ou 200 × licences utilisateur par 24 heures, entre Lot, Queueable, Future et Scheduled Apex), entraînant silencieusement la mise en file d’attente ou l’échec du traitement des agents

Modèles

Où chercherÀ quoi ressemble le bien
Plate-forme | Organisation✅ Charger les performances des agents de test en sandbox Full Copy avec des volumes de données à l’échelle de la production; simuler des conversations simultanées correspondant à la demande de pointe
Plate-forme | Organisation✅ Mesurer la latence p95 et p99 sous charge en identifiant la dégradation des performances sous contrainte; valider la consommation limite du gouverneur reste en dessous des seuils à la charge maximale
Agentforce | Configuration de l’agent✅ Effectuer l’injection de défaut: simuler les échecs d’inférence LLM dans la couche de service que votre disjoncteur surveille, injecter le traitement des erreurs de test d’exceptions SOQL, corrompre les réponses et tester la logique de validation
Agentforce | Configuration de l’agent✅ Introduire l’asymétrie des données (comptes avec plus de 10 000 enfants) pendant le test pour valider la logique de pagination gère les pires scénarios
Plate-forme | Événements de plate-forme✅ Conduire l’ingénierie du chaos: désactivation aléatoire des abonnés à l’événement de plate-forme qui testent la reprise, arrêt des tâches asynchrones en cours d’exécution test du point de contrôle redémarrage
Plate-forme | Organisation✅ Planifier des journées de chaos régulières dans des environnements intermédiaires en préservant la résilience à mesure que les agents évoluent
Plate-forme | Organisation✅ Exécuter des tests de stabilité à long terme (72 heures et plus) pour la surveillance des défaillances temporelles: accumulation des erreurs et dégradation progressive des performances
Plate-forme | Organisation✅ Suivre les tendances temporelles du processeur et la consommation de tas sur de longues périodes en détectant une dégradation progressive dans la gestion du contexte

Anti-modèles

Où chercherÀ quoi ressemble mal
Plate-forme | Organisation⚠️ Chargez le test dans une organisation sandbox Partial Copy avec des volumes de données réduits, offrant une confiance trompeuse puisque le volume de données affecte directement les performances des agents
Agentforce | Configuration de l’agent⚠️ Tester uniquement les parcours heureux sans introduire délibérément des échecs de validation des disjoncteurs, de la logique de nouvel essai et de la gestion du délai d’expiration
Plate-forme | Organisation⚠️ Exécution de tests de courte durée uniquement, échecs temporels manquants (accumulation d’erreurs, dégradation progressive) qui apparaissent uniquement en fonctionnement soutenu de plus de 72 heures
Plate-forme | Événements de plate-forme⚠️ Ne jamais tester la récupération ou le redémarrage du point de contrôle Platform Event replay, laissant les mécanismes de résilience non validés

Modèles

Où chercherÀ quoi ressemble le bien
Entreprise | Documentation✅ Établir des SLO avant d’élaborer des agents, pas après des échecs de production; définir des objectifs de taux de réussite de conversation (généralement 95-99%) par type d’agent
Plate-forme | Organisation✅ Suivre le taux de réussite de la conversation en tant que métrique de fiabilité de l’agent principal : pourcentage de conversations terminées sans erreur ni expiration. Comptez une remise gracieuse à un humain comme une réussite, puisque l’escalade est le niveau de repli final conçu ; comptez uniquement les escalades échouées ou involontaires dans la métrique
Plate-forme | Organisation✅ Suivre le taux de réussite séparément par type d’agent et cas d’utilisation, car les critères de réussite diffèrent entre les objectifs de l’agent
Plate-forme | Organisation✅ Calculer le temps moyen entre les pannes (MTBF) par type d’agent pour identifier les agents les moins fiables qui nécessitent un investissement d’optimisation
Plate-forme | Organisation✅ Mesurer le temps moyen de récupération (MTTR); automatiser la récupération via la relecture d’événements de plate-forme et des disjoncteurs pour une récupération beaucoup plus rapide et moins sujette aux erreurs qu’une intervention manuelle
Einstein | Couche de Trust✅ Échantillonner les réponses aléatoires des agents qui valident les réclamations par rapport aux sources Data 360 pour mesurer la précision de l’ancrage; enquêter lorsque la précision passe sous 95 %
Plate-forme | Événements de plate-forme✅ Surveiller les écarts de lecture d’événements de plate-forme (événements manqués ou non livrés) via un modèle de consignation côté abonné qui enregistre le replayId et l’ID de corrélation de chaque événement avec un objet personnalisé
Plate-forme | Organisation✅ Alerter les opérations lorsque tout SLI passe sous son seuil SLO défini

Anti-modèles

Où chercherÀ quoi ressemble mal
Entreprise | Documentation⚠️ Construire des agents sans définir au préalable des SLO, en établissant des objectifs de fiabilité uniquement après des échecs de production
Plate-forme | Organisation⚠️ Utiliser un taux de réussite agrégé unique dans tous les types d’agent au lieu de suivre séparément par type d’agent et cas d’utilisation
Plate-forme | Organisation⚠️ S’appuyant uniquement sur la surveillance Salesforce traditionnelle (Trust.salesforce.com) sans suivre les SLI spécifiques à l’agent comme le taux de réussite des conversations, le MTBF, le MTTR, et la précision de l’ancrage
Plate-forme | Organisation⚠️ Exiger une intervention manuelle pour toutes les pannes d’agents au lieu d’automatiser la reprise avec la relecture d’événements de plate-forme et des disjoncteurs
Einstein | Couche de Trust⚠️ Ne jamais échantillonner les réponses des agents pour la validation de la précision de l’ancrage, ce qui permet à l’hallucination de passer inaperçue en production

Modèles

Où chercherÀ quoi ressemble le bien
Agentforce | Configuration de l’agent✅ Concevoir des schémas de nouvelle tentative, des chaînes de repli et des seuils d’escalade dans les workflows des agents dès la conception initiale, pas après coup
Agentforce | Action✅ Mettre en masse la préparation du contexte et paginer les collections d’enregistrements volumineux dans les actions des agents
Plate-forme | Cache de la plate-forme✅ Mettre en cache les données de référence fréquemment accédées dans Cache de la plate-forme réduisant les requêtes redondantes pendant la préparation du contexte de l’agent
Plate-forme | Centre d’échelle✅ Utilisez le Centre d’échelle pour identifier les opérations des agents qui nécessitent une optimisation
Plate-forme | Événements de plate-forme✅ Concevoir des workflows auto-récupérateurs en utilisant des événements de plate-forme en tant que files d’attente de nouvelle tentative durables avec des disjoncteurs protégeant les dépendances externes
Agentforce | Configuration de l’agent✅ Toujours inclure le transfert humain comme solution de repli finale dans la chaîne de dégradation de chaque agent
Plate-forme | Organisation✅ Surveiller les SLI des agents en permanence alerter lorsque les métriques descendent sous les SLO
Agentforce | Configuration de l’agent✅ Équilibrer la capacité autonome avec une surveillance appropriée: activez la récupération automatique après des échecs temporaires tout en escaladant lorsque la confiance diminue ou lorsque des requêtes périphériques émergent

Anti-modèles

Où chercherÀ quoi ressemble mal
Agentforce | Configuration de l’agent⚠️ Ajout de mécanismes de fiabilité (réessayer, replier, escalade) après coup plutôt que de les concevoir dès le départ
Agentforce | Action⚠️ Ne pas alourdir la préparation du contexte, entraînant des échecs de limitation du gouverneur sous des schémas de requête réels
Plate-forme | Organisation⚠️ Ne pas surveiller proactivement la consommation d’API et l’allocation d’événements de plate-forme, découvrir les limites uniquement lorsque les agents échouent
Agentforce | Configuration de l’agent⚠️ Concevoir des chaînes d’agents sans transfert humain comme solution de repli final, ne laissant aucun chemin de récupération lorsque toutes les options automatisées sont épuisées
Agentforce | Configuration de l’agent⚠️ Octroi aux agents d’un fonctionnement totalement autonome sans seuil d’escalade pour les situations de manque de confiance ou les requêtes périphériques