Operational Excellence – Agentische Muster

Weitere Informationen zu Well-Architected Operational Excellence → Agentic Enterprise Operational Excellence

Muster

Wohin schauenWie gut aussieht
Agentforce | Sitzungsverfolgung✅ Verwenden Sie das native Session Tracing Data Model (STDM), um Agenteninteraktionen in einem vereinheitlichten Datenmodell in Data 360 zu erfassen, statt ein paralleles Telemetriesystem zu erstellen – Aufzeichnen jeder Unterhaltung als Verfolgungshierarchie von Sitzungen, Interaktionen (Runden) und Schritten (UserInputStep, LLMExecutionStep, FunctionStep)
Agentforce | Sitzungsverfolgung✅ Verwenden Sie die standardmäßigen STDM-Objekte (AIAgentSession, AIAgentSessionParticipant, AIAgentInteraction, AIAgentInteractionStep, AIAgentInteractionMessage), die Aktionen nativ als Interaktionsschritte erfassen, statt ein separates Aktionsprotokoll zu benötigen
Agentforce | Sitzungsverfolgung✅ Abrufen von Token-Nutzungs-, Modell- und Aufforderungsdetails durch Verknüpfen von Interaktionsschritten mit ihren LLM-Aufrufdatensätzen (über GenerationId und GenAiGatewayRequest/Response-Verweise), statt sie als benutzerdefinierte Sitzungsfelder zu speichern
Agentforce | Sitzungsverfolgung✅ Erfassen von Argumentationsspuren aus dem Atlas Reasoning Engine – Bei der Sitzungsverfolgung werden die Schritte des Planers als Teil jeder Interaktion aufgezeichnet, um Entscheidungsprozesse für Agenten aufzudecken und die Debuggbarkeit zu verbessern
Agentforce | Agentenkonfiguration✅ Protokollieren von Details auf Rundenebene, einschließlich Benutzereingabe, Agentenantwort, Begründung, Konfidenzbewertungen, abgerufenem Kontext, versuchten Aktionen und festgestellten Fehlern
Einstein | Trust Layer✅ Aktivieren des Überwachungspfads für generative AI der Einstein Trust Layer (Aufforderungs- und Antworttext, maskierte Versionen mit personenbezogenen Daten, Kontextdaten, Sicherheits- und Toxizitätsbewertungen, Modelldetails), der an Data 360 übertragen wird, sowie der Erfassung und Speicherung von generativer AI und Feedbackdaten durch Einstein für eine langfristige Aufbewahrung
Plattform | Benutzerdefinierte Objekte✅ Reservieren Sie benutzerdefinierte Protokollierungsobjekte für bewusste Ausnahmen, beispielsweise ein leichtes Objekt, das das Verhalten von Agenten mit Geschäftsergebnissen korreliert, statt sie zum primären Protokollierungssubstrat zu machen
Plattform | Dashboard✅ Korrelieren des Agentenverhaltens mit Geschäftsergebnissen, Identifizieren von Verbesserungsmöglichkeiten durch Musteranalysen und Feeden von Pipelines für kontinuierliches Lernen mit qualitätsgekennzeichneten Beispielen

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Benutzerdefinierte Objekte⚠️ Erstellen von benutzerdefinierten Transaktionsobjekten als primäres Unterhaltungsprotokollierungssubstrat anstelle des nativen Sitzungsverfolgungs-Datenmodells, was zu Skalierungsproblemen beim Speichern von Unterhaltungen mit mehreren Runden, großen JSON-Nutzlasten und einem schnellen Datenwachstum führt
Agentforce | Sitzungsverfolgung⚠️ Erstellen eines parallelen Telemetriesystems, wenn das Agentforce Session Tracing bereits Interaktionen in einem vereinheitlichten Datenmodell in Data 360 erfasst
Agentforce | Agentenkonfiguration⚠️ Protokollieren von nur Agentenantworten ohne Erfassung von Eingaben, Argumentationsverfolgungen, abgerufenem Kontext und ausgeführten Aktionen
Einstein | Trust Layer⚠️ Deaktivieren des Einstein Trust Layer-Aktivierungsprotokolls in der Produktion oder Nichtaktivieren der Erfassung und Speicherung von Feedbackdaten für die langfristige Aufbewahrung in Data 360
Plattform | Überwachung⚠️ Ausschließlich auf Unterhaltungserfolg/-fehler angewiesen, ohne Tokennutzung, Modell und Aufforderungsdetails über STDM-LM-Aufrufverknüpfungen erfassen zu müssen

Muster

Wohin schauenWie gut aussieht
Plattform | Überwachung✅ Messen der Antwortlatenz bei Perzentilen (p50, p95, p99) mit typischer Leistung und Worst-Case-Erfahrungen
Plattform | Überwachung✅ Instrumentieren Sie jede Latenzphase separat (Modellrückschluss, Kontextabruf, Aktionsausführung, Netzwerk), um eine gezielte Optimierung zu ermöglichen
Plattform | Überwachung✅ Warnung, wenn die p95-Latenz Schwellenwerte überschreitet, die auf Leistungseinbußen hinweisen
Plattform | Überwachung✅ Verfolgen der Tokenverteilung (Aufforderungstoken, Vervollständigungstoken, Token insgesamt) pro Unterhaltung, pro Agent und pro Anwendungsfall
Plattform | Überwachung✅ Erkennen von Ausreißerunterhaltungen mit übermäßigen Token, die auf Aufforderungsprobleme oder Missbrauch hindeuten
Plattform | Überwachung✅ Vergleichen des aktuellen Durchsatzes mit bekannten Ratenobergrenzen oder Kapazitäts-Basiswarnungen bei Annäherung an Schwellenwerte
Plattform | Überwachung✅ Berechnen Sie Fehlerraten als Prozentsatz der Gesamtanforderungen, um einen Vergleich zwischen Agenten und Zeiträumen zu ermöglichen
Plattform | Überwachung✅ Unterscheiden zwischen Fehlerkategorien (Modellfehler, Berechtigungsfehler, Integrationsfehler), die unterschiedliche Antworten erfordern
Plattform | Überwachung✅ Berechnen Sie die Verfügbarkeit als Prozentsatz der Zeit, in der Agenten erfolgreich auf Anfragen antworten, und verfolgen Sie sie anhand von SLOs.
Plattform | Proactive Monitoring✅ Konfigurieren von Proactive Monitoring-Schwellenwerten anhand von grundlegenden Verhaltensmustern für Agenten, statt Standardeinstellungen zu akzeptieren
Plattform | Skalierungscenter✅ Überprüfen der Skalierungscenter-Daten nach dem Bereitstellen neuer Agenten oder dem Vornehmen wichtiger prompter Änderungen zur Validierung des Ressourcenverbrauchs

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Überwachung⚠️ Nur durchschnittliche Latenz statt Perzentile messen, Worst-Case-Benutzererfahrungen ausblenden
Plattform | Überwachung⚠️ Verfolgen der Gesamtlatenz ohne Instrumentierung einzelner Phasen (Rückschluss, Abruf, Ausführung von Aktionen)
Plattform | Überwachung⚠️ Alle Fehler gleich behandeln, statt nach Typ (Modell, Berechtigung, Integration) zu kategorisieren, um die richtige Antwort zu erhalten
Plattform | Proactive Monitoring⚠️ Akzeptieren von standardmäßigen Schwellenwerten für die Proactive Monitoring ohne Abstimmung auf grundlegende Verhaltensmuster von Agenten
Plattform | Skalierungscenter⚠️ Bereitstellen neuer Agenten oder Vornehmen prompter Änderungen ohne Überprüfen der Skalierungscenter-Daten zum Validieren des Ressourcenverbrauchs
Plattform | Überwachung⚠️ Ignorieren von Token-Verbrauchsmustern und Nichterkennen von Ausreißerunterhaltungen mit 10-fachen typischen Token

Muster

Wohin schauenWie gut aussieht
Agentforce | Testcenter✅ Beginnen Sie mit nativen Test- und Evaluierungstools: Verwalten von wiederverwendbaren Testfallsätzen im Agentforce-Testcenter und Ausführen von Agenten als Batch-Test, wobei überprüft wird, ob der Agent das erwartete Thema und die erwartete Aktion ausgewählt und eine akzeptable Antwort generiert hat
Agentforce | Testcenter✅ Verwenden Sie native Evaluatoren – vorkonfigurierte Qualitätsdimensionen und den Ansatz “LLM-as-Judge” für die Bewertung der Unterhaltungsqualität – und erstellen Sie benutzerdefinierte Evaluatoren für organisationsspezifische Kriterien, indem Sie repräsentative Unterhaltungen verwenden, damit die Auswertung die tatsächliche Nutzung widerspiegelt
Agentforce | Testcenter✅ Bei sachlichen Fragen mit bekannten Antworten können Sie Behauptungen mit bekannten Antworten als wiederholbare Testfälle im Testcenter beibehalten. Fügen Sie bei offenen Fragen eine menschliche Überprüfung der Beispielunterhaltungen hinzu.
Data 360 | Abrufqualität✅ Verwenden Sie für Agenten, die auf einer Knowledge Base basieren, eine Analyse der nativen Abrufqualität, um die Kontextrelevanz, die Antwortrelevanz und die Treue (Grundlage) der Antworten zu bewerten.
Einstein | Trust Layer✅ Verlassen Sie sich auf die Laufzeit-Toxizitätserkennung von Einstein Trust Layer als erste Linie der Schutzmaßnahmen für die Leitplanke und verbessern Sie dann die Sicherheitsüberwachung durch Inhaltsfilterung, manuelle Stichprobenentnahme, Benutzerberichte und Fairnessprüfungen in demografischen Gruppen
Data 360 | GenAIFeedback✅ Erfassen der Benutzerzufriedenheit durch Agentforce-Feedback, das in die GenAIFeedback-/GenAIFeedback-Detail-DMOs in Data 360 einfließt (Daumen hoch/runter, Akzeptieren/Ablehnen, Bearbeitungen, ausführliche Kommentare) zusammen mit Gateway-Anforderungs- und Generierungsdaten
Plattform | Analytics✅ Kombinieren von explizitem Feedback (das vor der Eskalation, nach der Unterhaltung, nach Folgeumfragen gefragt wurde) mit impliziten Signalen (Abschlussraten, Eskalation, Verlassen, Wiederholungen) und Korrelieren mit Unterhaltungsmerkmalen, um die Verbesserungspriorität zu bestimmen

Antimuster

Wohin schauenWie schlecht sieht
Agentforce | Testcenter⚠️ Erstellen und Ausführen eines benutzerdefinierten Teststrangs, statt mit den wiederverwendbaren Testsets und nativen Auswertegeräten des Agentforce-Testcenters zu beginnen
Agentforce | Testcenter⚠️ Bei der Qualitätsbewertung von Antworten mit offenem Ende ausschließlich auf automatisierte Auswertung ohne menschliche Überprüfung setzen
Plattform | Überwachung⚠️ Nur Genauigkeit überwachen, ohne Relevanz, Sicherheit und Benutzerzufriedenheit zu verfolgen
Data 360 | GenAIFeedback⚠️ Wenn Agentforce-Feedback bereits in die GenAIFeedback-DMOs fließt, können keine (expliziten oder impliziten) Benutzerfeedbacks zur Antwortqualität erfasst werden
Agentforce | Agentenkonfiguration⚠️ Überspringen von Fairnessprüfungen zur Bewertung der Ergebnisverteilungen zwischen demografischen Gruppen

Muster

Wohin schauenWie gut aussieht
Agentforce | Agentenkonfiguration✅ Richten Sie die Basisleistung direkt nach der Agentenbereitstellung ein, um Genauigkeit, Relevanz, Sicherheit und Zufriedenheit in repräsentativen Testfällen zu messen
Agentforce | Agentenkonfiguration✅ Regelmäßige erneute Auswertung anhand derselben Testfälle, bei denen Leistungsänderungen unabhängig von Nutzungsmusterverschiebungen sichtbar werden
Plattform | Überwachung✅ Warnung, wenn Qualitätskennzahlen über akzeptable Schwellenwerte fallen, die durch die Toleranz für Geschäftsauswirkungen definiert sind
Plattform | Analytics✅ Überwachen der Eingabeeigenschaften (Fragenlänge, Themenverteilung, Sprachkomplexität, Domänenterminologie) zum Erkennen signifikanter Verteilungsverschiebungen
Plattform | Überwachung✅ Überwachen der Antworteigenschaften (durchschnittliche Antwortlänge, Aktionsaufrufraten, Eskalationshäufigkeiten, Fehlermuster) zur Festlegung von Verhaltensgrundlagen
Plattform | Überwachung✅ Konfigurieren von automatisierten Benachrichtigungen, die ausgelöst werden, wenn Drift-Kennzahlen Schwellenwerte überschreiten, was Untersuchungen und Korrekturen auslöst

Antimuster

Wohin schauenWie schlecht sieht
Agentforce | Agentenkonfiguration⚠️ Fehler bei der Erstellung der Basisleistung nach der ersten Agentenbereitstellung, wodurch eine Abweichung nicht erkennbar ist
Plattform | Überwachung⚠️ Ignorieren der Verteilungsabweichung, wenn sich Benutzereingabemuster erheblich von dem unterscheiden, was Agenten verarbeiten sollen
Plattform | Überwachung⚠️ Keine Überwachung von Verhaltensänderungen (Antwortlänge, Aktionsraten, Eskalationshäufigkeiten) anhand festgelegter Grundlagen
Plattform | Überwachung⚠️ Keine automatische Benachrichtigung für Drift-Kennzahlen, die nur auf manuelle Beobachtung zur Erkennung der Degradation angewiesen ist

Muster

Wohin schauenWie gut aussieht
Plattform | Überwachung✅ Überwachen von Token-Verbrauchsverteilungen zum Erkennen von Ausreißerunterhaltungen und Untersuchen derer, die 10-fach typische Token verwenden
Plattform | Überwachung✅ Erkennen von plötzlichen Anstiegen der Fehlerraten, neuen Fehlertypen, die nicht zur Grundlage gehören, oder lokalisierten Fehlerkonzentrationen, die sich auf bestimmte Benutzer oder Agenten auswirken
Plattform | Analytics✅ Verfolgen der Unterhaltungsbeendigung nach Unterhaltungsphase, um festzustellen, ob Benutzer die Unterhaltung während der ersten Interaktion, während der Unterhaltung oder nach Abschluss der Aufgabe beenden
Plattform | Überwachung✅ Leiten Sie wichtige Agentenfehler sofort an Techniker auf Abruf, Qualitätseinbußen an Produktteams während der Geschäftszeiten und kleinere Anomalien an tägliche Auszüge weiter

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Überwachung⚠️ Alle Warnungen mit gleicher Dringlichkeit behandeln, was zu Ermüdung der Warnung und verpassten kritischen Fehlern führt
Plattform | Überwachung⚠️ Ignorieren von Kostenanomalien wie Token-Verbrauchsspitzen, die auf zeitnahe Probleme, Missbrauch oder Infrastrukturprobleme hinweisen können
Plattform | Analytics⚠️ Keine Verfolgung der Unterhaltungsabbruchraten oder keine Analyse der Abbrüche nach Phase
Plattform | Überwachung⚠️ Warten auf Benutzerberichte statt proaktives Erkennen von Fehlerratenspitzen durch automatisierte Überwachung

Muster

Wohin schauenWie gut aussieht
Plattform | Quellcodeverwaltung✅ Speichern von Eingabeaufforderungsvorlagen in Git zusammen mit Anwendungscode, der Eingabeaufforderungen als wichtige Anwendungslogik behandelt, die eine Codeüberprüfung, Tests und kontrollierte Bereitstellung verdient
Einstein | Eingabeaufforderungsgenerator✅ Verwenden Sie den Eingabeaufforderungsgenerator für die iterative Eingabeaufforderungsentwicklung mit Versionsverlauf und Testfunktionen und exportieren Sie ihn anschließend in die Versionskontrolle für Bereitstellungspipelines.
Plattform | Quellcodeverwaltung✅ Speicherkonfigurationen (Modellauswahl, Temperatur, Tokenobergrenzen, Abrufkonfigurationen, Aktionsberechtigungen, Funktionskennzeichnungen) als Code, der umgebungsspezifische Werte und Drifterkennung ermöglicht
Plattform | Quellcodeverwaltung✅ Wenden Sie die semantische Versionierung auf Agentenkomponenten an: Major (Änderungen wurden behoben), Minor (Funktionen), Patch (Fehlerbehebungen) mit in Protokollen angezeigten Versionsnummern
Plattform | Dokumentation✅ Dokumentieren Sie, was geändert wurde, warum sie geändert wurde, welche Tests die Änderung validiert haben und welche Rollback-Verfahren für jede Aufforderung und Konfigurationsänderung vorhanden sind

Antimuster

Wohin schauenWie schlecht sieht
Einstein | Eingabeaufforderungsgenerator⚠️ Vornehmen von sofortigen Änderungen ohne Codeüberprüfung, Tests oder kontrollierte Bereitstellungsprozesse
Plattform | Konfiguration⚠️ Speichern von Agentenkonfigurationen außerhalb der Quellcodeverwaltung, bei denen eine Abweichung nicht erkannt werden kann und Bereitstellungen nicht automatisiert werden können
Plattform | Dokumentation⚠️ Vornehmen von sofortigen Änderungen ohne Dokumentation von Gründen, Testergebnissen oder Wiederherstellungsverfahren
Plattform | Quellcodeverwaltung⚠️ Fehler bei der Anwendung der semantischen Versionierung, wodurch es unmöglich ist, Vorfälle mit bestimmten Bereitstellungen zu korrelieren

Muster

Wohin schauenWie gut aussieht
Plattform | Dokumentation✅ Verwalten einer Modellregisteraufzeichnung, welche Modellversionen wo bereitgestellt werden, einschließlich Modellfamilie, spezifischer Version, Feinabstimmungsstatus, Umgebung, Bereitstellungsdatum und verantwortlichem Team
Plattform | Dokumentation✅ Protokollieren Sie jede Agentenbereitstellung, einschließlich Version, Umgebung, Zeitstempel, Bereitstellungsbenutzer, erhaltener Genehmigungen und Bereitstellungsergebnis
Plattform | Dokumentation✅ Ordnen Sie Abhängigkeiten zwischen Agenten, Aufforderungen, Knowledge Bases, Aktionen und Integrationen explizit zu, statt sie während Vorfällen zu entdecken
Geschäft | Prozess✅ Erstellen eines Abschreibungsplans mit einer durch Policen unterstützten Mindestankündigungsfrist, die ausreichend im Voraus kommuniziert wird, sodass geplante Migrationen anstelle von Notfallreaktionen auf erzwungene Abschreibungen möglich sind
Plattform | Dokumentation✅ Dokument-Rollback-Verfahren für jeden Agenten, einschließlich Zielversion, Ausführungsschritten, Validierungstests und Benachrichtigungsanforderungen
Plattform | Staging✅ Testen von Wiederherstellungsverfahren in Nicht-Produktionsumgebungen, um zu überprüfen, ob sie funktionieren, bevor sie während Produktionsvorfällen von ihnen abhängig sind

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Dokumentation⚠️ Erkennen von Abhängigkeiten zwischen Agenten, Aufforderungen und Knowledge Bases nur während Vorfällen, statt explizite Abhängigkeitszuordnungen zu pflegen
Geschäft | Prozess⚠️ Bereitstellung einer unzureichenden Abschreibungsanzeige, die Notfallmigrationen anstelle geplanter Umstellungen erzwingt
Plattform | Dokumentation⚠️ Nicht getestete Wiederherstellungsverfahren, die bei Bedarf am häufigsten während Produktionsvorfällen fehlschlagen
Plattform | Bereitstellung⚠️ Bereitstellen von Agenten ohne Protokollierung von Version, Umgebung, Genehmigungen oder Ergebnissen, wodurch die Möglichkeit, Vorfälle mit Bereitstellungen zu korrelieren, verloren geht

Muster

Wohin schauenWie gut aussieht
Plattform | Benutzeroberfläche✅ Erfassen expliziten Feedbacks (Daumen hoch/runter, Qualitätsbewertungen, Kommentare) und impliziten Feedbacks (Abschlussraten, Eskalationshäufigkeiten, Wiederholungsmuster) systematisch
Data 360 | Datenkuratierung✅ Zusammenstellen von Unterhaltungsprotokollen in Trainings-Datensets durch Filtern nach Qualität, Entfernen problematischer Beispiele, Sicherstellen der Repräsentativität und Deduplizieren
Data 360 | Erdung✅ Anpassen von Agenten an Domänenvokabular, Geschäftsprozesse und organisationsspezifisches Knowledge vor allem über die in Data 360 basierende RAG und die Aufforderungsabstimmung – der native Salesforce-Anpassungspfad
Einstein | BYOLLM✅ Wenn die Kontextbildung und die Aufforderungsabstimmung unzureichend sind, optimieren Sie ein Modell extern und verbinden Sie es über BYOLLM, statt die generative Feinabstimmung innerhalb der Plattform zu erwarten
Einstein | Eingabeaufforderungsgenerator✅ Einrichten eines regelmäßigen Rhythmus für die Überprüfung von Aufforderungen zur Überprüfung aktueller Unterhaltungen, Qualitätskennzahlen und Benutzerfeedbacks zur Identifizierung von Verbesserungsmöglichkeiten
Einstein | Eingabeaufforderungsgenerator✅ Implementieren Sie Aufforderungsänderungen inkrementell mit A/B-Tests, die Verbesserungen vor der vollständigen Einführung validieren
Agentforce | Agentenkonfiguration✅ Verwalten von Testsets, die glückliche Pfade, Edge-Kundenvorgänge, kontradiktorische Eingaben und historische Problemszenarien abdecken und kontinuierlich erweitert werden, wenn neue Edge-Kundenvorgänge entdeckt werden

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Daten⚠️ Versuch einer Verbesserung ohne systematische Feedbackerfassung, wodurch Verbesserungen geraten und nicht datengesteuert werden
Data 360 | Datenkuratierung⚠️ Verwenden nicht zusammengestellter Unterhaltungsprotokolle für Schulungen, einschließlich Sicherheitsverstößen, Fehlern und nicht repräsentativen Beispielen
Data 360 | Erdung⚠️ Erreichen externer Feinabstimmungen vor dem Erschöpfen der RAG-Kontextbildung und der Aufforderungsabstimmung, dem nativen Pfad, der die meisten Domänenanpassungsanforderungen ohne benutzerdefiniertes Modell erfüllt
Einstein | Eingabeaufforderungsgenerator⚠️ Behandlung der Eingabeaufforderungsplanung als einmalige Übung und nicht als kontinuierliche Übung, die an die Entwicklung der Nutzungsmuster angepasst wird
Agentforce | Agentenkonfiguration⚠️ Mit statischen Testsätzen, die nie erweitert werden, um neue Edge-Kundenvorgänge abzudecken, die in der Produktion entdeckt wurden

Muster

Wohin schauenWie gut aussieht
Plattform | Benutzerdefinierte Metadatentypen✅ Implementieren von Funktionskennzeichnungen mithilfe von benutzerdefinierten Metadatentypen oder benutzerdefinierten Einstellungen zum Entkoppeln der Bereitstellung von der Version für Agentenänderungen mit hohem Risiko
Plattform | Berechtigungssätze✅ Implementieren von Kanarischen Bereitstellungen, die Agentenänderungen an einer kleinen Benutzerteilmenge zuerst mithilfe von Berechtigungssätzen zum Steuern des Agentenzugriffs freigeben
Agentforce | Agentenkonfiguration✅ Überwachen Sie die Kanarienvogtei intensiv und messen Sie Erfolgsraten, Qualität, Fehlerraten, Latenz, Tokenverbrauch und Zufriedenheit. Erweitern Sie die Einführung nur, wenn der Kanarienvogel mit der Kontrollgruppe übereinstimmt oder sich verbessert, die die vorherige Agentenversion ausführt
Plattform | Analytics✅ Definieren von Erfolgskriterien vor Beginn von A/B-Tests, um mehrdeutige Ergebnisse zu verhindern, die mit Geschäftszielen in Einklang stehen
Agentforce | Agentenkonfiguration✅ Bereitstellen von Champions-Herausforderer-Tests mit Beibehaltung der bewährten Version als Ausweichversion im Vergleich zur verbesserten Herausforderer-Version
Geschäft | Prozess✅ Festlegen objektiver Sonderangebotskriterien, einschließlich Mindeststichprobengröße, Qualitätsschwellenwerten und Bewertungsdauer vor Sonderangebotsentscheidungen

Antimuster

Wohin schauenWie schlecht sieht
Agentforce | Agentenkonfiguration⚠️ Die gleichzeitige Einführung von Agentenänderungen für alle Benutzer ohne Kanarienvogeltests maximiert den Explosionsradius von Problemen
Plattform | Bereitstellung⚠️ Bereitstellen von Agentenänderungen mit hohem Risiko ohne Funktionskennzeichnungen für die sofortige Wiederherstellung ohne erneute Bereitstellung
Plattform | Analytics⚠️ Durchführen von A/B-Tests ohne vordefinierte Erfolgskriterien, was zu mehrdeutigen Ergebnissen und schlechten Entscheidungen führt
Plattform | Analytics⚠️ Ausführung von Experimenten mit unzureichender Stichprobengröße, die zu verrauschten Ergebnissen führen, die zu falschen Schlussfolgerungen führen
Agentforce | Agentenkonfiguration⚠️ Verwenden von Funktionskennzeichnungen für jede kleinere Aufforderungsänderung, statt sie für Änderungen mit hohem Risiko für geschäftskritische Agenten zu reservieren

Muster

Wohin schauenWie gut aussieht
Plattform | Überwachung✅ Erkennen von Agentenfehlern durch automatische Überwachungsbenachrichtigungen zu Fehlerraten, Verschlechterung der Qualitätskennzahl, Kostenanomalien, Latenzerhöhungen und Benutzereskalationen
Plattform | Überwachung✅ Ergänzen der automatisierten Erkennung durch Benutzerberichterstellungsmechanismen, die die Eskalation von Problemen ermöglichen
Geschäft | Prozess✅ Definieren Sie Schweregradkriterien objektiv anhand der Benutzerauswirkung, des Explosionsradius, des Datenintegritätsrisikos und der Wiederherstellungsdringlichkeit
Plattform | Dokumentation✅ Dokumentieren von Verfahren für die erste Reaktion als Runbooks, die von Bereitschaftsingenieuren ohne fundierte Agentenkenntnisse ausgeführt werden können
Agentforce | Agentenkonfiguration✅ In erste Antwort aufnehmen: Deaktivieren eines fehlschlagenden Agenten (Leistungsschalter), Weiterleiten an eine Ausweichfunktion, Sammeln von Diagnosen, Benachrichtigen von Beteiligten, Initiieren der Vorfallskommunikation

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Überwachung⚠️ Verwenden von Benutzerberichten als primären Erkennungsmechanismus anstelle der automatisierten Überwachung auf Agentenfehler
Geschäft | Prozess⚠️ Verwendung der subjektiven Schweregradklassifizierung, die zu einer Untereskalation realer Probleme oder zu einer Übereskalation kleinerer Probleme führt
Plattform | Dokumentation⚠️ Keine Runbooks, die bei jedem Vorfall eine ereignisspezifische Untersuchung durch Ingenieure mit fundierter Agentenexpertise erfordern
Geschäft | Prozess⚠️ Behandeln von Agentenfehlern identisch mit herkömmlichen Anwendungsfehlern ohne Berücksichtigung von Halluzinationen, Reaktionen außerhalb des Themas oder Sicherheitsverstößen

Muster

Wohin schauenWie gut aussieht
Plattform | Apex✅ Implementieren von Leistungsschaltern mit konfigurierbarem Fehlerschwellenwert (z. B. 50 % Fehlerrate), Dauerfenster (z. B. rollierendes Fenster von 5 Minuten) und Wiederherstellungstests (regelmäßige Testanforderungen)
Agentforce | Agentenkonfiguration✅ Ausweichhierarchien entwerfen: Primärer anspruchsvoller Agent → Einfacherer Backup-Agent → Statische Antworten auf häufig gestellte Fragen → Übergabe durch Menschen
Plattform | Orchestrierung✅ Implementieren Sie Ausweichlogik in Orchestrierungsebene und nicht in einzelnen Agenten, um ein konsistentes Verhalten im gesamten Agenten-Ökosystem zu ermöglichen
Agentforce | Agentenkonfiguration✅ Entwerfen von Workflows für die menschliche Übergabe unter Beibehaltung des Unterhaltungskontexts, Kommunizieren des Übergabegrunds und Weiterleiten an den entsprechenden menschlichen Agenten mit relevantem Fachwissen
Plattform | Überwachung✅ Überwachen der Übergaberaten nach Thema, Agent und Fehlerursache, um Lücken in der Agentenfunktion zu identifizieren
Agentforce | Agentenkonfiguration✅ Wenn komplexe Überlegungen fehlschlagen, greifen Sie auf eine einfachere Logik zurück. Wenn Echtzeitdaten nicht verfügbar sind, verwenden Sie zwischengespeicherte Daten. Wenn Integrationen fehlschlagen, verwenden Sie den schreibgeschützten Modus.
Plattform | Orchestrierung✅ Testen Sie Ausweichpfade regelmäßig, um sie bei Bedarf zu validieren

Antimuster

Wohin schauenWie schlecht sieht
Agentforce | Agentenkonfiguration⚠️ Ohne Leistungsschalter, wodurch fehlschlagende Agenten wiederholt Auswirkungen auf Benutzer haben, während Probleme behoben werden
Plattform | Orchestrierung⚠️ Implementieren von Ausweichlogik innerhalb einzelner Agenten statt auf Orchestrierungsebene, was zu inkonsistentem Verhalten führt
Agentforce | Agentenkonfiguration⚠️ Entwerfen von Binärpassagenten/Fehleragenten, die entweder perfekt funktionieren oder vollständig fehlschlagen, ohne Optionen für die ordnungsgemäße Verschlechterung
Plattform | Orchestrierung⚠️ Testen Sie Ausweichpfade niemals und entdecken Sie, dass sie nur bei tatsächlichen Vorfällen funktionieren
Agentforce | Agentenkonfiguration⚠️ Menschliche Übergabe, bei der der Unterhaltungskontext verloren geht und Benutzer gezwungen werden, Informationen zu wiederholen

Muster

Wohin schauenWie gut aussieht
Geschäft | Prozess✅ Durchführung schuldloser Überprüfungen nach einem Vorfall mit Fokus auf Systemverbesserungen statt auf individuelle Fehler, die psychologische Sicherheit schaffen
Geschäft | Prozess✅ Erstellen einer detaillierten Zeitachse von anfänglichen Bedingungen über Erkennung, Untersuchung, Antwort, Wiederherstellung und Validierung mit Zeitstempeln
Geschäft | Prozess✅ Verwenden der “Fünf-Warum”-Technik zum Bohren von Symptomen zu grundlegenden Ursachen anstelle von vereinfachten Schlussfolgerungen
Geschäft | Prozess✅ Analysieren beitragender Faktoren, einschließlich Überwachungslücken, Testlücken, Dokumentationslücken, Automatisierungslücken und Architekturlücken
Geschäft | Prozess✅ Erkennung auswerten: Welches Signal hätte das Problem früher erkennen sollen, welche Überwachung ermöglicht eine schnellere Erkennung
Geschäft | Prozess✅ Geben Sie konkrete zugewiesene zeitgebundene Aktionselemente an, die Wiederholungen verhindern (z. B. “Benachrichtigung hinzufügen, wenn die Fehlerrate 5 % über 10 Minuten überschreitet – zugewiesen: Alex - fällig: 2 Wochen”)
Geschäft | Prozess✅ Verfolgen des Abschlusses von Aktionselementen in nachfolgenden Überprüfungen, um sicherzustellen, dass eine kontinuierliche Verbesserung tatsächlich eintritt
Plattform | Dokumentation✅ Dokumentüberprüfungen nach Vorfällen in freigegebener Knowledge Base mit Tags, die die Musteranalyse über mehrere Vorfälle hinweg ermöglichen
Geschäft | Prozess✅ Geben Sie Überprüfungen nach einem Vorfall weit über unmittelbare Vorfallshelfer hinaus durch Teambesprechungen oder Mittags- und Lernsitzungen frei

Antimuster

Wohin schauenWie schlecht sieht
Geschäft | Prozess⚠️ Schuldfokussierte Obduktionen, die die psychologische Sicherheit reduzieren und eine ehrliche Beurteilung von Fehlern verhindern
Geschäft | Prozess⚠️ Vereinfachte Schlussfolgerungen zur Ursache (“der Agent hatte einen Fehler”) anstelle spezifischer Befunde, die eine effektive Behebung ermöglichen
Geschäft | Prozess⚠️ Vage Aktionselemente wie “Überwachung verbessern” anstelle spezifischer zugewiesener zeitgebundener Aufgaben
Geschäft | Prozess⚠️ Niedrige Abschlussraten von Aktionselementen, die auf einen Fehler im Prozess zur kontinuierlichen Verbesserung hinweisen
Geschäft | Prozess⚠️ Lerninhalte nach einem Vorfall für sofortige Mitarbeiter isoliert halten, statt sie allgemein für organisatorische Lerninhalte freizugeben

Muster

Wohin schauenWie gut aussieht
Geschäft | Prozess✅ Validieren der Checkliste vor der Bereitstellung, einschließlich Tests, Sicherheitsüberprüfung, Compliance-Validierung, Dokumentation, Überwachungskonfiguration und Genehmigung der Beteiligten
Geschäft | Prozess✅ Bewerten des Risikos anhand des Explosionsradius, der Datenvertraulichkeit, der Handlungsautorität, der Integrationsabhängigkeiten, der Wiederherstellungskomplexität und der Compliance-Auswirkungen
Geschäft | Prozess✅ Skalieren Sie Genehmigungsanforderungen anhand des Risikos: Hochrisiko erfordert Genehmigung durch die Geschäftsleitung, Sicherheitsüberprüfung und schrittweise Einführung. Geringes Risiko erfordert Peer Review und Standardtests
Plattform | Genehmigungsprozesse✅ Implementieren automatisierter, verfolgter und überprüfbarer Genehmigungs-Workflows mithilfe von Salesforce-Genehmigungsprozessen oder externen Bereitstellungstools
Geschäft | Prozess✅ Definieren von Notfallumgehungsverfahren, die eine Genehmigung durch die Exekutive, eine rationale Dokumentation und eine beschleunigte Überprüfung nach der Bereitstellung erfordern
Plattform | Überwachung✅ Verfolgen Sie Notfallbereitstellungen separat; hohe Notfallbereitstellungshäufigkeit gibt an, dass Prozessprobleme untersucht werden müssen

Antimuster

Wohin schauenWie schlecht sieht
Geschäft | Prozess⚠️ Anwendung einer einheitlichen Genehmigungstiefe unabhängig vom Agentenrisikoprofil, Verschwendung von Aufwand für Agenten mit niedrigem Risiko oder Unterbewertung von Agenten mit hohem Risiko
Geschäft | Prozess⚠️ Bereitstellen von Produktionsagenten ohne Checklistenvalidierung vor der Bereitstellung von Tests, Sicherheit, Compliance und Überwachung
Plattform | Bereitstellung⚠️ Keine Notfallumgehungsverfahren, was zu Verzögerungen bei der Behebung wichtiger Probleme während Produktionsvorfällen führt
Geschäft | Prozess⚠️ Erfordert häufig Notfallbereitstellungen, was auf fehlerhafte Standardprozesse anstelle außergewöhnlicher Umstände hindeutet

Muster

Wohin schauenWie gut aussieht
Agentforce | Agentenkonfiguration✅ Testausgabeeigenschaften (enthält erforderliche Informationen, behält den entsprechenden Ton bei, enthält Zitate) anstelle von exaktem Text für nicht deterministische Agentenausgaben
Agentforce | Agentenkonfiguration✅ Festlegung von Mindestqualitätsschwellenwerten (z. B. “95 % Genauigkeit bei ausgesetztem Testset, null Sicherheitsverstöße, Fairness-Audit zeigt keine demografischen Unterschiede von mehr als 5 %“)
Agentforce | Agentenkonfiguration✅ Sicherheitstests mit kontradiktorischen Eingaben durchführen, einschließlich Eingabeaufforderungen, Jailbreak-Versuchen, Anforderungseskalation und Anforderungen außerhalb des Umfangs
Agentforce | Agentenkonfiguration✅ Sicherheitstests von Teammitgliedern durchführen lassen, die nicht an der Agentenentwicklung beteiligt sind, um eine neue Perspektive auf Schwachstellen zu bieten
Plattform | Leistungstests✅ Test unter realistischer Last, einschließlich gleichzeitiger Unterhaltungen, typischer Unterhaltungslängen und projiziertem Nutzungsvolumen
Plattform | Sicherheit✅ Validieren, dass Agenten nicht auf nicht autorisierte Daten zugreifen können, keine nicht autorisierten Aktionen ausführen können und dass die Eingabeaufforderung keine Berechtigungen eskalieren kann
Plattform | CI/CD✅ Integrieren des Sicherheitsscans in die Bereitstellungs-Pipeline mit dem Salesforce Code Analyzer und speziellen AI-Sicherheitstools

Antimuster

Wohin schauenWie schlecht sieht
Agentforce | Agentenkonfiguration⚠️ Testen von Agenten auf genaue Textübereinstimmung bei nicht deterministischen Ausgaben anstelle von Testen von Ausgabeeigenschaften
Plattform | Leistungstests⚠️ Nur Tests mit Einzelbenutzerszenarien, fehlenden Obergrenzenproblemen, Ressourceneinschränkungen und Skalierbarkeitsengpässen
Agentforce | Agentenkonfiguration⚠️ Überspringen von Sicherheitstests oder Testen eigener Agenten durch Entwickler ohne neue Perspektive auf Schwachstellen
Plattform | Sicherheit⚠️ Nicht testen, ob die Eingabeaufforderung Agentenberechtigungen eskalieren oder auf nicht autorisierte Daten zugreifen kann
Agentforce | Agentenkonfiguration⚠️ Mit statischen Testsätzen, die keine echte Nutzungsvielfalt darstellen, einschließlich verschiedener Benutzertypen und Unterhaltungskomplexitäten

Muster

Wohin schauenWie gut aussieht
Plattform | DokumentationDokumentieren Sie jede Änderung: Was hat sich geändert, warum, welche Tests haben es validiert und welches Rollback-Verfahren ist vorhanden?
Unternehmen | Kommunikation✅ Alle Beteiligten (Benutzer, Ops-Teams, Support, Unternehmen) benachrichtigen, um zu beschreiben, was sich wann ändert, welche Vorteile, welche Risiken und an wen sie sich wenden müssen
Unternehmen | Kommunikation✅ Erstellen von Kommunikationsvorlagen für verschiedene Änderungstypen zum Standardisieren von Nachrichten und Reduzieren des Vorbereitungsaufwands
Plattform | Ereignisüberwachung✅ Bereitstellungen von Zeitagenten in Zeiträumen mit geringer Nutzung, die durch Ereignisüberwachungsdaten mit tatsächlichen Nutzungsmustern informiert werden
Geschäft | Prozess✅ Bereitstellen wichtiger Agentenänderungen Anfang bis Mitte der Woche, wodurch Wochenenden mit reduzierter Reaktionsfähigkeit auf Vorfälle vermieden werden
Geschäft | Prozess✅ Einrichten von Änderungs-Fixierungszeiträumen vor wichtigen Geschäftsereignissen (Geschäftsjahresende, Produkteinführungen, wichtige Marketingkampagnen)
Geschäft | Prozess✅ Dokumentänderungs-Fixierungskalender jährlich, der eingeschränkte Zeiträume ausreichend im Voraus kommuniziert

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Bereitstellung⚠️ Bereitstellung während der Spitzennutzung, des Monatsendes, des Quartalsendes oder wichtiger Geschäftsereignisse
Plattform | Bereitstellung⚠️ Bereitstellung an Montagen (Aufstockung) oder Freitagen (reduziertes Personal), wenn die Reaktionsfähigkeit bei Vorfällen eingeschränkt ist
Geschäft | Prozess⚠️ Übermäßige Änderungen frieren die Geschwindigkeit der Verbesserung ohne verhältnismäßige Risikoreduzierung ein
Unternehmen | Kommunikation⚠️ Bereitstellen von Agentenänderungen ohne Benachrichtigung betroffener Benutzer, Betriebsteams, Supportteams oder Geschäftsbeteiligter
Plattform | Dokumentation⚠️ Änderungen vornehmen, ohne Begründungen zu dokumentieren, Organisationen erstellen, die Lektionen wiederentdecken, statt auf Erfahrungen aufzubauen

Muster

Wohin schauenWie gut aussieht
Plattform | Benutzeroberfläche✅ Implementieren der Feedbacksammlung auf der Unterhaltungsoberfläche, wodurch sofortige Antworten bei frischer Interaktion und nicht bei verzögerter Sammlung möglich sind
Plattform | Analytics✅ Abfrageunterhaltungsprotokolle, die Fragentypen, Unterhaltungsdauern, Erfolgsraten nach Thema und Benutzerzufriedenheit nach Unterhaltungsmerkmalen analysieren
Plattform | Analytics✅ Analysieren der Fehlerprotokollgruppierung nach Fehlertyp, betroffenen Benutzern, Unterhaltungsmustern und zeitlicher Verteilung, um systematische Probleme aufzudecken
Plattform | Analytics✅ Priorisieren der Fehlerbehebung nach Häufigkeit und Auswirkung: Fehler mit hoher Häufigkeit, die viele Benutzer betreffen, erfordern sofortige Aufmerksamkeit
Plattform | Überwachung✅ Erstellen von Qualitätsgrundlagen nach der ersten Bereitstellung und Überwachen der fortlaufenden Qualität anhand von Benachrichtigungen zu den Grundlagen, wenn Trends zurückgehen

Antimuster

Wohin schauenWie schlecht sieht
Plattform | Benutzeroberfläche⚠️ Verzögern der Feedbackerfassung (z. B. Folge-E-Mails Tage später), Reduzieren der Antwortraten und Einführen von Rückrufverzerrungen
Plattform | Analytics⚠️ Keine Analyse von Nutzungsmustern, um festzustellen, ob Agenten die betriebliche Komplexität rechtfertigen oder ob die Funktionen nicht ausgelastet sind
Plattform | Analytics⚠️ Alle Fehler gleich behandeln statt nach Häufigkeit und Geschäftsauswirkungen zu priorisieren
Plattform | Überwachung⚠️ Treffen von Verbesserungsentscheidungen ohne Daten, Fehlen von Qualitätsgrundlagen und Trendüberwachung

Muster

Wohin schauenWie gut aussieht
Geschäft | Prozess✅ Stellen Sie eine konsistente Experimentstruktur bereit: Hypothese, experimentelles Design, Kennzahlen, Stichprobengröße und Erfolgskriterien
Geschäft | Prozess✅ Dokumentexperimente vor der Ausführung verhindern eine mehrdeutige Interpretation der Ergebnisse
Plattform | Analytics✅ Verfolgen der Variantenzuweisung in Unterhaltungsmetadaten, wodurch die Ergebniskorrelation nach Variante ermöglicht wird
Plattform | Analytics✅ Berechnen der erforderlichen Stichprobengröße vor Experimenten anhand der erwarteten Effektgröße, der statistischen Leistung und der akzeptablen Fehlerraten
Plattform | Analytics✅ Verwenden der Optimierung von mehrarmigen Banditen, um mehr Datenverkehr dynamisch auf leistungsstärkere Varianten zu verteilen und so die Opportunity-Kosten zu senken
Plattform | Dokumentation✅ Verwalten des Experimentkatalogs mit getesteten Varianten, gemessenen Ergebnissen, erzielten Ergebnissen und getroffenen Entscheidungen zum Verhindern fehlgeschlagener Ansätze

Antimuster

Wohin schauenWie schlecht sieht
Geschäft | Prozess⚠️ Ausführung von Experimenten ohne vordefinierte Hypothesen und Erfolgskriterien, die zu mehrdeutigen Ergebnissen führen
Plattform | Analytics⚠️ Verwenden unzureichender Stichprobengrößen, die zu verrauschten Ergebnissen führen, die zu schlechten Verbesserungsentscheidungen führen
Plattform | Dokumentation⚠️ Sie verfügen nicht über einen Experimentkatalog, wodurch Teams zuvor fehlgeschlagene Ansätze erneut testen und organisatorisches Knowledge verlieren
Plattform | Analytics⚠️ Es wird nicht verfolgt, welche Benutzer welche Varianten erhalten haben, was eine Ergebniskorrelation unmöglich macht