Operational Excellence – Agentische Muster
Weitere Informationen zu Well-Architected Operational Excellence → Agentic Enterprise Operational Excellence
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Sitzungsverfolgung | ✅ Verwenden Sie das native Session Tracing Data Model (STDM), um Agenteninteraktionen in einem vereinheitlichten Datenmodell in Data 360 zu erfassen, statt ein paralleles Telemetriesystem zu erstellen – Aufzeichnen jeder Unterhaltung als Verfolgungshierarchie von Sitzungen, Interaktionen (Runden) und Schritten (UserInputStep, LLMExecutionStep, FunctionStep) |
| Agentforce | Sitzungsverfolgung | ✅ Verwenden Sie die standardmäßigen STDM-Objekte (AIAgentSession, AIAgentSessionParticipant, AIAgentInteraction, AIAgentInteractionStep, AIAgentInteractionMessage), die Aktionen nativ als Interaktionsschritte erfassen, statt ein separates Aktionsprotokoll zu benötigen |
| Agentforce | Sitzungsverfolgung | ✅ Abrufen von Token-Nutzungs-, Modell- und Aufforderungsdetails durch Verknüpfen von Interaktionsschritten mit ihren LLM-Aufrufdatensätzen (über GenerationId und GenAiGatewayRequest/Response-Verweise), statt sie als benutzerdefinierte Sitzungsfelder zu speichern |
| Agentforce | Sitzungsverfolgung | ✅ Erfassen von Argumentationsspuren aus dem Atlas Reasoning Engine – Bei der Sitzungsverfolgung werden die Schritte des Planers als Teil jeder Interaktion aufgezeichnet, um Entscheidungsprozesse für Agenten aufzudecken und die Debuggbarkeit zu verbessern |
| Agentforce | Agentenkonfiguration | ✅ Protokollieren von Details auf Rundenebene, einschließlich Benutzereingabe, Agentenantwort, Begründung, Konfidenzbewertungen, abgerufenem Kontext, versuchten Aktionen und festgestellten Fehlern |
| Einstein | Trust Layer | ✅ Aktivieren des Überwachungspfads für generative AI der Einstein Trust Layer (Aufforderungs- und Antworttext, maskierte Versionen mit personenbezogenen Daten, Kontextdaten, Sicherheits- und Toxizitätsbewertungen, Modelldetails), der an Data 360 übertragen wird, sowie der Erfassung und Speicherung von generativer AI und Feedbackdaten durch Einstein für eine langfristige Aufbewahrung |
| Plattform | Benutzerdefinierte Objekte | ✅ Reservieren Sie benutzerdefinierte Protokollierungsobjekte für bewusste Ausnahmen, beispielsweise ein leichtes Objekt, das das Verhalten von Agenten mit Geschäftsergebnissen korreliert, statt sie zum primären Protokollierungssubstrat zu machen |
| Plattform | Dashboard | ✅ Korrelieren des Agentenverhaltens mit Geschäftsergebnissen, Identifizieren von Verbesserungsmöglichkeiten durch Musteranalysen und Feeden von Pipelines für kontinuierliches Lernen mit qualitätsgekennzeichneten Beispielen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Benutzerdefinierte Objekte | ⚠️ Erstellen von benutzerdefinierten Transaktionsobjekten als primäres Unterhaltungsprotokollierungssubstrat anstelle des nativen Sitzungsverfolgungs-Datenmodells, was zu Skalierungsproblemen beim Speichern von Unterhaltungen mit mehreren Runden, großen JSON-Nutzlasten und einem schnellen Datenwachstum führt |
| Agentforce | Sitzungsverfolgung | ⚠️ Erstellen eines parallelen Telemetriesystems, wenn das Agentforce Session Tracing bereits Interaktionen in einem vereinheitlichten Datenmodell in Data 360 erfasst |
| Agentforce | Agentenkonfiguration | ⚠️ Protokollieren von nur Agentenantworten ohne Erfassung von Eingaben, Argumentationsverfolgungen, abgerufenem Kontext und ausgeführten Aktionen |
| Einstein | Trust Layer | ⚠️ Deaktivieren des Einstein Trust Layer-Aktivierungsprotokolls in der Produktion oder Nichtaktivieren der Erfassung und Speicherung von Feedbackdaten für die langfristige Aufbewahrung in Data 360 |
| Plattform | Überwachung | ⚠️ Ausschließlich auf Unterhaltungserfolg/-fehler angewiesen, ohne Tokennutzung, Modell und Aufforderungsdetails über STDM-LM-Aufrufverknüpfungen erfassen zu müssen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Überwachung | ✅ Messen der Antwortlatenz bei Perzentilen (p50, p95, p99) mit typischer Leistung und Worst-Case-Erfahrungen |
| Plattform | Überwachung | ✅ Instrumentieren Sie jede Latenzphase separat (Modellrückschluss, Kontextabruf, Aktionsausführung, Netzwerk), um eine gezielte Optimierung zu ermöglichen |
| Plattform | Überwachung | ✅ Warnung, wenn die p95-Latenz Schwellenwerte überschreitet, die auf Leistungseinbußen hinweisen |
| Plattform | Überwachung | ✅ Verfolgen der Tokenverteilung (Aufforderungstoken, Vervollständigungstoken, Token insgesamt) pro Unterhaltung, pro Agent und pro Anwendungsfall |
| Plattform | Überwachung | ✅ Erkennen von Ausreißerunterhaltungen mit übermäßigen Token, die auf Aufforderungsprobleme oder Missbrauch hindeuten |
| Plattform | Überwachung | ✅ Vergleichen des aktuellen Durchsatzes mit bekannten Ratenobergrenzen oder Kapazitäts-Basiswarnungen bei Annäherung an Schwellenwerte |
| Plattform | Überwachung | ✅ Berechnen Sie Fehlerraten als Prozentsatz der Gesamtanforderungen, um einen Vergleich zwischen Agenten und Zeiträumen zu ermöglichen |
| Plattform | Überwachung | ✅ Unterscheiden zwischen Fehlerkategorien (Modellfehler, Berechtigungsfehler, Integrationsfehler), die unterschiedliche Antworten erfordern |
| Plattform | Überwachung | ✅ Berechnen Sie die Verfügbarkeit als Prozentsatz der Zeit, in der Agenten erfolgreich auf Anfragen antworten, und verfolgen Sie sie anhand von SLOs. |
| Plattform | Proactive Monitoring | ✅ Konfigurieren von Proactive Monitoring-Schwellenwerten anhand von grundlegenden Verhaltensmustern für Agenten, statt Standardeinstellungen zu akzeptieren |
| Plattform | Skalierungscenter | ✅ Überprüfen der Skalierungscenter-Daten nach dem Bereitstellen neuer Agenten oder dem Vornehmen wichtiger prompter Änderungen zur Validierung des Ressourcenverbrauchs |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Überwachung | ⚠️ Nur durchschnittliche Latenz statt Perzentile messen, Worst-Case-Benutzererfahrungen ausblenden |
| Plattform | Überwachung | ⚠️ Verfolgen der Gesamtlatenz ohne Instrumentierung einzelner Phasen (Rückschluss, Abruf, Ausführung von Aktionen) |
| Plattform | Überwachung | ⚠️ Alle Fehler gleich behandeln, statt nach Typ (Modell, Berechtigung, Integration) zu kategorisieren, um die richtige Antwort zu erhalten |
| Plattform | Proactive Monitoring | ⚠️ Akzeptieren von standardmäßigen Schwellenwerten für die Proactive Monitoring ohne Abstimmung auf grundlegende Verhaltensmuster von Agenten |
| Plattform | Skalierungscenter | ⚠️ Bereitstellen neuer Agenten oder Vornehmen prompter Änderungen ohne Überprüfen der Skalierungscenter-Daten zum Validieren des Ressourcenverbrauchs |
| Plattform | Überwachung | ⚠️ Ignorieren von Token-Verbrauchsmustern und Nichterkennen von Ausreißerunterhaltungen mit 10-fachen typischen Token |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Testcenter | ✅ Beginnen Sie mit nativen Test- und Evaluierungstools: Verwalten von wiederverwendbaren Testfallsätzen im Agentforce-Testcenter und Ausführen von Agenten als Batch-Test, wobei überprüft wird, ob der Agent das erwartete Thema und die erwartete Aktion ausgewählt und eine akzeptable Antwort generiert hat |
| Agentforce | Testcenter | ✅ Verwenden Sie native Evaluatoren – vorkonfigurierte Qualitätsdimensionen und den Ansatz “LLM-as-Judge” für die Bewertung der Unterhaltungsqualität – und erstellen Sie benutzerdefinierte Evaluatoren für organisationsspezifische Kriterien, indem Sie repräsentative Unterhaltungen verwenden, damit die Auswertung die tatsächliche Nutzung widerspiegelt |
| Agentforce | Testcenter | ✅ Bei sachlichen Fragen mit bekannten Antworten können Sie Behauptungen mit bekannten Antworten als wiederholbare Testfälle im Testcenter beibehalten. Fügen Sie bei offenen Fragen eine menschliche Überprüfung der Beispielunterhaltungen hinzu. |
| Data 360 | Abrufqualität | ✅ Verwenden Sie für Agenten, die auf einer Knowledge Base basieren, eine Analyse der nativen Abrufqualität, um die Kontextrelevanz, die Antwortrelevanz und die Treue (Grundlage) der Antworten zu bewerten. |
| Einstein | Trust Layer | ✅ Verlassen Sie sich auf die Laufzeit-Toxizitätserkennung von Einstein Trust Layer als erste Linie der Schutzmaßnahmen für die Leitplanke und verbessern Sie dann die Sicherheitsüberwachung durch Inhaltsfilterung, manuelle Stichprobenentnahme, Benutzerberichte und Fairnessprüfungen in demografischen Gruppen |
| Data 360 | GenAIFeedback | ✅ Erfassen der Benutzerzufriedenheit durch Agentforce-Feedback, das in die GenAIFeedback-/GenAIFeedback-Detail-DMOs in Data 360 einfließt (Daumen hoch/runter, Akzeptieren/Ablehnen, Bearbeitungen, ausführliche Kommentare) zusammen mit Gateway-Anforderungs- und Generierungsdaten |
| Plattform | Analytics | ✅ Kombinieren von explizitem Feedback (das vor der Eskalation, nach der Unterhaltung, nach Folgeumfragen gefragt wurde) mit impliziten Signalen (Abschlussraten, Eskalation, Verlassen, Wiederholungen) und Korrelieren mit Unterhaltungsmerkmalen, um die Verbesserungspriorität zu bestimmen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Testcenter | ⚠️ Erstellen und Ausführen eines benutzerdefinierten Teststrangs, statt mit den wiederverwendbaren Testsets und nativen Auswertegeräten des Agentforce-Testcenters zu beginnen |
| Agentforce | Testcenter | ⚠️ Bei der Qualitätsbewertung von Antworten mit offenem Ende ausschließlich auf automatisierte Auswertung ohne menschliche Überprüfung setzen |
| Plattform | Überwachung | ⚠️ Nur Genauigkeit überwachen, ohne Relevanz, Sicherheit und Benutzerzufriedenheit zu verfolgen |
| Data 360 | GenAIFeedback | ⚠️ Wenn Agentforce-Feedback bereits in die GenAIFeedback-DMOs fließt, können keine (expliziten oder impliziten) Benutzerfeedbacks zur Antwortqualität erfasst werden |
| Agentforce | Agentenkonfiguration | ⚠️ Überspringen von Fairnessprüfungen zur Bewertung der Ergebnisverteilungen zwischen demografischen Gruppen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentenkonfiguration | ✅ Richten Sie die Basisleistung direkt nach der Agentenbereitstellung ein, um Genauigkeit, Relevanz, Sicherheit und Zufriedenheit in repräsentativen Testfällen zu messen |
| Agentforce | Agentenkonfiguration | ✅ Regelmäßige erneute Auswertung anhand derselben Testfälle, bei denen Leistungsänderungen unabhängig von Nutzungsmusterverschiebungen sichtbar werden |
| Plattform | Überwachung | ✅ Warnung, wenn Qualitätskennzahlen über akzeptable Schwellenwerte fallen, die durch die Toleranz für Geschäftsauswirkungen definiert sind |
| Plattform | Analytics | ✅ Überwachen der Eingabeeigenschaften (Fragenlänge, Themenverteilung, Sprachkomplexität, Domänenterminologie) zum Erkennen signifikanter Verteilungsverschiebungen |
| Plattform | Überwachung | ✅ Überwachen der Antworteigenschaften (durchschnittliche Antwortlänge, Aktionsaufrufraten, Eskalationshäufigkeiten, Fehlermuster) zur Festlegung von Verhaltensgrundlagen |
| Plattform | Überwachung | ✅ Konfigurieren von automatisierten Benachrichtigungen, die ausgelöst werden, wenn Drift-Kennzahlen Schwellenwerte überschreiten, was Untersuchungen und Korrekturen auslöst |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Fehler bei der Erstellung der Basisleistung nach der ersten Agentenbereitstellung, wodurch eine Abweichung nicht erkennbar ist |
| Plattform | Überwachung | ⚠️ Ignorieren der Verteilungsabweichung, wenn sich Benutzereingabemuster erheblich von dem unterscheiden, was Agenten verarbeiten sollen |
| Plattform | Überwachung | ⚠️ Keine Überwachung von Verhaltensänderungen (Antwortlänge, Aktionsraten, Eskalationshäufigkeiten) anhand festgelegter Grundlagen |
| Plattform | Überwachung | ⚠️ Keine automatische Benachrichtigung für Drift-Kennzahlen, die nur auf manuelle Beobachtung zur Erkennung der Degradation angewiesen ist |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Überwachung | ✅ Überwachen von Token-Verbrauchsverteilungen zum Erkennen von Ausreißerunterhaltungen und Untersuchen derer, die 10-fach typische Token verwenden |
| Plattform | Überwachung | ✅ Erkennen von plötzlichen Anstiegen der Fehlerraten, neuen Fehlertypen, die nicht zur Grundlage gehören, oder lokalisierten Fehlerkonzentrationen, die sich auf bestimmte Benutzer oder Agenten auswirken |
| Plattform | Analytics | ✅ Verfolgen der Unterhaltungsbeendigung nach Unterhaltungsphase, um festzustellen, ob Benutzer die Unterhaltung während der ersten Interaktion, während der Unterhaltung oder nach Abschluss der Aufgabe beenden |
| Plattform | Überwachung | ✅ Leiten Sie wichtige Agentenfehler sofort an Techniker auf Abruf, Qualitätseinbußen an Produktteams während der Geschäftszeiten und kleinere Anomalien an tägliche Auszüge weiter |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Überwachung | ⚠️ Alle Warnungen mit gleicher Dringlichkeit behandeln, was zu Ermüdung der Warnung und verpassten kritischen Fehlern führt |
| Plattform | Überwachung | ⚠️ Ignorieren von Kostenanomalien wie Token-Verbrauchsspitzen, die auf zeitnahe Probleme, Missbrauch oder Infrastrukturprobleme hinweisen können |
| Plattform | Analytics | ⚠️ Keine Verfolgung der Unterhaltungsabbruchraten oder keine Analyse der Abbrüche nach Phase |
| Plattform | Überwachung | ⚠️ Warten auf Benutzerberichte statt proaktives Erkennen von Fehlerratenspitzen durch automatisierte Überwachung |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Quellcodeverwaltung | ✅ Speichern von Eingabeaufforderungsvorlagen in Git zusammen mit Anwendungscode, der Eingabeaufforderungen als wichtige Anwendungslogik behandelt, die eine Codeüberprüfung, Tests und kontrollierte Bereitstellung verdient |
| Einstein | Eingabeaufforderungsgenerator | ✅ Verwenden Sie den Eingabeaufforderungsgenerator für die iterative Eingabeaufforderungsentwicklung mit Versionsverlauf und Testfunktionen und exportieren Sie ihn anschließend in die Versionskontrolle für Bereitstellungspipelines. |
| Plattform | Quellcodeverwaltung | ✅ Speicherkonfigurationen (Modellauswahl, Temperatur, Tokenobergrenzen, Abrufkonfigurationen, Aktionsberechtigungen, Funktionskennzeichnungen) als Code, der umgebungsspezifische Werte und Drifterkennung ermöglicht |
| Plattform | Quellcodeverwaltung | ✅ Wenden Sie die semantische Versionierung auf Agentenkomponenten an: Major (Änderungen wurden behoben), Minor (Funktionen), Patch (Fehlerbehebungen) mit in Protokollen angezeigten Versionsnummern |
| Plattform | Dokumentation | ✅ Dokumentieren Sie, was geändert wurde, warum sie geändert wurde, welche Tests die Änderung validiert haben und welche Rollback-Verfahren für jede Aufforderung und Konfigurationsänderung vorhanden sind |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Einstein | Eingabeaufforderungsgenerator | ⚠️ Vornehmen von sofortigen Änderungen ohne Codeüberprüfung, Tests oder kontrollierte Bereitstellungsprozesse |
| Plattform | Konfiguration | ⚠️ Speichern von Agentenkonfigurationen außerhalb der Quellcodeverwaltung, bei denen eine Abweichung nicht erkannt werden kann und Bereitstellungen nicht automatisiert werden können |
| Plattform | Dokumentation | ⚠️ Vornehmen von sofortigen Änderungen ohne Dokumentation von Gründen, Testergebnissen oder Wiederherstellungsverfahren |
| Plattform | Quellcodeverwaltung | ⚠️ Fehler bei der Anwendung der semantischen Versionierung, wodurch es unmöglich ist, Vorfälle mit bestimmten Bereitstellungen zu korrelieren |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Dokumentation | ✅ Verwalten einer Modellregisteraufzeichnung, welche Modellversionen wo bereitgestellt werden, einschließlich Modellfamilie, spezifischer Version, Feinabstimmungsstatus, Umgebung, Bereitstellungsdatum und verantwortlichem Team |
| Plattform | Dokumentation | ✅ Protokollieren Sie jede Agentenbereitstellung, einschließlich Version, Umgebung, Zeitstempel, Bereitstellungsbenutzer, erhaltener Genehmigungen und Bereitstellungsergebnis |
| Plattform | Dokumentation | ✅ Ordnen Sie Abhängigkeiten zwischen Agenten, Aufforderungen, Knowledge Bases, Aktionen und Integrationen explizit zu, statt sie während Vorfällen zu entdecken |
| Geschäft | Prozess | ✅ Erstellen eines Abschreibungsplans mit einer durch Policen unterstützten Mindestankündigungsfrist, die ausreichend im Voraus kommuniziert wird, sodass geplante Migrationen anstelle von Notfallreaktionen auf erzwungene Abschreibungen möglich sind |
| Plattform | Dokumentation | ✅ Dokument-Rollback-Verfahren für jeden Agenten, einschließlich Zielversion, Ausführungsschritten, Validierungstests und Benachrichtigungsanforderungen |
| Plattform | Staging | ✅ Testen von Wiederherstellungsverfahren in Nicht-Produktionsumgebungen, um zu überprüfen, ob sie funktionieren, bevor sie während Produktionsvorfällen von ihnen abhängig sind |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Dokumentation | ⚠️ Erkennen von Abhängigkeiten zwischen Agenten, Aufforderungen und Knowledge Bases nur während Vorfällen, statt explizite Abhängigkeitszuordnungen zu pflegen |
| Geschäft | Prozess | ⚠️ Bereitstellung einer unzureichenden Abschreibungsanzeige, die Notfallmigrationen anstelle geplanter Umstellungen erzwingt |
| Plattform | Dokumentation | ⚠️ Nicht getestete Wiederherstellungsverfahren, die bei Bedarf am häufigsten während Produktionsvorfällen fehlschlagen |
| Plattform | Bereitstellung | ⚠️ Bereitstellen von Agenten ohne Protokollierung von Version, Umgebung, Genehmigungen oder Ergebnissen, wodurch die Möglichkeit, Vorfälle mit Bereitstellungen zu korrelieren, verloren geht |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Benutzeroberfläche | ✅ Erfassen expliziten Feedbacks (Daumen hoch/runter, Qualitätsbewertungen, Kommentare) und impliziten Feedbacks (Abschlussraten, Eskalationshäufigkeiten, Wiederholungsmuster) systematisch |
| Data 360 | Datenkuratierung | ✅ Zusammenstellen von Unterhaltungsprotokollen in Trainings-Datensets durch Filtern nach Qualität, Entfernen problematischer Beispiele, Sicherstellen der Repräsentativität und Deduplizieren |
| Data 360 | Erdung | ✅ Anpassen von Agenten an Domänenvokabular, Geschäftsprozesse und organisationsspezifisches Knowledge vor allem über die in Data 360 basierende RAG und die Aufforderungsabstimmung – der native Salesforce-Anpassungspfad |
| Einstein | BYOLLM | ✅ Wenn die Kontextbildung und die Aufforderungsabstimmung unzureichend sind, optimieren Sie ein Modell extern und verbinden Sie es über BYOLLM, statt die generative Feinabstimmung innerhalb der Plattform zu erwarten |
| Einstein | Eingabeaufforderungsgenerator | ✅ Einrichten eines regelmäßigen Rhythmus für die Überprüfung von Aufforderungen zur Überprüfung aktueller Unterhaltungen, Qualitätskennzahlen und Benutzerfeedbacks zur Identifizierung von Verbesserungsmöglichkeiten |
| Einstein | Eingabeaufforderungsgenerator | ✅ Implementieren Sie Aufforderungsänderungen inkrementell mit A/B-Tests, die Verbesserungen vor der vollständigen Einführung validieren |
| Agentforce | Agentenkonfiguration | ✅ Verwalten von Testsets, die glückliche Pfade, Edge-Kundenvorgänge, kontradiktorische Eingaben und historische Problemszenarien abdecken und kontinuierlich erweitert werden, wenn neue Edge-Kundenvorgänge entdeckt werden |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Daten | ⚠️ Versuch einer Verbesserung ohne systematische Feedbackerfassung, wodurch Verbesserungen geraten und nicht datengesteuert werden |
| Data 360 | Datenkuratierung | ⚠️ Verwenden nicht zusammengestellter Unterhaltungsprotokolle für Schulungen, einschließlich Sicherheitsverstößen, Fehlern und nicht repräsentativen Beispielen |
| Data 360 | Erdung | ⚠️ Erreichen externer Feinabstimmungen vor dem Erschöpfen der RAG-Kontextbildung und der Aufforderungsabstimmung, dem nativen Pfad, der die meisten Domänenanpassungsanforderungen ohne benutzerdefiniertes Modell erfüllt |
| Einstein | Eingabeaufforderungsgenerator | ⚠️ Behandlung der Eingabeaufforderungsplanung als einmalige Übung und nicht als kontinuierliche Übung, die an die Entwicklung der Nutzungsmuster angepasst wird |
| Agentforce | Agentenkonfiguration | ⚠️ Mit statischen Testsätzen, die nie erweitert werden, um neue Edge-Kundenvorgänge abzudecken, die in der Produktion entdeckt wurden |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Benutzerdefinierte Metadatentypen | ✅ Implementieren von Funktionskennzeichnungen mithilfe von benutzerdefinierten Metadatentypen oder benutzerdefinierten Einstellungen zum Entkoppeln der Bereitstellung von der Version für Agentenänderungen mit hohem Risiko |
| Plattform | Berechtigungssätze | ✅ Implementieren von Kanarischen Bereitstellungen, die Agentenänderungen an einer kleinen Benutzerteilmenge zuerst mithilfe von Berechtigungssätzen zum Steuern des Agentenzugriffs freigeben |
| Agentforce | Agentenkonfiguration | ✅ Überwachen Sie die Kanarienvogtei intensiv und messen Sie Erfolgsraten, Qualität, Fehlerraten, Latenz, Tokenverbrauch und Zufriedenheit. Erweitern Sie die Einführung nur, wenn der Kanarienvogel mit der Kontrollgruppe übereinstimmt oder sich verbessert, die die vorherige Agentenversion ausführt |
| Plattform | Analytics | ✅ Definieren von Erfolgskriterien vor Beginn von A/B-Tests, um mehrdeutige Ergebnisse zu verhindern, die mit Geschäftszielen in Einklang stehen |
| Agentforce | Agentenkonfiguration | ✅ Bereitstellen von Champions-Herausforderer-Tests mit Beibehaltung der bewährten Version als Ausweichversion im Vergleich zur verbesserten Herausforderer-Version |
| Geschäft | Prozess | ✅ Festlegen objektiver Sonderangebotskriterien, einschließlich Mindeststichprobengröße, Qualitätsschwellenwerten und Bewertungsdauer vor Sonderangebotsentscheidungen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Die gleichzeitige Einführung von Agentenänderungen für alle Benutzer ohne Kanarienvogeltests maximiert den Explosionsradius von Problemen |
| Plattform | Bereitstellung | ⚠️ Bereitstellen von Agentenänderungen mit hohem Risiko ohne Funktionskennzeichnungen für die sofortige Wiederherstellung ohne erneute Bereitstellung |
| Plattform | Analytics | ⚠️ Durchführen von A/B-Tests ohne vordefinierte Erfolgskriterien, was zu mehrdeutigen Ergebnissen und schlechten Entscheidungen führt |
| Plattform | Analytics | ⚠️ Ausführung von Experimenten mit unzureichender Stichprobengröße, die zu verrauschten Ergebnissen führen, die zu falschen Schlussfolgerungen führen |
| Agentforce | Agentenkonfiguration | ⚠️ Verwenden von Funktionskennzeichnungen für jede kleinere Aufforderungsänderung, statt sie für Änderungen mit hohem Risiko für geschäftskritische Agenten zu reservieren |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Überwachung | ✅ Erkennen von Agentenfehlern durch automatische Überwachungsbenachrichtigungen zu Fehlerraten, Verschlechterung der Qualitätskennzahl, Kostenanomalien, Latenzerhöhungen und Benutzereskalationen |
| Plattform | Überwachung | ✅ Ergänzen der automatisierten Erkennung durch Benutzerberichterstellungsmechanismen, die die Eskalation von Problemen ermöglichen |
| Geschäft | Prozess | ✅ Definieren Sie Schweregradkriterien objektiv anhand der Benutzerauswirkung, des Explosionsradius, des Datenintegritätsrisikos und der Wiederherstellungsdringlichkeit |
| Plattform | Dokumentation | ✅ Dokumentieren von Verfahren für die erste Reaktion als Runbooks, die von Bereitschaftsingenieuren ohne fundierte Agentenkenntnisse ausgeführt werden können |
| Agentforce | Agentenkonfiguration | ✅ In erste Antwort aufnehmen: Deaktivieren eines fehlschlagenden Agenten (Leistungsschalter), Weiterleiten an eine Ausweichfunktion, Sammeln von Diagnosen, Benachrichtigen von Beteiligten, Initiieren der Vorfallskommunikation |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Überwachung | ⚠️ Verwenden von Benutzerberichten als primären Erkennungsmechanismus anstelle der automatisierten Überwachung auf Agentenfehler |
| Geschäft | Prozess | ⚠️ Verwendung der subjektiven Schweregradklassifizierung, die zu einer Untereskalation realer Probleme oder zu einer Übereskalation kleinerer Probleme führt |
| Plattform | Dokumentation | ⚠️ Keine Runbooks, die bei jedem Vorfall eine ereignisspezifische Untersuchung durch Ingenieure mit fundierter Agentenexpertise erfordern |
| Geschäft | Prozess | ⚠️ Behandeln von Agentenfehlern identisch mit herkömmlichen Anwendungsfehlern ohne Berücksichtigung von Halluzinationen, Reaktionen außerhalb des Themas oder Sicherheitsverstößen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Apex | ✅ Implementieren von Leistungsschaltern mit konfigurierbarem Fehlerschwellenwert (z. B. 50 % Fehlerrate), Dauerfenster (z. B. rollierendes Fenster von 5 Minuten) und Wiederherstellungstests (regelmäßige Testanforderungen) |
| Agentforce | Agentenkonfiguration | ✅ Ausweichhierarchien entwerfen: Primärer anspruchsvoller Agent → Einfacherer Backup-Agent → Statische Antworten auf häufig gestellte Fragen → Übergabe durch Menschen |
| Plattform | Orchestrierung | ✅ Implementieren Sie Ausweichlogik in Orchestrierungsebene und nicht in einzelnen Agenten, um ein konsistentes Verhalten im gesamten Agenten-Ökosystem zu ermöglichen |
| Agentforce | Agentenkonfiguration | ✅ Entwerfen von Workflows für die menschliche Übergabe unter Beibehaltung des Unterhaltungskontexts, Kommunizieren des Übergabegrunds und Weiterleiten an den entsprechenden menschlichen Agenten mit relevantem Fachwissen |
| Plattform | Überwachung | ✅ Überwachen der Übergaberaten nach Thema, Agent und Fehlerursache, um Lücken in der Agentenfunktion zu identifizieren |
| Agentforce | Agentenkonfiguration | ✅ Wenn komplexe Überlegungen fehlschlagen, greifen Sie auf eine einfachere Logik zurück. Wenn Echtzeitdaten nicht verfügbar sind, verwenden Sie zwischengespeicherte Daten. Wenn Integrationen fehlschlagen, verwenden Sie den schreibgeschützten Modus. |
| Plattform | Orchestrierung | ✅ Testen Sie Ausweichpfade regelmäßig, um sie bei Bedarf zu validieren |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Ohne Leistungsschalter, wodurch fehlschlagende Agenten wiederholt Auswirkungen auf Benutzer haben, während Probleme behoben werden |
| Plattform | Orchestrierung | ⚠️ Implementieren von Ausweichlogik innerhalb einzelner Agenten statt auf Orchestrierungsebene, was zu inkonsistentem Verhalten führt |
| Agentforce | Agentenkonfiguration | ⚠️ Entwerfen von Binärpassagenten/Fehleragenten, die entweder perfekt funktionieren oder vollständig fehlschlagen, ohne Optionen für die ordnungsgemäße Verschlechterung |
| Plattform | Orchestrierung | ⚠️ Testen Sie Ausweichpfade niemals und entdecken Sie, dass sie nur bei tatsächlichen Vorfällen funktionieren |
| Agentforce | Agentenkonfiguration | ⚠️ Menschliche Übergabe, bei der der Unterhaltungskontext verloren geht und Benutzer gezwungen werden, Informationen zu wiederholen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Geschäft | Prozess | ✅ Durchführung schuldloser Überprüfungen nach einem Vorfall mit Fokus auf Systemverbesserungen statt auf individuelle Fehler, die psychologische Sicherheit schaffen |
| Geschäft | Prozess | ✅ Erstellen einer detaillierten Zeitachse von anfänglichen Bedingungen über Erkennung, Untersuchung, Antwort, Wiederherstellung und Validierung mit Zeitstempeln |
| Geschäft | Prozess | ✅ Verwenden der “Fünf-Warum”-Technik zum Bohren von Symptomen zu grundlegenden Ursachen anstelle von vereinfachten Schlussfolgerungen |
| Geschäft | Prozess | ✅ Analysieren beitragender Faktoren, einschließlich Überwachungslücken, Testlücken, Dokumentationslücken, Automatisierungslücken und Architekturlücken |
| Geschäft | Prozess | ✅ Erkennung auswerten: Welches Signal hätte das Problem früher erkennen sollen, welche Überwachung ermöglicht eine schnellere Erkennung |
| Geschäft | Prozess | ✅ Geben Sie konkrete zugewiesene zeitgebundene Aktionselemente an, die Wiederholungen verhindern (z. B. “Benachrichtigung hinzufügen, wenn die Fehlerrate 5 % über 10 Minuten überschreitet – zugewiesen: Alex - fällig: 2 Wochen”) |
| Geschäft | Prozess | ✅ Verfolgen des Abschlusses von Aktionselementen in nachfolgenden Überprüfungen, um sicherzustellen, dass eine kontinuierliche Verbesserung tatsächlich eintritt |
| Plattform | Dokumentation | ✅ Dokumentüberprüfungen nach Vorfällen in freigegebener Knowledge Base mit Tags, die die Musteranalyse über mehrere Vorfälle hinweg ermöglichen |
| Geschäft | Prozess | ✅ Geben Sie Überprüfungen nach einem Vorfall weit über unmittelbare Vorfallshelfer hinaus durch Teambesprechungen oder Mittags- und Lernsitzungen frei |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Geschäft | Prozess | ⚠️ Schuldfokussierte Obduktionen, die die psychologische Sicherheit reduzieren und eine ehrliche Beurteilung von Fehlern verhindern |
| Geschäft | Prozess | ⚠️ Vereinfachte Schlussfolgerungen zur Ursache (“der Agent hatte einen Fehler”) anstelle spezifischer Befunde, die eine effektive Behebung ermöglichen |
| Geschäft | Prozess | ⚠️ Vage Aktionselemente wie “Überwachung verbessern” anstelle spezifischer zugewiesener zeitgebundener Aufgaben |
| Geschäft | Prozess | ⚠️ Niedrige Abschlussraten von Aktionselementen, die auf einen Fehler im Prozess zur kontinuierlichen Verbesserung hinweisen |
| Geschäft | Prozess | ⚠️ Lerninhalte nach einem Vorfall für sofortige Mitarbeiter isoliert halten, statt sie allgemein für organisatorische Lerninhalte freizugeben |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Geschäft | Prozess | ✅ Validieren der Checkliste vor der Bereitstellung, einschließlich Tests, Sicherheitsüberprüfung, Compliance-Validierung, Dokumentation, Überwachungskonfiguration und Genehmigung der Beteiligten |
| Geschäft | Prozess | ✅ Bewerten des Risikos anhand des Explosionsradius, der Datenvertraulichkeit, der Handlungsautorität, der Integrationsabhängigkeiten, der Wiederherstellungskomplexität und der Compliance-Auswirkungen |
| Geschäft | Prozess | ✅ Skalieren Sie Genehmigungsanforderungen anhand des Risikos: Hochrisiko erfordert Genehmigung durch die Geschäftsleitung, Sicherheitsüberprüfung und schrittweise Einführung. Geringes Risiko erfordert Peer Review und Standardtests |
| Plattform | Genehmigungsprozesse | ✅ Implementieren automatisierter, verfolgter und überprüfbarer Genehmigungs-Workflows mithilfe von Salesforce-Genehmigungsprozessen oder externen Bereitstellungstools |
| Geschäft | Prozess | ✅ Definieren von Notfallumgehungsverfahren, die eine Genehmigung durch die Exekutive, eine rationale Dokumentation und eine beschleunigte Überprüfung nach der Bereitstellung erfordern |
| Plattform | Überwachung | ✅ Verfolgen Sie Notfallbereitstellungen separat; hohe Notfallbereitstellungshäufigkeit gibt an, dass Prozessprobleme untersucht werden müssen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Geschäft | Prozess | ⚠️ Anwendung einer einheitlichen Genehmigungstiefe unabhängig vom Agentenrisikoprofil, Verschwendung von Aufwand für Agenten mit niedrigem Risiko oder Unterbewertung von Agenten mit hohem Risiko |
| Geschäft | Prozess | ⚠️ Bereitstellen von Produktionsagenten ohne Checklistenvalidierung vor der Bereitstellung von Tests, Sicherheit, Compliance und Überwachung |
| Plattform | Bereitstellung | ⚠️ Keine Notfallumgehungsverfahren, was zu Verzögerungen bei der Behebung wichtiger Probleme während Produktionsvorfällen führt |
| Geschäft | Prozess | ⚠️ Erfordert häufig Notfallbereitstellungen, was auf fehlerhafte Standardprozesse anstelle außergewöhnlicher Umstände hindeutet |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentenkonfiguration | ✅ Testausgabeeigenschaften (enthält erforderliche Informationen, behält den entsprechenden Ton bei, enthält Zitate) anstelle von exaktem Text für nicht deterministische Agentenausgaben |
| Agentforce | Agentenkonfiguration | ✅ Festlegung von Mindestqualitätsschwellenwerten (z. B. “95 % Genauigkeit bei ausgesetztem Testset, null Sicherheitsverstöße, Fairness-Audit zeigt keine demografischen Unterschiede von mehr als 5 %“) |
| Agentforce | Agentenkonfiguration | ✅ Sicherheitstests mit kontradiktorischen Eingaben durchführen, einschließlich Eingabeaufforderungen, Jailbreak-Versuchen, Anforderungseskalation und Anforderungen außerhalb des Umfangs |
| Agentforce | Agentenkonfiguration | ✅ Sicherheitstests von Teammitgliedern durchführen lassen, die nicht an der Agentenentwicklung beteiligt sind, um eine neue Perspektive auf Schwachstellen zu bieten |
| Plattform | Leistungstests | ✅ Test unter realistischer Last, einschließlich gleichzeitiger Unterhaltungen, typischer Unterhaltungslängen und projiziertem Nutzungsvolumen |
| Plattform | Sicherheit | ✅ Validieren, dass Agenten nicht auf nicht autorisierte Daten zugreifen können, keine nicht autorisierten Aktionen ausführen können und dass die Eingabeaufforderung keine Berechtigungen eskalieren kann |
| Plattform | CI/CD | ✅ Integrieren des Sicherheitsscans in die Bereitstellungs-Pipeline mit dem Salesforce Code Analyzer und speziellen AI-Sicherheitstools |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Testen von Agenten auf genaue Textübereinstimmung bei nicht deterministischen Ausgaben anstelle von Testen von Ausgabeeigenschaften |
| Plattform | Leistungstests | ⚠️ Nur Tests mit Einzelbenutzerszenarien, fehlenden Obergrenzenproblemen, Ressourceneinschränkungen und Skalierbarkeitsengpässen |
| Agentforce | Agentenkonfiguration | ⚠️ Überspringen von Sicherheitstests oder Testen eigener Agenten durch Entwickler ohne neue Perspektive auf Schwachstellen |
| Plattform | Sicherheit | ⚠️ Nicht testen, ob die Eingabeaufforderung Agentenberechtigungen eskalieren oder auf nicht autorisierte Daten zugreifen kann |
| Agentforce | Agentenkonfiguration | ⚠️ Mit statischen Testsätzen, die keine echte Nutzungsvielfalt darstellen, einschließlich verschiedener Benutzertypen und Unterhaltungskomplexitäten |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Dokumentation | Dokumentieren Sie jede Änderung: Was hat sich geändert, warum, welche Tests haben es validiert und welches Rollback-Verfahren ist vorhanden? |
| Unternehmen | Kommunikation | ✅ Alle Beteiligten (Benutzer, Ops-Teams, Support, Unternehmen) benachrichtigen, um zu beschreiben, was sich wann ändert, welche Vorteile, welche Risiken und an wen sie sich wenden müssen |
| Unternehmen | Kommunikation | ✅ Erstellen von Kommunikationsvorlagen für verschiedene Änderungstypen zum Standardisieren von Nachrichten und Reduzieren des Vorbereitungsaufwands |
| Plattform | Ereignisüberwachung | ✅ Bereitstellungen von Zeitagenten in Zeiträumen mit geringer Nutzung, die durch Ereignisüberwachungsdaten mit tatsächlichen Nutzungsmustern informiert werden |
| Geschäft | Prozess | ✅ Bereitstellen wichtiger Agentenänderungen Anfang bis Mitte der Woche, wodurch Wochenenden mit reduzierter Reaktionsfähigkeit auf Vorfälle vermieden werden |
| Geschäft | Prozess | ✅ Einrichten von Änderungs-Fixierungszeiträumen vor wichtigen Geschäftsereignissen (Geschäftsjahresende, Produkteinführungen, wichtige Marketingkampagnen) |
| Geschäft | Prozess | ✅ Dokumentänderungs-Fixierungskalender jährlich, der eingeschränkte Zeiträume ausreichend im Voraus kommuniziert |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Bereitstellung | ⚠️ Bereitstellung während der Spitzennutzung, des Monatsendes, des Quartalsendes oder wichtiger Geschäftsereignisse |
| Plattform | Bereitstellung | ⚠️ Bereitstellung an Montagen (Aufstockung) oder Freitagen (reduziertes Personal), wenn die Reaktionsfähigkeit bei Vorfällen eingeschränkt ist |
| Geschäft | Prozess | ⚠️ Übermäßige Änderungen frieren die Geschwindigkeit der Verbesserung ohne verhältnismäßige Risikoreduzierung ein |
| Unternehmen | Kommunikation | ⚠️ Bereitstellen von Agentenänderungen ohne Benachrichtigung betroffener Benutzer, Betriebsteams, Supportteams oder Geschäftsbeteiligter |
| Plattform | Dokumentation | ⚠️ Änderungen vornehmen, ohne Begründungen zu dokumentieren, Organisationen erstellen, die Lektionen wiederentdecken, statt auf Erfahrungen aufzubauen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Benutzeroberfläche | ✅ Implementieren der Feedbacksammlung auf der Unterhaltungsoberfläche, wodurch sofortige Antworten bei frischer Interaktion und nicht bei verzögerter Sammlung möglich sind |
| Plattform | Analytics | ✅ Abfrageunterhaltungsprotokolle, die Fragentypen, Unterhaltungsdauern, Erfolgsraten nach Thema und Benutzerzufriedenheit nach Unterhaltungsmerkmalen analysieren |
| Plattform | Analytics | ✅ Analysieren der Fehlerprotokollgruppierung nach Fehlertyp, betroffenen Benutzern, Unterhaltungsmustern und zeitlicher Verteilung, um systematische Probleme aufzudecken |
| Plattform | Analytics | ✅ Priorisieren der Fehlerbehebung nach Häufigkeit und Auswirkung: Fehler mit hoher Häufigkeit, die viele Benutzer betreffen, erfordern sofortige Aufmerksamkeit |
| Plattform | Überwachung | ✅ Erstellen von Qualitätsgrundlagen nach der ersten Bereitstellung und Überwachen der fortlaufenden Qualität anhand von Benachrichtigungen zu den Grundlagen, wenn Trends zurückgehen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Benutzeroberfläche | ⚠️ Verzögern der Feedbackerfassung (z. B. Folge-E-Mails Tage später), Reduzieren der Antwortraten und Einführen von Rückrufverzerrungen |
| Plattform | Analytics | ⚠️ Keine Analyse von Nutzungsmustern, um festzustellen, ob Agenten die betriebliche Komplexität rechtfertigen oder ob die Funktionen nicht ausgelastet sind |
| Plattform | Analytics | ⚠️ Alle Fehler gleich behandeln statt nach Häufigkeit und Geschäftsauswirkungen zu priorisieren |
| Plattform | Überwachung | ⚠️ Treffen von Verbesserungsentscheidungen ohne Daten, Fehlen von Qualitätsgrundlagen und Trendüberwachung |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Geschäft | Prozess | ✅ Stellen Sie eine konsistente Experimentstruktur bereit: Hypothese, experimentelles Design, Kennzahlen, Stichprobengröße und Erfolgskriterien |
| Geschäft | Prozess | ✅ Dokumentexperimente vor der Ausführung verhindern eine mehrdeutige Interpretation der Ergebnisse |
| Plattform | Analytics | ✅ Verfolgen der Variantenzuweisung in Unterhaltungsmetadaten, wodurch die Ergebniskorrelation nach Variante ermöglicht wird |
| Plattform | Analytics | ✅ Berechnen der erforderlichen Stichprobengröße vor Experimenten anhand der erwarteten Effektgröße, der statistischen Leistung und der akzeptablen Fehlerraten |
| Plattform | Analytics | ✅ Verwenden der Optimierung von mehrarmigen Banditen, um mehr Datenverkehr dynamisch auf leistungsstärkere Varianten zu verteilen und so die Opportunity-Kosten zu senken |
| Plattform | Dokumentation | ✅ Verwalten des Experimentkatalogs mit getesteten Varianten, gemessenen Ergebnissen, erzielten Ergebnissen und getroffenen Entscheidungen zum Verhindern fehlgeschlagener Ansätze |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Geschäft | Prozess | ⚠️ Ausführung von Experimenten ohne vordefinierte Hypothesen und Erfolgskriterien, die zu mehrdeutigen Ergebnissen führen |
| Plattform | Analytics | ⚠️ Verwenden unzureichender Stichprobengrößen, die zu verrauschten Ergebnissen führen, die zu schlechten Verbesserungsentscheidungen führen |
| Plattform | Dokumentation | ⚠️ Sie verfügen nicht über einen Experimentkatalog, wodurch Teams zuvor fehlgeschlagene Ansätze erneut testen und organisatorisches Knowledge verlieren |
| Plattform | Analytics | ⚠️ Es wird nicht verfolgt, welche Benutzer welche Varianten erhalten haben, was eine Ergebniskorrelation unmöglich macht |