Trust Agentic Enterprise – Patterns (Vertrauensagentisches Unternehmen – Muster)
Weitere Informationen zu Well-Architected Trust → Agentic Enterprise Trust
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentenkonfiguration | ✅ Erstellen des Integrationsbenutzers “Agent_Product_Support” mit dem Berechtigungssatz “Lesen für Kundenvorgang/Produkt”, Zugriff auf Knowledge-Artikel und spezifische Aktionen nur für Kundenvorgangsaktualisierungen |
| Agentforce | Agentenkonfiguration | ✅ Konfigurieren des aktuellen Benutzers mit den Mindestberechtigungen, die für den definierten Umfang des Agenten erforderlich sind |
| Plattform | Berechtigungssätze | ✅ Erstellen von speziell für Agentenkontexte erstellten Integrationsbenutzern und Gewähren von Berechtigungssätzen, die genau das bieten, was der Agent benötigt |
| Plattform | Ereignisüberwachung | ✅ Verwenden Sie nach der Bereitstellung die Ereignisüberwachung, um erteilte Berechtigungen zu identifizieren, die zur Laufzeit noch nie ausgeübt wurden, und entfernen Sie sie. Das Setup-Aktivierungsprotokoll zeichnet die Konfigurationsänderungen (Gewährungen und Widerrufe) auf, nicht die tatsächlich verwendeten Berechtigungen. |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Weisen Sie Systemadministrator als aktuellen Benutzer zu, da er “einfach funktioniert” und Berechtigungsfehler während des Tests vermieden werden |
| Plattform | Organisation | ⚠️ Agenten erlauben, umfassende Berechtigungssätze beizubehalten, die während der Entwicklung ohne Überprüfung nach der Bereitstellung erteilt wurden |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentengenerator | ✅ Behandeln der Konfiguration von Unteragenten und Aktionen im Agentengenerator als Berechtigungsgrenze und nicht nur als Weiterleitung – wenn eine Aktion keinem Unteragenten zugewiesen ist, kann der Agent sie nicht aufrufen |
| Agentforce | Agentengenerator | ✅ Entfernen von Unteragenten, die Funktionen bereitstellen, die der Agent nicht benötigt (ein Agent, der Produktfragen beantwortet, sollte keine Datensatzänderungen, E-Mail-Sendungen oder Flow-Aufrufe im Umfang haben) und Überprüfen des Umfangs von Unteragenten, wenn sich Zuständigkeiten ändern |
| Plattform | Apex | ✅ Überprüfen Sie, ob jede Apex-Aktion im Aktionsset des Agenten mit Freigabe oder übernommener Freigabe verwendet wird, es sei denn, der Systemkontext ist absichtlich und dokumentiert, sodass der aktuelle Benutzer die Sicherheitsgrenze beibehält |
| Agentforce | Aktion | ✅ Validieren von Tool-Ausgaben anhand eines Schemas, bevor der Agent sie verarbeitet, wobei jede Tool-Antwort als nicht vertrauenswürdige Eingabe behandelt wird |
| Agentforce | Aktion | ✅ Beschränken Sie die Tool-Parameter auf zulässige Wertebereiche (z. B. Validieren von Empfängerdomänen bei einer E-Mail-Aktion), statt sie von Agenten bestimmen zu lassen, die nicht vertrauenswürdige Daten berücksichtigen |
| Agentforce | Aktion | ✅ Erzwingen von Berechtigungsüberprüfungen auf Werkzeugebene auf der Ebene der Toolimplementierung, nicht nur in der Agentenkonfiguration, damit eine Funktion ihren Aufrufkontext vor der Ausführung überprüft |
| Agentforce | Aktion | ✅ Verwenden von Anmeldeinformationen mit Namen für alle externen Callouts aus Agentenaktionen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentengenerator | ⚠️ Verlassen von Unteragenten, die Datensatzänderungen, E-Mail-Sendungen oder Flow-Aufrufe für einen Agenten bereitstellen, der nur für die Beantwortung von Produktfragen vorgesehen ist |
| Agentforce | Agentengenerator | ⚠️ Behandeln der Agentenkonfiguration als reine Weiterleitung, ohne zu erkennen, dass die aufgeführten Elemente durch sofortige Änderungen erreicht werden können, selbst wenn Funktionen nicht für die Verwendung durch den Agenten vorgesehen sind |
| Plattform | Apex | ⚠️ Hinzufügen einer benutzerdefinierten Apex-Aktion, die im Systemmodus (ohne Freigabe) ausgeführt wird und die Feldebenensicherheits- und Freigaberegeln des aktuellen Benutzers umgeht, ohne sie bewusst zu entwerfen |
| Agentforce | Aktion | ⚠️ Verarbeiten von Tool-Antworten als vertrauenswürdige Eingabe ohne Schemavalidierung, wodurch fehlerhafte oder injizierte Daten zur Agentenüberprüfung gelangen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentenkonfiguration | ✅ Dokumentberechtigungskette: Order Orchestrator (Leseaufträge, Schreibauftragsstatus) → Inventarspezialist (Lese-/Schreibinventar) → Versandspezialist (Lieferung erstellen). Überprüfen, ob der Benutzerkontext alle nachgelagerten Vorgänge zulässt |
| Agentforce | Agentenkonfiguration | ✅ Zuordnen effektiver Berechtigungen der gesamten Orchestrierungskette vor der Bereitstellung |
| Agentforce | Agentenkonfiguration | ✅ Entwerfen von Berechtigungsgrenzen im gesamten Workflow, nicht nur für einzelne Agenten |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Orchestrierer mit eingeschränkten Berechtigungen können mit “Alle Daten modifizieren” Spezialisten aufrufen und die Einschränkungen des Orchestrierers umgehen |
| Agentforce | Agentenkonfiguration | ⚠️ Berechtigungen einzelner Agenten auswerten, ohne die effektive Berechtigung der gesamten Orchestrierungskette zuzuordnen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Aufforderungsvorlage | ✅ Trennen Sie Anweisungen von Daten architektonisch: Anweisungen auf Systemebene dürfen nicht mit Inhalten aus Datensätzen, vom Benutzer bereitgestelltem Text oder Tool-Antworten durch Zeichenfolgenverkettung gemischt werden. |
| Agentforce | Aktion | ✅ Identifizieren Sie Kundenvorgangsbeschreibung, E-Mail-Nachrichtentext, Chat-Abschrift als Felder mit hohem Risiko. Implementieren einer Vorverarbeitungsebene, die Inhalte zusammenfasst, bevor sie an die Argumentation des Agenten übergeben werden, wobei Anweisungen zur potenziellen Injektion entfernt werden, während die Bedeutung beibehalten wird |
| Agentforce | Agentenkonfiguration | ✅ Definieren von Eingabevalidierungsverträgen an jeder Agentengrenze und Behandeln jeder externen Inhaltsquelle als nicht vertrauenswürdig |
| Data 360 | Erdungsquellen | ✅ Behandeln von Knowledge-Artikeln, indizierten Data 360-Dokumenten und externen Abrufquellen als persistente Injektionsoberflächen, die fortlaufend überprüft werden müssen |
| Einstein | Trust Layer | ✅ Behandeln von Einstein Trust Layer-Sicherheitssteuerungen als eine Ebene in einer detaillierten, nicht vollständigen Lösung |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Aufforderungsvorlage | ⚠️ Verketten Sie die Roh-Kundenvorgangsbeschreibung mit Systemanweisungen in die Agentenaufforderung, vorausgesetzt, das Modell unterscheidet Kundenvorgangsinhalte von Angriffsanweisungen. |
| Data 360 | Erdungsquellen | ⚠️ Trust Grounding-Quellen, ohne zu berücksichtigen, dass kontradiktorische Inhalte bestehen bleiben und im Laufe der Zeit von Beteiligten ohne direkten Agentenzugriff geändert werden können |
| Einstein | Trust Layer | ⚠️ Vertrauen Sie bei neuartigen Injektionstechniken ausschließlich auf Trust Layer-Sicherheitssteuerungen ohne zusätzliche architektonische Abwehrmaßnahmen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Einstein | Trust Layer | ✅ Der Agent, der Kundenvorgangsinformationen abruft, fragt nur die Felder ab, die für die Argumentation erforderlich sind (Kundenvorgangsnummer, Produkt, Status, Priorität) und nicht alle Kundenvorgangsfelder. Zusätzlicher Schutz der personenbezogenen Daten durch Maskierung bei unerwarteter personenbezogener Daten |
| Einstein | Trust Layer | ✅ Trust Layer entsprechend konfigurieren und Datenflüsse über die Verarbeitung von Trust Layer dokumentieren |
| Einstein | Trust Layer | ✅ Bestimmen, welche Datenklassifizierungen LLM-Rückschlüsse für Ihren regulatorischen Kontext eingeben können |
| Plattform | Ereignisüberwachung | ✅ Weiterleiten von Trust Layer-Aktivierungsereignissen an SIEM zusammen mit Ereignisüberwachungsdaten |
| Plattform | Ereignisüberwachung | ✅ Implementieren der Protokollierung auf Anwendungsebene, um zu erfassen, was der Agent beschlossen, welche Aktion er ergriffen und welche Geschäftsergebnisse zusammen mit Trust Layer-Protokollen erzielt wurden |
| Unternehmen | Dokumentation | ✅ Validate Trust Layer Audit Retention erfüllt die gesetzlichen Anforderungen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Einstein | Trust Layer | ⚠️ Fragen Sie alle Kundenvorgangsfelder ab, einschließlich vertraulicher Notizen und Zahlungsinformationen, indem Sie sich auf die Maskierung der personenbezogenen Daten verlassen, um alles Problem zu beheben |
| Einstein | Trust Layer | ⚠️ Designagenten senden vollständigen Datensatzkontext an LLM-Rückschluss unter der Annahme, dass die PII-Maskierung alles verarbeitet |
| Einstein | Trust Layer | ⚠️ Behandeln Sie die PII-Maskierung der Trust Layer als Ersatz für die Datenminimierung und nicht als eingehende Verteidigung |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentenkonfiguration | ✅ Der Auftragsabwicklungsspezialist validiert, ob die vom Orchestrierer bereitgestellten Auftragsdaten Pflichtfelder (Auftrags-ID, Kunden-ID, Produkt-SKU) enthalten, die Werte innerhalb der erwarteten Bereiche liegen (Menge > 0, Preis > 0) und der Auftragsstatus die Abwicklung vor der Ausführung zulässt |
| Agentforce | Agentenkonfiguration | ✅ Definieren von expliziten Verträgen für Schnittstellen mit Typ für die Kommunikation zwischen Agenten mit strukturierten, begrenzten und validierten Daten |
| Agentforce | Agentenkonfiguration | ✅ Entwerfen Sie jeden Agenten im Workflow mit mehreren Agenten, um den erhaltenen Kontext zu validieren, bevor er handelt, unabhängig von der Anruferidentität |
| Agentforce | Agentenkonfiguration | ✅ Behandeln von Nachrichteninhalten zwischen Agenten mit derselben Sorgfalt wie die Eingabe externer Benutzer |
| Integration | Externe Services | ✅ Wenden Sie Zero Trust-Prinzipien an und validieren Sie die Antworten für Agenten, die externe AI-Services aufrufen, oder für Drittanbieteragenten außerhalb von Salesforce. |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Der Spezialist führt alle vom Orchestrierer angeforderten Aktionen direkt aus, ohne die Anforderungsstruktur, die Werte oder den Autorisierungskontext zu validieren |
| Agentforce | Agentenkonfiguration | ⚠️ Orchestratoren übergeben unformatierte Anweisungszeichenfolgen, die von Spezialisten als maßgebliche Direktiven behandelt werden |
| Agentforce | Agentenkonfiguration | ⚠️ Übergeben des vollständigen Ausführungskontexts, der Benutzersitzungsdaten oder der kumulierten Argumentationsverfolgung an jeden nachgelagerten Agenten |
| Integration | Externe Services | ⚠️ Auf externe Agentenantworten reagieren, die Ihren Orchestrierer anweisen, Aktionen außerhalb des aktuellen Aufgabenbereichs ohne Ablehnung oder Eskalation auszuführen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Flow | ✅ Erstattungsagent, der mit einem Flow-Prüfpunkt konfiguriert ist, der die Genehmigung durch die Person erfordert, bevor eine Rückerstattung über 1.000 EUR ausgeführt wird, unabhängig vom Vertrauen des Agenten. Prüfpunkt außerhalb der Agentenüberlegungen implementiert |
| Plattform | Flow | ✅ Implementieren von HITL-Prüfpunkten als Workflow-Gate außerhalb der Agenten-Überlegungenschleife, die als Architektursteuerelemente und nicht als Agentenanweisungen konzipiert sind |
| Unternehmen | Dokumentation | ✅ Definieren von Kategorien von Aktionen, die eine menschliche Bestätigung erfordern: irreversible Aktionen, Aktionen über Finanzschwellenwerten, Aktionen, die extern kommunizieren, Aktionen mit regulierten Daten, Aktionen, bei denen Fehler beobachtet wurden |
| Agentforce | Agentenkonfiguration | ✅ Design-Überprüfungsoberflächen mit vorgeschlagener Aktion, Datenagent, der zum Erreichen des Vorschlags verwendet wird, und Argumentationspfad, sofern verfügbar |
| Plattform | Audit | ✅ Shop-Überprüfungsentscheidung mit Agentenaktionsdatensatz: Wer hat wann überprüft, welche Informationen angezeigt und was er entschieden hat |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenkonfiguration | ⚠️ Konfigurieren Sie Agenten mit der Anweisung “Vor Ausstellung von Rückerstattungen über 1.000 EUR um Genehmigung bitten”, vorausgesetzt, die Anweisung kann nicht durch Eingabeaufforderung außer Kraft gesetzt werden |
| Agentforce | Agentenkonfiguration | ⚠️ Implementieren Sie HITL als Agentenanweisungen, die interpretiert und potenziell ignoriert werden können, und nicht als Workflow-Prüfpunkte außerhalb des Argumentationspfads. |
| Geschäft | Prozess | ⚠️ Präsentieren von Genehmigungsanfragen für menschliche Überprüfer ohne Kontext zu vorgeschlagenen Maßnahmen, verwendeten Daten oder Argumentationspfaden – ohne echte Übersicht |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Ereignisüberwachung | ✅ Weiterleiten von Ereignissen der Ereignisüberwachung und Trust Layer an SIEM zur zentralen Sicherheitsüberwachung |
| Plattform | Transaktionssicherheit | ✅ Konfigurieren von Transaktionssicherheitsrichtlinien mit Echtzeitauswertung einschließlich Blockierungs- und Benachrichtigungsfunktionen |
| Agentforce | Agentenkonfiguration | ✅ Implementieren der benutzerdefinierten Anwendungsprotokollierung zur Erfassung von Argumentationszusammenfassungen, Toolaufrufen und Validierungsfehlern |
| Plattform | Ereignisüberwachung | ✅ Entwerfen von Benachrichtigungsregeln zum Erkennen agentenspezifischer verdächtiger Muster: Massendatenzugriff außerhalb der erwarteten Fenster, Aufruf von Aktionen, die nicht mit dem Zweck übereinstimmen, wiederholte Validierungsfehler, anomale Orchestrierungsmuster |
| Agentforce | Agentenkonfiguration | ✅ Verfolgen typischer Aktionsaufrufmuster, Datenzugriffsvolumen, Rückschlussanrufraten, Fehlerraten und Ausführungszeiten pro Agent, um Verhaltensgrundlagen festzulegen |
| Plattform | Ereignisüberwachung | ✅ Definieren von agentenspezifischen Sicherheitsereignissen: Verstöße gegen Berechtigungsgrenzen, wiederholte Validierungsfehler, Orchestrierungsanomalien, Konfidenzschwellenverletzungen, Ausweichaktivierungsmuster |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Ereignisüberwachung | ⚠️ Wenden Sie menschliche Aktivitätsüberwachungsmuster auf Agenten an, ohne agentenspezifische Verhaltensgrundlagen festzulegen |
| Plattform | Ereignisüberwachung | ⚠️ Verlassen Sie sich nur auf die signaturbasierte Erkennung ohne Verhaltensüberwachung, die neue Angriffe erkennen kann |
| Plattform | Ereignisüberwachung | ⚠️ Ignorieren erhöhter Fehlerraten, wiederholter Validierungsfehler oder anormaler Orchestrierungsmuster als normales Agentenverhalten |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | Audit | ✅ Erfassen Sie für jede wichtige Agentenaktion Folgendes: Agentenidentität und aktueller Benutzerkontext, auslösendes Ereignis, zur Kontextbildung abgerufene Daten, Argumentationszusammenfassung, spezifische Aktion und Ergebnis, Konfidenzniveau, Entscheidung über die menschliche Überprüfung, falls zutreffend |
| Plattform | Audit | ✅ Implementieren der Überwachungsprotokollierung auf Anwendungsebene für Geschäftskontexte, die Plattformprotokolle (Ereignisüberwachung, Trust Layer-Ereignisse) nicht enthalten |
| Plattform | Audit | ✅ Weiterleiten von Ereignissen der Ereignisüberwachung und Trust Layer an den Langzeitspeicher über native Aufbewahrungszeiträume hinaus |
| Agentforce | Agentenkonfiguration | ✅ Protokollieren der Agentenidentität bei jedem Schritt in der Ausführungsverfolgung für mehrere Agenten für die Attribution über Orchestrierungsketten |
| Agentforce | Agentenkonfiguration | ✅ Erfassen und Aufzeigen von Argumentationszusammenfassungen, die wichtige Faktoren identifizieren, die die Empfehlung des Agenten für Entscheidungen mit hoher Auswirkung beeinflussen |
| Unternehmen | Dokumentation | ✅ Entwerfen von Agenten-Workflows, sodass Benutzer Erläuterungen zu Entscheidungen anfordern können, die sie betreffen |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | Audit | ⚠️ Verlassen Sie sich darauf, zu rekonstruieren, was der Agent aufgrund von Nebenwirkungen in Datensätzen getan hat – wenn Sie einen Überprüfungsprotokoll benötigen, haben sich die Datensätze möglicherweise geändert. |
| Plattform | Audit | ⚠️ Protokollieren von Workflows mit mehreren Agenten, ohne zu ermitteln, welcher bestimmte Agent welche Aktion in der Kette ausgeführt hat |
| Geschäft | Prozess | ⚠️ Stellen Sie Agenten bereit, die Entscheidungen mit großer Auswirkung treffen, ohne Zusammenfassungen der Argumentation zu erfassen oder betroffene Benutzer mit Erklärungsmechanismen zu versorgen |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Agentforce | Agentenanweisungen | ✅ Wenn eine neue Einschränkung mitten in der Entscheidung angezeigt wird (Frist, Budget, Personal, Lizenz), führen Sie den vollständigen Kompromiss über alle ursprünglichen Faktoren hinweg erneut aus, statt die neue Eingabe die vorherige Entscheidung selbst rückgängig zu machen |
| Agentforce | Agentenanweisungen | ✅ Geben Sie die Änderung der Zielsetzung explizit an – Zeigen Sie an, wann das Optimierungsziel von “architektonisch solide und wartungsfreundlich” zu “unter der Einschränkung lieferbar” wechselt – damit der Mensch sehen kann, wofür jetzt optimiert wird |
| Geschäft | Prozess | ✅ Behandeln Sie eine Spannung zwischen Architektur und Bereitstellung als Kompromiss zwischen Menschen: Darstellen des gewonnenen Gewinns (Geschwindigkeit) im Vergleich zum gezahlten Wert (Gesamtbetriebskosten, Wartungsfähigkeit, Lock-in) und Weiterleiten der Entscheidung an den verantwortlichen Inhaber |
| Agentforce | Agentenanweisungen | ✅ Beibehalten der architektonischen Eignung (erfüllt das Design die Anforderungen) und der Lieferfähigkeit (kann dieses Team es rechtzeitig liefern) als separate, sichtbare Faktoren, statt sie in einer einzigen Antwort zusammenzufassen |
| Plattform | Dokumentation | ✅ Wenn Sie eine dokumentierte Entscheidung rückgängig machen, wägen Sie sie gegen die ursprüngliche Begründung neu und erfassen Sie die Rückgängigmachung als transparenten, zeitgebundenen Kompromiss mit einem erneuten Besuchsauslöser. Ein aktualisierter Entscheidungsdatensatz zeigt, dass der Kompromiss neu gewogen und nicht nur ersetzt wurde. |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Agentforce | Agentenanweisungen | ⚠️ Eine einzelne neue Einschränkung (Team nicht verfügbar, enger Termin) ermöglicht es, eine technische Entscheidung rückgängig zu machen, während gleichzeitig die Kosten und Wartungsfaktoren, die die ursprüngliche Wahl beeinflusst haben, stillschweigend verworfen werden |
| Agentforce | Agentenanweisungen | ⚠️ Verschieben des Optimierungsziels von “architektonisch solide und wartbar” zu “unter der Einschränkung lieferbar”, ohne zu kennzeichnen, dass sich das Ziel geändert hat |
| Geschäft | Prozess | ⚠️ Abkehr von einem soliden Design zu einer günstigeren oder zweckmäßigeren Option unter einer neuen Einschränkung, ohne die langfristigen Gesamtkosten für Inhaberschaft, Wartungsfähigkeit und Lock-in wiederherzustellen, die die ursprüngliche Wahl angetrieben haben |
| Geschäft | Prozess | ⚠️ Lösen eines Konflikts zwischen Architektur und Bereitstellung innerhalb der Argumentation des Agenten, statt ihn als bewussten Kompromiss zwischen Menschen zu eskalieren |
| Plattform | Dokumentation | ⚠️ Erstellen eines neuen Entscheidungsdatensatzes, der die Aufhebung protokolliert, sie jedoch nicht erneut mit der ursprünglichen Begründung abwägt – unter Berücksichtigung des Auslösers für einen erneuten Besuch in Textform, aber nicht in Inhalt |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Unternehmen | Dokumentation | ✅ Verfolgen gesetzlicher Entwicklungen in Ländern, in denen Lösungen funktionieren, und Entwerfen der Einhaltung von Vorschriften in Agentensystemen von Anfang an |
| Unternehmen | Dokumentation | ✅ Bewerten der AI-Systemrisikostufen pro anwendbarem Framework (EU AI Act, US AI Bill of Rights, regionale Frameworks) |
| Agentforce | Agentenkonfiguration | ✅ Implementieren von Transparenz- und Erklärbarkeitsmechanismen und Entwerfen einer menschlichen Aufsicht, die dem Risikoniveau angemessen ist |
| Unternehmen | Dokumentation | ✅ Dokumentieren, wie jede branchenspezifische Anforderung (HIPAA, DORA, SOX, DSGVO, CCPA) durch spezifische Architektursteuerungen erfüllt wird |
| Unternehmen | Dokumentation | ✅ Validieren der Compliance vor der Produktionsbereitstellung |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Geschäft | Prozess | ⚠️ Nachrüsten von Transparenz, Erklärbarkeit und menschlicher Aufsicht nach der Bereitstellung, statt sie von Anfang an zu integrieren |
| Geschäft | Prozess | ⚠️ Stellen Sie Agenten bereit, die PHI-, Finanz- oder personenbezogene Daten verarbeiten, ohne zu überprüfen, ob sie die Anforderungen von HIPAA, DORA/SOX oder DSGVO/CCPA erfüllen |
| Geschäft | Prozess | ⚠️ Ignorieren Sie neu entstehende AI-spezifische Vorschriften (Risikokategorisierung nach EU-AI-Gesetz, Transparenzanforderungen) und behandeln Sie sie nur als Agenten, wenn auch die herkömmliche Salesforce-Automatisierung nicht ausgenommen ist |
Muster
| Wohin schauen | Wie gut aussieht |
|---|---|
| Plattform | AgentExchange | ✅ Überprüfen Sie vor dem Aktivieren von Drittanbieteraktionen für die Verwendung durch Agenten, was Aktionen auf Code- und Datenflussebene bewirken, welche externen Services sie aufrufen und welche Daten sie übertragen |
| Plattform | AgentExchange | ✅ Erneutes Aufrufen von Drittanbieter-Aktionskonfigurationen, wenn verwaltete Paketaktualisierungen angewendet werden |
| Agentforce | Aufforderungsvorlage | ✅ Überprüfen Sie Aufforderungsvorlagen, die außerhalb Ihres Teams stammen, bevor Sie sie verwenden, und behandeln Sie sie als Code, der im Rahmen des Prozesses der berechtigten Argumentation mit Zugriff auf die Daten Ihrer Organisation ausgeführt wird |
| Agentforce | Aufforderungsvorlage | ✅ Überprüfungs- und Genehmigungsprozess für Vorlagen einrichten, die in Produktionsagenten verwendet werden, und Datensatz der Vorlagenherkunft führen |
| Agentforce | Agentenkonfiguration | ✅ Verwalten Sie die Test-Suite für Kundendienstagenten mit repräsentativen Fragen, Edge-Kundenvorgängen und bekannten Injektionsversuchen. Ausführen einer Suite in einer Sandbox nach der Benachrichtigung über die Modellaktualisierung, Vergleichen der Antwortqualität und der Sicherheit vor dem Hochstufen in die Produktion |
| Agentforce | Agentenkonfiguration | ✅ Verarbeiten von Modellversionsänderungen als Bereitstellungsereignisse und Verwalten von Verhaltenstest-Suites für Agenten, die repräsentative Eingaben, Edge-Kundenvorgänge und bekannte kontradiktorische Muster abdecken |
Antimuster
| Wohin schauen | Wie schlecht sieht |
|---|---|
| Plattform | AgentExchange | ⚠️ Aktivieren Sie AgentExchange-Aktionen von Drittanbietern für die Verwendung durch Agenten, ohne Code, Datenflüsse und externe Serviceaufrufe zu überprüfen |
| Agentforce | Aufforderungsvorlage | ⚠️ Verwenden Sie Aufforderungsvorlagen aus externen Quellen oder Community-Beispielen, ohne nach eingebetteten Anweisungen zu suchen, die das Sicherheitsverhalten von Agenten ändern oder zu Verzerrungen führen könnten |
| Agentforce | Agentenkonfiguration | ⚠️ Automatische Modellaktualisierungen für Produktionsagenten ohne Validierung zulassen und Verhaltensänderungen durch Benutzerbeschwerden erkennen |