Trust Agentic Enterprise - Mönster

Lär dig mer om Well-Architected Trust → Agentic Enterprise Trust

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Skapa integreringsanvändare “Agent_Product_Support” med behörighetsuppsättning som beviljar Läs för kundcase / produkt, åtkomst till Knowledge artiklar och specifika åtgärder för endast kundcaseuppdateringar
Agentforce \| Agentkonfiguration	✅ Konfigurera aktiv användare med minsta behörigheter som krävs för agentens definierade omfattning
Plattform \| Behörighetsuppsättningar	✅ Skapa syftesbyggda integreringsanvändare för agentsammanhang och bevilja behörighetsuppsättningar som ger exakt vad agenten behöver
Plattform \| Händelseövervakning	✅ Efter distribuering, använd Händelseövervakning för att identifiera beviljade behörigheter som aldrig använts vid körning och ta bort dem; Inställning av granskningslogg registrerar konfigurationsändringarna (beviljanden och återkallanden), inte vilka behörigheter som faktiskt används

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Tilldela systemadministratör som aktiv användare eftersom det “bara fungerar” och undviker behörighetsfel under test
Plattform \| Organisation	⚠️ Låt agenter behålla breda behörighetsuppsättningar som beviljades under utvecklingen utan granskning efter distribuering

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentbyggare	✅ Behandla underagent och åtgärdskonfiguration i Agentbyggaren som en behörighetsgräns, inte bara dirigering — om en åtgärd inte är tilldelad till en underagent kan agenten inte åberopa den
Agentforce \| Agentbyggare	✅ Ta bort underagenter som exponerar kapacitet agenten inte behöver (en agent som svarar på produktfrågor bör inte ha poständring, e-postutskick eller flödesåberopning i omfattning), och granska underagentomfattningen när ansvar ändras
Plattform \| Apex	✅ Verifiera varje Apex-åtgärd i agentens åtgärdsuppsättning som används med delning eller ärvd delning om inte systemsammanhanget är avsiktligt och dokumenterat, så att den aktuella användaren behåller säkerhetsgränsen
Agentforce \| Åtgärd	✅ Validera verktygsresultat mot ett schema innan agenten bearbetar dem, behandla varje verktygssvar som opålitlig inmatning
Agentforce \| Åtgärd	✅ Begränsa verktygsparametrar till tillåtna värdeintervall (t.ex. validera mottagardomäner i en skicka-e-post-åtgärd) istället för att låta agenters resonemang om opålitliga data avgöra dem
Agentforce \| Åtgärd	✅ Tillämpa behörighetskontroller på verktygsnivå på verktygsimplementeringslagret, inte bara i agentkonfiguration, så att en kapacitet verifierar sitt anropssammanhang innan körning
Agentforce \| Åtgärd	✅ Använd autentiseringsuppgifter för alla externa anrop från agentåtgärder

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentbyggare	⚠️ Lämna underagenter som exponerar poständring, e-postutskick eller flödesåberopning för en agent som endast är utformad för att svara på produktfrågor
Agentforce \| Agentbyggare	⚠️ Behandla agentkonfiguration som endast dirigering utan att inse att något i listan kan nås genom snabb manipulation, även kapacitet agenten inte var utformad att använda
Plattform \| Apex	⚠️ Lägga till en egen Apex-åtgärd som körs i systemläge (utan delning) som kringgår den aktuella användarens fältnivåsäkerhet och delningsregler utan att avsiktligt utforma för den
Agentforce \| Åtgärd	⚠️ Bearbetar verktygssvar som betrodda indata utan schemavalidering, vilket låter felaktiga eller injicerade data nå agentresonemang

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Dokumentbehörighetskedja: Order Orchestrator (Läs ordrar, Skriv orderstatus) → Lagerspecialist (Läsa/Skriva lager) → Leveransspecialist (Skapa leverans). Verifiera användarsammanhang tillåter alla operationer längre ner
Agentforce \| Agentkonfiguration	✅ Mappa effektiva behörigheter för hela orkestreringskedjan innan distribution
Agentforce \| Agentkonfiguration	✅ Utforma behörighetsgränser över det fullständiga arbetsflödet, inte bara enskilda agenter

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Låt orkestrerare med begränsade behörigheter åberopa specialist med Ändra alla data, kringgå orkestrerarens begränsningar
Agentforce \| Agentkonfiguration	⚠️ Utvärdera individuella agentbehörigheter utan att mappa det effektiva privilegiet för hela orkestreringskedjan

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Uppmaningsmall	✅ Separata instruktioner från data arkitektoniskt: instruktioner på systemnivå får inte blandas med postkällinnehåll, användarlevererad text eller verktygssvar genom strängsammanslagning
Agentforce \| Åtgärd	✅ Identifiera kundcasebeskrivning, e-postbrödtext, chattavskrift som högriskfält. Implementera förbearbetningslager som sammanfattar innehåll innan det skickas till agentresonemang, vilket tar bort potentiella injektionsinstruktioner samtidigt som betydelsen bevaras
Agentforce \| Agentkonfiguration	✅ Definiera ingående valideringskontrakt vid varje agentgräns och behandla varje extern innehållskälla som opålitlig
Data 360 \| Jordningskällor	✅ Behandla Knowledge, Data 360-indexerade dokument och externa hämtningskällor som beständiga injektionsytor som kräver kontinuerlig granskning
Einstein \| Trust	✅ Behandla Einstein Trust Layer säkerhetskontroller som ett lager i försvar djupgående, inte fullständig lösning

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Uppmaningsmall	⚠️ Sammanlänka rå kundcasebeskrivning till agentuppmaning med systeminstruktioner, förutsatt att modellen kommer att skilja kundcaseinnehåll från attackinstruktioner
Data 360 \| Jordningskällor	️ Trust jordningskällor utan att överväga att kontradiktoriskt innehåll kvarstår och kan ändras över tid av parter utan direkt agentåtkomst
Einstein \| Trust	⚠️ Förlita dig uteslutande på Trust Layer-säkerhetskontroller utan ytterligare arkitektoniska försvar för nya injektionstekniker

Mönster

Var man ska leta	Hur bra ser ut
Einstein \| Trust	✅ Agent som hämtar kundcaseinformation frågar endast fält som behövs för resonemang (Kundcasenummer, Produkt, Status, Prioritet) snarare än alla kundcasefält. PII-maskering ger ytterligare skydd om oväntad PII visas
Einstein \| Trust	✅ Konfigurera Trust Layer korrekt och dokumentera dataflöden genom Trust Layer-bearbetning
Einstein \| Trust	✅ Bestäm vilka dataklassificeringar som kan ange LLM-slutledning för ditt regulatoriska sammanhang
Plattform \| Händelseövervakning	✅ Dirigera Trust Layer granskningshändelser till SIEM tillsammans med händelseövervakningsdata
Plattform \| Händelseövervakning	✅ Implementera loggning på programnivå för att samla in vad agenten beslutade, vilka åtgärder den vidtog och vilket verksamhetsresultat som resulterades tillsammans med Trust Layer-loggar
Företag \| Dokumentation	✅ Validera Trust Layer revisionslagring uppfyller lagstadgade krav

Antimönster

Var man ska leta	Hur dåligt ser ut
Einstein \| Trust	⚠️ Fråga alla kundcasefält, inklusive känsliga anteckningar och betalningsinformation, och förlita dig på PII-maskering för att ta bort allt problematiskt
Einstein \| Trust	⚠️ Utforma agenter för att skicka fullständigt postsammanhang till LLM-slutledning förutsatt att PII-maskering hanterar allt
Einstein \| Trust	⚠️ Behandla Trust Layer PII-maskering som ersättning för dataminimering istället för som försvar på djupet

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentkonfiguration	✅ Specialist på orderuppfyllande validerar orkestrerbara orderdata som innehåller obligatoriska fält (Order-ID, Kund-ID, Produkt-SKU), värden är inom förväntade intervall (kvantitet > 0, pris > 0) och orderstatus tillåter uppfyllande innan de utförs
Agentforce \| Agentkonfiguration	✅ Definiera explicita skrivna gränssnittkontrakt för kommunikation mellan agenter med strukturerade, omfattande, validerade data
Agentforce \| Agentkonfiguration	✅ Utforma varje agent i flera agenter arbetsflöde för att validera sammanhang det får innan du agerar, oavsett uppringarens identitet
Agentforce \| Agentkonfiguration	✅ Behandla interagentmeddelandeinnehåll med samma granskning som extern användarinmatning
Integrering \| Externa tjänster	✅ För agenter som åberopar externa AI-tjänster eller tredjepartsagenter utanför Salesforce, tillämpa noll-trust principer och validera svar inom förväntad struktur och omfattning

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Specialist utför direkt någon åtgärd som begärs av orkestrerare utan att validera begärans struktur, värden eller auktoriseringssammanhang
Agentforce \| Agentkonfiguration	⚠️ Orkestrarna skickar råa instruktionssträngar som specialister behandlar som auktoritativa direktiv
Agentforce \| Agentkonfiguration	⚠️ Skicka fullständigt utförandesammanhang, användarsessionsdata eller ackumulerade resonemangsspår till varje agent längre ner
Integrering \| Externa tjänster	⚠️ Agera efter externa agentsvar som instruerar din orkestrerare att utföra åtgärder utanför den aktuella uppgiftens omfattning utan att avvisa eller flytta om.

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| Flöde	✅ Återbetalning Agent konfigurerad med Flödeskontrollpunkt som kräver mänskligt godkännande innan någon återbetalning över $ 1000 körs, oavsett agentens förtroende. Kontrollpunkt implementerad utanför agentresonemang
Plattform \| Flöde	✅ Implementera HITL-kontroller som arbetsflödesgrindar utanför agentresonemangsloopen, utformade som arkitektoniska kontroller snarare än agentinstruktioner
Företag \| Dokumentation	✅ Definiera kategorier av åtgärder som kräver mänsklig bekräftelse: Åtgärder som inte går att ångra, åtgärder över ekonomiska trösklar, åtgärder som kommunicerar externt, åtgärder som involverar reglerade uppgifter, åtgärder där fel har observerats
Agentforce \| Agentkonfiguration	✅ Utforma granskningsgränssnitt som lyfter fram föreslagna åtgärder, dataagent som används för att nå förslag och resonemangsväg om tillgängligt
Plattform \| Granskning	✅ Lagra granskningsbeslut med agentåtgärdspost: vem som granskade, när, vilken information som visades, vad de bestämde

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentkonfiguration	⚠️ Konfigurera agenten med instruktionen “Be om godkännande innan återbetalningar över 1 000 kr utfärdas”, förutsatt att instruktionen inte kan åsidosättas genom omedelbar injektion
Agentforce \| Agentkonfiguration	⚠️ Implementera HITL som agentinstruktioner som kan tolkas och potentiellt ignoreras, snarare än som arbetsflödeskontroller utanför den resonerande vägen
Verksamhet \| Process	⚠️ Presentera mänskliga granskare med godkännandebegäranden som saknar sammanhang om föreslagna åtgärder, data som används eller resonemangssökväg — vilket inte ger någon verklig överblick

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| Händelseövervakning	✅ Dirigera händelseövervakning och Trust Layer-händelser till SIEM för centraliserad säkerhetsövervakning
Plattform \| Transaktionssäkerhet	✅ Konfigurera transaktionssäkerhetspolicyer med utvärdering i realtid, inklusive blockering och notisfunktioner
Agentforce \| Agentkonfiguration	✅ Implementera egen programloggning för att samla in sammanfattningar av resonemang, verktygsåberopningar och valideringsfel
Plattform \| Händelseövervakning	✅ Utforma varningsregler som upptäcker agentspecifika misstänkta mönster: massåtkomst till data utanför förväntade fönster, åberopning av åtgärder som inte överensstämmer med syftet, upprepade valideringsfel, avvikande orkestreringsmönster
Agentforce \| Agentkonfiguration	✅ Följ typiska åtgärdsåberopningsmönster, dataåtkomstvolymer, härledda samtalsresultat, felresultat och utförandetider per agent för att etablera beteendebaslinjer
Plattform \| Händelseövervakning	✅ Definiera agentspecifika säkerhetshändelser: behörighetsgränsbrott, upprepade valideringsfel, orkestreringsavvikelser, förtroendetröskelbrott, grundaktiveringsmönster

Antimönster

Var man ska leta	Hur dåligt ser ut
Plattform \| Händelseövervakning	⚠️ Tillämpa övervakningsmönster för mänsklig aktivitet för agenter utan att etablera agentspecifika beteendebaslinjer
Plattform \| Händelseövervakning	⚠️ Förlita dig endast på signaturbaserad upptäckt utan beteendeövervakning som kan upptäcka nya attacker
Plattform \| Händelseövervakning	⚠️ Ignorera förhöjda felfrekvenser, upprepade valideringsfel eller avvikande orkestreringsmönster som normalt agentbeteende

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| Granskning	✅ För varje betydande agentåtgärd, samla in: agentens identitet och aktuella användarsammanhang, utlösande händelse, data som hämtas för grundstötning, sammanfattning av resonemang, specifik åtgärd och resultat, förtroendenivå, mänskligt granskningsbeslut om tillämpligt
Plattform \| Granskning	✅ Implementera granskningsloggning på programnivå för verksamhetssammanhang som plattformsloggar (händelseövervakning, Trust Layer-händelser) inte inkluderar
Plattform \| Granskning	✅ Dirigera händelser i händelseövervakning och Trust Layer till långtidslagring utöver inbyggda lagringsperioder
Agentforce \| Agentkonfiguration	✅ Logga agent identitet vid varje steg i flera agenter utförande spår för attribution genom orkestreringskedjor
Agentforce \| Agentkonfiguration	✅ Samla in och lyfta fram sammanfattningar av resonemang som identifierar nyckelfaktorer som påverkar agentens rekommendation för beslut med hög påverkan
Företag \| Dokumentation	✅ Utforma agentflöden så att användare kan begära förklaringar för beslut som påverkar dem

Antimönster

Var man ska leta	Hur dåligt ser ut
Plattform \| Granskning	⚠️ Förlita dig på att rekonstruera vad agenter gjorde från sidoeffekter i poster — när du behöver granskningslogg kan poster ha ändrats
Plattform \| Granskning	⚠️ Logga arbetsflöden för flera agenter utan att identifiera vilken specifik agent som utfört vilken åtgärd i kedjan
Verksamhet \| Process	⚠️ Distribuera agenter som fattar beslut med stor påverkan utan att samla in resonerande sammanfattningar eller tillhandahålla förklaringsmekanismer till påverkade användare

Mönster

Var man ska leta	Hur bra ser ut
Agentforce \| Agentinstruktioner	✅ När en ny begränsning visas mitt i beslutet (deadline, budget, personal, licens), kör den fullständiga kompromissen över alla ursprungliga faktorer istället för att låta den nya inmatningen upphäva det tidigare beslutet på egen hand
Agentforce \| Agentinstruktioner	✅ Ange ändringen i målet uttryckligen — visa när optimeringsmålet ändras från “arkitektoniskt sund och underhållsbar” till “levererbar under begränsningen” — så att människan kan se vad som nu optimeras för
Verksamhet \| Process	✅ Behandla en arkitektur-kontra-leveransspänning som en mänskligt ägd kompromiss: presentera vad som vunnits (snabbhet) jämfört med vad som betalats (total ägandekostnad, underhållbarhet, inlåsning) och dirigera beslutet till den ansvariga ägaren
Agentforce \| Agentinstruktioner	✅ Håll arkitektonisk passform (tjänar designen kraven) och leveransmöjlighet (kan detta team leverera den i tid) som separata, synliga faktorer snarare än att minimera dem till ett enda svar
Plattform \| Dokumentation	✅ När du återställer ett dokumenterat beslut, vägs det mot den ursprungliga logiken och registrera återkallandet som en transparent, tidsbunden kompromiss med en återbesöksutlösare — en uppdaterad beslutspost visar att kompromissen vägdes igen, inte bara ersattes

Antimönster

Var man ska leta	Hur dåligt ser ut
Agentforce \| Agentinstruktioner	⚠️ Låta en enskild ny begränsning (team ej tillgängligt, snäv deadline) upphäva ett tekniskt beslut samtidigt som de faktorer för kostnad och underhåll som drev det ursprungliga valet tyst försvann
Agentforce \| Agentinstruktioner	⚠️ Att flytta optimeringsmålet från “arkitektoniskt sunt och underhållsbart” till “levererbart under begränsningen” utan att flagga att målet ändrades
Verksamhet \| Process	⚠️ Gå tillbaka från en sund design till ett billigare eller mer ändamålsenligt alternativ under en ny begränsning, utan att återuppleva den långsiktiga totala kostnaden för ägande, underhåll och inlåsning som drev det ursprungliga valet
Verksamhet \| Process	⚠️ Lösa en konflikt mellan arkitektur och leverans inuti agentens resonemang istället för att flytta om den som en medveten, mänskligt ägd kompromiss
Plattform \| Dokumentation	⚠️ Skapa en ny beslutspost som loggar återföringen men inte väger den mot den ursprungliga logiken – med respekt för återbesöksutlösaren i bokstav men inte i sak

Mönster

Var man ska leta	Hur bra ser ut
Företag \| Dokumentation	✅ Följ regelutvecklingen i jurisdiktioner där lösningar fungerar och utforma efterlevnad till agentsystem från början
Företag \| Dokumentation	✅ Bedöm AI-systemets risknivåer per tillämpliga ramverk (EU AI Act, US AI Bill of Rights, regionala ramverk)
Agentforce \| Agentkonfiguration	✅ Implementera transparens och förklaringsmekanismer och utforma mänsklig tillsyn lämplig för risknivå
Företag \| Dokumentation	✅ Dokumentera hur varje branschspecifika krav (HIPAA, DORA, SOX, GDPR, CCPA) uppfylls genom specifika arkitektoniska kontroller
Företag \| Dokumentation	✅ Validera efterlevnad innan produktionsdistribuering

Antimönster

Var man ska leta	Hur dåligt ser ut
Verksamhet \| Process	⚠️ Eftermontera transparens, förklarlighet och mänsklig tillsyn efter distribuering istället för att bygga in dem från början
Verksamhet \| Process	⚠️ Distribuera agenter som bearbetar PHI, ekonomiska data eller personuppgifter utan att validera att de uppfyller kraven för HIPAA, DORA/SOX eller GDPR/CCPA
Verksamhet \| Process	⚠️ Ignorera framväxande AI-specifika föreskrifter (riskkategorisering enligt EU:s AI-lag, transparenskrav), behandla dem endast som agenter när traditionell Salesforce-automatisering inte heller undantas

Mönster

Var man ska leta	Hur bra ser ut
Plattform \| AgentExchange	✅ Innan du aktiverar tredjepartsåtgärd för agentanvändning, gå igenom vad åtgärden gör på kod- och dataflödesnivå, vilka externa tjänster den anropar och vilka data den överför
Plattform \| AgentExchange	✅ Gå tillbaka till åtgärdskonfigurationer från tredje part när uppdateringar av hanterade paket tillämpas
Agentforce \| Uppmaningsmall	✅ Granska uppmaningsmallar som kommer från utanför ditt team innan användning och behandla dem som kodkörning inuti en privilegierad resonemangsprocess med åtkomst till din organisations data
Agentforce \| Uppmaningsmall	✅ Etablera granskning och godkännandeprocess för mallar som används i produktionsagenter och upprätthålla posten för mallens härkomst
Agentforce \| Agentkonfiguration	✅ Underhåll testsvit för kundserviceagent med representativa frågor, kundcase och kända injektionsförsök. Kör svit i sandbox efter notis om modelluppdatering, jämför svarskvalitet och säkerhet innan du flyttar upp till produktion
Agentforce \| Agentkonfiguration	✅ Behandla modellversionsändringar som distributionshändelser och upprätthåll beteendetestsviter för agenter som täcker representativa inmatningar, kundcase och kända kontradiktoriska mönster

Antimönster

Var man ska leta	Hur dåligt ser ut
Plattform \| AgentExchange	⚠️ Aktivera AgentExchange-åtgärder från tredje part för agentanvändning utan att granska kod, dataflöden och externa servicesamtal
Agentforce \| Uppmaningsmall	⚠️ Använd uppmaningsmallar från externa källor eller diskussionsgruppexempel utan att granska inbäddade instruktioner som kan ändra agenters säkerhetsbeteende eller introducera resonemangsbiasering
Agentforce \| Agentkonfiguration	⚠️ Tillåt automatiska modelluppdateringar av produktionsagenter utan validering, upptäcka beteendeförändringar genom användarklagomål