Trust Agentic Enterprise - Mønstre
Læs mere om Well-Architected Trust → Agent Enterprise Trust
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Agentforce | Agentkonfiguration | ✅ Opret integrationsbruger “Agent_Product_Support” med tilladelsessæt, der kun tildeler Læs på sag/produkt, adgang til Knowledge og specifikke handlinger for sagsopdateringer |
| Agentforce | Agentkonfiguration | ✅ Konfigurer løbende bruger med minimum tilladelser påkrævet for agentens definerede omfang |
| Platform | Tilladelsessæt | ✅ Opret formålsbyggede integrationsbrugere for agentkontekster, og tildel tilladelsessæt, der leverer præcis det, agenten har brug for |
| Platform | Begivenhedsovervågning | ✅ Efter implementeringen skal du bruge Begivenhedsovervågning til at identificere tildelte tilladelser, der aldrig blev udøvet på kørselstidspunktet, og fjerne dem. Revisionsspor for opsætning registrerer konfigurationsændringerne (tildelinger og tilbagekaldelser), ikke hvilke tilladelser der faktisk bruges |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Agentkonfiguration | Tildel systemadministrator som løbende bruger, da det “bare fungerer” og undgår tilladelsesfejl under test |
| Platform | Organisation | ⚡️ Tillad agenter at bevare brede tilladelsessæt, der blev tildelt under udvikling uden gennemgang efter implementering |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Agentforce | Agentkonstruktør | ✅ Behandl underagent og handlingskonfiguration i Agentkonstruktør som en tilladelsesgrænse, ikke kun distribution – hvis en handling ikke er tildelt til en underagent, kan agenten ikke kalde den |
| Agentforce | Agentkonstruktør | ✅ Fjern underagenter, der viser funktioner, som agenten ikke har brug for (en agent, der besvarer produktspørgsmål, bør ikke have registreringsændring, mailsendelse eller forløbskald i omfang), og gennemse underagentomfang, når ansvarsområderne ændres |
| Platform | Apex | ✅ Bekræft hver Apex-handling i agentens handlingssætbrug med deling eller overtaget deling, medmindre systemkonteksten er bevidst og dokumenteret, så den løbende bruger forbliver i sikkerhedsgrænsen |
| Agentforce | Handlinger | ✅ Valider værktøjsresultater op mod et skema, før agenten behandler dem og behandler hvert værktøjssvar som usikret input |
| Agentforce | Handlinger | ✅ Begræns værktøjsparametre til tilladte værdiområder (f.eks. valider modtagerdomæner på en afsendelsesmailhandling) i stedet for at lade agentarrangementer på usikrede data bestemme dem |
| Agentforce | Handlinger | ✅ Håndhæv tilladelseskontroller på værktøjsniveau på værktøjsimplementeringslaget, ikke kun i agentkonfiguration, så en funktion bekræfter dens opkaldskontekst, før den udføres |
| Agentforce | Handlinger | ✅ Brug navngivne legitimationsoplysninger for alle eksterne udkald fra agenthandlinger |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Agentkonstruktør | ⚡️ Efterlader underagenter, der viser registreringsændring, mailsendelse eller forløbskald på en agent, der kun er designet til at besvare produktspørgsmål |
| Agentforce | Agentkonstruktør | ⚡️ Behandler agentkonfiguration som kun distribution uden at anerkende, at noget angivet er tilgængeligt gennem meddelelsesmanipulation, selv funktioner, som agenten ikke er designet til at bruge |
| Platform | Apex | Tilføjelse af en tilpasset Apex-handling, der kører i systemtilstand (uden deling), der tilsidesætter den løbende brugers sikkerheds- og delingsregler på feltniveau uden bevidst at designe det |
| Agentforce | Handlinger | ⚡️ Behandler værktøjssvar som betroet input uden skemavalidering, så forkert udformede eller injicerede data når agentarrangementer |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Agentforce | Agentkonfiguration | ✅ Dokumenttilladelseskæde: Bestillingsorkestrator (Læs bestillinger, Skriv bestillingsstatus) → Lagermedarbejder (Læs/Skriv lager) → Forsendelsesspecialist (Opret forsendelse). Bekræft brugerkontekst tillader alle downstream-handlinger |
| Agentforce | Agentkonfiguration | ✅ Tilknyt effektive tilladelser for den komplette orkestreringskæde før implementering |
| Agentforce | Agentkonfiguration | ✅ Design tilladelsesgrænser på tværs af det fulde arbejdsflow, ikke kun individuelle agenter |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Agentkonfiguration | ⚡️ Tillad orkestrator med begrænsede tilladelser at kalde specialist med Rediger alle data og tilsidesætte orkestratorens begrænsninger |
| Agentforce | Agentkonfiguration | ⚡️ Evaluer individuelle agenttilladelser uden at tilknytte den gældende rettighed for hele orkestreringskæden |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Agentforce | Meddelelsesskabelon | ✅ Adskil instruktioner fra data arkitektonisk: instruktioner på systemniveau må ikke blandes med registreringssourceindhold, brugerangivet tekst eller værktøjsvar gennem strengsamkædning |
| Agentforce | Handlinger | ✅ Identificer sagsbeskrivelse, mailbrødtekst, chatafskrift som felter med høj risiko. Implementer præprocesseringslag, der opsummerer indhold, før du går videre til agentarrangering, fjerner potentielle injektionsinstruktioner, mens du bevarer mening |
| Agentforce | Agentkonfiguration | ✅ Definer inputvalideringskontrakter ved hver agentgrænse, og behandl hver ekstern indholdskilde som usikret |
| Data 360 | Fastgørelseskilder | ✅ Behandl Knowledge, Data 360-indekserede dokumenter og eksterne hentningskilder som vedvarende injektionsoverflader, der kræver løbende gennemgang |
| Einstein | Trust Layer | ✅ Behandl Einstein Trust Layer-sikkerhedskontroller som et lag i dybdeforsvar, ikke komplet løsning |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Meddelelsesskabelon | ⚡️ Sammenkæd rå sagsbeskrivelse til agentmeddelelse med systeminstruktioner, forudsat at modellen vil skelne sagsindhold fra angrebsinstruktioner |
| Data 360 | Fastgørelseskilder | Trust grundlæggende kilder uden at tage højde for, at modstridende indhold vedvarer og kan ændres over tid af parter uden direkte agentadgang |
| Einstein | Trust Layer | Afhæng udelukkende af Trust Layer-sikkerhedskontroller uden yderligere arkitektoniske forsvar for nye indsprøjtningsteknikker |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Einstein | Trust Layer | ✅ Agent, der henter sagsoplysninger, forespørger kun på felter, der er nødvendige for argumentation (Sagsnummer, Produkt, Status, Prioritet) snarere end alle sagsfelter. PII-maskering giver yderligere beskyttelse, hvis uventet personligt identificerbare oplysninger vises |
| Einstein | Trust Layer | ✅ Konfigurer Trust Layer korrekt og dokumenter dataforløb gennem Trust Layer-behandling |
| Einstein | Trust Layer | ✅ Bestem, hvilke dataklassificeringer der kan angive LLM-afledning for din regulerende kontekst |
| Platform | Begivenhedsovervågning | Distribuer Trust Layer-revisionsbegivenheder til SIEM sammen med begivenhedsovervågningsdata |
| Platform | Begivenhedsovervågning | ✅ Implementer logføring på applikationsniveau, der registrerer, hvad agenten besluttede, hvilke handlinger der blev foretaget, og hvilket forretningsresultat der blev opnået sammen med Trust Layer-logfiler |
| Forretning | Dokumentation | ✅ Valider Trust Layer-revisionsbevarelse opfylder bestemmelseskrav |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Einstein | Trust Layer | ⚡️ Forespørg på alle sagsfelter, herunder følsomme notater og betalingsoplysninger, der er afhængige af personligt identificerbare oplysninger for at fjerne alt problematisk |
| Einstein | Trust Layer | ⚡️ Design agenter til at sende fuld registreringskontekst til LLM-afledning, hvis det antages, at PII-maskering håndterer alt |
| Einstein | Trust Layer | ⚡️ Behandl Trust Layer PII-maskering som erstatning for dataminimering snarere end som dybdeforsvar |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Agentforce | Agentkonfiguration | ✅ Bestillingsfuldførelsesspecialisten validerer orkestrerangivne bestillingsdata, der inkluderer påkrævede felter (bestillings-id, kunde-id, produkt-SKU), værdier er inden for forventede områder (mængde > 0, pris > 0), og bestillingsstatus tillader fuldførelse før kørsel |
| Agentforce | Agentkonfiguration | ✅ Definer eksplicit typede grænsefladekontrakter for interagentkommunikation med strukturerede, omfangsbaserede, validerede data |
| Agentforce | Agentkonfiguration | ✅ Design hver agent i et arbejdsflow med flere agenter for at validere den kontekst, den modtager, før den reagerer, uanset opkalderidentitet |
| Agentforce | Agentkonfiguration | ✅ Behandl interagentmeddelelsesindhold med samme grundighed som eksternt brugerinput |
| Integration | Eksterne tjenester | ✅ For agenter, der kalder eksterne AI-tjenester eller tredjepartsagenter uden for Salesforce, skal du anvende nul-trust-principper og validere svar, der falder inden for den forventede struktur og omfang |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Agentkonfiguration | ⚡️ Specialist udfører direkte enhver handling, der anmodes om af orkestrator uden at validere anmodningsstruktur, værdier eller autorisationskontekst |
| Agentforce | Agentkonfiguration | ⚡️ Orkestratorer overfører rå instruktionsstrenge, som specialister behandler som autoriserede direktiver |
| Agentforce | Agentkonfiguration | ⚡️ Overfør fuld kørselskontekst, brugersessionsdata eller akkumuleret ræsonnementspor til hver downstream-agent |
| Integration | Eksterne tjenester | Reager på eksterne agentsvar, der instruerer din orkestrator i at udføre handlinger uden for det aktuelle opgaveomfang uden afvisning eller eskalering |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Platform | Forløb | ✅ Refusionsagent konfigureret med forløbskontrolpunkt, der kræver menneskelig godkendelse, før nogen refusion udføres over $1.000, uanset agentkonfidens. Kontrolpunkt implementeret uden for agentarrangering |
| Platform | Forløb | ✅ Implementer HITL-kontrolpunkter som arbejdsflowportaler uden for agentarrangeringsløgnen, designet som arkitektoniske kontroller snarere end agentinstruktioner |
| Forretning | Dokumentation | ✅ Definer kategorier af handlinger, der kræver menneskelig bekræftelse: handlinger, der ikke kan fortrydes, handlinger over økonomiske tærskler, handlinger, der kommunikerer eksternt, handlinger, der involverer regulerede data, handlinger, hvor der er observeret fejl |
| Agentforce | Agentkonfiguration | ✅ Design gennemgangsgrænseflader, der viser en foreslået handling, en dataagent, der bruges til at nå frem til et forslag og en grundlæggende sti, hvor den er tilgængelig |
| Platform | Overvåg | ✅ Gem gennemgangsafgørelse med agenthandlingsregistrering: hvem, hvornår, hvilke oplysninger, hvad de har besluttet |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Agentkonfiguration | ⚡️ Konfigurer agent med instruktionen “Anmod om godkendelse, før du udsteder refusioner over $1.000” under forudsætning af, at instruktionen ikke kan tilsidesættes af meddelelsesinjektion |
| Agentforce | Agentkonfiguration | Implementer HITL som agentinstruktioner, der kan fortolkes og potentielt ignoreres, snarere end som arbejdsflowchecks uden for argumenteringsstien |
| Forretning | Proces | ⚡️ Præsenter personlige korrekturlæsere med godkendelsesanmodninger, der mangler kontekst om foreslået handling, anvendte data eller grundlæggende sti – der giver ingen reel oversigt |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Platform | Begivenhedsovervågning | ✅ Distribuer begivenhedsovervågning og Trust Layer-begivenheder til SIEM til centraliseret sikkerhedsovervågning |
| Platform | Transaktionssikkerhed | ✅ Konfigurer transaktionssikkerhedspolitikker med evaluering i realtid, herunder blokerings- og adviseringsfunktioner |
| Agentforce | Agentkonfiguration | ✅ Implementer tilpasset applikationslogføring, registrering af resuméer, værktøjskald og valideringsfejl |
| Platform | Begivenhedsovervågning | ✅ Design advarselsregler, der registrerer agentspecifikke mistænkelige mønstre: masseadgang til data uden for de forventede vinduer, kald af handlinger, der ikke er justeret med formålet, gentagne valideringsfejl, uregelmæssige orkestreringsmønstre |
| Agentforce | Agentkonfiguration | ✅ Spor typiske handlingskaldsmønstre, datadgangsmængder, udledningsopkaldsfrekvenser, fejlfrekvenser og kørselstider pr. agent for at etablere adfærdsmæssige basislinjer |
| Platform | Begivenhedsovervågning | ✅ Definer agentspecifikke sikkerhedsbegivenheder: overtrædelser af tilladelsesgrænser, gentagne valideringsfejl, orkestreringsafvigelser, konfidensstærskelovertrædelser, tilbagerulningsaktiveringsmønstre |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Platform | Begivenhedsovervågning | Anvend mønstre for overvågning af menneskelig aktivitet på agenter uden at etablere agentspecifikke adfærdsmæssige basislinjer |
| Platform | Begivenhedsovervågning | ⚡️ Afhæng kun af signaturbaseret registrering uden adfærdsmæssig overvågning, der kan registrere nye angreb |
| Platform | Begivenhedsovervågning | Ignorer forhøjede fejlfrekvenser, gentagne valideringsfejl eller uregelmæssige orkestreringsmønstre som normal agentadfærd |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Platform | Overvåg | ✅ For hver væsentlig agenthandling skal du registrere: agentidentitet og løbende brugerkontekst, udløsende begivenhed, data, der hentes til grundlægning, begrundelsessammendrag, specifik handling og resultat, konfidensniveau, beslutning om persons gennemgang, hvis det er relevant |
| Platform | Overvåg | ✅ Implementer revisionsregistrering på applikationsniveau for forretningskontekst, som platformslogfiler (begivenhedsovervågning, Trust Layer-begivenheder) ikke inkluderer |
| Platform | Overvåg | Distribuer begivenhedsovervågning og Trust Layer-begivenheder til langsigtet lagring ud over oprindelige bevarelsesperioder |
| Agentforce | Agentkonfiguration | ✅ Logfør agentidentitet ved hvert trin i sporing af kørsel med flere agenter for tilskrivning gennem orkestreringskæder |
| Agentforce | Agentkonfiguration | ✅ Registrer og vis sammendrag for årsag, der identificerer nøglefaktorer, der påvirker agentens anbefaling for beslutninger med stor påvirkning |
| Forretning | Dokumentation | ✅ Design agentarbejdsflows, så brugere kan anmode om forklaringer for beslutninger, der påvirker dem |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Platform | Overvåg | ⚡️ Afhæng af at rekonstruere, hvad agenten gjorde fra bivirkninger i registreringer – på det tidspunkt, hvor du har brug for revisionsspor, kan registreringer være ændret |
| Platform | Overvåg | ⚡️ Logfør arbejdsflows med flere agenter uden at identificere, hvilken specifik agent der udførte hvilken handling i kæden |
| Forretning | Proces | Implementer agenter, der træffer beslutninger med stor påvirkning, uden at registrere resumeforklaringer eller give forklaringsmekanismer til påvirkede brugere |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Agentforce | Agentinstruktioner | ✅ Når der vises en ny begrænsning midt i beslutningen (deadline, budget, personalet, licens), skal du genkøre den fulde afvejning på tværs af alle oprindelige faktorer i stedet for at lade det nye input fortryde den tidligere beslutning alene |
| Agentforce | Agentinstruktioner | ✅ Angiv ændringen i målsætningen eksplicit – vises, når optimeringsmålet skifter fra “arkitektonisk sundt og vedligeholdeligt” til “leveres under begrænsningen” – så personen kan se, hvad der nu optimeres til |
| Forretning | Proces | ✅ Behandl en arkitektur kontra levering-spænding som en menneskeejet afvejning: præsentere, hvad der opnås (hastighed) op mod, hvad der betales (samlet omkostning for ejerskab, vedligeholdelse, låsning) og distribuere beslutningen til den ansvarlige ejer |
| Agentforce | Agentinstruktioner | ✅ Bevar arkitektonisk tilpasning (holder designet op til kravene) og leveringsmulighed (kan dette team sende den i tide) som separate, synlige faktorer i stedet for at folde dem sammen til et enkelt svar |
| Platform | Dokumentation | ✅ Når du fortryder en dokumenteret beslutning, skal du genvejre den i forhold til den oprindelige logik og registrere fortrydelsen som en gennemsigtig, tidsbundet afvejning med en gentagelsesudløser – en opdateret beslutningsregistrering viser, at afvejningen blev genvejret, ikke blot erstattet |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Agentforce | Agentinstruktioner | ⚡️ Tilladelse til en enkelt ny begrænsning (team utilgængeligt, stram deadline) at fortryde en teknisk beslutning, mens du stiltiende fjerner de omkostnings- og vedligeholdelsesfaktorer, der førte til det oprindelige valg |
| Agentforce | Agentinstruktioner | Skift af optimeringsmålet fra “arkitektonisk sundt og vedligeholdeligt” til “leverbart under begrænsningen” uden at markere, at målsætningen er ændret |
| Forretning | Proces | Omvendt fra et lyddesign til en billigere eller mere praktisk indstilling under en ny begrænsning uden at vise de langsigtede samlede omkostninger for ejerskab, vedligeholdelse og låsning, der førte til det oprindelige valg |
| Forretning | Proces | Løsning af en arkitektur-versus-leveringskonflikt i agentens argumentation i stedet for at eskalere den som en bevidst, menneskeejet afvejning |
| Platform | Dokumentation | ⚡️ Oprettelse af en ny beslutningsregistrering, der logfører omvendelsen, men ikke genvæger den i forhold til den oprindelige logik – respekterer genbesøgsudløseren i bogstav, men ikke i indholdet |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Forretning | Dokumentation | ✅ Spor reguleringsudviklingen i jurisdiktioner, hvor løsninger fungerer, og design compliance i agentiske systemer fra starten |
| Forretning | Dokumentation | ✅ Vurder AI-systemrisikoniveauer pr. gældende rammer (EU AI Act, US AI Bill of Rights, regionale rammer) |
| Agentforce | Agentkonfiguration | ✅ Implementer gennemsigtigheds- og forklaringsmekanismer, og design menneskelig tilsyn, der passer til risikoniveau |
| Forretning | Dokumentation | ✅ Dokumenter, hvordan hvert branchespecifikt krav (HIPAA, DORA, SOX, GDPR, CCPA) opfyldes gennem specifikke arkitektoniske kontroller |
| Forretning | Dokumentation | ✅ Valider overensstemmelse før produktionsimplementering |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Forretning | Proces | ⚡️ Tilpas gennemsigtighed, forklarbarhed og menneskelig tilsyn efter implementering i stedet for at bygge dem ind fra starten |
| Forretning | Proces | Implementer agenter, der behandler PHI, økonomiske data eller personlige data uden at validere, at de opfylder HIPAA-, DORA/SOX- eller GDPR/CCPA-krav |
| Forretning | Proces | Ignorer nye AI-specifikke bestemmelser (EU AI Act-risikokategorisering, gennemsigtighedskrav), og behandl dem kun som agent, når traditionel Salesforce-automatisering heller ikke er fritaget |
Mønstre
| Hvor skal du se | Hvad der ser godt ud |
|---|---|
| Platform | AgentExchange | ✅ Før du aktiverer tredjepartshandling for agentbrug, skal du gennemse, hvad handlingen gør på kode- og dataforløbsniveau, hvilke eksterne tjenester den kalder, og hvilke data den overfører |
| Platform | AgentExchange | ✅ Gennemse handlingskonfigurationer fra tredjepart, når der anvendes administrerede pakkeopdateringer |
| Agentforce | Meddelelsesskabelon | ✅ Gennemse meddelelsesskabeloner, der er hentet uden for dit team, før du bruger dem, og behandl dem som kodeudførelse i rettighedsjusteringsprocessen med adgang til din organisations data |
| Agentforce | Meddelelsesskabelon | ✅ Etabler gennemgang og godkendelsesproces for skabeloner, der bruges i produktionsagenter, og vedligehold registrering af skabelonafhængighed |
| Agentforce | Agentkonfiguration | ✅ Vedligehold testsuite for kundeserviceagent med repræsentative spørgsmål, kant sager og kendte injektionsforsøg. Kør suite i sandbox efter modelopdateringsadvisering, sammenlign svarkvalitet og sikkerhed, før du promoverer til produktion |
| Agentforce | Agentkonfiguration | ✅ Behandl modelversionsændringer som implementeringsbegivenheder, og bevar adfærdstestsuiter for agenter, der dækker repræsentative input, kantsager og kendte modsætningsmønstre |
Anti-mønstre
| Hvor skal du se | Hvad ser dårligt ud |
|---|---|
| Platform | AgentExchange | Aktiver AgentExchange-tredjepartshandlinger for agentbrug uden at gennemse kode, dataforløb og eksterne tjenesteopkald |
| Agentforce | Meddelelsesskabelon | ⚡️ Brug meddelelsesskabeloner fra eksterne kilder eller fællesskabseksempler uden at gennemse for integrerede instruktioner, der kan redigere agentens sikkerhedsadfærd eller introducere forskelsbehandling |
| Agentforce | Agentkonfiguration | ⚡️ Tillad automatiske modelopdateringer til produktionsagenter uden validering, og find adfærdsmæssige ændringer gennem brugerklager |