Trust Agentic Enterprise - Mønstre
Lær mer om Well-Architected Trust → Agent Enterprise Trust
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Opprett integrasjonsbruker “Agent_Product_Support” med tillatelsessett som gir Lese-tillatelse for sak/produkt, tilgang til Knowledge og spesifikke handlinger bare for saksoppdateringer |
| Agentforce | Agent-konfigurasjon | ✅ Konfigurer kjørende bruker med minimum tillatelser som kreves for agentens definerte omfang |
| Plattform | Tillatelsessett | ✅ Opprett formålsbygde integrasjonsbrukere for agentkontekster og gi tillatelsessett som gir nøyaktig det agenten trenger |
| Plattform | Hendelsesovervåking | ✅ Etter distribusjon bruker du Hendelsesovervåking til å identifisere tildelte tillatelser som aldri ble brukt ved kjøretid, og fjerne dem. Revisjonsspor for oppsett registrerer konfigurasjonsendringene (utstedelser og opphevinger), ikke hvilke tillatelser som faktisk brukes |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | Tildel systemadministrator som kjørende bruker fordi den “bare fungerer” og unngår tillatelsesfeil under testing |
| Plattform | Organisasjon | ⚡️ Tillat agenter å beholde brede tillatelsessett som ble gitt under utvikling, uten gjennomgang etter distribusjon |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agentbygger | ✅ Behandle underagent og handlingskonfigurasjon i Agentbygger som en tillatelsesgrense, ikke bare ruting – hvis en handling ikke er tildelt en underagent, kan ikke agenten kalle den opp |
| Agentforce | Agentbygger | ✅ Fjern underagenter som viser funksjoner som agenten ikke trenger (en agent som svarer på produktspørsmål, bør ikke ha postendringer, e-postsending eller flytoppkall i omfang), og se gjennom underagentomfanget når ansvarsområder endres |
| Plattform | Apex | ✅ Kontroller hver Apex-handling i agentens handlingssett bruker med deling eller arvet deling med mindre systemkonteksten er hensiktsmessig og dokumentert, slik at den kjørende brukeren beholder sikkerhetsgrensen |
| Agentforce | Handling | ✅ Valider verktøyutdata mot et skjema før agenten behandler dem, og behandle alle verktøysvar som ikke-klarerte inndata |
| Agentforce | Handling | ✅ Begrens verktøyparametere til tillatte verdiområder (for eksempel validere mottakerdomener i en send-e-post-handling) i stedet for å la agenten begrunnelse på ikke-klarerte data bestemme dem |
| Agentforce | Handling | ✅ Håndhev tillatelseskontroller på verktøynivå på verktøyimplementeringslaget, ikke bare i agentkonfigurasjon, så en funksjon kontrollerer sin kallkontekst før den utføres |
| Agentforce | Handling | ✅ Bruk navngitt legitimasjon for alle eksterne oppkall fra agenthandlinger |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agentbygger | ⚡️ La underagenter som viser postendringer, e-postsending eller flytoppkall, være på en agent utformet bare for å svare på produktspørsmål |
| Agentforce | Agentbygger | ⚡️ Behandler agentkonfigurasjon som bare ruting uten å erkjenne at noe oppført er tilgjengelig via ledetekstmanipulering, også funksjoner som agenten ikke var utformet for å bruke |
| Plattform | Apex | Tilføjelse af en tilpasset Apex-handling, der kører i systemtilstand (uden deling), der omgår den kørende brugers sikkerheds- og delingsregler på feltniveau uden med vilje at designe for den |
| Agentforce | Handling | ⚡️ Behandle verktøysvar som klarerte inndata uten skjemavalidering, slik at feil utformede eller injiserte data når agentens vurderinger |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Dokumenttillatelseskjede: Bestillingsorkestrator (Lese bestillinger, Skrive bestillingsstatus) → Lagerbeholdningsspesialist (Lese/skrive lagerbeholdning) → Forsendelsesspesialist (Opprett forsendelse). Kontroller at brukerkontekst tillater alle nedstrøms operasjoner |
| Agentforce | Agent-konfigurasjon | ✅ Tilordne effektive tillatelser for den fullstendige orkestreringskjeden før distribusjon |
| Agentforce | Agent-konfigurasjon | ✅ Utform tillatelsesgrenser på tvers av hele arbeidsflyten, ikke bare enkeltagenter |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Tillat orkestrator med begrensede tillatelser til å kalle opp spesialist med Endre alle data, og omgå orkestratorens restriksjoner |
| Agentforce | Agent-konfigurasjon | ⚡️ Evaluer individuelle agenttillatelser uten å tilordne den effektive rettigheten til hele orkestreringskjeden |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Ledetekstmal | ✅ Skill instruksjoner fra data arkitektonisk: instruksjoner på systemnivå må ikke blandes med postkildeinnhold, brukergitt tekst eller verktøysvar via strengkjeding |
| Agentforce | Handling | ✅ Identifiser saksbeskrivelse, E-posttekst og Chatteavskrift som felt med høy risiko. Implementer et forhåndsbehandlingslag som oppsummerer innhold før du går til agentenes resonans, og fjerner potensielle injeksjonsinstruksjoner samtidig som meningen beholdes |
| Agentforce | Agent-konfigurasjon | ✅ Definer valideringskontrakter for inndata ved hver agentgrense, og behandle alle eksterne innholdskilder som ikke-klarerte |
| Data 360 | Tilordningskilder | ✅ Behandle Knowledge, Data 360-indekserte dokumenter og eksterne hentekilder som faste injeksjonsoverflater som krever kontinuerlig gjennomgang |
| Einstein | Trust | ✅ Behandle Einstein Trust Layer-sikkerhetskontroller som ett lag i dybdeforsvar, ikke en fullstendig løsning |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Ledetekstmal | ⚡️ Sammenkjed rå saksbeskrivelse i agentmelding med systeminstruksjoner, forutsatt at modellen skiller saksinnhold fra angrepsinstruksjoner |
| Data 360 | Tilordningskilder | ⚡️ Trust jording kilder uten å vurdere at motstridende innhold vedvarer og kan endres over tid av parter uten direkte agent tilgang |
| Einstein | Trust | Benytt deg utelukkende av Trust Layer-sikkerhetskontroller uten ytterligere arkitektoniske forsvar for nye injeksjonsteknikker |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Einstein | Trust | ✅ Agent som henter saksinformasjon, spør bare felt som er nødvendige for resonnement (Saksnummer, Produkt, Status, Prioritet) i stedet for alle saksfelt. PII-maskering gir ekstra beskyttelse hvis uventet PII vises |
| Einstein | Trust | ✅ Konfigurer Trust Layer riktig og dokumenter dataflyter gjennom Trust Layer-behandling |
| Einstein | Trust | ✅ Finne ut hvilke dataklassifiseringer som kan legge inn LLM-utledning for din lovpålagte kontekst |
| Plattform | Hendelsesovervåking | ✅ Rut Trust Layer-revisjonshendelser til SIEM sammen med hendelsesovervåkingsdata |
| Plattform | Hendelsesovervåking | ✅ Implementer logging på programnivå som registrerer hvilken agent som bestemte seg, hvilken handling som ble utført og hvilket forretningsutfall som ble oppnådd, sammen med Trust Layer-logger |
| Virksomhet | Dokumentasjon | ✅ Valider at Trust Layer-revisjon oppfyller lovpålagte krav |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Einstein | Trust | ⚡️ Spørre alle saksfelt, inkludert sensitive notater og betalingsinformasjon, ved å bruke PII-maskering for å fjerne alt som er problematisk |
| Einstein | Trust | ⚡️ Utform agenter for å sende full postkontekst til LLM-utledning forutsatt at PII-maskering håndterer alt |
| Einstein | Trust | ⚡️ Behandle Trust Layer PII-maskering som erstatning for dataminimering i stedet for som dybdeforsvar |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ✅ Bestillingsinnfrielsesspesialist validerer orkestrerleverte bestillingsdata inkluderer nødvendige felt (bestillings-ID, kunde-ID, produkt-SKU), verdier er innenfor forventede områder (mengde > 0, pris > 0), og bestillingsstatus tillater innfrielse før utføring |
| Agentforce | Agent-konfigurasjon | ✅ Definer eksplisitte, typede grensesnittkontrakter for kommunikasjon mellom agenter med strukturerte, omfangsbaserte, validerte data |
| Agentforce | Agent-konfigurasjon | ✅ Utform hver agent i en arbeidsflyt for flere agenter for å validere konteksten den mottar før den handler, uavhengig av anroperidentitet |
| Agentforce | Agent-konfigurasjon | ✅ Behandle innholdet i meldinger mellom agenter med samme omhu som inndata fra eksterne brukere |
| Integrasjon | Eksterne tjenester | ✅ For agenter som kaller opp eksterne AI-tjenester eller tredjeparts agenter utenfor Salesforce, bruker du null Trust-prinsippene og validerer svar innenfor forventet struktur og omfang |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Spesialist utfører direkte en handling som forespurt av orkestreringen, uten å validere forespørselsstrukturen, verdiene eller godkjenningskonteksten |
| Agentforce | Agent-konfigurasjon | ⚡️ Orchestrators passere rå instruksjonsstrenger som spesialister behandler som autoriserte instruksjoner |
| Agentforce | Agent-konfigurasjon | ⚡️ Overfør full utførelseskontekst, brukerøktdata eller akkumulert vurderingssporing til hver nedstrøms agent |
| Integrasjon | Eksterne tjenester | ⚡️ Handle på eksterne agentsvar som instruerer orkestrereren til å utføre handlinger utenfor gjeldende oppgaveområde uten avvisning eller eskalering |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | Flyt | ✅ Refusjonsagent konfigurert med flytkontrollpunkt som krever godkjenning fra en person før en refusjon på over USD 1000 utføres, uavhengig av agentens tillit. Sjekkpunkt implementert utenfor agentsammenligning |
| Plattform | Flyt | ✅ Implementer HITL-sjekkpunkter som arbeidsflytporter utenfor agentenes vurderingssløyfe, utformet som arkitektoniske kontroller i stedet for agentinstruksjoner |
| Virksomhet | Dokumentasjon | ✅ Definer kategorier av handlinger som krever bekreftelse fra person: irreversible handlinger, handlinger over økonomiske terskler, handlinger som kommuniserer eksternt, handlinger som involverer regulerte data, handlinger der feil har blitt observert |
| Agentforce | Agent-konfigurasjon | ✅ Utformingsgrensesnitt for gjennomgang som viser den foreslåtte handlingen, dataagenten som brukes til å nå forslaget, og begrunnelsesbanen der tilgjengelig |
| Plattform | Revisjon | ✅ Lagre gjennomgang av beslutning med agenthandlingspost: hvem som gjennomgått, når, hvilken informasjon som vises, hva de bestemte seg for |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent-konfigurasjon | ⚡️ Konfigurer agent med instruksjonen “Be om godkjenning før du utsteder refusjoner over USD 1000” forutsatt at instruksjonen ikke kan overstyres av ledetekstinnsetting |
| Agentforce | Agent-konfigurasjon | Implementer HITL som agentinstruksjoner som kan tolkes og potensielt ignoreres, i stedet for som arbeidsflytkontrollpunkter utenfor vurderingsbanen |
| Virksomhet | Prosess | ⚡️ Presentere brukervurderinger med godkjenningsforespørsler som mangler kontekst om foreslått handling, brukte data eller begrunnelsesbane – uten å gi ekte oversikt |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | Hendelsesovervåking | ✅ Rut hendelsesovervåking og Trust Layer-hendelser til SIEM for sentralisert sikkerhetsovervåking |
| Plattform | Transaksjonssikkerhet | ✅ Konfigurere transaksjonssikkerhetspolicyer med sanntids evaluering, inkludert blokkerings- og varslingsfunksjoner |
| Agentforce | Agent-konfigurasjon | ✅ Implementer tilpasset programlogging som fanger opp sammendrag av vurderinger, verktøykall og valideringsfeil |
| Plattform | Hendelsesovervåking | ✅ Utform varsleregler som oppdager agentspesifikke mønstre: massedatatilgang utenfor forventede vinduer, kall til handlinger som ikke er i samsvar med formålet, gjentatte valideringsfeil, unormale orkestreringsmønstre |
| Agentforce | Agent-konfigurasjon | ✅ Spor typiske handlingsoppkallsmønstre, datatilgangsvolumer, utledende samtalefrekvenser, feilfrekvenser og utførelsestider per agent for å etablere grunnleggende virkemåter |
| Plattform | Hendelsesovervåking | ✅ Definer agentspesifikke sikkerhetshendelser: tillatelsesgrenseovertredelser, gjentatte valideringsfeil, orkestreringsavvik, konfidens terskelovertredelser, reserveklargjøringsmønstre |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Plattform | Hendelsesovervåking | ⚡️ Bruk mønstre for overvåking av menneskelig aktivitet på agenter uten å etablere agentspesifikke atferdsstandarder |
| Plattform | Hendelsesovervåking | ⚡️ Stol bare på signaturbasert deteksjon uten atferdsovervåking som kan oppdage nye angrep |
| Plattform | Hendelsesovervåking | ⚡️ Ignorer forhøyede feilsatser, gjentatte valideringsfeil eller unormale orkestreringsmønstre som normal agentvirkemåte |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | Revisjon | ✅ For hver betydelige agenthandling fanger opp: agentidentitet og kjørende brukerkontekst, utløserhendelse, data hentet for jording, begrunnelsessammendrag, spesifikk handling og utfall, konfidensnivå, beslutning om gjennomgang av person, hvis aktuelt |
| Plattform | Revisjon | ✅ Implementer revisjonslogging på programnivå for forretningskontekst som plattformlogger (hendelsesovervåking, Trust Layer-hendelser) ikke inkluderer |
| Plattform | Revisjon | ✅ Rute hendelsesovervåking og Trust Layer-hendelser til langsiktig lagring utover innebygde oppbevaringsperioder |
| Agentforce | Agent-konfigurasjon | ✅ Logg agentidentitet i hvert trinn i utførelsessporing med flere agenter for tilskriving via orkestreringskjeder |
| Agentforce | Agent-konfigurasjon | ✅ Innhenting og oversikt over vurderinger som identifiserer viktige faktorer som påvirker agentens anbefaling for beslutninger med stor innvirkning |
| Virksomhet | Dokumentasjon | ✅ Utform arbeidsflyter for agenter slik at brukere kan be om forklaringer for beslutninger som påvirker dem |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Plattform | Revisjon | ⚡️ Baser deg på å rekonstruere det agenten gjorde fra bivirkninger i poster – når du trenger revisjonsspor, kan poster ha blitt endret |
| Plattform | Revisjon | ⚡️ Logg arbeidsflyter for flere agenter uten å identifisere hvilken bestemt agent som utførte hvilken handling i kjeden |
| Virksomhet | Prosess | Distribuer agenter som tar beslutninger med stor innvirkning, uten å fange opp begrunnelsessammendrag eller gi forklaringsmekanismer til berørte brukere |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Agentforce | Agent Instruksjoner | ✅ Når en ny begrensning vises midt i beslutningen (dato, budsjett, personalet, lisens), kjører du full avveining på nytt på tvers av alle opprinnelige faktorer i stedet for å la de nye inndataene reversere den tidligere beslutningen alene |
| Agentforce | Agent Instruksjoner | ✅ Angi endringen i målet eksplisitt – overflaten når optimaliseringsmålet skifter fra “arkitektonisk solid og vedlikeholdbart” til “leverbart under begrensningen” – slik at mennesket kan se hva som nå blir optimalisert for |
| Virksomhet | Prosess | ✅ Behandle en arkitektur- kontra-levering-spenning som en menneskeeid avveining: presentere det som oppnås (hastighet) mot det som betales (totale eierkostnader, vedlikehold, låsing) og rute beslutningen til den ansvarlige eieren |
| Agentforce | Agent Instruksjoner | ✅ Behold arkitektonisk tilpassing (tjener utformingen kravene) og leveringsmulighet (kan dette teamet sende den i tide) som separate, synlige faktorer i stedet for å slå dem sammen til ett enkelt svar |
| Plattform | Dokumentasjon | ✅ Når du tilbakestiller en dokumentert beslutning, vekter du den på nytt mot den opprinnelige årsaken og registrerer tilbakestillingen som en gjennomsiktig, tidsbegrenset avveining med en gjenutløser – en oppdatert beslutningspost viser at avveiningen ble vektet på nytt, ikke bare erstattet |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Agentforce | Agent Instruksjoner | ⚡️ La en enkelt ny begrensning (team ikke tilgjengelig, stram tidsfrist) reversere en teknisk beslutning samtidig som kostnadene og vedlikeholdsfaktorene som førte til det opprinnelige valget, slås av |
| Agentforce | Agent Instruksjoner | ⚡️ Skifting av optimaliseringsmålet fra “arkitektonisk solid og vedlikeholdbart” til “leverbart under begrensningen” uten å flagge at målet er endret |
| Virksomhet | Prosess | ⚡️ Å tilbakestille fra en lydutforming til et billigere eller mer praktisk alternativ under en ny begrensning, uten å gjenopprette den langsiktige totale kostnaden for eierskap, vedlikehold og låsing som førte til det opprinnelige valget |
| Virksomhet | Prosess | ⚡️ Løse en arkitektur-mot-levering-konflikt i agentens resonnement i stedet for å eskalere den som en bevisst, menneskeeid avveining |
| Plattform | Dokumentasjon | ⚡️ Produksjon av en ny beslutningspost som logger tilbakestillingen, men ikke vekter den på nytt mot den opprinnelige årsaken – respektere gjenutløseren i bokstaven, men ikke i innholdet |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Virksomhet | Dokumentasjon | ✅ Spor regelutviklingen i jurisdiksjoner der løsninger opererer, og utform samsvar i agentiske systemer fra begynnelsen av |
| Virksomhet | Dokumentasjon | ✅ Vurdere AI-systemrisikonivåer per aktuelle rammeverk (EU AI Act, US AI Bill of Rights, regionale rammeverk) |
| Agentforce | Agent-konfigurasjon | ✅ Implementer transparens- og forklaringsmekanismer og utform menneskelig tilsyn som passer til risikonivået |
| Virksomhet | Dokumentasjon | ✅ Dokumenter hvordan hvert bransjespesifikke krav (HIPAA, DORA, SOX, GDPR, CCPA) oppfylles gjennom spesifikke arkitektoniske kontroller |
| Virksomhet | Dokumentasjon | ✅ Validere samsvar før produksjonsdistribusjon |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Virksomhet | Prosess | ⚡️ Tilpass gjennomsiktighet, forklarbarhet og oversikt etter distribusjon i stedet for å bygge dem inn fra begynnelsen |
| Virksomhet | Prosess | Distribuer agenter som behandler PHI, økonomiske data eller personlige data uten å validere at de oppfyller HIPAA-, DORA/SOX- eller GDPR/CCPA-kravene |
| Virksomhet | Prosess | Ignorer nye AI-spesifikke forskrifter (risikokategorisering i EU AI Act, krav til gjennomsiktighet), og behandle dem som bare agentiske når tradisjonell Salesforce-automatisering heller ikke er unntatt |
Mønstre
| Hvor du kan se | Hvordan det ser bra ut |
|---|---|
| Plattform | AgentExchange | ✅ Før du aktiverer tredjepartshandling for agentbruk, bør du se gjennom hva handlingen gjør på kode- og dataflytnivå, hvilke eksterne tjenester den kaller opp og hvilke data den overfører |
| Plattform | AgentExchange | ✅ Se gjennom tredjeparts handlingskonfigurasjoner når oppdateringer av administrerte pakker brukes |
| Agentforce | Ledetekstmal | ✅ Se gjennom ledetekstmaler som er hentet utenfor teamet, før du bruker dem, og behandle dem som kodeutførelse i en privilegert vurderingsprosess med tilgang til organisasjonens data |
| Agentforce | Ledetekstmal | ✅ Opprette en gjennomgang og godkjenningsprosess for maler som brukes i produksjonsagenter, og vedlikeholde en post for malens opphav |
| Agentforce | Agent-konfigurasjon | ✅ Vedlikehold testpakke for kundeserviceagent med representative spørsmål, kanttilfeller og kjente injeksjonsforsøk. Kjør pakken i Sandbox etter varsel om modelloppdatering, sammenlign svarkvalitet og sikkerhet før du promoteres til produksjon |
| Agentforce | Agent-konfigurasjon | ✅ Behandle modellversjonsendringer som distribusjonshendelser og vedlikehold atferdstestpakker for agenter som dekker representative inndata, kanttilfeller og kjente motstandermønstre |
Anti-Mønstre
| Hvor du kan se | Hvordan dårlig ser ut |
|---|---|
| Plattform | AgentExchange | ⚡️ Aktiver tredjeparts AgentExchange-handlinger for agentbruk uten å se gjennom kode, dataflyter og kall til eksterne tjenester |
| Agentforce | Ledetekstmal | ⚡️ Bruk ledetekstmaler fra eksterne kilder eller fellesskapseksempler uten å se gjennom innebygde instruksjoner som kan endre agentens sikkerhetsvirkemåte eller introdusere resonansforstyrrelser |
| Agentforce | Agent-konfigurasjon | ⚡️ Tillat automatiske modelloppdateringer til produksjonsagenter uten validering ved å oppdage atferdsendringer via brukerklager |