Trust Agentic Enterprise - Patronen
Lees meer over Goed Architectuurde Trust → Agentic Enterprise Trust
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ✅ Maak integratiegebruiker “Agent_Product_Support” met machtigingenset verlenen Lezen voor Case / Product, toegang tot Knowledge artikelen en specifieke acties voor alleen case-updates |
| Agentforce | Agentconfiguratie | ✅ Configureer huidige gebruiker met minimale machtigingen die vereist zijn voor het gedefinieerde bereik van de agent |
| Platform | Machtigingensets | ✅ Maak doelgerichte integratiegebruikers voor agentcontexten en verleen machtigingensets die precies bieden wat de agent nodig heeft |
| Platform | Event Monitoring | ✅ Na implementatie, gebruik Event Monitoring om verleende machtigingen nooit uitgeoefend tijdens run-time te identificeren en verwijder ze; Set-up controletraject registreert de configuratiewijzigingen (toekenningen en intrekkingen), niet welke machtigingen daadwerkelijk worden gebruikt |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ⚠️ Wijs systeembeheerder toe als huidige gebruiker omdat het “gewoon werkt” en machtigingsfouten tijdens het testen vermijdt |
| Platform | Organisatie | ⚠️ Agenten toestaan om brede machtigingensets te behouden die zijn verleend tijdens de ontwikkeling zonder beoordeling na de implementatie |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Agentsamensteller | ✅ Behandel subagent en actieconfiguratie in Agentsamensteller als een machtigingsgrens, niet alleen routering - als een actie niet is toegewezen aan een subagent, kan de agent deze niet aanroepen |
| Agentforce | Agentsamensteller | ✅ Subagenten verwijderen die mogelijkheden zichtbaar maken die de agent niet nodig heeft (een agent die productvragen beantwoordt, mag geen recordwijziging, e-mailverzending of stroomaanroeping in het bereik hebben) en het bereik van subagenten controleren wanneer verantwoordelijkheden veranderen |
| Platform | Apex | ✅ Controleer elke Apex actie in de actieset van de agent gebruikt met delen of overgenomen delen, tenzij systeemcontext is opzettelijk en gedocumenteerd, zodat de huidige gebruiker blijft de beveiligingsgrens |
| Agentforce | Actie | ✅ Valideer tooluitvoer op basis van een schema voordat de agent deze verwerkt, waarbij elke toolrespons als niet-vertrouwde invoer wordt behandeld |
| Agentforce | Actie | ✅ Beperk toolparameters tot toegestane waardenbereiken (bijvoorbeeld ontvangersdomeinen valideren voor een verzend-e-mailactie) in plaats van agentredenering op niet-vertrouwde gegevens deze te laten bepalen |
| Agentforce | Actie | ✅ Machtigingencontroles op toolniveau afdwingen op de implementatielaag van de tool, niet alleen in agentconfiguratie, zodat een mogelijkheid de aanroepcontext ervan verifieert voordat deze wordt uitgevoerd |
| Agentforce | Actie | ✅ Gebruik benoemde inloggegevens voor alle externe aanroepen van agentacties |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Agentsamensteller | ⚠️ Subagenten achterlaten die recordwijziging, e-mailverzending of stroomaanroeping zichtbaar maken voor een agent die alleen is ontworpen om productvragen te beantwoorden |
| Agentforce | Agentsamensteller | ⚠️ Agentconfiguratie als alleen-routering behandelen zonder te erkennen dat alles wat wordt vermeld, toegankelijk is via promptmanipulatie, zelfs mogelijkheden waarvoor de agent niet is ontworpen |
| Platform | Apex | ⚠️ Het toevoegen van een aangepaste Apex actie die wordt uitgevoerd in de systeemmodus (zonder delen) die de beveiliging op veldniveau en regels voor delen van de huidige gebruiker omzeilt zonder er bewust voor te ontwerpen |
| Agentforce | Actie | ⚠️ Responsen van tools verwerken als vertrouwde invoer zonder schemavalidatie, waardoor verkeerd gevormde of geïnjecteerde gegevens agentredenering bereiken |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ✅ Document machtiging keten: Order Orchestrator (Orders lezen, Orderstatus schrijven) → Voorraadspecialist (Voorraad lezen/schrijven) → Verzendspecialist (Verzending maken). Controleer of de gebruikerscontext alle bewerkingen verderop in de stroom toestaat |
| Agentforce | Agentconfiguratie | ✅ Wijs effectieve machtigingen van de volledige doeltreffende combinatieketen toe vóór implementatie |
| Agentforce | Agentconfiguratie | ✅ Ontwerp machtiging grenzen binnen de volledige werkstroom, niet alleen individuele agenten |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ⚠️ Orchestrator met beperkte machtigingen toestaan om specialist aan te roepen met Alle gegevens wijzigen, waarbij de beperkingen van Orchestrator worden omzeild |
| Agentforce | Agentconfiguratie | ⚠️ Evalueer machtigingen voor afzonderlijke agenten zonder de effectieve machtiging van de gehele doeltreffende doeltreffende combinatieketen toe te wijzen |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Aanwijzingssjabloon | ✅ Scheid instructies van gegevens architectonisch: instructies op systeemniveau mogen niet worden gemengd met inhoud van records, door de gebruiker aangeleverde tekst of toolreacties door middel van tekenreeksaaneenvoeging |
| Agentforce | Actie | ✅ Identificeer Casebeschrijving, Hoofdtekst van e-mail, Chattranscriptie als velden met hoog risico. Implementeer een voorverwerkingslaag die inhoud samenvat voordat deze wordt doorgegeven aan de redenering van agenten, waarbij potentiële injectie-instructies worden verwijderd met behoud van betekenis |
| Agentforce | Agentconfiguratie | ✅ Definieer invoervalidatiecontracten aan elke agentgrens en behandel elke externe inhoudsbron als niet-vertrouwd |
| Data 360 | Aardingsbronnen | ✅ Behandel Knowledge artikelen, Data 360 geïndexeerde documenten en externe ophaalbronnen als aanhoudende injectie oppervlakken die voortdurende beoordeling vereisen |
| Einstein | Trust laag | ✅ Behandel Einstein Trust Layer beveiliging controles als één laag in verdediging-in-diepgaande, niet volledige oplossing |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Aanwijzingssjabloon | ⚠️ Ruwe casebeschrijving aaneenvoegen in agentaanwijzing met systeeminstructies, ervan uitgaande dat het model case-inhoud onderscheidt van aanvalsinstructies |
| Data 360 | Aardingsbronnen | ⚠️ Trust aardende bronnen zonder rekening te houden met het feit dat vijandige inhoud blijft bestaan en kan worden gewijzigd in de loop van de tijd door partijen zonder directe agent toegang |
| Einstein | Trust laag | ⚠️ Vertrouw uitsluitend op Trust Layer-beveiligingselementen zonder extra architectonische verdediging voor nieuwe injectietechnieken |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Einstein | Trust laag | ✅ Agent die casegegevens ophaalt, bevraagt alleen velden die nodig zijn voor redenering (Casenummer, Product, Status, Prioriteit) in plaats van alle casevelden. Het maskeren van persoonsgegevens biedt extra bescherming als er onverwachte persoonsgegevens worden weergegeven |
| Einstein | Trust laag | ✅ Configureer Trust Layer op de juiste manier en documenteer gegevensstromen via Trust Layer-verwerking |
| Einstein | Trust laag | ✅ Bepaal welke gegevensclassificaties LLM-conclusie kunnen invoeren voor uw regelgevende context |
| Platform | Event Monitoring | ✅ Route Trust Layer audit events naar SIEM naast Event Monitoring gegevens |
| Platform | Event Monitoring | ✅ Implementeren vastleggen op toepassingsniveau vastleggen wat agent heeft besloten, welke actie het heeft ondernomen en wat de bedrijfsuitkomst heeft opgeleverd naast Trust Layer logboeken |
| Zakelijk | Documentatie | ✅ Valideer Trust Layer audit retentie voldoet aan wettelijke vereisten |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Einstein | Trust laag | ⚠️ Query uitvoeren op alle casevelden inclusief gevoelige notities en betalingsinformatie, vertrouwend op PII-maskering om alles wat problematisch is, te verwijderen |
| Einstein | Trust laag | ⚠️ Ontwerp agenten om volledige recordcontext naar LLM-conclusie te verzenden, ervan uitgaande dat PII-maskering alles afhandelt |
| Einstein | Trust laag | ⚠️ Behandel Trust Layer PII maskeren als vervanging voor gegevensminimalisering in plaats van als verdediging-in-diepte |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ✅ Order Fulfillment Specialist valideert door orchestrator geleverde ordergegevens, waaronder verplichte velden (Order-ID, Klant-ID, Product-SKU), waarden vallen binnen verwachte bereiken (hoeveelheid > 0, prijs > 0) en orderstatus maakt uitvoering mogelijk vóór uitvoering |
| Agentforce | Agentconfiguratie | ✅ Expliciet getypte interfacecontracten definiëren voor communicatie tussen agenten met gestructureerde, bereikbare, gevalideerde gegevens |
| Agentforce | Agentconfiguratie | ✅ Ontwerp elke agent in een werkstroom voor meerdere agenten om de context te valideren die deze ontvangt voordat deze optreedt, ongeacht de identiteit van de beller |
| Agentforce | Agentconfiguratie | ✅ Behandel inhoud van berichten tussen agenten met dezelfde controle als invoer van externe gebruikers |
| Integratie | Externe services | ✅ Voor agenten die externe AI-services of externe agenten buiten Salesforce aanroepen, past u zero Trust principes toe en valideert u responsen die binnen de verwachte structuur en scope vallen |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ⚠️ Specialist voert direct elke actie uit die wordt aangevraagd door orchestrator zonder de structuur, waarden of autorisatiecontext van het verzoek te valideren |
| Agentforce | Agentconfiguratie | ⚠️ Orchestrators doorgeven ruwe instructie strings die specialisten behandelen als gezaghebbende instructies |
| Agentforce | Agentconfiguratie | ⚠️ Volledige uitvoeringscontext, gebruikerssessiegegevens of geaccumuleerde redeneringstracering doorgeven aan elke downstream agent |
| Integratie | Externe services | ⚠️ Reageren op externe agentreacties die uw doeltreffende agent instrueren om acties buiten het huidige taakbereik uit te voeren zonder afwijzing of escalatie |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | Stroom | ✅ Restitutieagent geconfigureerd met Flow-controlepunt dat menselijke goedkeuring vereist voordat een restitutie van meer dan $ 1000 wordt uitgevoerd, ongeacht het vertrouwen van de agent. Controlepunt geïmplementeerd buiten redenering van agent |
| Platform | Stroom | ✅ Implementeer HITL-controlepunten als werkstroompoorten buiten de redeneringslus van agenten, ontworpen als architectonische besturingselementen in plaats van agentinstructies |
| Zakelijk | Documentatie | ✅ Definieer categorieën acties die menselijke bevestiging vereisen: onomkeerbare acties, acties boven financiële drempelwaarden, acties die extern communiceren, acties met gereguleerde gegevens, acties waarbij fouten zijn waargenomen |
| Agentforce | Agentconfiguratie | ✅ Ontwerp beoordelingsinterfaces die voorgestelde actie naar boven halen, gegevensagent die wordt gebruikt om voorstel te bereiken en redeneringspad waar beschikbaar |
| Platform | Controle | ✅ Beslissing over beoordeling van store met agentactierecord: wie heeft beoordeeld, wanneer, welke informatie getoond, wat ze hebben besloten |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Agentconfiguratie | ⚠️ Agent configureren met instructie “Vraag om goedkeuring voordat restituties van meer dan $ 1000 worden uitgegeven” ervan uitgaande dat instructie niet kan worden overschreven door directe injectie |
| Agentforce | Agentconfiguratie | ⚠️ Implementeer HITL als agentinstructies die kunnen worden geïnterpreteerd en mogelijk genegeerd, in plaats van als werkstroomcontrolepunten buiten het redeneerpad |
| Zakelijk | Proces | ⚠️ Menselijke beoordelaars goedkeuringsverzoeken presenteren zonder context over voorgestelde actie, gebruikte gegevens of redeneringstraject — zonder echt overzicht |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | Event Monitoring | ✅ Route Event Monitoring en Trust Layer events naar SIEM voor gecentraliseerde beveiligingsbewaking |
| Platform | Transactiebeveiliging | ✅ Configureer transactiebeveiligingsbeleidsvormen met realtime evaluatie, inclusief mogelijkheden voor blokkeren en kennisgevingen |
| Agentforce | Agentconfiguratie | ✅ Implementeer aangepaste toepassing vastleggen van redenering samenvattingen, tool aanroepen en validatie fouten |
| Platform | Event Monitoring | ✅ Ontwerp waarschuwingsregels die agentspecifieke verdachte patronen detecteren: toegang tot bulkgegevens buiten verwachte vensters, aanroepen van acties die niet zijn afgestemd op het doel, herhaalde validatiefouten, abnormale doeltreffende patronen |
| Agentforce | Agentconfiguratie | ✅ Houd typische actieaanroeppatronen, gegevenstoegangsvolumes, gespreksscores voor gevolgtrekkingen, foutscores en uitvoeringstijden per agent bij om gedragsbaselines vast te stellen |
| Platform | Event Monitoring | ✅ Agentspecifieke beveiligingsevents definiëren: schendingen van machtigingsgrenzen, herhaalde validatiefouten, doeltreffende anomalieën, inbreuken op vertrouwensdrempels, reserveactiveringspatronen |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | Event Monitoring | ⚠️ Bewakingspatronen voor menselijke activiteit toepassen op agenten zonder agentspecifieke gedragsuitgangswaarden vast te stellen |
| Platform | Event Monitoring | ⚠️ Vertrouw alleen op op handtekening gebaseerde detectie zonder gedragsbewaking die nieuwe aanvallen kan detecteren |
| Platform | Event Monitoring | ⚠️ Negeer verhoogde foutscores, herhaalde validatiefouten of abnormale doeltreffende combinatiepatronen als normaal agentgedrag |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | Controle | ✅ Leg voor elke significante agentactie vast: agentidentiteit en huidige gebruikerscontext, triggering event, gegevens die zijn opgehaald voor huisarrest, redeneringssamenvatting, specifieke actie en uitkomst, vertrouwensniveau, beslissing over menselijke beoordeling indien van toepassing |
| Platform | Controle | ✅ Implementeren audit logging op toepassingsniveau voor zakelijke context die platformlogboeken (Event Monitoring, Trust Layer events) niet omvatten |
| Platform | Controle | ✅ Route Event Monitoring en Trust Layer events naar langdurige opslag buiten native bewaarperioden |
| Agentforce | Agentconfiguratie | ✅ Log agent identiteit bij elke stap in multi-agent uitvoering traceren voor toekenning door doeltreffende combinatie ketens |
| Agentforce | Agentconfiguratie | ✅ Vastleggen en naar boven halen redenering samenvattingen identificeren van de belangrijkste factoren die van invloed zijn agent aanbeveling voor beslissingen met grote impact |
| Zakelijk | Documentatie | ✅ Ontwerp agent werkstromen zodat gebruikers kunnen verzoeken om uitleg voor beslissingen die van invloed zijn op hen |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | Controle | ⚠️ Vertrouw op het reconstrueren van wat een agent deed op basis van bijwerkingen in records - tegen de tijd dat u een controletraject nodig hebt, zijn records mogelijk gewijzigd |
| Platform | Controle | ⚠️ Leg werkstromen voor meerdere agenten vast zonder te identificeren welke specifieke agent welke actie in de keten heeft uitgevoerd |
| Zakelijk | Proces | ⚠️ Agenten implementeren die beslissingen met grote impact nemen zonder redeneringssamenvattingen vast te leggen of uitlegmechanismen te bieden aan betroffen gebruikers |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Agentforce | Agentinstructies | ✅ Wanneer een nieuwe beperking halverwege de beslissing verschijnt (deadline, budget, personeelsbezetting, licentie), voert u de volledige trade-off opnieuw uit voor alle oorspronkelijke factoren in plaats van de nieuwe invoer de eerdere beslissing op zichzelf te laten terugdraaien |
| Agentforce | Agentinstructies | ✅ Vermeld expliciet de wijziging in doelstelling — naar boven komen wanneer het optimaliseringsdoel verschuift van “architectonisch verantwoord en onderhoudbaar” naar “leverbaar onder de beperking” — zodat de mens kan zien waarvoor nu wordt geoptimaliseerd |
| Zakelijk | Proces | ✅ Behandel een spanningsveld tussen architectuur en levering als een afweging tussen mensen: presenteer wat er wordt gewonnen (snelheid) en wat er wordt betaald (totale eigendomskosten, onderhoudbaarheid, lock-in) en routeer de beslissing naar de verantwoordelijke eigenaar |
| Agentforce | Agentinstructies | ✅ Houd de architectonische fit (voldoet het ontwerp aan de vereisten) en de haalbaarheid van de levering (kan dit team het op tijd verzenden) als afzonderlijke, zichtbare factoren in plaats van ze samen te vouwen in één antwoord |
| Platform | Documentatie | ✅ Wanneer u een gedocumenteerde beslissing terugdraait, weegt u deze opnieuw af tegen de oorspronkelijke reden en registreert u de terugdraaiing als een transparante, tijdgebonden afweging met een trigger voor een nieuw bezoek - een bijgewerkte beslissingsrecord toont dat de afweging opnieuw is gewogen, niet alleen is vervangen |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Agentforce | Agentinstructies | ⚠️ Eén nieuwe beperking (team niet beschikbaar, strakke deadline) een technische beslissing laten terugdraaien terwijl de kosten en onderhoudbaarheidsfactoren die de oorspronkelijke keuze hebben gestuurd, stilletjes worden verlaagd |
| Agentforce | Agentinstructies | ⚠️ Verschuiving van het optimaliseringsdoel van “architectonisch gezond en onderhoudbaar” naar “leverbaar onder de beperking” zonder te signaleren dat de doelstelling is gewijzigd |
| Zakelijk | Proces | ⚠️ Omkeren van een goed ontwerp naar een goedkopere of meer geschikte optie onder een nieuwe beperking, zonder de totale eigendomskosten, onderhoudbaarheid en vergrendeling op lange termijn die de oorspronkelijke keuze hebben bepaald, opnieuw zichtbaar te maken |
| Zakelijk | Proces | ⚠️ Het oplossen van een architectuur-versus-leveringsconflict binnen de redenering van de agent in plaats van het te escaleren als een bewuste, menselijke trade-off |
| Platform | Documentatie | ⚠️ Een nieuwe beslissingsrecord maken die de omkering vastlegt, maar deze niet opnieuw afweegt tegen de oorspronkelijke reden — de trigger voor het opnieuw bezoeken in de letter honoreren, maar niet in de inhoud |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Zakelijk | Documentatie | ✅ Volg ontwikkelingen op het gebied van regelgeving in rechtsgebieden waar oplossingen actief zijn en ontwerp naleving in agentische systemen vanaf het begin |
| Zakelijk | Documentatie | ✅ Beoordeel AI-systeemrisiconiveaus per van toepassing zijnde frameworks (EU AI Act, Amerikaanse AI Bill of Rights, regionale frameworks) |
| Agentforce | Agentconfiguratie | ✅ Implementeren van transparantie- en uitlegbaarheidsmechanismen en ontwerpen van menselijk toezicht dat is afgestemd op het risiconiveau |
| Zakelijk | Documentatie | ✅ Documenteren hoe aan elke sectorspecifieke vereiste (HIPAA, DORA, SOX, AVG, CCPA) wordt voldaan door middel van specifieke architectonische controles |
| Zakelijk | Documentatie | ✅ Naleving valideren vóór productie-implementatie |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Zakelijk | Proces | ⚠️ Transparantie, uitlegbaarheid en menselijk toezicht achteraf inbouwen na implementatie in plaats van ze vanaf het begin in te bouwen |
| Zakelijk | Proces | ⚠️ Agenten implementeren die PHI, financiële gegevens of persoonsgegevens verwerken zonder te valideren dat ze voldoen aan HIPAA-, DORA/SOX- of GDPR/CCPA-vereisten |
| Zakelijk | Proces | ⚠️ Negeer opkomende AI-specifieke regelgeving (risicocategorisering van EU AI Act, transparantievereisten), behandel ze als agentic-only wanneer traditionele Salesforce-automatisering ook niet is vrijgesteld |
Patronen
| Waar te zoeken | Hoe goed eruitziet |
|---|---|
| Platform | AgentExchange | ✅ Voordat u externe actie inschakelt voor agentgebruik, controleert u wat de actie doet op code- en gegevensstroomniveau, welke externe services worden aangeroepen en welke gegevens worden verzonden |
| Platform | AgentExchange | ✅ Actieconfiguraties van derden opnieuw bekijken wanneer updates van beheerde pakketten worden toegepast |
| Agentforce | Aanwijzingssjabloon | ✅ Controleer aanwijzingssjablonen die buiten uw team zijn verkregen vóór gebruik en behandel ze als code-uitvoering binnen een geprivilegieerd redeneerproces met toegang tot de gegevens van uw organisatie |
| Agentforce | Aanwijzingssjabloon | ✅ Beoordelings- en goedkeuringsproces instellen voor sjablonen die worden gebruikt in productieagenten en record bijhouden van sjabloonherkomst |
| Agentforce | Agentconfiguratie | ✅ Onderhoud test suite voor Klantenservice serviceagent met representatieve vragen, edge cases en bekende injectiepogingen. Suite uitvoeren in sandbox na kennisgeving van modelupdate, responskwaliteit en veiligheid vergelijken voordat u doorzet naar productie |
| Agentforce | Agentconfiguratie | ✅ Behandel modelversiewijzigingen als implementatie-events en onderhoud gedragstestpakketten voor agenten die representatieve invoer, edgecases en bekende vijandelijke patronen bestrijken |
Anti-patronen
| Waar te zoeken | Hoe slecht eruitziet |
|---|---|
| Platform | AgentExchange | ⚠️ AgentExchange-acties van derden inschakelen voor agentgebruik zonder code, gegevensstromen en externe serviceaanroepen te controleren |
| Agentforce | Aanwijzingssjabloon | ⚠️ Aanwijzingssjablonen uit externe bronnen of communityvoorbeelden gebruiken zonder te controleren op ingebedde instructies die het veiligheidsgedrag van agenten kunnen wijzigen of redeneringsvertekening kunnen introduceren |
| Agentforce | Agentconfiguratie | ⚠️ Automatische modelupdates aan productieagenten toestaan zonder validatie, gedragsveranderingen ontdekken door klachten van gebruikers |