Trust Agentic Enterprise - Schemi
Ulteriori informazioni su Well-Architected Trust → Agentic Enterprise Trust
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Agentforce | Configurazione agente | ✅ Creare l’utente integrazione “Agent_Product_Support” con insieme di autorizzazioni Lettura per caso/prodotto, accesso agli articoli Knowledge e azioni specifiche solo per gli aggiornamenti dei casi |
| Agentforce | Configurazione agente | ✅ Configurare l’utente in esecuzione con autorizzazioni minime richieste per l’ambito definito dell’agente |
| Piattaforma | Insiemi di autorizzazioni | ✅ Creare utenti integrazione appositamente creati per i contesti degli agenti e concedere insiemi di autorizzazioni che forniscono esattamente ciò che l’agente richiede |
| Piattaforma | Monitoraggio evento | ✅ Dopo la distribuzione, utilizzare Monitoraggio evento per identificare le autorizzazioni concesse mai esercitate in fase di esecuzione e rimuoverle; Itinerario di controllo impostazioni registra le modifiche alla configurazione (concessioni e revoche), non le autorizzazioni effettivamente utilizzate |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Configurazione agente | ⚠️ Assegnare l’amministratore di sistema come utente in esecuzione perché “funziona” ed evita errori di autorizzazione durante i test |
| Piattaforma | Organizzazione | ⚠️ Consentire agli agenti di conservare gli insiemi di autorizzazioni generali concessi durante lo sviluppo senza revisione post-distribuzione |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Agentforce | Agent Builder | ✅ Considerare la configurazione di subagente e azione nel Generatore di agenti come un confine di autorizzazioni, non solo come instradamento: se un’azione non è assegnata a un subagente, l’agente non può invocarla |
| Agentforce | Agent Builder | ✅ Rimuovere i subagenti che espongono le funzionalità di cui l’agente non ha bisogno (un agente che risponde alle domande sui prodotti non dovrebbe avere modifica dei record, invio di email o invocazione del flusso nell’ambito) e rivedere l’ambito dei subagenti quando cambiano le responsabilità |
| Piattaforma | Apex | ✅ Verificare ogni azione Apex utilizzata nell’insieme di azioni dell’agente con la condivisione o la condivisione ereditata a meno che il contesto di sistema non sia deliberato e documentato, in modo che l’utente in esecuzione rimanga il confine di sicurezza |
| Agentforce | Azione | ✅ Convalida gli output dello strumento rispetto a uno schema prima che l’agente li elabori, trattando ogni risposta dello strumento come input non affidabile |
| Agentforce | Azione | ✅ Limitare i parametri dello strumento agli intervalli di valori consentiti (ad esempio, convalidare i domini dei destinatari su un’azione di invio email) anziché consentire agli agenti di ragionare su dati non affidabili di determinarli |
| Agentforce | Azione | ✅ Applica controlli delle autorizzazioni a livello di strumento a livello di implementazione dello strumento, non solo nella configurazione dell’agente, in modo che una funzionalità verifichi il contesto della chiamata prima di eseguire |
| Agentforce | Azione | ✅ Utilizzare le credenziali denominate per tutte le chiamate esterne dalle azioni degli agenti |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Agent Builder | ⚠️ Lasciare i subagenti che espongono la modifica dei record, l’invio di email o la chiamata del flusso su un agente progettato solo per rispondere alle domande sui prodotti |
| Agentforce | Agent Builder | ⚠️ Considerare la configurazione dell’agente come di solo instradamento senza riconoscere che tutto ciò che è elencato è raggiungibile tramite manipolazione rapida, anche le funzionalità che l’agente non è stato progettato per utilizzare |
| Piattaforma | Apex | ⚠️ Aggiunta di un’azione Apex personalizzata eseguita in modalità di sistema (senza condivisione) che ignora la protezione a livello di campo e le regole di condivisione dell’utente in esecuzione senza progettarla deliberatamente |
| Agentforce | Azione | ⚠️ Risposte dello strumento di elaborazione come input affidabile senza convalida dello schema, lasciando che i dati malformati o iniettati raggiungano il ragionamento degli agenti |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Agentforce | Configurazione agente | ✅ Catena di autorizzazioni documento: Order Orchestrator (Lettura ordini, Scrivi stato ordine) → Inventory Specialist (Lettura/Scrittura inventario) → Shipping Specialist (Crea spedizione). Verifica contesto utente consente tutte le operazioni a valle |
| Agentforce | Configurazione agente | ✅ Mappare le autorizzazioni effettive dell’intera catena di orchestrazione prima della distribuzione |
| Agentforce | Configurazione agente | ✅ Progettare i confini delle autorizzazioni in tutto il flusso di lavoro completo, non solo i singoli agenti |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Configurazione agente | ⚠️ Consenti all’orchestratore con autorizzazioni limitate di invocare lo specialista con Modifica tutti i dati, ignorando le restrizioni dell’orchestratore |
| Agentforce | Configurazione agente | ⚠️ Valutare le autorizzazioni dei singoli agenti senza mappare i privilegi effettivi dell’intera catena di orchestrazione |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Agentforce | Modello di prompt | ✅ Separare le istruzioni dai dati a livello di architettura: le istruzioni a livello di sistema non devono essere mescolate con contenuti provenienti da record, testo fornito dall’utente o risposte dello strumento tramite la concatenazione di stringhe |
| Agentforce | Azione | ✅ Identificare Descrizione caso, Corpo email, Trascrizione chat come campi ad alto rischio. Implementare un livello di preelaborazione che riepiloga il contenuto prima di passare al ragionamento dell’agente, eliminando le potenziali istruzioni di iniezione pur conservando il significato |
| Agentforce | Configurazione agente | ✅ Definire i contratti di convalida degli input a ogni confine dell’agente e trattare ogni fonte di contenuto esterna come non affidabile |
| Data 360 | Fonti di radicamento | ✅ Considerare gli articoli Knowledge, i documenti indicizzati di Data 360 e le fonti di recupero esterne come superfici di iniezione persistenti che richiedono una revisione continua |
| Einstein | Livello Trust | ✅ Considerare i controlli di sicurezza Einstein Trust Layer come un unico livello di difesa in profondità, soluzione non completa |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Modello di prompt | ⚠️ Concatenare Descrizione caso non formattata nel prompt dell’agente con le istruzioni di sistema, presupponendo che il modello distingua il contenuto del caso dalle istruzioni di attacco |
| Data 360 | Fonti di radicamento | ⚠️ Trust fonti di base senza considerare che il contenuto in conflitto persiste e può essere modificato nel tempo da parti senza accesso diretto degli agenti |
| Einstein | Livello Trust | ⚠️ Affidati esclusivamente ai controlli di sicurezza Trust Layer senza difese architettoniche aggiuntive per le nuove tecniche di iniezione |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Einstein | Livello Trust | ✅ L’agente che recupera le informazioni sul caso interroga solo i campi necessari per il ragionamento (Numero caso, Prodotto, Stato, Priorità) anziché tutti i campi Caso. Il mascheramento delle informazioni personali offre una protezione aggiuntiva se compaiono informazioni personali impreviste |
| Einstein | Livello Trust | ✅ Configurare adeguatamente Trust Layer e documentare i flussi di dati tramite l’elaborazione Trust Layer |
| Einstein | Livello Trust | ✅ Determinare quali classificazioni dei dati possono inserire l’inferenza LLM per il contesto normativo |
| Piattaforma | Monitoraggio evento | ✅ Instradare gli eventi di controllo Trust Layer a SIEM insieme ai dati di Monitoraggio evento |
| Piattaforma | Monitoraggio evento | ✅ Implementare la registrazione a livello di applicazione acquisendo ciò che l’agente ha deciso, quale azione ha intrapreso e quale risultato aziendale è risultato insieme ai registri Trust Layer |
| Business | Documentazione | ✅ Convalida che la conservazione del controllo Trust Layer soddisfi i requisiti normativi |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Einstein | Livello Trust | ⚠️ Eseguire query in tutti i campi Caso, incluse le note sensibili e le informazioni di pagamento, affidandosi al mascheramento delle informazioni personali per eliminare tutti i problemi |
| Einstein | Livello Trust | ⚠️ Progettare gli agenti per inviare contesto record completo all’inferenza LLM presumendo che il mascheramento delle informazioni personali gestisca tutto |
| Einstein | Livello Trust | ⚠️ Considerare il mascheramento delle informazioni personali Trust Layer come sostituto della minimizzazione dei dati anziché come difesa in profondità |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Agentforce | Configurazione agente | ✅ Order Fulfillment Specialist (Specialista evasione ordine) convalida i dati dell’ordine forniti dall’orchestratore che includono campi obbligatori (ID ordine, ID cliente, SKU prodotto), i valori rientrano negli intervalli previsti (quantità > 0, prezzo > 0) e lo stato dell’ordine consente l’evasione prima dell’esecuzione |
| Agentforce | Configurazione agente | ✅ Definire contratti di interfaccia tipizzati espliciti per la comunicazione tra agenti con dati strutturati, ambiti e convalidati |
| Agentforce | Configurazione agente | ✅ Progettare ogni agente nel flusso di lavoro multi-agente per convalidare il contesto che riceve prima di agire, indipendentemente dall’identità del chiamante |
| Agentforce | Configurazione agente | ✅ Trattare il contenuto dei messaggi tra agenti con lo stesso esame dell’input dell’utente esterno |
| Integrazione | Servizi esterni | ✅ Per gli agenti che invocano servizi di intelligenza artificiale esterni o agenti di terze parti esterni a Salesforce, applicare i principi zero Trust e convalidare le risposte entro la struttura e l’ambito previsti |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Configurazione agente | ⚠️ Specialista esegue direttamente qualsiasi azione richiesta dall’orchestratore senza convalidare la struttura, i valori o il contesto di autorizzazione della richiesta |
| Agentforce | Configurazione agente | ⚠️ Gli orchestratori passano stringhe di istruzioni non elaborate che gli specialisti trattano come direttive autorevoli |
| Agentforce | Configurazione agente | ⚠️ Passare il contesto di esecuzione completo, i dati della sessione utente o la traccia del ragionamento accumulata a ogni agente a valle |
| Integrazione | Servizi esterni | ⚠️ Agire sulle risposte degli agenti esterni che indicano al proprio orchestratore di eseguire azioni al di fuori dell’ambito dell’operazione corrente senza rifiuto o inoltro al livello superiore |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Piattaforma | Flusso | ✅ Agente rimborso configurato con checkpoint del flusso che richiede l’approvazione umana prima dell’esecuzione di qualsiasi rimborso superiore a $ 1.000, indipendentemente dalla fiducia dell’agente. Checkpoint implementato all’esterno del ragionamento degli agenti |
| Piattaforma | Flusso | ✅ Implementare i checkpoint HITL come porte del flusso di lavoro all’esterno del loop di ragionamento dell’agente, progettati come controlli architettonici anziché istruzioni dell’agente |
| Business | Documentazione | ✅ Definire categorie di azioni che richiedono conferma umana: azioni irreversibili, azioni al di sopra delle soglie finanziarie, azioni che comunicano all’esterno, azioni che riguardano dati regolamentati, azioni in cui sono stati osservati errori |
| Agentforce | Configurazione agente | ✅ Progettare interfacce di revisione che evidenzino l’azione proposta, l’agente dati utilizzato per raggiungere la proposta e il percorso di ragionamento, se disponibile |
| Piattaforma | Controllo | ✅ Store review decision with agent action record: chi ha esaminato, quando, quali informazioni visualizzate, cosa ha deciso |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Configurazione agente | ⚠️ Configurare l’agente con l’istruzione “Chiedi l’approvazione prima di emettere rimborsi superiori a $ 1.000” presupponendo che l’istruzione non possa essere sostituita da un’iniezione rapida |
| Agentforce | Configurazione agente | ⚠️ Implementare HITL come istruzioni degli agenti che possono essere interpretate e potenzialmente ignorate, anziché come checkpoint del flusso di lavoro al di fuori del percorso di ragionamento |
| Business | Processo | ⚠️ Presentare ai revisori umani le richieste di approvazione prive di contesto in merito all’azione proposta, ai dati utilizzati o al percorso di ragionamento, senza fornire alcuna supervisione autentica |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Piattaforma | Monitoraggio evento | ✅ Instradare gli eventi Event Monitoring e Trust Layer a SIEM per il monitoraggio centralizzato della sicurezza |
| Piattaforma | Sicurezza delle transazioni | ✅ Configurare le policy sulla sicurezza delle transazioni con la valutazione in tempo reale, incluse le funzionalità di blocco e notifica |
| Agentforce | Configurazione agente | ✅ Implementare la registrazione personalizzata delle applicazioni acquisendo riepiloghi ragionamento, chiamate a strumenti e errori di convalida |
| Piattaforma | Monitoraggio evento | ✅ Progettare regole di avviso che rilevano schemi sospetti specifici dell’agente: accesso in blocco ai dati al di fuori delle finestre previste, invocazione di azioni non in linea con lo scopo, ripetuti errori di convalida, schemi di orchestrazione anomali |
| Agentforce | Configurazione agente | ✅ Tenere traccia degli schemi tipici di invocazione delle azioni, dei volumi di accesso ai dati, delle percentuali di chiamata di inferenza, delle percentuali di errore e dei tempi di esecuzione per agente per stabilire i valori di riferimento comportamentali |
| Piattaforma | Monitoraggio evento | ✅ Definire eventi di sicurezza specifici dell’agente: violazioni dei confini delle autorizzazioni, ripetuti errori di convalida, anomalie di orchestrazione, violazioni delle soglie di confidenza, schemi di attivazione di fallback |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Piattaforma | Monitoraggio evento | ⚠️ Applicare schemi di monitoraggio dell’attività umana agli agenti senza stabilire valori di riferimento comportamentali specifici dell’agente |
| Piattaforma | Monitoraggio evento | ⚠️ Affidati solo al rilevamento basato su firma senza monitoraggio comportamentale in grado di rilevare nuovi attacchi |
| Piattaforma | Monitoraggio evento | ⚠️ Ignorare percentuali di errore elevate, errori di convalida ripetuti o schemi di orchestrazione anomali come comportamento normale degli agenti |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Piattaforma | Controllo | ✅ Per ogni azione significativa dell’agente, acquisire: identità dell’agente e contesto dell’utente in esecuzione, evento di attivazione, dati recuperati per il radicamento nel contesto, riepilogo del ragionamento, azione specifica e risultato, livello di confidenza, decisione di riesame umano, se applicabile |
| Piattaforma | Controllo | ✅ Implementare la registrazione di controllo a livello di applicazione per il contesto aziendale che i registri piattaforma (Event Monitoring, eventi Trust Layer) non includono |
| Piattaforma | Controllo | ✅ Instradare gli eventi di Monitoraggio evento e Trust Layer all’archiviazione a lungo termine oltre i periodi di conservazione nativi |
| Agentforce | Configurazione agente | ✅ Registrare l’identità degli agenti in ogni fase del tracciamento dell’esecuzione multi-agente per l’attribuzione tramite catene di orchestrazione |
| Agentforce | Configurazione agente | ✅ Acquisire e visualizzare riepiloghi di ragionamento che identificano i fattori chiave che influenzano il consiglio dell’agente per le decisioni ad alto impatto |
| Business | Documentazione | ✅ Progettare flussi di lavoro degli agenti in modo che gli utenti possano richiedere spiegazioni per le decisioni che li riguardano |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Piattaforma | Controllo | ⚠️ Basarsi sulla ricostruzione di ciò che l’agente ha fatto dagli effetti collaterali nei record: quando è necessario l’itinerario di controllo, i record potrebbero essere cambiati |
| Piattaforma | Controllo | ⚠️ Registra flussi di lavoro multi-agente senza identificare quale agente specifico ha eseguito quale azione nella catena |
| Business | Processo | ⚠️ Distribuire gli agenti che prendono decisioni di grande impatto senza acquisire riepiloghi del ragionamento o fornire meccanismi di spiegazione agli utenti interessati |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Agentforce | Istruzioni per gli agenti | ✅ Quando un nuovo vincolo appare a metà decisione (scadenza, budget, personale, licenza), ripetere il compromesso completo per tutti i fattori originali anziché lasciare che il nuovo input rovesci la decisione precedente da solo |
| Agentforce | Istruzioni per gli agenti | ✅ Dichiarare esplicitamente la modifica nell’obiettivo - emergere quando l’obiettivo di ottimizzazione passa da “architetturalmente solido e manutenibile” a “consegnabile sotto il vincolo” - in modo che l’uomo possa vedere ciò per cui viene ora ottimizzato |
| Business | Processo | ✅ Considerare una tensione tra architettura e consegna come un compromesso di proprietà umana: presentare ciò che si guadagna (velocità) rispetto a ciò che viene pagato (costo totale di proprietà, manutenibilità, lock-in) e instradare la decisione al titolare responsabile |
| Agentforce | Istruzioni per gli agenti | ✅ Mantenere l’architettura in forma (la progettazione soddisfa i requisiti) e la fattibilità della consegna (questo team può spedirla in tempo) come fattori separati e visibili anziché comprimerli in un’unica risposta |
| Piattaforma | Documentazione | ✅ Quando si ribalta una decisione documentata, ponderarla di nuovo rispetto alla logica originale e registrare l’inversione come compromesso trasparente e limitato nel tempo con un trigger di rivisitazione: un record decisione aggiornato mostra che il compromesso è stato ponderato di nuovo, non solo sostituito |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Agentforce | Istruzioni per gli agenti | ⚠️ Lasciare che un singolo nuovo vincolo (team non disponibile, scadenze ravvicinate) annulli una decisione tecnica lasciando cadere silenziosamente i fattori di costo e manutenibilità che hanno guidato la scelta originale |
| Agentforce | Istruzioni per gli agenti | ⚠️ Spostamento dell’obiettivo di ottimizzazione da “architetturalmente solido e manutenibile” a “consegnabile entro il vincolo” senza segnalare che l’obiettivo è cambiato |
| Business | Processo | ⚠️ Passare da un design solido a un’opzione più economica o più opportuna sotto un nuovo vincolo, senza rimettere in evidenza il costo totale di proprietà a lungo termine, la manutenibilità e il lock-in che hanno guidato la scelta originale |
| Business | Processo | ⚠️ Risolvere un conflitto tra architettura e consegna all’interno del ragionamento dell’agente anziché inoltrarlo al livello superiore come compromesso consapevole di proprietà umana |
| Piattaforma | Documentazione | ⚠️ Produzione di un nuovo record decisione che registra l’inversione ma non la pesa nuovamente rispetto alla logica originale – rispettando il trigger di rivisitazione nella lettera ma non nella sostanza |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Business | Documentazione | ✅ Tenere traccia degli sviluppi normativi nelle giurisdizioni in cui le soluzioni operano e progettare la conformità nei sistemi agenti fin dall’inizio |
| Business | Documentazione | ✅ Valutare i livelli di rischio del sistema AI in base ai framework applicabili (EU AI Act, US AI Bill of Rights, framework regionali) |
| Agentforce | Configurazione agente | ✅ Implementare meccanismi di trasparenza e spiegabilità e progettare una supervisione umana adeguata al livello di rischio |
| Business | Documentazione | ✅ Documentare come ogni requisito specifico del settore (HIPAA, DORA, SOX, GDPR, CCPA) viene soddisfatto attraverso controlli architettonici specifici |
| Business | Documentazione | ✅ Convalida la conformità prima della distribuzione in produzione |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Business | Processo | ⚠️ Retrofit della trasparenza, della spiegabilità e della supervisione umana dopo la distribuzione anziché integrarli dall’inizio |
| Business | Processo | ⚠️ Distribuire gli agenti che elaborano dati personali, finanziari o personali senza verificare che soddisfino i requisiti HIPAA, DORA/SOX o GDPR/CCPA |
| Business | Processo | ⚠️ Ignorare i regolamenti emergenti specifici dell’intelligenza artificiale (categorizzazione del rischio AI Act UE, requisiti di trasparenza), trattandoli come solo agenti quando nemmeno l’automazione Salesforce tradizionale è esente |
Schemi
| Dove cercare | Che bell’aspetto |
|---|---|
| Piattaforma | AgentExchange | ✅ Prima di abilitare l’azione di terze parti per l’uso da parte degli agenti, rivedere le azioni eseguite a livello di codice e flusso di dati, i servizi esterni che chiama e i dati che trasmette |
| Piattaforma | AgentExchange | ✅ Rivedere le configurazioni delle azioni di terze parti quando vengono applicati gli aggiornamenti dei pacchetti gestiti |
| Agentforce | Modello di prompt | ✅ Rivedere i modelli di prompt provenienti dall’esterno del team prima dell’uso e trattarli come codice in esecuzione all’interno del processo di ragionamento con privilegi con accesso ai dati dell’organizzazione |
| Agentforce | Modello di prompt | ✅ Stabilire un processo di revisione e approvazione per i modelli utilizzati negli agenti di produzione e mantenere il record della provenienza del modello |
| Agentforce | Configurazione agente | ✅ Mantenere la suite di test per l’agente dell’assistenza clienti con domande rappresentative, casi limite e tentativi di iniezione noti. Esegui suite in Sandbox dopo la notifica di aggiornamento del modello, confronta la qualità e la sicurezza della risposta prima di passare alla produzione |
| Agentforce | Configurazione agente | ✅ Considerare le modifiche della versione del modello come eventi di distribuzione e gestire suite di test comportamentali per gli agenti che coprono input rappresentativi, casi limite e schemi avversari noti |
Anti-schemi
| Dove cercare | Che brutto aspetto |
|---|---|
| Piattaforma | AgentExchange | ⚠️ Abilitare le azioni AgentExchange di terze parti per l’uso da parte degli agenti senza rivedere il codice, i flussi di dati e le chiamate ai servizi esterni |
| Agentforce | Modello di prompt | ⚠️ Utilizzare modelli di prompt da fonti esterne o esempi di comunità senza esaminare le istruzioni incorporate che potrebbero modificare il comportamento di sicurezza degli agenti o introdurre distorsioni di ragionamento |
| Agentforce | Configurazione agente | ⚠️ Consentire aggiornamenti automatici del modello agli agenti di produzione senza convalida, scoprendo modifiche del comportamento tramite i reclami degli utenti |