Trust Agenttic Enterprise - 模式

深入瞭解 Well-Architected Trust → Agent Enterprise Trust

模式

要尋找的位置良好的外觀
Agentforce | 工作人員組態✅ 建立整合使用者「Agent_Product_Support」,其權限集僅授與「個案/產品的讀取」、Knowledge 文章的存取權,以及個案更新的特定動作
Agentforce | 工作人員組態✅ 設定具有工作人員所定義範圍所需最低權限的執行使用者
平台 | 權限集✅ 為工作人員內容建立目的建立的整合使用者,並授與權限集,確實提供工作人員需求
平台 | 事件監視✅ 部署後,使用「事件監視」識別執行階段從未執行過的授與權限,並將其移除;設定稽核追蹤會記錄組態變更 (授與與撤銷),而非實際使用的權限

反模式

要尋找的位置看起來怎麼壞
Agentforce | 工作人員組態⚡️ 指派「系統管理員」作為執行使用者,因為其「只會運作」,並在測試期間避免權限錯誤
平台 | 組織⚡️ 允許工作人員保留開發期間授與的廣泛權限集,而無須部署後續審查

模式

要尋找的位置良好的外觀
Agentforce | 工作人員產生器✅ 將「工作人員產生器」中的子工作人員與動作組態視為權限邊界,而不只是路由—如果未將動作指派給子工作人員,則工作人員無法加以叫用
Agentforce | 工作人員產生器✅ 移除公開工作人員不需要之功能的子工作人員 (回答產品問題的工作人員不應在範圍中修改記錄、傳送電子郵件或叫用流程),並在責任變更時檢閱子工作人員範圍
平台 | Apex✅ 驗證工作人員動作集使用中的每個 Apex 動作,包含共用或繼承共用,除非系統內容有刻意記錄,否則執行使用者仍會保留安全性界限
Agentforce | 動作✅ 在工作人員處理工具輸出之前,根據結構描述驗證工具輸出,將每個工具回應視為不受信任的輸入
Agentforce | 動作✅ 將工具參數限制為允許的值範圍 (例如,在傳送電子郵件動作上驗證收件者網域),而非讓工作人員對不受信任資料的考量決定。
Agentforce | 動作✅ 在工具實作層強制執行工具層級的權限層級檢查,而不僅限於工作人員組態,讓功能在執行前先驗證其呼叫內容
Agentforce | 動作✅ 針對工作人員動作中的所有外部呼叫使用已命名認證

反模式

要尋找的位置看起來怎麼壞
Agentforce | 工作人員產生器⚡️ 將顯示記錄修改、電子郵件傳送或流程叫用之工作人員的子工作人員留在專為回答產品問題而設計的工作人員上
Agentforce | 工作人員產生器⚡️ 將工作人員組態視為僅限路由,而不確定可透過提示操作存取所列的任何內容,即使是工作人員未設計要使用的功能也是如此
平台 | Apex⚡️ 新增在系統模式中 (不共用) 執行的自訂 Apex 動作,可略過執行使用者的欄位級安全性和共用規則,而無須刻意為其進行設計
Agentforce | 動作⚡️ 將工具回應作為不含結構描述驗證的信任輸入處理,讓格式錯誤或插入的資料接觸工作人員的考量事項

模式

要尋找的位置良好的外觀
Agentforce | 工作人員組態✅ 文件權限鏈:訂單協調流程器 (讀取訂單、撰寫訂單狀態) → 庫存專家 (讀取/撰寫庫存) → 寄送專家 (建立寄送)。驗證使用者內容允許所有下游作業
Agentforce | 工作人員組態✅ 在部署前對應完整協調流程鏈的有效權限
Agentforce | 工作人員組態✅ 設計整個工作流程 (而不只是個別工作人員) 的權限界限

反模式

要尋找的位置看起來怎麼壞
Agentforce | 工作人員組態⚡️ 允許具有有限權限的協調流程器使用「修改所有資料」叫用專家,並略過協調流程器的限制
Agentforce | 工作人員組態⚡️ 評估個別工作人員權限,而無須對應整個協調流程鏈的有效權限

模式

要尋找的位置良好的外觀
Agentforce | 提示範本✅ 以結構分隔指示與資料:無法透過字串串連將系統層級指示與記錄來源內容、使用者提供的文字或工具回應混合
Agentforce | 動作✅ 將「個案描述」、「電子郵件內文」、「聊天文字記錄」識別為高風險欄位。實作預先處理層,在傳遞給工作人員的推理前摘要內容,刪除潛在的插入指示,同時保留意義
Agentforce | 工作人員組態✅ 在每個工作人員邊界定義輸入驗證契約,並將每個外部內容來源視為不受信任
Data 360 | 基礎來源✅ 將 Knowledge 文章、Data 360 編製索引的文件和外部提取來源視為需要持續審核的永久插入面。
Einstein | Trust 圖層✅ 將 Einstein Trust Layer 安全性控制視為一層的深度防護,而非完整的解決方案

反模式

要尋找的位置看起來怎麼壞
Agentforce | 提示範本⚡️ 將原始「個案描述」串連至具有系統指示的工作人員提示,假設模型會區分個案內容和攻擊指示
Data 360 | 基礎來源⚡️ Trust 奠基來源,而不考慮反對內容持續存在,且無法透過沒有直接工作人員存取權的對象隨時間修改
Einstein | Trust 圖層⚡️ 僅依賴 Trust Layer 安全性控制項,無需針對新的注射技術進行額外的結構防禦

模式

要尋找的位置良好的外觀
Einstein | Trust 圖層✅ 提取個案資訊的工作人員只會查詢用於推理 (個案編號、產品、狀態、優先順序) 所需的欄位,而非所有「個案」欄位。如果出現非預期的 PII,PII 遮蔽會提供額外的保護
Einstein | Trust 圖層✅ 適當設定 Trust 圖層,並透過 Trust 圖層處理記錄資料流程
Einstein | Trust 圖層✅ 決定哪些資料分類可針對您的法規內容輸入 LLM 推斷
平台 | 事件監視✅ 將Trust層稽核事件與「事件監視」資料一起路由至 SIEM
平台 | 事件監視✅ 實作應用程式層級記錄,將工作人員決定的項目、所採取的動作,以及產生的業務成果以及 Trust 圖層記錄一覽
業務 | 文件✅ 驗證 Trust Layer 稽核保留符合法規需求

反模式

要尋找的位置看起來怎麼壞
Einstein | Trust 圖層⚡️ 查詢所有「個案」欄位,包括敏感備註和付款資訊,依賴 PII 遮蔽來清除所有有問題的項目
Einstein | Trust 圖層⚡️ 設計工作人員將完整記錄內容傳送至 LLM 推斷,假設 PII 遮蔽處理所有一切
Einstein | Trust 圖層⚡️ 將 Trust Layer PII 遮蔽視為資料最小化的替代,而非深度防禦

模式

要尋找的位置良好的外觀
Agentforce | 工作人員組態✅ 訂單履行專家會驗證協調員提供的訂單資料包含必要欄位 (訂單識別碼、客戶識別碼、產品 SKU)、值在預期範圍內 (數量 > 0,價格 > 0),且訂單狀態允許在執行前履行
Agentforce | 工作人員組態✅ 定義具有結構化、範圍、驗證資料之工作人員之間通訊的明確類型介面契約
Agentforce | 工作人員組態✅ 設計多工作人員工作流程中的每個工作人員,以在執行動作前驗證其接收的內容,無論來電者身分為何
Agentforce | 工作人員組態✅ 以與外部使用者輸入相同的審查方式處理工作人員間訊息內容
整合 | 外部服務✅ 針對叫用外部 AI 服務或 Salesforce 外部第三方工作人員的工作人員,請套用零 Trust 原則並驗證回應在預期的結構與範圍內

反模式

要尋找的位置看起來怎麼壞
Agentforce | 工作人員組態⚡️ 專家會直接執行協調員要求的任何動作,而無須驗證要求結構、值或授權內容
Agentforce | 工作人員組態⚡️ 協調流程會傳遞專家視為權威指示詞的原始指示字串
Agentforce | 工作人員組態⚡️ 將完整的執行內容、使用者工作階段資料或累積的推理追蹤傳遞給每個下游工作人員
整合 | 外部服務⚡️ 根據外部工作人員回應採取動作,其會指示您的協調員在目前工作範圍外執行動作,而不會遭到拒絕或升級

模式

要尋找的位置良好的外觀
平台 | 流程✅ 退款工作人員設定為「流程檢查點」,在執行超過 $1,000 的任何退款之前需要人力批准,無論工作人員的信任為何。在工作人員推理之外實作的檢查點
平台 | 流程✅ 實作 HITL 檢查點作為工作人員推理迴圈之外的工作流程門,設計為結構控制項而非工作人員指示
業務 | 文件✅ 定義需要人工確認的動作種類:無法復原的動作、高於財務的動作、在外部通訊的動作、涉及受監管資料的動作,以及已觀察錯誤的動作
Agentforce | 工作人員組態✅ 設計呈現建議動作的檢閱介面、用於接觸提案的資料工作人員,以及可用的推斷路徑
平台 | 稽核✅ 使用工作人員動作記錄儲存檢閱決策:檢閱者、時間、顯示的資訊、他們的決定

反模式

要尋找的位置看起來怎麼壞
Agentforce | 工作人員組態⚡️ 使用「在發出超過 $1,000 的退款前要求批准」指示設定工作人員,假設提示插入無法覆寫指示
Agentforce | 工作人員組態⚡️ 實作 HITL 作為可解讀且可能會忽略的工作人員指示,而非作為考量路徑外的工作流程檢查點
業務 | 程序⚡️ 向人類審查者呈現沒有關於建議動作、使用的資料或推理路徑之內容的批准要求,而不提供真正的監督

模式

要尋找的位置良好的外觀
平台 | 事件監視✅ 將「事件監視」和「Trust層」事件路由至 SIEM 以進行集中安全性監視
平台 | 交易安全性✅ 使用即時評估 (包括封鎖與通知功能) 設定交易安全性原則
Agentforce | 工作人員組態✅ 實作自訂應用程式記錄,將推理摘要、工具叫用和驗證失敗的錄取
平台 | 事件監視✅ 設計警示規則,以偵測工作人員特定的可疑模式:在預期期間外大量資料存取、動作的叫用不符合目的、重複驗證失敗、異常協調流程模式
Agentforce | 工作人員組態✅ 追蹤每個工作人員的一般動作叫用模式、資料存取量、推斷通話率、錯誤率和執行時間,以建立行為基準
平台 | 事件監視✅ 定義工作人員特定的安全性事件:權限邊界違規、重複驗證失敗、協調流程異常、信賴值缺口、回復啟用模式

反模式

要尋找的位置看起來怎麼壞
平台 | 事件監視⚡️ 將人體活動監視模式套用至工作人員,而無須建立工作人員特定的行為基準
平台 | 事件監視⚡️ 僅依賴以簽章為基礎的偵測,且無可偵測新攻擊的行為監視
平台 | 事件監視⚡️ 忽略高錯誤率、重複驗證失敗或異常協調流程模式作為一般工作人員行為

模式

要尋找的位置良好的外觀
平台 | 稽核✅ 針對每個顯著的工作人員動作,將:工作人員身分與執行使用者內容、觸發事件、用於奠基的資料、推理摘要、特定動作和成果、信賴層級、人力審查決策 (若適用)
平台 | 稽核✅ 為平台記錄 (事件監視、Trust Layer 事件) 不包含的業務內容實作應用程式級稽核記錄
平台 | 稽核✅ 將「事件監視」和「Trust層」事件路由至原生保留期間以外的長期儲存空間
Agentforce | 工作人員組態✅ 在多工作人員執行追蹤的每個步驟記錄工作人員身分,以透過協調流程鏈進行歸屬
Agentforce | 工作人員組態✅ 用於識別影響工作人員高影響性決策建議的關鍵因素之摘要。
業務 | 文件✅ 設計工作人員工作流程,讓使用者可以要求影響他們的決策說明

反模式

要尋找的位置看起來怎麼壞
平台 | 稽核⚡️ 依賴於從記錄的副作用重新建置工作人員執行的動作,因為在您需要稽核追蹤時,記錄可能已經變更
平台 | 稽核⚡️ 記錄多重工作人員工作流程,而不識別在鏈結中執行的特定工作人員
業務 | 程序⚡️ 部署執行高影響力的決策的工作人員,而無須對受影響的使用者取得推理摘要或提供說明機制

模式

要尋找的位置良好的外觀
Agentforce | 工作人員指示✅ 當新的限制出現在決策中 (期限、預算、員工、授權) 時,請重新執行所有原始因素的完整權衡,而非讓新輸入自行反轉先前的決定
Agentforce | 工作人員指示✅ 明確說明目標中的變更 — 當最佳化目標從「結構上健全且可維護」變更為「在限制下可交付」時,便會呈現畫面,讓人類能夠看見目前正在最佳化的項目
業務 | 程序✅ 將結構與傳遞的壓力視為人類擁有的權衡:顯示對照已付款的收益 (速度) (擁有總成本、可維護性、鎖定性),並將決策路由至負責的擁有者
Agentforce | 工作人員指示✅ 將結構適配 (設計是否滿足需求) 和傳送可行性 (此小組可以及時送貨) 保持為個別且可見的因素,而不是將其摺疊成單一回答
平台 | 文件✅ 撤銷文件決策時,請根據原始原因重新加權,並將撤銷記錄為透明且有時間限制的權衡,並使用重新造訪觸發—更新的決策記錄顯示權衡已重新加權,而非僅僅僅是取代。

反模式

要尋找的位置看起來怎麼壞
Agentforce | 工作人員指示⚡️ 讓單一新的限制 (小組無法工作、短暫截止日期) 反轉技術決策,同時無聲地捨棄原始選擇的成本與維護因素
Agentforce | 工作人員指示⚡️ 將最佳化目標從「結構健全且可維護」移至「可在限制下交付」,而不標記目標已變更
業務 | 程序⚡️ 在新的限制下,從健全設計轉向更便宜或更方便的選項,而不會重新呈現原始選擇的長期總擁有成本、可維護性和鎖定性
業務 | 程序⚡️ 在工作人員的推理中解決結構與傳送衝突,而非將其升級為有意識的人類擁有的權衡
平台 | 文件⚡️ 產生新的決策記錄,該記錄會記錄反向,但不會根據原始原因重新加權,以字母顯示重新造訪觸發,但不以實體顯示

模式

要尋找的位置良好的外觀
業務 | 文件✅ 追蹤解決方案營運所在管轄區的法規發展,並從一開始將合規性設計至工作人員系統
業務 | 文件✅ 評估各適用架構的 AI 系統風險層級 (歐盟 AI Act、美國 AI 權利草稿、區域架構)
Agentforce | 工作人員組態✅ 實作透明度與可解釋性機制,並針對風險層級設計人力監督
業務 | 文件✅ 記錄如何透過特定結構控制符合每個產業特定的需求 (HIPAA、DORA、SOX、GDPR、CCPA)
業務 | 文件✅ 在生產部署前驗證合規性

反模式

要尋找的位置看起來怎麼壞
業務 | 程序⚡️ 部署後重新調整透明度、可解釋性和人力監視,而非從頭開始建立
業務 | 程序⚡️ 部署處理 PHI、財務資料或個人資料的工作人員,而無須驗證其符合 HIPAA、DORA/SOX 或 GDPR/CCPA 需求
業務 | 程序⚡️ 忽略新興 AI 特定法規 (歐盟 AI Act 風險分類、透明度需求),當傳統 Salesforce 自動化未豁免時,將其視為僅限代理程式使用

模式

要尋找的位置良好的外觀
平台 | AgentExchange✅ 啟用工作人員使用的第三方動作前,請先檢閱程式碼與資料流程層級執行的動作、呼叫的外部服務,以及傳輸的資料
平台 | AgentExchange✅ 套用受管理封裝更新時重新取得第三方動作組態
Agentforce | 提示範本✅ 在使用前,請先檢閱來自您小組外的提示範本,並將其視為在具有組織資料存取權的特權推理流程中執行的程式碼
Agentforce | 提示範本✅ 建立用於生產工作人員中範本的檢閱與批准流程,並維護範本來源的記錄
Agentforce | 工作人員組態✅ 維護客戶服務代理的測試套件,其中包含代表問題、邊緣個案和已知插入嘗試。在模型更新通知後在 Sandbox 中執行套件,在升級至生產環境前比較回應品質與安全性
Agentforce | 工作人員組態✅ 將模型版本變更視為部署事件,並為涵蓋代表輸入、邊緣個案和已知對抗模式的工作人員維護行為測試套件

反模式

要尋找的位置看起來怎麼壞
平台 | AgentExchange⚡️ 啟用協力廠商 AgentExchange 動作以供工作人員使用,而無須檢閱程式碼、資料流程和外部服務呼叫
Agentforce | 提示範本⚡️ 使用外部來源或社群範例中的提示範本,而無須檢閱會修改工作人員安全行為或導致推斷偏差的內嵌指示
Agentforce | 工作人員組態⚡️ 允許自動模型更新至生產工作人員而無須驗證,透過使用者抱怨探索行為變更