工作人員企業的公正性

工作人員企業的公正性

當自發工作人員做出影響客戶、員工和社群的決策時,公平會成為區分負責任自動化與有害自動化的結構品質。Agentforce 工作人員在有限的人力監督的情況下運作,以前所未有的規模來持續和擴大偏見,將個別歧視模式轉為系統不平等。代理程式系統中的公平性是 Salesforce 平台上一流的架構考量,該平台將 AI 公平性、無障礙性、人力監督、演算法責任和道德管治結合到一個統一的架構支柱中。

此頁面說明工作人員結構特有的公平性挑戰。「公平性」 支柱涵蓋核心公平性原則、無障礙需求和道德管理架構。我們在此著重於獨立工作人員的考量事項:針對執行後續決策的工作人員進行偏差偵測和監督模式,其目標是讓責任是實體而非名義的,透明度可讓受影響的使用者爭用決策,以及如 Einstein Trust Layer 等平台功能,可透過資料控制和稽核記錄支援負責任 AI 作法。

Agentforce 工作人員從訓練資料、提取來源和實際互動中學習模式。當這些來源包含反映歷程記錄歧視或人口統計不平衡的偏差時,工作人員會使用演算法效率來延續該偏差,影響數千位使用者,直到人類偵測到模式為止。

  • **基礎模型偏差:**大型語言模型 (LLM) 會針對網際網路規模的資料進行訓練,其中包含與種族、性別、年齡、身心障礙和其他受保護特性相關的社會偏見。即使沒有明確的歧視指示,這些偏差仍會顯示在工作人員回應中,且不可能透過提示工程或測試來完全解決這些偏差;它們反映了部分屬於網際網路規模訓練資料的模式。例如,Agentforce 雇用工作人員可以使用男性語言模式來描述領導階層角色。或者,服務代理可能會對其姓名表示非大多數族裔或性別的客戶做出不同的回應,這是一種代表品質問題,無論任何決策結果為何,都會影響客戶的體驗。

使用代表受保護群組的各種角色,系統地測試工作人員是否有人口統計偏見。產生僅因人口統計訊號而異的相同要求,例如名稱、位置或通訊樣式。比較不同角色的工作人員回應,以瞭解品質差異、語調變化和成果差異。

  • **訓練資料表示差距:**如果您組織的歷史客戶關係管理 (CRM) 資料低於某些客戶區段,則訓練或以該資料奠基的 Agentforce 工作人員對這些區段的表現會不佳。針對十年機會資料進行訓練的商機評分工作人員會系統地低估銷售小組在歷史上已淘汰優先順序的地理位置中的潛在客戶,從而建立回饋意見迴圈,其中演算法偏差會組合人類偏差。

在使用 Salesforce 資料進行工作人員訓練或取得增強型產生 (RAG) 基礎前,請先稽核人口統計表示。識別呈現性不足的群組,並評估呈現性差距是否反映合法的業務差異或歷史性歧視。在部署工作人員前透過資料擴大或明確偏差緩解來減少不平衡;某些殘差往往會保留,通常透過下游監視和監督而非解決的預先部署來管理。

  • **在 RAG 系統中取得偏差:**Agentforce 工作人員在 Knowledge 庫、Data 360 區段和 Salesforce 記錄中使用 RAG 基礎回應。當這些查詢來源包含有偏見的內容或在整個人口統計群組中的品質不同時,已部署的工作人員可以將偏見帶入受影響使用者的體驗。若要減少此風險,請在生產前稽核提取來源作為最佳作法。將 Knowledge 文章,提供企業客戶的詳細疑難排解,但僅針對小型企業客戶提供一般回應的服務代理會使服務品質不盡相同,這是一項公平性的考量,客戶等級與受保護的特性相關聯。

針對人口統計表徵差異與品質差異,稽Knowledge識庫與提取來源。在難以填補的間隙中,請將這些限制視為工作人員適合的護欄。確定文件品質、完整性和準確性在所有客戶區段之間均可比較。在內容範例中包含多樣化呈現方式,而非預設為多元文化參照,這些參照會使代表不足的使用者遠離。

  • **互動模式偏差:**工作人員可以根據與受保護特性相關聯的對話提示來調整行為。即使在部署後,監視此模式仍是常見的作法,因為某些互動動態會從未顯示在訓練資料中的使用者行為中產生。通訊樣式、語言複雜度和時間模式可以表示人口統計資訊。處理正式通訊樣式與日常樣式不同的工作人員,可能會不小心根據文化背景、教育程度或母語狀態進行歧視。

監視工作人員跨人口統計群組的互動以取得行為一致性。分析依使用者特性分層的回應長度、詳細資料層級、禮貌標記和解決方案品質。差異表示需要調查的互動偏差。

  • **回饋意見迴圈放大:**影響自己未來訓練資料的工作人員會建立自我增強偏差。例如,將較少高價值機會指派給特定銷售區域範圍的路由工作人員會產生較少的這些區域範圍成功資料。這也會降低預估的成功可能性,進一步減少未來將機會路由至他們。若無介入,此初始偏差會隨著時間變化。

透過監視決策分佈隨時間的變化來偵測回饋意見迴圈。當某些人口統計群組收到的正面成果系統較少時,請調查工作人員的決定是否會造成不一致,以便在未來做出不良決定。透過人類檢閱邊緣個案和定期重新平衡來切換迴圈。

當多個 Agentforce 工作人員在協調流程鏈中共同作業時,一個工作人員的偏差會輸入至下游工作人員,進而產生複合效果,而小型初始偏差會放大為明顯的歧視成果。

  • **序列工作人員鏈:**當工作人員 A 的輸出變成工作人員 B 的輸入時,工作人員 A 的偏見決策可能會以永久或加強歧視的方式限制工作人員 B 的選項。

請考慮商機資格協調流程:

  1. Research Agent 會從網路來源和 CRM 歷程記錄收集客戶智慧。
  2. 「評分工作人員」會根據「研究工作人員」的發現結果指派商機評分。
  3. 「路由工作人員」會根據分數將商機指派至區域範圍。
  4. 「參與工作人員」會根據所有先前的工作人員輸出個人化拓展。

當「研究工作人員」系統地針對特定客戶人口統計 (由於訓練資料缺口或提取偏差) 的較不完整資料時,「評分工作人員」會將不完整資訊解譯為負數訊號。「路由工作人員」接著會指派至優先順序較低的區域範圍,而「參與工作人員」會提供較不個人化的拓展。複合效果會導致服務品質差異遠高於任何個別工作人員的偏差。

  • **平行工作人員共識:**當工作人員共用訓練資料或基礎模型時,多個工作人員獨立分析相同的輸入和彙總結果的模式會提供偏差放大機會。

如果五個工作人員獨立評分商機,但所有工作人員皆共用有偏見的訓練資料或基礎模型偏見,則同意不會修正偏見,只會驗證偏見。當五個工作人員皆有相同的系統偏見時,「五個工作人員同意」會對歧視性的結果產生錯誤的信賴。

協調流程偏差的緩解策略:

  • **每個階段的工作人員輸出稽核:**記錄協調流程鏈中每個工作人員的完整輸入與輸出。當在最終成果中偵測到偏差時,請在整個鏈結中追蹤回溯,以識別哪些工作人員導入偏差,以及在哪個階段發生放大。

建立 CRM Analytics 顯示面板,在每個協調流程階段顯示依人口統計細分的決策分佈。識別鏈結中出現或展開差異的位置。

  • 工作人員訓練和提示的多樣性 - 多樣性可減少關聯錯誤,進而降低偏差放大可能性。使用多工作人員共識模式時,最大化多元性:
  • 在商業上可行且支援的不同基礎模型,例如透過自帶 LLM (BYOLLM) 組態
  • 在不同工作人員之間的各個不同的提取來源
  • 不同的提示工程方法
  • 不同的信賴信賴值值校正
  • **在轉換點的人類審查:**識別協調流程中的階段,其中決策會大幅縮小下游選項的範圍。在這些轉換點插入人性審查,即使個別工作人員的信賴程度高。協調流程會建立個別工作人員信賴度分數無法捕捉的新效果。
  • **每個協調流程階段的公平度度量:**不要僅測量最終成果的公平性。在鏈結中的每個階段計算人口統計同等、機會相等和不同的影響。

如果「階段 1」顯示 90% 人口統計相等,則「階段 2」顯示 85%,「階段 3」顯示 78%,且「階段 4」顯示 70%,則每個階段會在個別的情況下顯示為可接受的,但會變成無法接受的最終差異。階段性度量會在產生歧義成果之前抓住複雜。

  • 協調流程失敗的斷路器 - 在下列情況下設定協調流程邏輯以停止並升級至人類:
  • 即使下游工作人員有信心,任何工作人員的信賴都會落在下限以下
  • 協調流程階段之間的輸出散佈顯著變更
  • 決策鏈會遇到未在訓練或驗證集中呈現的資料
  • 使用者明確地詢問或要求中介決策

多工作人員協調流程可啟用複雜的推理,但會建立不透明的決策鏈,其中責任會消散,而偏差會複雜。架構關注階段式公平性監視和策略性人力監督,可防止協調流程成為偏差放大機器。

在部署任何 Agentforce 工作人員進行有關使用者的後續決策之前,請先計算整個人口統計群組的公平度量。讓公平性評估成為在授權中與安全性審查等同的強制性部署門。

  • **人口統一:**各受保護人口統計群組的正成果率必須大致相同。如果工作人員以 60% 率批准「群組 A」的服務要求,但以 40% 率批准「群組 B」,則會違反人口統計等級。當群組之間沒有成果率差異的正當原因時,人口統計等級是適當的。

透過將人口分成人口統計區段、測量每個區段的正成果率,以及比較各區段的率來計算人口統計等級。記錄與已命名批准者和理由的相等性差距。

  • **相等機會:**整個群組之間的真陽性率保持相似。無論的人口統計特性為何,工作人員都能識別合格的個人。當基本信用性相似時,預測模型會在受保護群組之間以類似的匯率辨識可信應徵者。

針對個別資格的決定,相等機會通常是比人口統計相同度更適當的度量,其中基本率可能會合理地不同。監視工作人員是否有系統遺漏代表不足群組中的合格候選項目。如果在緩解措施後仍有差異,則工作人員可能不適合此使用個案。

  • **相等賠率:**整個群組的真陽性率和假陽性率皆相同。這是嚴格的定義,會限制整個人口統計的真陽性和假陽性率。平均賠率可防止錯過的機會集中在特定群組中,以及錯誤的指責集中在特定群組中。

若要達到相等的賠率,通常需要針對每個人口統計群組設定個別的決策值。在美國,針對與就業相關的決定,第七章 (《1964 年公民權利法案》) 禁止依受保護類別調整分數或設定不同的截止分數,因此在雇用中無法以此方式追求相等的賠率。在其他情況和其他管轄區中,它會引發有關明確差別處理的法律問題,因此請先諮詢法律顧問,再實作群組特定的值。

  • 不同的影響率:四五分之五規則提供篩選值:如果任何群組的正面成果低於績效最高群組的 80% 率,請調查是否有偏差。75% 的比率 (例如,45% 的批准率與 60% 的批准率) 會低於四分之五的值,並表示可能需要正確或緩解的歧視。

不同的影響分析是就業法中的標準,並且越來越適用於 AI 系統。當口食量低於 80% 時,請記錄調查和補救步驟;如果補救措施未提高比率,小組可能會總結使用個案不適合。

  • **個人公正:**無論群組成員資格為何,類似的個人都會收到類似的預估。無論人口統計差異為何,兩個具有相同信用能力、購買歷程記錄和參與的客戶都會收到類似的信用額度建議。

個人公平在哲學上很重要,但在運作上很具有挑戰性,因為「相似度」是主觀的,且取決於內容。使用個別公正作為設計原則來引導功能選取和測試,而不是嚴格的數學限制。

兩個平台功能會針對有偏差偵測的資料來加以收集。Einstein Trust 圖層會針對每個 Agentforce 互動記錄生成式 AI 稽核追蹤:傳送至模型的提示、傳回的回應、使用的奠基來源,以及如毒性分數等 Trust 訊號。Agentforce 工作階段追蹤會記錄每個決策背後的逐步原因。他們一起提供支援偏差偵測和公正監視的資料;資料的解譯是人為的工作,通常需要訓練過的檢閱者和專屬的時間。

  • **回應記錄:**Trust 圖層會記錄每個生成互動的提示、模型回應和 Trust 訊號。使用此資料分析人口統計群組的預估分佈。建立 CRM Analytics 顯示面板,以依客戶區段比較批准率、建議模式和風險分數。

查詢 Trust 圖層會定期記錄:使用下列提示:「顯示過去 30 天內依客戶產業、區域和帳戶規模分組的所有高價值機會預估。區段之間的預估分佈是否一致,還是系統為某些區段評分較高/較低?」

  • **推理追蹤捕捉:**針對 Agentforce 工作人員,「Agentforce 工作階段追蹤」會記錄工作人員如何達到其決策,而「Trust Layer」稽核追蹤會捕捉提示、回應和奠基來源,包括已提取的 Knowledge 文章和 Salesforce 記錄。當使用者報告偏差時,請檢閱這兩者,以瞭解哪些資料來源、提取模式或推理步驟可能導致偏差。

原因追蹤可讓後期公正稽核比傳統系統更精確且更容易執行。範例 100 依人口統計群組分層的工作人員決策,並讓檢閱者評估考量品質是否在不同群組之間相似。

  • **異常偵測:**當工作人員決策模式明顯偏離基準時設定警示。如果特定客戶區段的批准率逐週下降 20%,請觸發調查。突然的散佈排班可能表示資料品質問題、模型漂移或需要立即注意的新增偏差。

建立自訂監視以警示公平性訊號:「當 Agentforce 服務代理程式的任何客戶區段平均對話長度連續三天超過整體平均值的 1.5 倍時通知。」長度差異表示某些群組的服務效率不佳。

  • **公平顯示面板範本:**建立可重複使用的 CRM Analytics 顯示面板範本,以追蹤常見工作人員使用個案的公平度量。包含人口統計相等率計算、相等機會度量、不同的影響率,以及顯示度量隨時間變化趨勢圖表。在標準化公平性監視的工作人員開發小組中共用範本。

偵測到偏差時,請根據根本原因在適當階段套用緩解措施。

  • **預先處理資料介入:**在工作人員訓練或 RAG 索引之前,更正資料層級的偏差。訓練資料中呈現的人口統計群組不足範例,以確保平衡的表徵。當實際資料不足時,使用如「合成少數率超取技術」(SMOTE) 等技術,為呈現不足的群組同步化其他資料。請注意,SMOTE 會插入數值表格功能,因此會套用至結構化 CRM 訓練資料,而非用於 RAG 奠基的非結構化文字。

請先稽核 Salesforce CRM 資料以瞭解人口統計差距,再將其用於模型訓練。如果歷程記錄機會資料過度代表某些客戶類型,請重新平衡訓練集或使用取樣權重,以防止工作人員學習過度表示作為決策訊號。

  • **處理中演算法限制:**在模型訓練期間套用公平性限制,同時最佳化準確性和公平性。這可能會降低 2-3% 的原始準確度,同時大幅改善群組之間的公平性。當您控制模型訓練時,受限於公平性的訓練通常是最有效的緩解方法。

針對您無法修改訓練的 Agentforce 工作人員使用基礎模型,請透過系統提示限制工作人員的行為:「以相同的專業性和詳細資料來處理所有客戶的人口。提供長度與品質相似的說明,無論客戶的通訊樣式或背景為何。」

  • **處理後值調整:**在合法的情況下,調整每個人口統計群組的決策值可平衡模型訓練後的成果率。例如,批准工作人員可能會對一個群組套用 80% 信賴值,對另一個群組套用 75% 信賴值,以抵銷基本模型偏差。反歧視法嚴格限制此技術,而某些管轄區針對某些決策完全禁止此技術 (請參閱下方)。

上限調整有爭議,因為它明確地以不同的方式處理群組,而許多司法管轄區的反歧視法則會限制或禁止。在美國,對於與就業相關的決策,完全禁止:第 VII 章 (1964 年《公民權利法案》) 禁止依受保護類別調整分數或使用不同的截止分數,而且沒有任何記錄的理由可使此作法成為合法。其他管轄區會強制執行自己的限制,因此請確認適用於您使用者的規則。在允許執行此作法的情況下,在實作群組特定的界限時記錄法律理由,並驗證界限可改善公平性,而不會產生其他歧視性影響。

  • **Proxy 功能偵測和移除:**識別與受保護特性相關聯,並作為間接歧視機制的功能。常見的 Proxy 包括:
  • 種族、族裔和收入層級的 郵遞區號 Proxy
  • 性別和族裔的 命名模式 Proxy
  • 宗教和照護責任的 通訊時間點 Proxy
  • 收入層級的 裝置類型 Proxy
  • 區域範圍指派可代表人口統計組成

計算所有模型功能與受保護特性之間的關聯係數。針對高度關聯的功能,請評估合法預測值是否符合包含,或替代功能是否可以提供類似的預估,而不具有 Proxy 影響。

Agentforce 工作人員可以使用人力監督來作業,其設計目的為讓審查為實體而非名義審查。適當的監督層級取決於決策關係、可逆性和法規需求。

在執行之前透過人工審查路由後續決策。決定是否足夠高投注,以保證人力審查是以風險為基礎的判斷:加權潛在傷害的嚴重性以及發生該傷害的可能性。後續的決策通常會在受監管的領域 (例如醫療保健、金融服務和公共部門) 中產生,但也會在其外部產生。常見的高利潤內容包括:

  • 就業決策 - 雇用、升級、終止、薪水、績效檢閱
  • 信用與金融服務 - 信用批准、限制變更、結束帳戶、定價
  • 醫療照護 - 診斷建議、治療建議、涵蓋範圍決策
  • 法律權利 - 契約解讀、糾紛解決、服務存取
  • 住宅 - 租戶審查、租賃批准、移除建議

在這些情況下設計 Agentforce 工作人員,以分析、建議和準備決策,同時在執行之前需要人類批准。將工作人員定位為增強人類判斷的決策支援工具,而非取代人類的自主決策者。

根據工作人員不確定性,設定觸發人類審查的信賴等級:

  • 高度信賴 (>90%) - 工作人員透過完整稽核記錄自主進行
  • 中度信賴 (70-90%) - 工作人員在採取動作前建議使用人類審查
  • 低信賴率 (<70%) - 工作人員使用內容摘要完全轉介至人類

使用生產資料行事。驗證「70% 信賴」預估的成功時間約為 70%。不正確的信賴分數會破壞升級機制的 Trust。

透過取樣每個信賴帶的工作人員決策,並計算實際成功率來測試校正。如果「高度信賴」決策的成功率僅為 75% 時,請重新校正值或改善模型信賴估計值。

如果 Agentforce 無法在定義的限制內解決要求,請將要求升級為人類。檢查升級目的地是否有容量提供協助 - 路由至載入過多的人列不會降低傷害。

設定升級觸發:

  • 對話輪數 – 在未解析的 5-7 輪後,升級
  • 經過的時間 – 在未解決的 10 分鐘後,升級
  • 使用者情感 – 當使用者表達挫折時,請升級
  • 重複偵測 – 當工作人員重複相同回應時,請升級

設定 Omni-Channel 以將升級的個案路由至具備完整對話內容的適當以技能為基礎排隊。訓練人力工作人員以有效率地處理升級,而不需要使用者重複已提供給工作人員的資訊。

讓受授權的人類能夠使用記錄的理由,在任何時候覆寫任何 Agentforce 決策。覆寫用於多種用途:

  • **錯誤修正:**人類會更正會對使用者造成損害或違反原則的工作人員錯誤。覆寫功能為在難以避免邊緣狀況的複雜環境中作業的自發系統提供安全阀。
  • **異常偵測:**如果人類更常針對特定人口統計項目覆寫 Agentforce 拒絕,請調查這兩種可能性:工作人員可能會系統地使群組和人類正確,或覆寫者可能會導入新的偏差。第一個模式指向檢閱工作人員;第二個模式指向檢閱者訓練。
  • **工作人員改善:**具有原因的覆寫會成為工作人員改善的訓練資料。範例覆寫決策並分析人類與工作人員不同意的原因。將覆寫模式納入提示精簡或模型重新訓練。
  • **責任:**覆寫指派責任。人體覆寫工作人員決策會負責該決策的結果。清除責任可防止每個人都假設 AI 為當責,且沒有人負責負責的責任散佈。

在部署之前指派當責,而非事件發生之後:

  • **模型擁有者:**資料科學負責模型公正性、準確性和行為。批准部署、回應公平性警示、授權更新。模型擁有者是在結構決策記錄中記錄的已命名個人。
  • **決策擁有者:**產品擁有者負責為特定使用個案部署 AI,並對客戶造成實際影響。決策擁有者無法將責任委派給 AI 系統。
  • **上訴機關:**道德審查委員會或指定的小組會處理使用者認為工作人員決策不公平的上訴。上訴流程必須可供存取、及時且具備權限,才能撤銷工作人員的決定。
  • **稽核授權機構:**執行定期稽核驗證工作人員的規範小組會在公平性參數內作業,並可暫停工作人員的失敗標準等待補救。

使用名稱 (而不只是職稱) 記錄所有角色,以確保在組織變更中持續承擔責任。

當 Agentforce 工作人員對使用者做出影響的決策時,這些使用者應根據該決策的影響進行明確說明。

為不同的受眾設計多個說明層:

  • **使用者面向的說明:**無需技術專業知識即可理解純文字的推理。「您的服務要求需要經理批准,因為要求的金額 ($12,000) 超過您的授權限制 ($10,000)。經理批准通常會在 24 小時內完成,或在您協議的服務層級契約 (SLA) 內完成。」
  • **業務說明:**作業使用者可透過業務內容查看關鍵決策因素。「商機分數:73/100。主要正面因素:公司規模 (500 名員工)、啟用網站參與 (30 天內造訪 12 次)、產業比對 (SaaS)。主要負面因素:沒有 MQL 參與,目標區域外。」
  • **技術說明:**資料科學家可看見模型詳細資料:功能加權、信賴校正、模型版本、訓練日期、輸入分佈。技術說明支援除錯和偏差調查。
  • **稽核說明:**合規小組可看見完整的決策追蹤:模型版本、決策時的確切輸入值、諮詢的所有資料來源、推理追蹤、組態狀態。稽核說明支援需要精確重建的法規調查和公正稽核。

Agentforce 工作階段追蹤會記錄工作人員決策背後的逐步推理,而 Einstein Trust Layer 會捕捉提示和回應稽核追蹤,包括奠基來源。它們可讓您在適當的詳細資料層級提供透明度:

  • **即時透明度:**當 Agentforce 做出決定時,向使用者顯示摘要原因:「我根據您的購買歷程記錄 (3 筆類似購買)、目前促銷 (20% 折扣) 和庫存可用性 (現貨,明天出貨) 建議產品 A。」
  • **隨選詳細說明:**提供「您為何建議此項目?」可讓使用者檢視完整的推理連結,其中包括所有提取的 Knowledge 文章、諮詢的 Salesforce 記錄和決策邏輯。詳細說明可建立 Trust 並讓使用者識別錯誤或偏差。
  • **歷史重建:**當使用者在幾週或幾個月後挑戰過去的決策時,會提取工作階段推理追蹤和 Trust 層稽核歷程記錄,讓歷程記錄決策能精確說明。歷程記錄重建支援上訴與監管調查。
  • **彙總模式分析:**範例推理會依人口統計群組分層追蹤,以分析決策品質是否一致。檢閱每個客戶區段中的 100 個追蹤,並評估是否在不同群組之間可比較推理深度、來源品質和邏輯。

顯示使用者適當詞彙的預估信賴,避免使用者誤解的原始機率分數。

將信任傳達為:

  • 高度信賴 – 「根據類似個案,我相信此建議適當」
  • 中度信賴 – 「此建議可能適當,但建議檢閱經理」
  • 低信心 – 「此情況不尋常。我正在升級至可提供更佳指引的專家。」

說明信賴等級的可靠性:「根據歷程記錄驗證,高度信賴建議大約有 95% 的時間正確。」

針對中度或低信賴的決定,請說明將會發生哪些額外審查:「由於此要求不在我們的標準參數之外,因此通常會在 24 小時內完成批准的資深專家,或在您協議的服務層級契約 (SLA) 內進行審查。」

適當時,向使用者顯示會變更成果的項目。對實情可讓使用者透過特定動作改善成果,而不只是通知他們已做出的決定。

例如:「您的商機評分會隨著已驗證的就業資訊 (+8 點) 和額外的信用參照 (+5 點) 增加。提供此文件會將您的應用程式移至優先順序審查的排列台。」

反實情是強大的透明度機制,但需要謹慎設計。避免提供鼓勵系統進行遊戲或不小心顯示受保護特性作為決策因素的反實情。「如果您的申請年滿 10 歲,則評分會更高」是非法歧視,而非實用的透明度。

在某些司法管轄區中,明確揭露使用者與機器人互動是法律需求,而不只是設計最佳作法。清楚指出使用者何時與 Agentforce 工作人員而非人類工作人員互動。揭露必須是明顯且持續的,不得在服務方面埋藏,或在互動開始時僅顯示一次。

顯示持續的視覺指標:

  • 明確標記為「AI 助理」的工作人員頭像
  • 顯示「您正在與 Agentforce 服務代理商交談」的標題
  • 在整個交談中可見的「與人類工作人員連線」選項

揭露會遵循使用者自主權來啟用互動模式的明智選擇。偏好人類互動的使用者必須擁有該選項,且不含摩擦或服務品質懲罰。

Salesforce Platform 功能 (例如「事件監視」和「欄位稽核追蹤」) 是工作人員 AI 之前的功能,可將演算法責任延伸至個別工作人員所做的決策。

  • 工作人員動作的事件監視:「事件監視」會使用 Salesforce 控制的完整性,捕捉工作人員資料存取、API 呼叫和系統變更。將「事件監視」記錄串流至外部 SIEM,以便長期保留並符合後續決策的法規需求的篡改證據。

設定「事件監視」以追蹤:

  • 顯示工作人員系統互動的 API 事件記錄
  • 工作人員服務帳戶的登入事件
  • 工作人員存取大量資料時會匯出報告
  • **AI 影響資料的欄位稽核追蹤:**標準欄位歷程記錄會保留資料變更 18 個月 (透過 API 為 24 個月)。「欄位稽核追蹤」可讓您無限期保留欄位歷程記錄—在最多 18 個月後將其歸檔,然後保留歸檔的資料直到您將其刪除為止—支援長期公平性稽核和法規調查。在儲存或受工作人員決策影響的物件上啟用「欄位稽核追蹤」,從「欄位稽核追蹤」支援的標準物件中選擇,再加上任何已啟用欄位歷程記錄追蹤的自訂物件 (每個物件最多 200 個欄位)。

針對信用決策、就業決策和其他高利率使用個案,多年保留可能是法規需求。保留期間會因制度而有所不同。確認您使用個案的適用需求。

  • **最高投資的 Shield 事件監視:**Shield 事件監視透過結構化事件欄位和與合規性報告工具的整合,提供增強型稽核功能。「事件監視」與 Shield 客戶的「事件記錄檔」資料預設會保留一年。將 Shield 用於對稽核追蹤完整性至關重要之利害最高的工作人員決策。

儲存足夠的資訊,以精確重建任何歷程記錄工作人員決策:

  • **模型版本:**記錄執行每個決策的模型版本 (基礎模型、提示版本、微調的模型識別碼)。模型版本會經常變更,並產生不同的輸出。精確的版本追蹤可在發現偏差時啟用根本原因分析。
  • **輸入功能值:**儲存決策時確切的輸入值,而非可能已變更的目前值。輸入快照可讓您測試決策是否會與目前資料不同,或確認原始決策正確時提供的資訊。
  • **組態狀態:**記錄在決策時啟用中的口值、業務規則和參數設定。組態變更會影響成果。組態歷程記錄可決定決策漂移是否反映模型變更或組態變更。
  • **環境內容:**瞭解相關內容:使用者身分、時間戳記、對話歷程記錄、工作階段內容。內容會影響工作人員行為,且必須予以保留,才能準確重建。

偏差偵測必須是連續的,而非部署前的一次性驗證。工作人員透過提示更新、基礎模型版本變更和排班資料散佈來發展。

  • **公平度量顯示面板:**建立 CRM Analytics 顯示面板,以從 Einstein Trust 層記錄追蹤公平度量。持續監控人口統計相等、機會相等和不同的影響率。當度量違反定義的界限時設定警示。

建立顯示面板以顯示:

  • 依客戶人口統計區段的決策分佈 (長條圖)
  • 一段時間內的公平度量 (趨勢線與警示值)
  • 使用四五分之五規則指標進行不同的影響率計算
  • 影響決策的首要預估因子,其中基本模型會將其顯示
  • 依人口統計群組覆寫率
  • **分佈排班偵測:**監視工作人員輸入分佈是否有變更指出可能的公平性問題。如果接收工作人員決策之使用者的人口統計組成與訓練資料人口統計有明顯的差異,則模型公平性可能會降低。

輸入散佈變更時警示:「Agentforce 商機路由的客戶區段散佈在過去 30 天內已轉移 15% 至 Enterprise。檢閱路由邏輯是否對現在收到不同服務模式的 SMB 客戶保持公平。」

  • **使用者回饋意見整合:**讓使用者透過可存取的機制報告認知的偏差。使用者報告會呈現質性問題,質量度量會遺漏。

將「報告疑慮」選項新增至 Agentforce 聊天介面。使用完整的對話內容將報告路由至道德檢閱板。使用必要調查工作流程和已記錄的解決方案追蹤自訂物件中的報告。

設計工作人員結構,預期由監管機構、民權組織或需要演算法責任示範的客戶進行外部稽核。

  • **匯出功能:**建立匯出功能,讓合規小組能夠使用人口統計層級,以供外部稽核員檢閱,來取用完整的決策資料集。匯出者必須遵循資料隱私權法規,同時提供足夠的透明度以進行公平性驗證。
  • **稽核文件:**維護目前文件:
  • 工作人員用途與預期使用個案
  • 訓練資料人口統計與已知限制
  • 在預先部署與生產環境中計算的平等度量
  • 已套用偏差緩解策略
  • 人力監督組態
  • 監視方法與警示值
  • 當責指派 (模型擁有者、決策擁有者、上訴授權機構)
  • **演算法影響評估:**在部署工作人員做出後續決策之前,請先執行影響評估,以評估所有利害關係人群組的潛在正面和負面影響。影響評估會示範監管人員重視的盡職調查和主動性風險管理。

使用者可保留對 Agentforce 如何影響其體驗有意義的控制權。

  • **針對後續工作人員的選擇加入:**執行重大影響使用者的決策的工作人員需要明確選擇加入,而非依預設為啟用。只有在使用者同意後,信用決策工作人員、就業審查工作人員和服務資格工作人員才會啟用,並清楚瞭解工作人員將如何影響他們。
  • **細微同意:**啟用每個工作人員使用個案的同意,而非整體 AI 同意。客戶可能會同意 Agentforce 服務工作人員,同時拒絕 Agentforce 銷售工作人員。支援使用個案層級同意追蹤的結構只是一種輸入;強制執行邏輯的測試和定期稽核有助於確認同意門在實際執行中保留。
  • **新功能的動態同意:**部署影響現有使用者的新 Agentforce 功能時,請主動尋求新使用個案的同意,而非依賴未考慮特定應用程式的原始同意。每個影響使用者的新工作人員功能都會觸發同意檢查,並提供明確的說明。
  • **立即生效的同意撤銷:**讓使用者可以隨時撤銷同意,並立即停止處理工作人員。撤銷同意必須與授與一樣簡單,不需要支援連絡人或官僚程序。
  • **偏好設定管理:**讓使用者在定義的界限內設定工作人員行為:
    • 通訊樣式 (簡要與詳細說明)
    • 主動性層級 (僅在詢問與主動建議時回應)
    • 升級偏好 (偏好 AI 解析度,而偏好快速使用人類)

將偏好設定儲存在使用者記錄自訂欄位中。工作人員系統提示中的參照偏好設定:「使用者偏好詳細說明。透過支援的推理提供全方位回應。」

  • **隨選的人工處理:**在整個 Agentforce 互動期間提供持續的「與人類工作人員連線」選項,而不需要使用者完成工作人員互動或說明其偏好使用人類的原因。

設定立即轉出路由:當使用者選取「人類工作人員」時,會路由至 Omni-Channel,其中包含完整的交談內容和指示使用者偏好設定的優先順序標記。選擇人類互動時不適用降級服務或等候時間懲罰。

  • **透明度指標:**使用持續的視覺指標明確標記工作人員的互動,讓使用者保持對互動模式的感知。忘記與工作人員互動的使用者可能有不實際的期望,或在限制出現時感到欺騙。

設計工作人員,透過意圖的結構選擇在受保護的人口統計群組中產生公平成果。

執行後續決策的工作人員不得根據受保護的特性 (包括種族、性別、年齡、身心障礙、宗教、國籍或性取向) 進行歧視,除非法律上為特定目的 (例如殘疾適應) 提供合理理由。

  • **功能稽核:**檢閱工作人員考量事項中用於受保護特性內容的所有資料來源。CRM 資料、Data 360 區段和 Knowledge 庫可能包含工作人員在某些決策時不應考量的人口統計資訊。

當這些特性不符合決策類型的法律理由時,請從工作人員輸入中移除或遮罩受保護的特性。針對信用決策,請排除身心障礙狀態,因為其不相關。針對身心障礙住宿要求,身心障礙狀態是必要狀態且必須包含在內。

  • **非歧視的提示工程:**在工作人員系統提示中包含明確的非歧視指示:

「您是客戶服務代理。無論客戶的名稱、位置、通訊風格或其他特性為何,都能以相同的專業度對待所有客戶。為所有客戶提供品質與詳細資料相同的建議。請勿根據人口統計特性對客戶進行假設。」

  • **使用人口統計角色進行測試:**在生產部署前,使用代表受保護群組的各種角色來測試工作人員。產生相同的要求,只會變更人口統計訊號 (包括建議不同族裔的名稱、建議不同區域的位置,以及建議不同教育程度的通訊樣式)。

比較不同角色的工作人員回應,以瞭解品質、長度、專業性和成果。差異表示需要緩解的偏差。

監視 Agentforce 服務品質的客戶人口統計,以確保類似的體驗:

  • **依區段的解決率:**計算依客戶區段分層的第一連絡人解決率。如果企業客戶達到 75% 的解析度,而 SMB 客戶達到 55% 的解析度,請調查 Knowledge 庫品質、工作人員訓練或產品功能是否因區段而有所不同。
  • **依區段的回應品質:**範例工作人員跨區段的交談,並讓檢閱者針對一致的維度評估回應品質:準確性、完整性、專業性、實用性。等級間可靠性測試可確保審查者套用一致的標準。
  • **依區段的升級率:**追蹤工作人員升級至依客戶人口統計分層的人類的頻率。特定區段的升級率愈高,表示工作人員對這些使用者效率愈低,進而造成服務品質差異。
  • **依區段的滿意度:**調查來自所有人口統計群組的使用者,並比較滿意度分數。整體高滿意度可能會遮罩少數群組因多數滿意度而淹死的不良體驗。

Agentforce 介面必須可供符合 WCAG 2.2 AA 標準的身心障礙使用者存取。參照 Salesforce Lightning Design System 元件和模式庫,以取得可重複使用且可存取的 Agentforce 元件和設計模式。這些模式可讓工作人員體驗可供存取、一致且可學習。

  • **螢幕助讀程式相容性:**提供 Agentforce 聊天介面的 Lightning 傳訊元件包含依設計使用時的基準存取設定。自訂聊天實作需要手動實作無障礙功能:
  • 具有適當地標的語意 HTML 結構
  • ARIA 即時區域宣布新訊息
  • 透過訊息歷程記錄的鍵盤瀏覽
  • 清除互動元素上的焦點指標

在整個開發期間使用 JAWS、NVDA 和 VoiceOver 螢幕助讀程式輔助技術進行測試,而不只是自動掃描。

  • **認知無障礙:**工作人員回應針對一般受眾使用純文字。避免使用語法,並提供不可避免技術詞彙的詞彙。使用標題建構長回應,並使用項目符號清單或編號清單來協助瞭解。
  • **語言平等性:**Agentforce 透過基礎模型多國語言功能支援多國語言。透過原生發言者評估驗證的回應品質可跨語言進行比較,而不只是遺漏文化細微差別的自動化度量。

針對服務不同語言族群的業務關鍵使用個案,請設定語言特定處理 (語言變數、本地化提示和 Knowledge 文章篩選依語言),並驗證每個語言的品質,而不僅依賴基礎模型跨語言轉移,這可能會為資源較低的語言提供降級的品質。

在符合工作人員部署成熟度的階段中實作 Agentforce 的公平性。

階段 1:基礎 (在任何生產工作人員之前)

  • 使用強制執行授權機構建立道德審查委員會
  • 文件責任指派 (模型擁有者、決策擁有者、上訴授權機構)
  • 啟用「Einstein Trust 圖層」稽核快取
  • 設定工作人員動作的事件監視
  • 在 CRM Analytics 中建立基準公平性監視顯示面板
  • 定義必要部署門:資料稽核、公平度量、影響評估

階段 2:第一個生產工作人員

  • 針對使用個案執行全方位影響評估
  • 稽核人口統計代表性的訓練/RAG 資料
  • 計算人口統計群組的公平度量
  • 實作人力監督模式 (循環中人類、信賴升級或時間限制)
  • 設定使用者的偏差報告機制
  • 文件模型版本、組態和決策重建方法

階段 3:持續監視

  • 每週監視公平性顯示面板,調查 24 小時內的值超出 (或您組織的協議回應 SLA)
  • 執行每月覆寫模式分析以識別系統問題
  • 每週檢閱含有已記錄調查結果的使用者偏差報告
  • 針對高利息工作人員執行每季全面公平性稽核
  • 隨著工作人員透過提示更新或模型變更進化更新文件

階段 4:規模與管治

  • 針對常見工作人員類型建立可重複使用的公平性顯示面板範本
  • 建立工作人員決策重建工具以啟用合規小組自助式服務
  • 在所有新工作人員之間標準化同意管理模式
  • 在 CI/CD 銷售管道中實作自動公平迴歸測試
  • 由第三方排程半年度的外部公正稽核
  • 維持監視法規,並適應現有和新興的義務,包括《歐盟 AI 法案》(從 2025 到 2027 開始),州法律和產業法規

公平性是 Salesforce 平台上工作人員系統的核心結構考量事項。以公平性設計 Agentforce 作為一流架構考量事項的組織在建立所有使用者都可以 Trust 並有效使用的解決方案時,會優先於法規需求。平台功能已存在。問題是結構設計師是否會使用它們。

分享您對良好架構的回饋意見。