AI 道德與管治 - 模式

深入瞭解結構正確的 公正性 → 實作道德 AI 管理

模式

要尋找的位置良好的外觀
Einstein | 訓練資料✅ 在訓練預測模型之前,會先稽核 Salesforce CRM 資料以找出人口統計表示差異和測量不一致
Einstein | 訓練資料✅ 由客戶人口統計分析歷程記錄轉換資料,以識別需要過度取樣或其他資料收集的呈現不足區段
Einstein | 部署✅ 在預測模型到達生產環境前,將公平性評估視為與安全性審查等同的必要門
Einstein | 部署✅ 在部署前,系統會計算受保護群組的人口統計同等、機會相等和不同的影響率
Einstein | 部署✅ 在模型部署之前,系統會根據四五分之一規則 (80% 值) 評估公平度度量,作為篩選觸發 (而非法律通過/失敗條列)
Einstein Discovery | 儀器✅ 預測模型決策資料 (預估輸入、輸出和模型版本) 會透過 Einstein Discovery 和自訂儀器驗證,以啟用偏差偵測
CRM Analytics | 監視✅ CRM Analytics 顯示面板會分析在一段時間內跨人口統計群組中針對決策模式採取的預測模式決策資料
CRM Analytics | 監視✅ 當人口統計相等或等同機會度量漂移超出可接受的值時,會觸發 CRM Analytics 警示
Einstein | 功能工程✅ 所有預測模型功能都會使用統計方法分析與受保護特性的關聯性
Einstein | 功能工程✅ 會針對人口統計關聯性識別並評估 Proxy 功能 (區域範圍、郵遞區號、帳戶名稱模式、活動時間點、裝置類型)
Einstein | 功能工程✅ 評估預測值是否在儘管具有 Proxy 影響,仍會將 Proxy 功能移除或轉換

反模式

要尋找的位置看起來怎麼壞
Einstein | 訓練資料⚡️ 商機評分會根據 10 年歷史資料進行訓練,而不會檢查人口統計表示或服務品質差異
Einstein | 訓練資料⚡️ 系統會直接使用歷程記錄轉換資料,而無須稽核不同人口群體是否接受不同的處理
Einstein | 部署⚡️ Einstein 功能僅會根據整體準確度量部署,而不會進行公平性評估
Einstein | 部署⚡️ 在生產部署之前不會計算人口統計同等或不同的影響率
Einstein | Trust 圖層⚡️ 部署 Agentforce 互動時,無須啟用 Trust 層稽核捕捉以進行偏差偵測
CRM Analytics | 監視⚡️ 決策模式不會隨著時間由人口統計群組追蹤;偏差漂移不會被偵測到
Einstein | 功能工程⚡️ 系統會從訓練資料中移除受保護的特性,假設這會自動消除偏差
Einstein | 功能工程⚡️ 區域範圍、郵遞區號和帳戶名稱模式會作為沒有 Proxy 關聯性分析的功能使用
Einstein | 功能工程⚡️ 作為完美人口統計 Proxy 功能的 Proxy 功能會保留,而不會評估替代項目

模式

要尋找的位置良好的外觀
Agentforce | Analytics✅ CRM Analytics 顯示面板使用 Einstein Trust Layer 稽核資料,依客戶人口統計追蹤 Agentforce 決策結果
Agentforce | Analytics✅ 批准率、服務回應時間、升級率和滿意度分數會依人口統計群組分層監控
Agentforce | Analytics✅ 設定 CRM Analytics 警示為在公平度量違反定義的值,需要調查時觸發
Agentforce | 事件監視✅ 將「事件監視」記錄路由至外部 SIEM,以長期保留超過原生保留限制
Agentforce | 事件監視✅ SIEM 查詢可識別特定使用者族群的負面成果異常集中情況
Agentforce | 現場稽核追蹤✅ 在儲存 Agentforce 決策資料的自訂物件上啟用「欄位稽核追蹤」,無限期保留已歸檔歷程記錄,直到刪除為止
Agentforce | 現場稽核追蹤✅「欄位稽核追蹤」支援需要重建歷程記錄 AI 決策的長期公正稽核和法規調查
CRM Analytics | 監視✅ CRM Analytics 顯示面板可追蹤公平性訊號:決策分佈的突然變更、與偏差相關的「個案」中的高峰、特定族群的績效降低
CRM Analytics | 監視✅ 當任何客戶區段的批准率逐週下降超過 15% 時會觸發警示,這需要進行公平調查

反模式

要尋找的位置看起來怎麼壞
Agentforce | Analytics⚡️ 決策結果不會由人口統計追蹤;由於資料散佈排班,則不會偵測到偏差漂移
Agentforce | Analytics⚡️ 服務品質度量並未依人口統計群組分層;不同成果保持不可見
Agentforce | 事件監視⚡️ 事件監視記錄依賴不含外部 SIEM 的原生保留限制進行長期公平性稽核
Agentforce | 事件監視⚡️ 不會分析大量互動的決策模式;會忽略異常的濃度
Agentforce | 現場稽核追蹤⚡️「欄位稽核追蹤」未啟用;無法為監管調查重新建構歷程記錄 AI 決策
CRM Analytics | 監視⚡️ 不監視公正性訊號;決策分佈的突然變更會被忽略

模式

要尋找的位置良好的外觀
Einstein | 訓練資料✅ Salesforce CRM 資料會在訓練前透過過多取樣呈現的區段或過低取樣呈現的區段來重新平衡
Data 360 | 結構✅ Data 360 會彙總多個組織的資料,以確保預測模型的各種訓練集
Einstein | 訓練資料✅ 合成資料產生可補充稀有區段,同時透過不同的隱私權技術來維護隱私權
Einstein | 功能工程✅ 以替代功能取代 Proxy 功能,提供沒有人口統計關聯的預測能力
Einstein | 功能工程✅ 當區域範圍作為人口統計 Proxy 時,會使用行業分類或公司大小,而非區域範圍
Einstein | 功能工程✅ 當名稱與人口統計相關聯時,會使用字首圖形屬性來取代帳戶名稱模式
Agentforce | 後續處理✅ 系統會在模型訓練後針對每個人口統計區段進行調整,以平衡成果率,但在美國,第 VII 章 (《1991 年公民權利法案》) 禁止針對與就業相關的決策調整受保護類別的評分或裁切,而其他管轄區則強制執行自己的限制
Agentforce | 後續處理✅ 使用相同的基本預測模型時,會針對不同情況使用不同的信賴值達成公平的批准率
Agentforce | 後續處理✅ 在美國,沒有任何文件會將每個群組分數或截止調整設定為在第七標題下與就業相關的決策合法,同時會記錄有差別處理的業務理由。
Einstein | 模型重新訓練✅ 建立每季或以事件為導向的重新訓練排程,以找出新興的偏差模式並更正原始公平基準的漂移
Einstein | 模型重新訓練✅ 在生產部署前,會重新驗證每個模型版本的公平度量,以確保重新訓練不會導致新的偏差

反模式

要尋找的位置看起來怎麼壞
Einstein | 訓練資料⚡️ 訓練資料會直接使用,而不會重新平衡呈現不足或呈現過多區段
Einstein | 訓練資料⚡️ 少量人口統計區段未補充合成資料或跨組織彙總
Einstein | 功能工程⚡️ 保留 Proxy 功能,而不評估替代功能,提供預測能力且不含人口統計關聯性
Agentforce | 後續處理⚡️ 所有人口統計區段都會套用相同的信賴等級,但不會平均成果率
Agentforce | 後續處理⚡️ 藉由上限調整的差異處理缺乏經過記錄的業務理由,或在美國,完全適用於與就業相關的決定,其中第七章禁止依受保護類別調整分數或裁切,無論文件為何
Einstein | 模型重新訓練⚡️ 已部署模型,且永不重新訓練;新增的偏差模式和漂移不會遭到更正
Einstein | 模型重新訓練⚡️ 重新訓練會在未重新驗證公平度量的情況下進行;系統會無聲引進新的偏差

模式

要尋找的位置良好的外觀
Einstein Discovery | UX✅ Einstein Discovery 說明顯示在決策時,預估因素會呈現在 Lightning 元件中
Einstein Discovery | UX✅ 說明會顯示哪些變數最能影響特定預估,並對決策點的使用者產生方向影響
Einstein Discovery | UX✅ 系統會為不同的受眾分層說明:業務使用者、技術使用者、客戶和稽核員
Einstein Discovery | UX✅ 業務使用者看見「由於年度收入超過 $1 百萬,且參與分數位於前 10%」
Einstein Discovery | UX✅ 技術使用者可看見具有功能加權、訓練資料特性和驗證度量的模型卡片
Einstein Discovery | UX✅ 客戶會看到「此建議是根據您最近購買的產品和具有類似偏好設定的客戶」
Einstein Discovery | UX✅ 稽核員可透過模型版本、輸入值和驅動預估的因素,查看 Einstein Discovery 與模型管理員的完整決策歷程
Einstein Discovery | UX✅ 預估信賴會以使用者適當的詞彙顯示為種類 (高度信賴、仲裁信賴、需要檢閱),並包含說明
Einstein Discovery | UX✅ 信賴種類說明對決策可靠性的信賴等級為何,以及將會發生哪些額外審查

反模式

要尋找的位置看起來怎麼壞
Einstein Discovery | UX⚡️ 說明會在部署後改為適用於不透明系統,而非從一開始就建立結構的可解釋性
Einstein Discovery | UX⚡️ 預估說明需要瀏覽才能分隔 CRM Analytics 顯示面板,而非在決策點顯示
Einstein Discovery | UX⚡️ 當決策影響使用者時,使用者會看到抽象模型效能度量,而非透明說明
Einstein Discovery | UX⚡️ 說明不會因受眾而有所不同;技術模型卡片會向客戶或業務使用者顯示
Einstein Discovery | UX⚡️ 原始預估分數 (0.73) 會顯示,且不會說明數字代表什麼或哪些因素促成預估
Einstein Discovery | UX⚡️ 信賴會顯示為使用者錯誤解譯的機率百分比,而無關可靠性或檢閱的內容

模式

要尋找的位置良好的外觀
Einstein | Trust 圖層✅ Einstein Trust 圖層會自動記錄提示、回應、奠基來源和 Trust 訊號,無須自訂儀器
Einstein | Trust 圖層✅ 資料保留原則是依行業和管轄區而異的結構化法規需求 (例如,FINRA 規則 4511(b) 設定預設六年保留期間,而 HIPAA 要求合規性文件至少六年)
CRM Analytics | 監視✅ CRM Analytics 顯示面板會分析在一段時間內針對決策模式、公平度度量和模型效能所收集的預測模式決策資料
CRM Analytics | 監視✅ CRM Analytics 透鏡會依信賴層級、人口統計區段和成果類型顯示預估分佈
CRM Analytics | 監視✅ Einstein Discovery 情節會識別需要調查的異常模式
平台 | 現場稽核追蹤✅ 系統會在自訂物件上啟用「欄位稽核追蹤」,該自訂物件會儲存 AI 決策資料、無限期保留已歸檔歷程記錄,直到針對同意記錄刪除、覆寫決策和偏差報告為止
平台 | 事件監視✅「事件監視」會捕捉 Agentforce 對話文字記錄、工具叫用和決策點
平台 | 事件監視✅ 透過「平台事件」將「事件監視」記錄路由至外部 SIEM 以進行偽造的儲存
平台 | 事件監視✅ SIEM 查詢會在大量 Agentforce 互動之間偵測偏差模式

反模式

要尋找的位置看起來怎麼壞
Einstein | Trust 圖層⚡️ 部署 Agentforce 互動時,無須啟用 Trust Layer 稽核摘要或定義保留原則
Einstein | Trust 圖層⚡️ 保留原則不會考量產業特定的法規需求 (財務服務、醫療照護)
CRM Analytics | 監視⚡️ 系統不會分析預測模型決策資料;不會追蹤隨時間的決策模式和公平度度量
平台 | 現場稽核追蹤⚡️ AI 決策稽核追蹤依賴標準 18 個月的欄位歷程記錄,而不考量法規保留需求
平台 | 現場稽核追蹤⚡️ 不會在具有同意記錄、覆寫決策和偏差報告的物件上啟用「欄位稽核追蹤」
平台 | 事件監視⚡️ 事件監視記錄依賴不含外部 SIEM 的原生保留限制,以進行不易篡改的長期儲存
平台 | 事件監視⚡️ Agentforce 互動記錄不會分析大量之間的偏差模式

模式

要尋找的位置良好的外觀
監管 | 歐盟 AI 法案✅ 高風險 AI 系統會使用透明度文件、技術文件、人力監督功能,以及準確度/公正度量進行記錄
監管 | 歐盟 AI 法案✅ Einstein Trust Layer 稽核追蹤和 Discovery 模型卡提供歐盟 AI Act 透明度需求的基礎
監管 | 歐盟 AI 法案✅ 模型訓練資料人口統計、驗證方法和已知限制會記錄在結構決策記錄中
監管 | GDPR✅ 系統會在資料主體存取要求時間範圍內依需求產生任何歷程記錄決策的一致說明 (會因管轄區而異,介於 15 到 45 天之間)
監管 | GDPR✅ 系統會以足夠的保留方式儲存所獲取的預測模型決策資料和 Einstein Discovery 描述因素,以便針對 GDPR 解釋權重建解釋
監管 | 演算法責任✅ 在將後續 AI 部署為主動合規之前,會先執行演算法影響評估,而非反應性回應
監管 | 演算法責任✅ 採取的預測模式決策資料與 CRM Analytics 公平監視顯示面板提供演算法責任報告的資料基礎

反模式

要尋找的位置看起來怎麼壞
監管 | 歐盟 AI 法案⚡️ 部署高風險 AI 系統沒有透明度文件、人力監督功能或公平度量
監管 | 歐盟 AI 法案⚡️ 結構決策記錄中未記錄模型訓練資料人口統計與已知限制
監管 | GDPR⚡️ 系統無法針對 GDPR 資料主體存取要求時間範圍內的歷程記錄決策產生一致的說明
監管 | GDPR⚡️ 已獲取的預測模式決策資料保留不足以支援過去決策的說明重建
監管 | 演算法責任⚡️ 系統不會在後續 AI 部署之前執行演算法影響評估;在監管調查後,規範會具有反應性

模式

要尋找的位置良好的外觀
平台 | OWD✅ 私人組織範圍預設值會針對包含敏感客戶資料且透過角色階層與共用規則授與存取權的物件建立
平台 | OWD✅ 具有明確共用授與的私人 OWD 可建立可稽核的存取模式,以支援非歧視合規性
平台 | 欄位級安全性✅ 包含受保護特性的敏感欄位 (族群、宗教、身心障礙狀態) 會透過 FLS 對沒有合法業務需求的使用者隱藏
平台 | 欄位級安全性✅ 敏感欄位的讀取存取權會透過 FLS 移除大多數設定檔;存取權會透過具有記錄理由的權限集授與最少數
平台 | 指派與路由✅ 根據目標條件,將工作平均分配到區域範圍、小組和服務工作人員之間的指派規則和 Omni-Channel 路由
平台 | 共用規則✅ 自動共用規則以目標條件 (行業、地理位置、產品線) 為基礎,而非主觀經理的決定權
平台 | 權限集✅ 透過已記錄到期的權限集 (而非永久設定檔修改) 授與敏感資料的暫時存取權
平台 | 權限集✅ 當需要特定專案存取人口統計資料時,排程流程會在定義的期間後自動撤銷權限集

反模式

要尋找的位置看起來怎麼壞
平台 | OWD⚡️ 公用「讀取/寫入 OWD」可讓限制存取權稍後產生中斷 (縮小預設值會觸發共用重新計算);沒有可稽核的存取模式
平台 | OWD⚡️ 帳戶 OWD 設定為「公用讀/寫」,所有使用者皆可看見未受保護的人口統計欄位,並啟用主觀偏差
平台 | 欄位級安全性⚡️ 不含 FLS 限制的所有設定檔皆可看見敏感人口統計欄位;無法防止歧視性資料使用
平台 | 共用規則⚡️ 手動共用會將高價值機會與特定使用者群組集中,而無須記錄的業務理由
平台 | 共用規則⚡️ 共用規則依賴主體經理的任意決定權,而非實現偏差的目標條件
平台 | 權限集⚡️ 設定檔會永久修改,影響所有使用者,而非透過權限集授與暫時存取權
平台 | 權限集⚡️ 授與敏感資料存取權的權限集不會自動到期;存取權會在專案完成後無限期保留

模式

要尋找的位置良好的外觀
Shield | 事件監視✅ Shield 事件監視可追蹤包含受保護特性或敏感性屬性的欄位存取權
Shield | 事件監視✅ 事件監視查詢會追蹤存取人口統計欄位的人員、偵測異常模式的時間和內容
Shield | 事件監視✅ 異常的存取模式 (突然高峰、非預期使用者存取) 會觸發潛在誤用調查
平台 | 報告✅ 報告會分析共用規則如何在使用者、小組和區域範圍之間散佈記錄,並依客戶人口統計資料計算散佈統計資料
平台 | 報告✅ 報告會識別特定使用者群組在沒有記錄理由的情況下收到對重要記錄不成比例存取權的集中情況
平台 | 設定稽核追蹤✅ 設定稽核追蹤會檢閱 OWD 設定、共用規則、FLS 組態和偵測未經授權變更的權限集變更
平台 | 交易安全性✅ 交易安全性原則會對高風險的「即時事件監視」事件採取動作 (API 活動異常、可疑登入、敏感資料的大量匯出);FLS 和共用變更依賴「設定稽核追蹤」和已記錄的變更管理批准

反模式

要尋找的位置看起來怎麼壞
Shield | 事件監視⚡️ 不會監控敏感人口統計欄位的存取權;潛在的濫用無法偵測到
Shield | 事件監視⚡️ 不會追蹤或調查異常的存取模式 (高峰、非預期使用者)
平台 | 報告⚡️ 共用規則散佈未分析;對重要記錄的存取權不相比例會保持不見
平台 | 報告⚡️ 具有特定使用者群組的高價值帳戶集中情況缺乏經過記錄的業務理由
平台 | 設定稽核追蹤⚡️ 未檢閱「設定稽核追蹤」,無法偵測啟用敏感資料存取權之資料存取控制項的未授權變更
平台 | 交易安全性⚡️ 不會使用「交易安全性」原則來處理高風險即時事件監視事件 (API 活動異常、大量匯出敏感資料)

模式

要尋找的位置良好的外觀
平台 | 自訂物件✅ 透過自訂「同意」物件追蹤用途、授與日期/方法、提取日期,以及相關的「使用者/連絡人識別碼」來啟用每個 AI 使用個案的細微同意
平台 | 自訂物件✅ 客戶同意 Einstein 產品建議,同時透過每個使用個案的個別同意記錄拒絕 AI 驅動的信用決策
平台 | 現場稽核追蹤✅ 針對長期保留符合法規需求的「同意」物件啟用「欄位稽核追蹤」
Data 360 | 同意✅ Data 360 同意管理用於 Einstein 個人化功能,可透過對應至「隱私權資料模型」的連接器,從區隔和啟用時取用並儲存同意偏好設定,並將其作為篩選條件使用
Data 360 | 同意✅ 同意種類會對應至特定的 AI 使用個案,讓使用者在維護核心服務時可以選擇退出個人化
Marketing Cloud | 同意✅ 遵循訂閱狀態,Marketing Cloud 同意會與 Einstein 傳訊洞察和 Agentforce 行銷工作人員整合
Marketing Cloud | 同意✅ 在 Agentforce 啟動自動拓展之前,會查詢 Marketing Cloud 同意狀態,以防止不想要與選擇退出的使用者連絡

反模式

要尋找的位置看起來怎麼壞
平台 | 自訂物件⚡️ AI 同意會在試算表中追蹤,或依賴登入作為不含明確記錄的隱含總體同意
平台 | 自訂物件⚡️ 使用「遮蔽式 AI」同意,而非細微的各使用個案同意;使用者無法選擇退出特定 AI 功能
平台 | 現場稽核追蹤⚡️ 未在「同意」物件上啟用「欄位稽核追蹤」;不會維護長期保留會議法規需求
Data 360 | 同意⚡️ Data 360 同意不用於 Einstein 個人化;同意種類不會對應至特定使用個案
Marketing Cloud | 同意⚡️ Marketing Cloud 同意未與 Einstein 或 Agentforce 整合;自動拓展中不會遵循訂閱狀態

模式

要尋找的位置良好的外觀
Experience Cloud | 設定檔設定✅ 使用者透過 Experience Cloud 設定檔設定或具有明確描述的「我的設定」中的可存取偏好設定控制來選擇退出 Agentforce 互動
平台 | 使用者/連絡人記錄✅ AI 偏好設定會儲存在「使用者」或「連絡人」記錄中,以在「流程」與 Agentforce 決策邏輯中啟用查詢
Agentforce | Omni-Channel✅ 選擇退出 Agentforce 的使用者會透過 Omni-Channel 路由至人工工作人員,而不會收到降級服務
Agentforce | 流程✅ 流程會在 Agentforce 參與前檢查同意和偏好設定欄位;如果使用者已選擇退出,則會建立工作記錄並路由至人力排隊
Agentforce | Omni-Channel✅ 人力排班人員為選擇退出的使用者提供與自動服務相似的等待時間
平台 | 使用者/連絡人記錄✅ AI 偏好設定會儲存在「使用者」或「連絡人」記錄中,以確保管道之間的一致性 (網路、行動、電話、電子郵件)
平台 | 流程✅ 在所有互動流程中一致查詢偏好設定,以防止使用者在每個管道重複判斷偏好設定

反模式

要尋找的位置看起來怎麼壞
Experience Cloud | 設定檔設定⚡️ 選擇退出僅可透過電子郵件傳送給支援小組;無可存取的偏好設定控制項不存在
平台 | 使用者/連絡人記錄⚡️ AI 偏好設定不會儲存在「使用者」或「連絡人」記錄中;無法在「流程」或 Agentforce 邏輯中查詢偏好設定
Agentforce | Omni-Channel⚡️ 選擇退出的使用者會收到降級的服務,作為隱含的壓力來接受 AI,而非路由至人力工作人員
Agentforce | 流程⚡️ 流程不會在 Agentforce 參與前檢查同意或偏好設定欄位;會忽略選擇退出偏好設定
平台 | 使用者/連絡人記錄⚡️ 管道的偏好設定不一致,使用者必須分別在 Web、行動、電話和電子郵件上重新判斷選擇退出

模式

要尋找的位置良好的外觀
監管 | 文件✅ 每個生產預測模型都會以訓練資料人口統計、公平度量、預期使用個案、偏差降低策略和監視方法來記錄
監管 | 文件✅ 模型文件包含公平監視方法、警示值、人力監督需求、檢閱排程和法規考量事項
平台 | 自訂物件✅ 模型文件會使用自訂模型物件或附加至專案的 Salesforce Files 來儲存在 Salesforce 中,以啟用可搜尋性和版本控制
監管 | 部署門✅ 部署前的公平性門需要在生產前進行訓練資料稽核、公平性度量計算、影響評估、人力監督設計和透明度審查
監管 | 部署門✅ 系統會分析訓練資料呈現差距並將其記錄為必要部署門
監管 | 部署門✅ 人口統計相等、機會相等和影響不相等,會將已計算的達成等級計算為必填門
監管 | 部署門✅ 影響評估會評估受影響人口之間的潛在損害作為強制性門戶
監管 | 部署門✅ 人力監督設計 (包括升級模式、批准工作流程和覆寫機制) 會設計並測試為必要門
監管 | 部署門✅ 將所有決策類型的說明功能驗證為必要門
監管 | 部署門✅ 與具有權限可封鎖任何失敗之部署的安全性門相同嚴格地處理公平性門

反模式

要尋找的位置看起來怎麼壞
監管 | 文件⚡️ Einstein 功能會在未記錄訓練資料、公平度量、偏差緩解或監視方法的情況下部署
監管 | 文件⚡️ 模型文件不包含公平監視方法、人力監督需求或法規考量事項
平台 | 自訂物件⚡️ 模型文件儲存在試算表或維基百科中,沒有可搜尋或版本控制
監管 | 部署門⚡️ Einstein 功能會繼續生產,而不含公平性門;部署僅以整體準確度度量為基礎
監管 | 部署門⚡️ 訓練資料稽核、公平度量計算或影響評估會在生產部署前略過
監管 | 部署門⚡️ 人力監督設計、透明度檢閱或說明驗證不會在生產之前執行
監管 | 部署門⚡️ 公平性門僅供諮詢使用,沒有權限可封鎖部署;儘管公平性條件失敗,模型仍會繼續進行

模式

要尋找的位置良好的外觀
監管 | 檢閱板✅ 檢閱委員會包含技術專家 (建築師、資料科學家)、業務專案關係人、法律顧問、隱私權專家,以及受影響社群的代表
監管 | 檢閱板✅ 多元觀點呈現公平性問題 同步群組在道德審查期間會遺漏
監管 | 檢閱觸發✅ 檢閱觸發會定義:影響就業/信用/住房/醫療照護/法律權利的決策、每年影響 > 10,000 名使用者的系統、新使用個案、顯著損害風險
監管 | 檢閱觸發✅ 使用敏感個人資料 (健康、財務、人口統計) 的 AI 應用程式在部署前需要道德審查
監管 | 審查授權機構✅ 道德審查委員會有權要求變更、強制執行監視條件,或封鎖不符合道德標準的部署
平台 | 自訂物件✅ 所有審查都會記錄在 Salesforce 自訂物件追蹤應用程式名稱、審查日期、提出的疑慮、緩解需求和批准條件中

反模式

要尋找的位置看起來怎麼壞
監管 | 檢閱板⚡️ 檢閱委員會缺乏多元性 (僅限技術專家);統一群組缺少影響不同族群的公平性問題
監管 | 檢閱板⚡️ 不包括來自受影響社群的代表;公平性考量事項會造成盲點
監管 | 檢閱觸發⚡️ 未定義檢閱觸發;高風險 AI 應用程式在部署前會在未經道德審查的情況下繼續進行
監管 | 審查授權機構⚡️ 道德審查僅為諮詢審查,但不強制執行;儘管道德標準失敗,仍會繼續部署 (責任主題)
平台 | 自訂物件⚡️ 審查並未系統記錄;不會追蹤歷程記錄審查決策、疑慮與緩解措施

模式

要尋找的位置良好的外觀
CRM Analytics | 監視✅ CRM Analytics 顯示面板可追蹤已排程步調中,從採取的決策資料和 Trust Layer 稽核資料中 Einstein 和 Agentforce 公正度量。
CRM Analytics | 監視✅ 人口統計相等、機會相等、不同的影響率和服務品質度量由客戶區段監視
CRM Analytics | 監視✅ 設定 CRM Analytics 警示為在公平度量違反定義的值,需要調查時觸發
CRM Analytics | 監視✅ CRM Analytics 顯示面板可追蹤公平性訊號:決策分佈的突然變更、與偏差相關的「個案」中的高峰、特定族群的績效降低
CRM Analytics | 監視✅ 當任何區段的批准率逐週下降超過 15% 時,Einstein 機會評分會觸發警示,這需要公平性調查
監管 | 已排程稽核✅ 高利息 AI (信用、就業、醫療照護) 的全方位公平性稽核每季執行一次,低利息系統則每半年執行一次
監管 | 已排程稽核✅ 稽核會檢查目前的公平度量、檢閱覆寫模式、分析使用者回饋意見和偏差報告,並驗證管治控制保持有效
監管 | 事件回應✅ 在 Salesforce Knowledge 中記錄清除事件回應流程,以在偵測到偏差時回應
監管 | 事件回應✅ 透過在 CRM Analytics 中查詢預測模式決策資料,立即嚴重性評估;嚴重偏差會暫停自動化決策待調查
監管 | 事件回應✅ 暫時緩解會透過調整後的信賴等級、功能停用或完全暫停工作人員來實作人力監督
監管 | 事件回應✅ 根原因分析可識別偏差的進入或演進方式;系統會透過欄位稽核追蹤分析訓練資料、模型版本和組態變更
監管 | 事件回應✅ 永久修復會透過適當的通訊與受影響的使用者實作資料修正、模型重新訓練或流程變更
監管 | 事件回應✅ 預防措施會記錄在防止偏差事件循環的執行手冊中

反模式

要尋找的位置看起來怎麼壞
CRM Analytics | 監視⚡️ 不會追蹤任何已排程步調的公平度度量,這些度量會來自從所獲取的決策資料或 Trust 層稽核資料中取得;由於資料分佈變更,則不會偵測到偏差漂移
CRM Analytics | 監視⚡️ 不會設定 CRM Analytics 警示;不會觸發需要調查的公平度量缺口
CRM Analytics | 監視⚡️ 不會監視公正性訊號;不會偵測決策分佈的突然變更
監管 | 已排程稽核⚡️ 未依照任何排程執行全面的公平性稽核;監管會控制漂移並變成無效
監管 | 已排程稽核⚡️ 稽核期間不會系統分析覆寫模式、使用者回饋意見和偏差報告
監管 | 事件回應⚡️ 未記錄清楚的事件回應流程;偏差偵測會導致特殊回應而無需系統方法
監管 | 事件回應⚡️ 不會系統實作暫時緩解或永久補救措施;偏差會持續影響使用者
監管 | 事件回應⚡️ 未執行根本原因分析;未知偏差如何進入或演進
監管 | 事件回應⚡️ 未記錄預防措施;不會防止重複

模式

要尋找的位置良好的外觀
平台 | 必要欄位✅ 每個必要欄位都包含文件化業務理由,說明資料為強制性而非選用性;流程無法運作的欄位會透過下游處理遺漏值來選擇性處理
平台 | 必要欄位✅ 電子郵件是選擇性的,其他通訊方法 (SMS、電話、郵寄) 是選擇性的,因此沒有可靠網際網路或個人電子郵件的使用者不會從建立帳戶中排除
平台 | 名稱欄位✅ 名稱結構使用單一全名欄位或彈性多部分結構,以容納單一名稱、父系名稱系統,以及多個指定或系列名稱,而不假設順序或繼承
平台 | 名稱欄位✅ 使用多種國際名稱測試「名稱」欄位,接受單字名稱、長名、對號、寄號、連字號和非拉丁文字 (阿拉伯文、中文、西里爾文、德瓦納加里)
平台 | 地址驗證✅ 結構化驗證失敗時,允許的地址驗證會接受任意格式的輸入,並在使用者輸入時儲存地址,而非強制執行無效的修正
平台 | 地址驗證✅ 地址驗證內建在履行流程中,其中的準確性在作業上很重要,而不是預先封鎖資料擷取
平台 | 通訊偏好設定✅ 偏好的通訊方法會儲存在「連絡人」記錄上,並在所有輸出系統中一致遵循,提供全管道替代方式,而非單一管道假設
自訂物件 | 人口統計資料✅ 自願人口統計資料透過具有「偏好不回答」選項的個別調查收集,儲存在具有私人 OWD 的自訂物件中,受到 FLS 的限制,且僅用於彙總公正性分析
Shield | 事件監視✅ Shield 事件監視會記錄對人口統計資料的存取事件 (報告匯出、API 物件查詢),以稽核存取模式
平台 | 第三方增強✅ 第三方增強廠商在實作前會進行公平性測試、人口統計涵蓋範圍和準確性、推斷方法和合約資料使用限制的稽核

反模式

要尋找的位置看起來怎麼壞
平台 | 必要欄位⚡️ 沒有替代方式的帳戶建立需要電子郵件,且電話或地址驗證會拒絕非美國格式、郵政信箱和鄉村路線,不包括無法提供資料的使用者
平台 | 必要欄位⚡️ 欄位會標記為必要,而不會記錄流程是否可以在沒有資料的情況下運作,從拒絕的未完成記錄中建立不可見的人口
平台 | 名稱欄位⚡️ 名稱欄位會強制執行「西部第一個/最後一個」慣例,並拒絕單數字、對號碼或非拉丁語的指令碼,使使用者受到基於文化身分的系統拒絕
平台 | 地址驗證⚡️ 地址驗證需要美國郵寄格式,且無法識別國際地址、郵政信箱、軍事 (APO/FPO) 或部落國家/地區地址,進而封鎖建立帳戶和提供服務
平台 | 通訊偏好設定⚡️ 單一通訊管道會被視為通用 (僅限電子郵件或僅限電話),不包括沒有網際網路、沒有電話存取權,或是有聽力問題或聽力困擾的使用者
自訂物件 | 人口統計資料⚡️人口統計資料會從沒有使用者 Knowledge 的名稱或位置推斷、儲存在所有使用者可見的標準「連絡人」欄位中,並在不揭露的情況下用於商機評分或預測
平台 | 第三方增強⚡️ 附加第三方資料,而不稽核廠商公平性作法或人口統計範圍,將廠商導入的偏見匯入組織決策

模式

要尋找的位置良好的外觀
平台 | 指派與路由✅ 指派與路由規則使用目標條件 (產品線、SLA、語言需求),指派分佈會每季進行稽核,並依客戶人口統計分層,以確保不會出現任何集中模式
平台 | Omni-Channel✅ 系統會在整個路由路徑上監控平均處理時間、第一次連絡人解決率和客戶滿意度,以偵測客戶區段是否會系統接收經驗較低的工作人員
平台 | 流程✅ 執行後續決策的流程會檢閱與受保護特性 (帳戶留存時間、管道偏好設定、購買歷程記錄、營業時間) 相關聯的條件,且其決策邏輯會記錄在結構決策記錄中
平台 | 流程✅ 影響就業、信用或服務存取權的高利潤流程會受限於與 AI 系統相同的道德審查流程
平台 | 驗證規則✅ 驗證規則會使用各種資料 (國際地址、非西方名稱、替代電話格式) 進行測試,並在拒絕合法資料時展開;名稱欄位接受 Unicode 和所有指令碼
平台 | 區域範圍設計✅ 在設計完成前,系統會在提議的區域範圍邊界之間對應客戶人口統計;當集中情況出現時,系統會評估資源配置是否公平,並記錄和監視業務理由
平台 | 稽核✅ 自動化邏輯 (業務規則、指派條件、流程決策) 會記錄在 Salesforce Knowledge 或 ADR 中,並以人口統計分類 (指派分佈、流程批准率、驗證拒絕率和區域範圍資源配置) 來每季度稽核成果

反模式

要尋找的位置看起來怎麼壞
平台 | 指派與路由⚡️ 指派規則會根據歷程記錄成交率,將商機從特定郵遞區號排列為「績效優良」的優先順序,而不會檢查成功是否反映技能或人口統計優勢
平台 | Omni-Channel⚡️ 不會在客戶區段之間監視路由品質度量,因此不會偵測工作人員體驗或解決率的差異
平台 | 流程⚡️ 流程決策條件與受保護的特性 (持有權、管道、購買量、時區) 相關聯,且會視為目標,因為決定性邏輯感覺中立
平台 | 流程⚡️ 高利潤流程會針對一般客戶設定檔以外的使用者做出後續決策,而無需道德審查、 ADR 文件或處理
平台 | 驗證規則⚡️ 名稱驗證僅限於 A-Z,並拒絕對應字詞或非拉丁字母指令碼,且地址驗證需要美國郵寄格式—會拒絕合法資料,且使用者會捨棄未回報的要求
平台 | 區域範圍設計⚡️ 區域範圍邊界遵循與人口統計相關的地理位置,區域範圍的薪資或員工配置不同,且沒有人口統計集中性的分析
平台 | 稽核⚡️ 自動化邏輯未記錄,且不會稽核成果,因此在指派、批准、驗證或區域範圍配置中會保持不見的歧視模式