AI の倫理とガバナンス - パターン

適切に構築された公平性の詳細を見る → 倫理的なAIガバナンスの実践

パターン

参照すべき場所外観
Einstein | トレーニングデータ✅ 予測モデルをトレーニングする前に、Salesforce CRM データのデモグラフィック表現のギャップとメジャメントの不一致が監査されます。
Einstein | トレーニングデータ✅ コンバージョン履歴データは、顧客のデモグラフィックによって分析され、オーバーサンプリングや追加のデータ収集が必要な過少なセグメントを特定します。
Einstein | 導入✅ 公正性評価は、予測モデルが本番に到達する前のセキュリティレビューと同等の必須ゲートとして扱われます。
Einstein | 導入✅ リリース前に保護対象グループ全体で人口統計学的同等性、均等な商談、異種影響率が計算されます。
Einstein | 導入✅ 公正性評価指標は、モデルのリリース前にすべての顧客セグメントのスクリーニングトリガー (法的な合否判定線ではない) として 5 分の 4 ルール (80% しきい値) に対して評価されます。
Einstein Discovery | 計測✅ 予測モデルの決定データ(予測の入力、出力、モデル バージョン)は、バイアス検出を可能にするEinstein Discoveryとカスタム機器によって取得されます。
CRM Analytics | 監視✅ CRM Analytics ダッシュボードは、取得した予測モデルの決定データを分析して、デモグラフィックグループの経時的な決定パターンを確認します。
CRM Analytics | 監視✅ デモグラフィックの同等性または等しい商談評価指標が許容しきい値を超えた場合に CRM Analytics アラートがトリガーされる
Einstein | 機能エンジニアリング✅ すべての予測モデル特徴が統計手法を使用して保護されている特性との相関関係について分析される
Einstein | 機能エンジニアリング✅ プロキシ機能 (テリトリー、郵便番号、取引先名のパターン、活動のタイミング、デバイス種別) が識別され、デモグラフィックの相関関係が評価される
Einstein | 機能エンジニアリング✅ プロキシ機能が削除または変換される (プロキシ効果にもかかわらず、予測値が包含を正当化するかどうかを評価した後)

アンチパターン

参照すべき場所どんな悪い感じか
Einstein | トレーニングデータ⚠️ リードスコアリングは、デモグラフィック表現やサービス品質の違いを調べることなく、10 年間の履歴データに基づいてトレーニングされます。
Einstein | トレーニングデータ⚠️ コンバージョン履歴データは、異なる人口統計が異なる処理を受けたかどうかを監査せずに直接使用されます。
Einstein | 導入⚠️ Einstein機能は公平性評価を使用せずに全体的な精度評価指標のみに基づいて導入されます。
Einstein | 導入⚠️ 本番リリース前に人口統計学的同等性または異種影響率は計算されません。
Einstein | Trustレイヤー⚠️ Agentforceインタラクションは、バイアス検出のためのTrust Layer監査キャプチャを有効にせずに導入されます。
CRM Analytics | 監視⚠️ 決定パターンは人口統計グループによって経時的に追跡されず、バイアスドリフトが検出されない
Einstein | 機能エンジニアリング⚠️ 保護された特性は、自動的にバイアスが排除されるとトレーニングデータから削除されます。
Einstein | 機能エンジニアリング⚠️ テリトリー、郵便番号、取引先名のパターンがプロキシ相関分析のない機能として使用される
Einstein | 機能エンジニアリング⚠️ 完全なデモグラフィックプロキシとして機能するプロキシ機能は、代替機能を評価せずに保持される

パターン

参照すべき場所外観
Agentforce | Analytics✅ CRM Analyticsダッシュボードは、Einstein Trust Layer監査データを使用して、顧客人口統計別にAgentforce意思決定結果を追跡します。
Agentforce | Analytics✅ デモグラフィックグループ別に承認率、サービス応答時間、エスカレーション率、満足度スコアを監視
Agentforce | Analytics✅ CRM Analytics アラートは、公正性評価指標が調査が必要な定義済みのしきい値を超えた場合にトリガーするように設定されています。
Agentforce | イベント監視✅ イベントモニタリングログは、ネイティブ保持制限を超える長期保持のために外部 SIEM に転送されます。
Agentforce | イベント監視✅ SIEM クエリは、特定のユーザー母集団の否定的な結果の異常な集中を特定します。
Agentforce | 項目監査履歴✅ Agentforce決定データを保存するカスタムオブジェクトで項目監査履歴が有効になり、削除されるまでアーカイブ履歴が無期限に保持されます。
Agentforce | 項目監査履歴✅ 項目監査履歴により、長期的な公正性監査と、過去の AI 判断の再構築が必要な規制調査をサポート
CRM Analytics | 監視✅ CRM Analytics ダッシュボードは、決定分布の急激な変化、バイアス関連のケースの急増、特定の母集団のパフォーマンス低下など、公平性のシグナルを追跡します。
CRM Analytics | 監視✅ 公正性の調査が必要な顧客セグメントの承認率が週 15% 以上減少したときにアラートがトリガーされる

アンチパターン

参照すべき場所どんな悪い感じか
Agentforce | Analytics⚠️ 決定結果はデモグラフィックで追跡されず、データの分布が変化するとバイアスドリフトが検出されなくなる
Agentforce | Analytics⚠️ サービス品質総計値はデモグラフィックグループで階層化されず、異種の結果は表示されない
Agentforce | イベント監視⚠️ イベントモニタリングログは、長期的な公正性監査のために外部 SIEM を使用しないネイティブの保持制限に依存します。
Agentforce | イベント監視⚠️ 大量のインタラクションで決定パターンが分析されない。異常な集中が見落とされる。
Agentforce | 項目監査履歴⚠️ 項目監査履歴が有効になっていません。過去の AI 判断は規制調査のために再構築できません。
CRM Analytics | 監視⚠️ 公平性のシグナルは監視されず、決定分布の急激な変化は気付かれない

パターン

参照すべき場所外観
Einstein | トレーニングデータ✅ トレーニング前に、過少なセグメントのオーバーサンプリングまたは過少なセグメントのアンダーサンプリングによって Salesforce CRM データが再バランシングされる
Data 360 | アーキテクチャ✅ Data 360 は複数の組織のデータを集計し、予測モデルの多様なトレーニングセットを確保します。
Einstein | トレーニングデータ✅ 差分プライバシー技術によりプライバシーを維持しながらスパースセグメントを補完
Einstein | 機能エンジニアリング✅ プロキシ機能は代替機能に置き換えられ、デモグラフィックの相関関係なしで予測パワーが提供されます。
Einstein | 機能エンジニアリング✅ テリトリーがデモグラフィックプロキシとして機能する場合、テリトリーの代わりに業種分類または会社規模が使用される
Einstein | 機能エンジニアリング✅ 名前がデモグラフィックと相関する場合、取引先名のパターンの代わりにフィロソフィー属性が使用される
Agentforce | 後処理✅ 決定しきい値は、モデルトレーニング後に結果率が均等になるように人口統計区分ごとに調整されますが、米国ではTitle VII (1991年公民権法) で雇用関連の決定について保護階級別にスコアやカットオフを調整することが禁止されており、他の法域では独自の制約が課されています。
Agentforce | 後処理✅ 同じ基礎となる予測モデルを使用しながら、公平な承認率を達成するコンテキストごとに異なる信頼性しきい値が使用される
Agentforce | 後処理✅ 米国では、Title VII に基づく雇用関連の決定に対してグループごとのスコアやカットオフ調整を合法的に行うドキュメントが存在しないため、しきい値の調整は差別化処理のビジネス上の理由で文書化されています。
Einstein | モデルの再トレーニング✅ 新しいバイアスパターンを把握し、元の公正性ベースラインからのドリフトを修正する四半期またはイベント駆動型再トレーニングスケジュールを設定
Einstein | モデルの再トレーニング✅ 本番リリース前にすべてのモデルバージョンで公平性評価指標が再検証されるため、再トレーニングで新しいバイアスが発生しません。

アンチパターン

参照すべき場所どんな悪い感じか
Einstein | トレーニングデータ⚠️ トレーニングデータは、過少または過剰なセグメントのバランスを取り直すことなく直接使用されます。
Einstein | トレーニングデータ⚠️ スパースデモグラフィックセグメントは、合成データや組織間集計で補完されません。
Einstein | 機能エンジニアリング⚠️ プロキシ機能は、デモグラフィック相関のない予測機能を提供する代替機能を評価せずに保持されます。
Agentforce | 後処理⚠️ 結果率を均等化せずにすべてのデモグラフィックセグメントに同じ信頼性しきい値が適用される
Agentforce | 後処理⚠️ しきい値調整による差違処理は、文書化されているビジネスの正当性が欠如しているか、米国では、Title VII で文書に関係なく保護対象階層別にスコアやカットオフを調整することが一切禁止されており、雇用関連の意思決定にまったく適用されていません。
Einstein | モデルの再トレーニング⚠️ モデルはリリースされ、再トレーニングされることはありません。新しいバイアスパターンとドリフトは修正されません。
Einstein | モデルの再トレーニング⚠️ 再トレーニングは公正性評価指標を再検証せずに実施され、新しいバイアスが通知なしで導入される

パターン

参照すべき場所外観
Einstein Discovery | UX✅ 予測要素を示すEinstein Discoveryの説明は、決定の時点にLightningコンポーネントに表示されます。
Einstein Discovery | UX✅ 説明により、特定の予測に最も影響した変数と、決定ポイントでのユーザーへの直接的な影響が示されます。
Einstein Discovery | UX✅ 説明は、ビジネスユーザー、テクニカルユーザー、顧客、監査人の利用者ごとに階層化されます。
Einstein Discovery | UX✅ ビジネスユーザーには「このリードは年間売上が 100 万ドルを超え、エンゲージメントスコアが上位 10% に入っているため、高スコアを獲得しました」と表示されます。
Einstein Discovery | UX✅ テクニカルユーザーには、機能加重、トレーニングデータの特性、検証指標が記載されたモデルカードが表示されます。
Einstein Discovery | UX✅ 顧客には「このおすすめは、最近の購入および同様の設定の顧客に基づいています」と表示されます。
Einstein Discovery | UX✅監査人は、Einstein Discoveryとモデル マネージャーから、モデルのバージョン、入力値、予測を促進した要素を含む完全な決定系統を確認できます。
Einstein Discovery | UX✅ 予測の信頼性をカテゴリ ([High Confidence (高信頼性)]、[Moderate Confidence (中信頼性)]、[Needs Review (要レビュー)]) としてユーザーに適した言葉で説明付きで表示
Einstein Discovery | UX✅ 信頼性カテゴリでは、決定の信頼性に対する信頼性レベルの意味と、追加のレビューについて説明します。

アンチパターン

参照すべき場所どんな悪い感じか
Einstein Discovery | UX⚠️ 説明は、アーキテクチャに最初から組み込むのではなく、リリース後に不透明なシステムに改良される
Einstein Discovery | UX⚠️ 予測の説明では、決定ポイントではなく、個別の CRM Analytics ダッシュボードへのナビゲーションが必要です。
Einstein Discovery | UX⚠️ 決定がユーザーに影響を与えると、ユーザーには透過的な説明ではなく抽象的なモデルパフォーマンス評価指標が表示されます。
Einstein Discovery | UX⚠️ 説明は利用者によって変わることはありません。テクニカルモデルカードは顧客またはビジネスユーザーに表示されます。
Einstein Discovery | UX⚠️ 未加工の予測スコア (0.73) は、数値の意味や予測を促進した要素の説明なしで表示されます。
Einstein Discovery | UX⚠️ 信頼性は、信頼性やレビューに関するコンテキストなしでユーザーが誤って解釈した確度として表示されます。

パターン

参照すべき場所外観
Einstein | Trustレイヤー✅ Einstein Trust Layerは、カスタム計測を使用せずにプロンプト、応答、グラウンディング ソース、Trustシグナルを自動的に記録します。
Einstein | Trustレイヤー✅ データ保持ポリシーは、業界や管轄によって異なる規制要件に適合するように設計されています (FINRA ルール 4511(b) ではデフォルトの保持期間が 6 年に設定され、HIPAA ではコンプライアンスドキュメントに 6 年以上必要です)。
CRM Analytics | 監視✅ CRM Analytics ダッシュボードは、取得した予測モデルの決定データを分析して、経時的な決定パターン、公正性評価指標、モデルパフォーマンスを確認します。
CRM Analytics | 監視✅ CRM Analytics レンズで信頼性レベル、デモグラフィックセグメント、結果種別別に予測分布を表示
CRM Analytics | 監視✅ Einstein Discoveryストーリーにより、調査が必要な異常なパターンを特定
プラットフォーム | 項目監査履歴✅ AI 決定データを保存するカスタムオブジェクトで項目監査履歴が有効になり、同意レコード、上書き決定、バイアスレポートで削除されるまでアーカイブされた履歴が無期限に保持される
プラットフォーム | イベント監視✅ イベント監視でAgentforce会話トランスクリプト、ツールの呼び出し、決定ポイントをキャプチャ
プラットフォーム | イベント監視✅ イベントモニタリングログはプラットフォームイベントを介して外部 SIEM に転送され、改ざんが明らかな状態で保存されます。
プラットフォーム | イベント監視✅ SIEMクエリで大量のAgentforceインタラクションのバイアス パターンを検出

アンチパターン

参照すべき場所どんな悪い感じか
Einstein | Trustレイヤー⚠️ Agentforceインタラクションは、Trust Layer監査キャプチャを有効にしたり、保持ポリシーを定義したりせずに導入される
Einstein | Trustレイヤー⚠️ 保持ポリシーは業界固有の規制要件を考慮しない (金融サービス、ヘルスケア)
CRM Analytics | 監視⚠️ 取得した予測モデルの決定データは分析されず、決定パターンと公正性評価指標は経時的に追跡されない
プラットフォーム | 項目監査履歴⚠️ 標準 18 か月の項目履歴は、規制保持要件を考慮せずに AI による意思決定監査履歴に依存します。
プラットフォーム | 項目監査履歴⚠️ 同意レコード、上書き決定、バイアスレポートがあるオブジェクトでは項目監査履歴が有効になっていない
プラットフォーム | イベント監視⚠️ イベントモニタリングログは、改ざんが明らかな長期保存のために外部 SIEM を使用しないネイティブの保持制限に依存します。
プラットフォーム | イベント監視⚠️ Agentforceインタラクションログは、大量のバイアスパターンについて分析されない

パターン

参照すべき場所外観
ガバナンス | EU AI法✅ 透明性ドキュメント、技術ドキュメント、人の監視機能、正確性/公正性評価指標を使用して高リスク AI システムを文書化
ガバナンス | EU AI法✅ Einstein Trust Layer監査証跡とDiscoveryモデル カードは、EU AI法の透明性要件の基盤となります。
ガバナンス | EU AI法✅ モデルトレーニングデータのデモグラフィック、検証方法、既知の制限がアーキテクチャ決定レコードに文書化される
ガバナンス | GDPR✅ データ主体アクセス要求期間 (管轄区域によって異なり、15 ～ 45 日) 内に、オンデマンドで過去の意思決定の一貫した説明が生成されます。
ガバナンス | GDPR✅ 取得した予測モデルの決定データとEinstein Discoveryの説明係数は十分な保存期間で保存されるため、GDPRの説明の権利の再構築が可能になります。
ガバナンス | アルゴリズムの説明責任✅ 事後対応ではなく事前対応型のコンプライアンスとして、結果的 AI をリリースする前にアルゴリズム影響評価を実施
ガバナンス | アルゴリズムの説明責任✅ 取得した予測モデル決定データと CRM Analytics 公正性監視ダッシュボードにより、アルゴリズムによる説明責任レポートのデータ基盤が提供されます。

アンチパターン

参照すべき場所どんな悪い感じか
ガバナンス | EU AI法⚠️ 透明性ドキュメント、人の監視機能、公平性評価指標を使用せずに高リスクの AI システムがリリースされている
ガバナンス | EU AI法⚠️ モデルトレーニングデータのデモグラフィックと既知の制限がアーキテクチャ決定レコードに記載されていない
ガバナンス | GDPR⚠️ GDPR データ主体アクセス要求期間内にシステムで履歴決定の一貫した説明を生成できない
ガバナンス | GDPR⚠️ 取得した予測モデル決定データの保持が、過去の決定の説明の再構築をサポートするには不十分である
ガバナンス | アルゴリズムの説明責任⚠️ アルゴリズムによる影響評価は、AI の順次リリースの前には実施されず、コンプライアンスは規制に関する問い合わせ後に事後対応

パターン

参照すべき場所外観
プラットフォーム | OWD✅ 非公開組織の共有設定は、ロール階層と共有ルールでアクセス権が付与された、顧客機密データを含むオブジェクトに対して設定されます。
プラットフォーム | OWD✅ 明示的な共有許可がある非公開 OWD では、差別のないコンプライアンスをサポートする監査可能なアクセスパターンが作成されます。
プラットフォーム | 項目レベルセキュリティ✅ 保護された特性 (民族、宗教、障害状況) を含む機密項目は、正当なビジネスニーズのないユーザーからは FLS で非表示
プラットフォーム | 項目レベルセキュリティ✅ ほとんどのプロファイルで機密項目への参照アクセス権はFLSを介して削除されます。アクセス権は、文書化されている正当性を持つ権限セットを介して最小限に付与されます。
プラットフォーム | 割り当ておよびルーティング✅ 割り当てルール、キュー、オムニチャネルルーティングにより、目的条件に基づいて作業をテリトリー、チーム、サービスエージェントに均等に配分
プラットフォーム | 共有ルール✅ 自動共有ルールは、マネージャーの主観的な裁量ではなく、客観的な条件 (業種、地域、商品ライン) に基づく
プラットフォーム | 権限セット✅ 機密データへの一時的なアクセス権は、永続的なプロファイル変更ではなく、有効期限が文書化された権限セットを介して付与されます。
プラットフォーム | 権限セット✅ スケジュール済みフローでは、特定のプロジェクトでデモグラフィックデータにアクセスする必要がある場合に、定義された期間後に権限セットが自動的に取り消されます。

アンチパターン

参照すべき場所どんな悪い感じか
プラットフォーム | OWD⚠️ 公開/参照・更新可能 OWD では、アクセスを制限すると後で中断されます (デフォルトを厳格化すると、共有の再適用が実行されます)。監査可能なアクセスパターンが存在しない
プラットフォーム | OWD⚠️ 取引先 OWD が [公開/参照・更新可能] に設定され、保護されていないデモグラフィック項目がすべてのユーザーに表示され、主観バイアスが有効になっている
プラットフォーム | 項目レベルセキュリティ⚠️ 機密のデモグラフィック項目は、FLS 制限なしですべてのプロファイルに表示されます。差別的なデータ使用は防止されません。
プラットフォーム | 共有ルール⚠️ 手動共有では、ビジネス上の正当性が文書化されずに、特定のユーザーグループと価値の高い商談が集中します。
プラットフォーム | 共有ルール⚠️ 共有ルールは、バイアスを有効にする客観的な条件ではなく、マネージャーの主観的な裁量に基づきます。
プラットフォーム | 権限セット⚠️ 権限セットを使用して一時的なアクセス権を付与する代わりに、プロファイルがすべてのユーザーに永続的に変更される
プラットフォーム | 権限セット⚠️ 機密データへのアクセス権を付与する権限セットは自動的に期限切れにならず、プロジェクト完了後もアクセス権は無期限に保持されます。

パターン

参照すべき場所外観
Shield | イベント監視✅ Shield Event Monitoring は、保護された特性または機密属性が含まれる項目へのアクセスを追跡します。
Shield | イベント監視✅ イベントモニタリングクエリは、誰が、いつ、どのようなコンテキストでデモグラフィック項目にアクセスし、異常なパターンを検出したかを追跡します。
Shield | イベント監視✅ 異常なアクセスパターン (突然の急増、予期しないユーザーによるアクセス) により、不正使用の可能性の調査がトリガーされます。
プラットフォーム | レポート✅ レポートでは、ユーザー、チーム、テリトリー間で共有ルールによってレコードがどのように配分されるかを分析し、顧客層別の配分統計を計算します。
プラットフォーム | レポート✅ レポートにより、特定のユーザーグループが文書化された正当性のない貴重なレコードに偏ったアクセス権を持っている集中を特定
プラットフォーム | 監査履歴の設定✅ [設定変更履歴] で、OWD 設定、共有ルール、FLS 設定、権限セットへの変更を確認し、不正な変更を検出します。
プラットフォーム | トランザクションセキュリティ✅ トランザクションセキュリティポリシーは、リスクの高いリアルタイムイベント監視イベント (異常な API 活動、疑わしいログイン、機密データの大量のエクスポート) に対して機能します。FLS と共有の変更は、[設定] 監査履歴と文書化された変更管理承認に依存します。

アンチパターン

参照すべき場所どんな悪い感じか
Shield | イベント監視⚠️ 機密のデモグラフィック項目へのアクセスは監視されず、悪用の可能性が検出されない
Shield | イベント監視⚠️ 異常なアクセスパターン (スパイク、予期しないユーザー) は追跡または調査されない
プラットフォーム | レポート⚠️ 共有ルールの分布は分析されず、貴重なレコードへの不均衡なアクセス権は認識されません。
プラットフォーム | レポート⚠️ 特定のユーザーグループを持つ価値の高い取引先に集中しているため、ビジネス上の正当性が文書化されていない
プラットフォーム | 監査履歴の設定⚠️ [設定変更履歴] はレビューされません。機密データアクセスを有効にするデータアクセス制御への不正な変更は検出されません。
プラットフォーム | トランザクションセキュリティ⚠️ 高リスクのリアルタイムイベントモニタリングイベント (異常な API 活動、機密データの大量のエクスポート) は、トランザクションセキュリティポリシーでは処理されません。

パターン

参照すべき場所外観
プラットフォーム | カスタムオブジェクト✅ AI 使用事例ごとの詳細な同意は、カスタム同意オブジェクト追跡の目的、付与日/方法、撤回日、関連するユーザー/取引先責任者 ID によって有効化されます。
プラットフォーム | カスタムオブジェクト✅お客様はEinstein製品のおすすめに同意する一方で、使用事例ごとに個別の同意レコードを使用してAI主導のクレジット決定を拒否します。
プラットフォーム | 項目監査履歴✅ 法規制要件を満たすための長期保存の同意オブジェクトで項目監査履歴が有効になっている
Data 360 | 同意✅ Data 360 同意管理は Einstein Personalization機能に使用され、プライバシーデータモデルに対応付けられたコネクタを介して同意設定を取り込んで保存し、セグメンテーションおよび有効化時の検索条件として使用します。
Data 360 | 同意✅ 同意カテゴリは特定の AI 使用事例に対応付けられ、コアサービスを維持しながらパーソナライズをオプトアウトできます。
Marketing Cloud | 同意✅ Marketing Cloudの同意は、登録状況に関係なくEinsteinメッセージング インサイトおよびAgentforceマーケティング エージェントと統合されます。
Marketing Cloud | 同意✅ Agentforceが自動アウトリーチを開始する前にMarketing Cloudの同意状況が照会され、オプトアウトしたユーザーとの不要な連絡を防止

アンチパターン

参照すべき場所どんな悪い感じか
プラットフォーム | カスタムオブジェクト⚠️ AI 同意はスプレッドシートで追跡されるか、明示的なレコードのない暗黙的な包括的同意としてログインに依存します。
プラットフォーム | カスタムオブジェクト⚠️ 使用事例ごとの詳細な同意ではなく、空白の AI 同意が使用されます。ユーザーは特定の AI 機能をオプトアウトできません。
プラットフォーム | 項目監査履歴⚠️ 同意オブジェクトで項目監査履歴が有効になっておらず、規制要件を満たす長期保存が管理されていない
Data 360 | 同意⚠️ Data 360 の同意は Einstein Personalizationには使用されず、同意カテゴリは特定の使用事例に対応付けられません。
Marketing Cloud | 同意⚠️ Marketing Cloudの同意はEinsteinまたはAgentforceと統合されていません。自動アウトリーチでは登録状況は考慮されません。

パターン

参照すべき場所外観
Experience Cloud | プロファイル設定✅ユーザーは、Experience Cloudプロファイル設定または[私の設定]のわかりやすい説明でアクセス可能な設定コントロールを使用してAgentforceインタラクションをオプトアウトします。
プラットフォーム | ユーザー/取引先責任者レコード✅ AI設定はユーザー レコードまたは取引先責任者レコードに保存され、フローおよびAgentforce決定ロジックでのクエリが可能
Agentforce | オムニチャネル✅ Agentforceをオプト アウトしたユーザーは、サービスが低下するのではなく、オムニ チャネルを介して人間のエージェントに転送されます。
Agentforce | フロー✅ Agentforceエンゲージメントの前に同意項目と設定項目をチェックするフロー。ユーザーがオプトアウトした場合は、作業レコードが作成されてヒューマン キューに転送されます。
Agentforce | オムニチャネル✅ ヒューマンキュースタッフィングは、オプトアウトしたユーザーの自動サービスと同等の待機時間を提供します。
プラットフォーム | ユーザー/取引先責任者レコード✅ AI 設定はユーザーレコードまたは取引先責任者レコードに保存され、チャネル (Web、モバイル、電話、メール) 全体で一貫性が保たれます。
プラットフォーム | フロー✅ プリファレンスはすべてのインタラクションフローで一貫して照会されるため、ユーザーが各チャネルで繰り返しプリファレンスを再アサートする必要はありません。

アンチパターン

参照すべき場所どんな悪い感じか
Experience Cloud | プロファイル設定⚠️ オプトアウトはサポートチームへのメールでのみ可能で、アクセス可能な設定コントロールが存在しない
プラットフォーム | ユーザー/取引先責任者レコード⚠️ AI 設定はユーザーレコードまたは取引先責任者レコードに保存されず、フローまたは Agentforce ロジックで設定を照会できない
Agentforce | オムニチャネル⚠️ オプトアウトしたユーザーは、人間のエージェントに転送する代わりに、AI を受け入れるように暗黙的に要求され、サービスが低下します。
Agentforce | フロー⚠️ Agentforce エンゲージメントの前にフローで同意または設定項目がチェックされず、オプトアウト設定が無視される
プラットフォーム | ユーザー/取引先責任者レコード⚠️ 設定はチャネル間で一貫していません。ユーザーは Web、モバイル、電話、メールで個別にオプトアウトを再主張する必要があります。

パターン

参照すべき場所外観
ガバナンス | ドキュメント✅ すべての本番予測モデルは、トレーニングデータのデモグラフィック、公正性評価指標、意図する使用事例、バイアス緩和戦略、監視アプローチで文書化されます。
ガバナンス | ドキュメント✅ モデルのドキュメントには、公正性監視アプローチ、アラートしきい値、人の監視要件、レビュースケジュール、規制に関する考慮事項が含まれます。
プラットフォーム | カスタムオブジェクト✅ モデルドキュメントは、カスタムモデルオブジェクトまたはプロジェクトに添付された Salesforce Files を使用して Salesforce に保存され、検索性とバージョン管理が可能になります。
ガバナンス | リリースゲート✅ リリース前の公正性ゲートでは、トレーニングデータ監査、公正性評価指標の計算、影響評価、人的監視設計、本番稼働前の透明性レビューが必要です。
ガバナンス | リリースゲート✅ トレーニングデータ表現のギャップが分析され、必須リリースゲートとして文書化される
ガバナンス | リリースゲート✅ 人口統計学的同等性、機会均等性、異種影響は必須ゲートとして計算されたミーティングしきい値
ガバナンス | リリースゲート✅ 影響評価では、影響を受ける集団全体の潜在的な害が必須ゲートとして評価されます。
ガバナンス | リリースゲート✅ エスカレーションパターン、承認ワークフロー、上書きメカニズムなどの人的監視設計が必須ゲートとして設計およびテストされます。
ガバナンス | リリースゲート✅ 説明機能は必須ゲートとしてすべての決定種別で検証されます。
ガバナンス | リリースゲート✅ 公正性ゲートは、ゲートで失敗したリリースをブロックする権限を持つセキュリティゲートと同じ厳格さで処理されます。

アンチパターン

参照すべき場所どんな悪い感じか
ガバナンス | ドキュメント⚠️ Einstein機能は、トレーニング データ、公平性評価指標、バイアス軽減、監視アプローチを文書化することなく導入されます。
ガバナンス | ドキュメント⚠️ モデルのドキュメントに公正性監視アプローチ、人の監視要件、規制に関する考慮事項が含まれていない
プラットフォーム | カスタムオブジェクト⚠️ モデルのドキュメントは、検索性やバージョン管理なしでスプレッドシートまたは Wiki に保存される
ガバナンス | リリースゲート⚠️ Einstein機能は公平性ゲートなしで本番に移行。導入は全体的な精度評価指標のみに基づく
ガバナンス | リリースゲート⚠️ 本番リリース前にトレーニングデータ監査、公正性評価指標の計算、影響評価がスキップされる
ガバナンス | リリースゲート⚠️ 本番前に人の監視設計、透明性レビュー、説明の検証が実行されていない
ガバナンス | リリースゲート⚠️ 公正性ゲートはリリースをブロックする権限を持たないアドバイザリのみであり、公正性条件を満たしていないにもかかわらずモデルが進行する

パターン

参照すべき場所外観
ガバナンス | Review Board (審査委員会)✅ 技術専門家 (アーキテクト、データサイエンティスト)、ビジネス関係者、弁護士、プライバシー専門家、影響を受けたコミュニティの代表者を含むレビューボード
ガバナンス | Review Board (審査委員会)✅ 同種グループが倫理審査で見逃す公平性の問題を多様な視点から明らかにする
ガバナンス | トリガーの確認✅ レビュートリガーは、雇用/信用/住宅/ヘルスケア/法的権利に影響する意思決定、年間 1 万人以上のユーザーに影響するシステム、新規使用事例、重大な害リスクが定義されています。
ガバナンス | トリガーの確認✅ 機密個人データ (健康、財務、人口統計) を使用する AI アプリケーションでは、リリース前に倫理審査が必要
ガバナンス | 権限の確認✅ 倫理審査委員会は、変更を要求したり、監視条件を課したり、倫理基準を満たさないリリースをブロックしたりする権限を持つ
プラットフォーム | カスタムオブジェクト✅ すべてのレビューは、Salesforce カスタムオブジェクト追跡申込名、レビュー日、提起された懸念、緩和要件、承認条件で文書化されます。

アンチパターン

参照すべき場所どんな悪い感じか
ガバナンス | Review Board (審査委員会)⚠️ レビューボードに多様性がない (技術専門家のみ)、同種グループがさまざまな母集団に影響する公平性の問題を見落としている
ガバナンス | Review Board (審査委員会)⚠️ 影響を受けたコミュニティの代表者は含まれません。公平性に関する考慮事項の死角
ガバナンス | トリガーの確認⚠️ レビュートリガーは定義されていません。リスクの高い AI アプリケーションは、リリース前に倫理審査なしで続行されます。
ガバナンス | 権限の確認⚠️ 倫理審査はアドバイザリのみで、強制は行われません。倫理基準を満たさない場合でも導入は続行されます(説明責任劇場)。
プラットフォーム | カスタムオブジェクト⚠️ レビューが体系的に文書化されていない。レビューに関する過去の決定、懸念、緩和が追跡されていない。

パターン

参照すべき場所外観
CRM Analytics | 監視✅CRM Analyticsダッシュボードは、スケジュールされたケイデンスで取得された決定データとTrust Layer監査データからEinsteinとAgentforceの公平性評価指標を追跡します。
CRM Analytics | 監視✅ 顧客セグメント別の人口統計学的同等性、均等な商談、異種影響率、サービス品質総計値を監視
CRM Analytics | 監視✅ CRM Analytics アラートは、公正性評価指標が調査が必要な定義済みのしきい値を超えた場合にトリガーするように設定されています。
CRM Analytics | 監視✅ CRM Analytics ダッシュボードは、決定分布の急激な変化、バイアス関連のケースの急増、特定の母集団のパフォーマンス低下など、公平性のシグナルを追跡します。
CRM Analytics | 監視✅公平性の調査が必要なセグメントの承認率が週あたり15%以上低下すると、Einstein商談スコアリングのアラートがトリガーされます。
ガバナンス | スケジュール済み監査✅ 高リスクAI（信用、雇用、ヘルスケア）は四半期ごと、低リスクシステムは半年ごとに包括的な公正性監査を実施
ガバナンス | スケジュール済み監査✅ 監査では、現在の公正性評価指標を検証し、上書きパターンを確認して、ユーザーフィードバックとバイアスレポートを分析し、ガバナンス統制が引き続き有効であることを確認します。
ガバナンス | インシデント対応✅ 明確なインシデント対応プロセスがSalesforce Knowledgeに文書化され、バイアスが検出された場合に対応できます。
ガバナンス | インシデント対応✅ CRM Analytics で予測モデルの決定データを照会して重要度を即座に評価。重大なバイアスにより、調査待機中の自動意思決定が一時停止
ガバナンス | インシデント対応✅ 一時的な緩和により、調整された信頼性しきい値、機能の無効化、エージェントの完全な一時停止による人的監視を強化
ガバナンス | インシデント対応✅ 根本原因分析により、バイアスがどのように入力または進化したかを特定します。トレーニングデータ、モデルバージョン、設定変更は項目監査履歴で分析されます。
ガバナンス | インシデント対応✅ 永続的な修復では、影響を受けるユーザーに適切なコミュニケーションを取りながら、データ修正、モデルの再トレーニング、プロセスの変更を実施します。
ガバナンス | インシデント対応✅ バイアスインシデントの再発防止策をランブックに文書化

アンチパターン

参照すべき場所どんな悪い感じか
CRM Analytics | 監視⚠️ 公正性評価指標は、取得された決定データやTrust Layer監査データからスケジュールされたケイデンスでは追跡されず、データ分布の変化に応じてバイアス ドリフトが検出されない
CRM Analytics | 監視⚠️ CRM Analytics アラートが設定されていない。調査が必要な公正性評価指標違反がトリガーされていない。
CRM Analytics | 監視⚠️ 公平性シグナルは監視されず、決定分布の急激な変化は検出されない
ガバナンス | スケジュール済み監査⚠️ 包括的な公正性監査がスケジュールどおりに実施されず、ガバナンス統制がドリフトして効果がなくなる
ガバナンス | スケジュール済み監査⚠️ 上書きパターン、ユーザーフィードバック、バイアスレポートは監査時に体系的に分析されない
ガバナンス | インシデント対応⚠️ 明確なインシデント対応プロセスが文書化されていない。バイアスの検出により、体系的な対応がないままその場しのぎの対応になる
ガバナンス | インシデント対応⚠️ 一時的な緩和または永続的な修復が計画的に実装されていない。ユーザーに影響するバイアスが持続している
ガバナンス | インシデント対応⚠️ 根本原因分析は実行されず、バイアスがどのように入ったか、またはどのように進化したかは不明
ガバナンス | インシデント対応⚠️ 防止措置が文書化されていない、再発が防止されていない

パターン

参照すべき場所外観
プラットフォーム | 必須項目✅ すべての必須項目には、省略可能ではなく必須である理由を示すビジネス上の理由が文書化されています。プロセスで機能しない項目は、欠損値の下流処理で省略可能になっています。
プラットフォーム | 必須項目✅ メールは省略可能で、代替コミュニケーション方法 (SMS、電話、郵便) を使用できます。これにより、信頼性の高いインターネットメールや個人メールを持たないユーザーはアカウントの作成から除外されません。
プラットフォーム | 名前項目✅ 名前アーキテクチャでは、順序や継承を前提とせずに、単義語、慣用システム、複数の姓または名に対応する 1 つの氏名項目または柔軟な複数部分構造を使用します。
プラットフォーム | 名前項目✅ 名前項目は、単一語名、ロングネーム、発音符号、アポストロフィー、ハイフン、非ラテン文字 (アラビア文字、中国語、キリル文字、デーヴァナーガリー文字) を使用できる多様な国際名でテストされます。
プラットフォーム | 住所検証✅ 権限のある住所検証では、構造化された検証に失敗した場合に自由形式の入力を受け入れ、無効な修正を強制するのではなく、ユーザーが入力した住所を保存します。
プラットフォーム | 住所検証✅ 住所検証は、データキャプチャを事前にブロックするのではなく、運用上正確性が重要な履行プロセスに組み込まれています。
プラットフォーム | コミュニケーション設定✅ 希望するコミュニケーション方法は取引先責任者レコードに保存され、すべての送信システムで一貫して尊重されるため、単一チャネルではなくオムニチャネルの代替手段が提供されます。
カスタムオブジェクト | デモグラフィックデータ✅ 自発的なデモグラフィックデータは、[回答しない] オプションがある個別のアンケートで収集され、非公開 OWD のカスタムオブジェクトに保存され、FLS で制限され、集計公正性分析にのみ使用されます。
Shield | イベント監視✅ Shield Event Monitoring は、デモグラフィックデータのアクセスイベント (レポートエクスポート、API オブジェクトクエリ) を記録してアクセスパターンを監査します。
プラットフォーム | サードパーティ強化✅ サードパーティ強化ベンダーは、実装前に公正性テスト、人口統計のカバー率と正確性、推測方法、契約上のデータ使用制限について監査されます。

アンチパターン

参照すべき場所どんな悪い感じか
プラットフォーム | 必須項目⚠️ 代替手段のないアカウントの作成にはメールが必須であり、電話または住所の検証では、データを提供できないユーザーを除き、米国以外の形式、私書箱、田舎のルートは却下されます。
プラットフォーム | 必須項目⚠️ プロセスにデータがなくても機能するかどうかを文書化せずに項目が必須としてマークされ、却下された不完全なレコードから見えない母集団が作成される
プラットフォーム | 名前項目⚠️ [名前] 項目は、欧米のファースト/ラスト規則を適用し、単義語、発音符号、非ラテン文字を拒否し、文化的なアイデンティティに基づくシステム拒否の対象になる
プラットフォーム | 住所検証⚠️ 住所の検証には米国の郵便形式が必要であり、国際住所、私書箱、軍隊 (APO/FPO)、部族の土地住所を認識できないため、アカウントの作成とサービス提供がブロックされる
プラットフォーム | コミュニケーション設定⚠️ 1 つのコミュニケーションチャネルがユニバーサル (メールのみまたは電話のみ) であるとみなされます。
カスタムオブジェクト | デモグラフィックデータ⚠️ デモグラフィック データは、User Knowledgeなしで名前または場所から推測され、すべてのユーザーに表示される標準の[取引先責任者]項目に保存され、開示なしでリードのスコアリングまたは売上予測に使用されます。
プラットフォーム | サードパーティ強化⚠️ ベンダーの公正性慣行やデモグラフィックカバー率を監査せずにサードパーティデータが追加され、ベンダー導入バイアスが組織の意思決定にインポートされる

パターン

参照すべき場所外観
プラットフォーム | 割り当ておよびルーティング✅ 割り当てルールとルーティングルールでは、目的条件 (商品品目、SLA、言語要件) を使用し、割り当ての分布が四半期ごとに監査され、顧客統計学的に階層化され、集中パターンが発生しないようにします。
プラットフォーム | オムニチャネル✅ ルーティングパス全体で平均処理時間、初回連絡解決時間、顧客満足度を監視し、顧客セグメントが経験の浅いエージェントを組織的に受け入れているかどうかを検出する
プラットフォーム | フロー✅ 最終的な意思決定を行うフローは、保護された特性 (取引先の在職期間、チャネル設定、購入履歴、営業時間) と相関する条件についてレビューされ、その決定ロジックがアーキテクチャ決定レコードに文書化されます。
プラットフォーム | フロー✅ 雇用、クレジット、サービスへのアクセスに影響する高リスクフローは、AI システムと同じ倫理審査プロセスの対象
プラットフォーム | 入力規則✅ 入力規則は多様なデータ (国際的な住所、欧米以外の名前、代替電話形式) でテストされ、正当なデータを却下するたびに拡張されます。名前項目では Unicode とすべてのスクリプトを使用できます。
プラットフォーム | テリトリー設計✅ 設計を確定する前に、提案されたテリトリー境界全体で顧客人口統計がマッピングされます。集中が発生した場所では、リソース割り当てが評価され、ビジネスの正当性が文書化および監視されます。
プラットフォーム | 監査✅自動化ロジック(ビジネス ルール、割り当て条件、フローの決定)はSalesforce KnowledgeまたはADRに文書化され、結果は人口統計(割り当ての分布、フローの承認率、検証却下率、テリトリー リソース割り当て)で階層化され、四半期ごとに監査されます。

アンチパターン

参照すべき場所どんな悪い感じか
プラットフォーム | 割り当ておよびルーティング⚠️ 割り当てルールでは、特定の郵便番号のリードを過去の成立率に基づいて「上位のパフォーマー」に優先し、その成功がスキルやデモグラフィックの優位性を反映しているかどうかを調べます。
プラットフォーム | オムニチャネル⚠️ ルーティング品質総計値は顧客セグメント全体で監視されないため、エージェントのエクスペリエンスや解像度の不均衡は検出されません。
プラットフォーム | フロー⚠️ フロー決定基準は、保護された特性 (存続期間、チャネル、購入量、タイムゾーン) と相関し、確定的ロジックが中立的であるため、客観的に扱われます。
プラットフォーム | フロー⚠️ 重要度の高いフローでは、一般的な顧客プロファイル外のユーザーの倫理審査、ADR ドキュメント、処理なしで最終的な意思決定が行われます。
プラットフォーム | 入力規則⚠️ 名前検証は A-Z に制限され、発音符号やラテン文字以外のスクリプトは拒否されます。住所検証には米国の郵便形式が必要です。正当なデータは拒否され、ユーザーは未報告の要求を放棄します。
プラットフォーム | テリトリー設計⚠️ テリトリー境界は、テリトリー間で報酬やスタッフ割り当てが異なっており、人口統計の集中が分析されていない、人口統計に相関する地域に従います。
プラットフォーム | 監査⚠️ 自動化ロジックは文書化されておらず、結果が監査されることもないため、割り当て、承認、検証、テリトリー割り当ての差別パターンは認識されません。