このテキストは、Salesforce の自動翻訳システムを使用して翻訳されました。アンケートに回答して、このコンテンツに関するフィードバックを提供し、次に何を表示するかをお寄せください。
準拠 - 倫理基準
適切に構築された信頼済み → 準拠 → 倫理基準 → 人工知能の詳細情報
| Where to look? 商品領域 | ロケーション | What does good look like? (良いものは?) パターン |
|---|---|
| Einstein | 設計標準 | ✅ 生成応答により、AI モデルで使用されるデータソースを常に特定 |
| Einstein | 設計標準 | ✅ プロンプトエンジニアリングに使用できる/使用できないデータセットが文書化されている |
| Einstein | 設計標準 | ✅ ボットと生成 AI 応答がユーザーに明確に識別される |
| Einstein | 設計標準 | ✅ ユーザーにとって AI を特定する必要があるポイントを明確に定義 |
| Einstein | 設計標準 | ✅ 生成 AI の免責事項を使用するタイミングと方法の基準が明確になっている |
| Einstein | 設計標準 | ✅ AI ソリューション設計に人間が関与するポイントを文書化する方法に関する明確な要件が存在する |
| Einstein | 設計標準 | ✅ 人間が関与していないエンドユーザーには生成応答が直接送信されない |
| Einstein | 設計標準 | ✅ AI ソリューション設計における直接および間接フィードバックパスの文書化基準が存在する |
| Einstein | 設計標準 | ✅ AI アプリケーションのポリシーと承認済み使用事例が明確で見つけやすい |
| Einstein | 設計標準 | ✅ チャットボットのメッセージングと会話フローの標準が文書化されている |
| Einstein | ドキュメント | ✅ AI 機能が含まれる設定およびカスタマイズのドキュメントには、すべてのプロセスロジックの詳細な説明が含まれ、法務チームまたは監査人がアクセスできる一元的な場所に保存されます。 |
| Einstein | ドキュメント | ✅ 予測とおすすめを促進するモデルが、該当するデータセグメントを含めて明確に文書化されている |
| Einstein | ドキュメント | ✅ 会話ロジックとチャットボットメッセージが徹底的に文書化されている |
| Einstein | ドキュメント | ✅ データのドリフト、公平性とバイアススコアの変化、正確性、堅牢性に関する組織の AI モデルを監視するプロセスがある |
| Einstein | ドキュメント | ✅ すべての AI プロセスで使用されるトレーニング、評価、テストデータの説明が保持されている |
| Einstein | ドキュメント | ✅ AI 関連のデータクリーンアップの説明は、バイアステスト、関連付けられた結果、パフォーマンス/精度スコア (F1 スコアなど) と共に管理されます。 |
| Einstein | 組織 | ✅ プロンプトテンプレートの品質がテストされ、プロンプトテンプレートのテスト結果がプロンプトテンプレート応答の関連性、完全性、スタイル/トーン、実際の正確性、一貫性、有害性、バイアスを文書化されます。 |
| Einstein | 組織 | ✅ 生成 AI を人間のアシスタントとして使用 生成 AI を開始する場合は、応答の正確性と実用性をレビューできる「実権者」が存在することを確認します。 |
| Einstein | 組織 | ✅ AI モデルは Trust Data を使用します。コンテキストは、ゼロ パーティ(お客様から直接提供)またはファースト パーティ(お客様とビジネスのやり取りに基づいて収集)データを使用して Gen AI に提供されます。 |
適切に構築された信頼できる組織 → 準拠 → 倫理基準 → 会社のポリシーについての詳細
| Where to look? 商品領域 | ロケーション | What does good look like? (良いものは?) パターン |
|---|---|
| プラットフォーム | 設計標準 | ✅ 基準には、会社の方針の影響を受ける領域に関する明確な指針が含まれます。 |
| プラットフォーム | ドキュメント | ✅ 設定とカスタマイズに関するドキュメントには、サポートされている会社の値への参照が含まれます。 |
| プラットフォーム | 組織 | ✅ 会社のポリシー関連のコンプライアンスの対象となるすべてのオブジェクトと項目で、[コンプライアンス分類]、[データ所有者]、[データ機密性レベル]、[項目の利用状況] が設定されている |
適切に構築された信頼済み → 準拠 → 倫理基準 → 人工知能の詳細情報
| Where to look? 商品領域 | ロケーション | What to avoid? アンチパターン |
|---|---|
| Einstein | 設計標準 | ⚠️ 生成応答では AI モデルで使用されるデータソースが特定されない |
| Einstein | 設計標準 | ⚠️ ボットと生成 AI 応答がユーザーに識別されない |
| Einstein | 設計標準 | ⚠️ 生成応答は、人の関与なしでエンドユーザーに直接送信される |
| Einstein | 設計標準 | ⚠️ プロンプトエンジニアリングで使用されるデータセットが文書化されていない |
| Einstein | 設計標準 | ⚠️ AI ソリューション設計に人間が関与するポイントを文書化するための要件が存在しない |
| Einstein | 設計標準 | ⚠️ 設計基準でユーザーに AI を識別する必要があるポイントが示されていない |
| Einstein | 設計標準 | ⚠️ 生成応答に関する免責事項がない |
| Einstein | 設計標準 | ⚠️ AI ソリューション設計の直接および間接的なフィードバックパスを文書化するための基準が存在しない |
| Einstein | 設計標準 | ⚠️ 設計標準が存在しないか、AI アプリケーションの明確なポリシーと承認済み使用事例が含まれていない |
| Einstein | 設計標準 | ⚠️ チャットボットのメッセージングと会話設計の明確な標準が存在しない (ただしチャットボットは使用されている) |
| Einstein | ドキュメント | ⚠️ AI 監視プロセスが存在しないか文書化されていない |
| Einstein | ドキュメント | ⚠️ AI 機能が含まれる設定およびカスタマイズのドキュメントが欠落しているか、不完全であるか、アクセスできない場所に保存されている |
| Einstein | ドキュメント | ⚠️ 予測またはおすすめが、モデルの文書化なしで組織に実装されている |
| Einstein | ドキュメント | ⚠️ すべての AI プロセスで使用されるトレーニング、評価、テストデータに関する情報が不明瞭または利用不可である |
| Einstein | ドキュメント | ⚠️ AI 関連のデータクリーンアップ、バイアステスト、結果に関する情報が不明瞭または入手できない |
| Einstein | ドキュメント | ⚠️ チャットボットがメッセージと会話フローの文書化なしで組織に実装されている |
| Einstein | プロンプトテンプレート | ⚠️ AI はサードパーティデータに依存します。プロンプトテンプレートはサードパーティデータのみに依存します。ゼロまたはファーストパーティデータは含まれません。 |
適切に構築された信頼できる組織 → 準拠 → 倫理基準 → 会社のポリシーについての詳細
| Where to look? 商品領域 | ロケーション | What to avoid? アンチパターン |
|---|---|
| プラットフォーム | 設計標準 | ⚠️ 設計標準が存在しない、または会社のポリシーの対象となる領域に関する明確な指針が提供されていない |
| プラットフォーム | ドキュメント | ⚠️ 設定およびカスタマイズのドキュメントが会社の値やポリシーを参照していない |
| プラットフォーム | 組織 | ⚠️ 会社のポリシー関連のコンプライアンスの対象となるオブジェクトで、コンプライアンス分類、データ所有者、データ機密性レベル、項目使用量の設定がない |