此文本使用 Salesforce 的自动翻译系统翻译。参加我们的调查，提供有关此内容的反馈，并告诉我们您接下来想要查看的内容。
合规 - 道德标准
了解有关架构良好、受信 → 合规 → 道德标准 → 人工智能的更多信息
| Where to look? 产品区域 | 位置 | 好是什么样子？ 模式 |
|---|---|
| Einstein | 设计标准 | ✅ 生成式响应始终识别 AI 模型使用的数据源 |
| Einstein | 设计标准 | ✅ 已记录可用于/不可用于提示引擎错误的数据集 |
| Einstein | 设计标准 | ✅ 机器人和生成式 AI 响应向用户明确识别 |
| Einstein | 设计标准 | ✅ 必须为用户识别 AI 的点被明确界定 |
| Einstein | 设计标准 | ✅ 明确定义了何时及如何使用生成式 AI 免责声明的标准 |
| Einstein | 设计标准 | ✅ 对于如何在 AI 解决方案设计中记录人员参与点存在明确要求 |
| Einstein | 设计标准 | ✅ 没有人为参与点，没有生成式响应直接发送到最终用户 |
| Einstein | 设计标准 | ✅ AI 解决方案设计中存在记录直接和间接反馈路径的标准 |
| Einstein | 设计标准 | ✅ AI 应用程序的策略和批准的用例清晰易懂 |
| Einstein | 设计标准 | ✅ 已记录聊天机器人消息传递和对话流的标准 |
| Einstein | 文档 | ✅ 涉及 AI 功能的配置和自定义文档包含所有流程逻辑的详细描述，并存储在法律团队或审计员可以访问的中心位置 |
| Einstein | 文档 | ✅ 驱动预测和推荐的模型被清楚地记录下来，包括任何适用的数据段 |
| Einstein | 文档 | ✅ 对话逻辑和聊天机器人消息被完整记录 |
| Einstein | 文档 | ✅ 流程到位，以监控贵组织的 AI 模型的数据漂移、公平和偏见分数的变化、准确性和稳健性 |
| Einstein | 文档 | ✅ 为所有 AI 流程使用的训练、评估和测试数据保留描述 |
| Einstein | 文档 | ✅ 为任何 AI 相关数据清理保留描述，以及偏见测试、相关结果和性能/准确性分数（例如，F1 分数） |
| Einstein | 组织 | ✅ 提示模板的质量测试 提示模板被测试，这些测试的结果记录了提示模板响应的相关性、完整性、风格/语气、事实准确性、一致性、毒性和偏见 |
| Einstein | 组织 | ✅ 生成式 AI 用作人类的助手 当从生成式 AI 开始时，请确保有一个“人类在舵 ” , 谁可以查看回答的准确性和实用性。 |
| Einstein | 组织 | ✅ AI 模型使用您 Trust 的数据上下文使用零方（由客户直接提供）或第一方（根据客户与业务的互动收集）数据提供给生成 AI |
了解有关架构良好、受信 → 合规 → 道德标准 → 公司政策的更多信息
| Where to look? 产品区域 | 位置 | 好是什么样子？ 模式 |
|---|---|
| 平台 | 设计标准 | ✅ 标准包含受公司政策影响领域的明确指导 |
| 平台 | 文档 | ✅ 配置和自定义的文档包括对支持的公司值的引用 |
| 平台 | 组织 | ✅ 受公司策略相关合规性约束的所有对象和字段都配置了合规性分类、数据所有者、数据灵敏性级别和字段使用情况 |
了解有关架构良好、受信 → 合规 → 道德标准 → 人工智能的更多信息
| Where to look? 产品区域 | 位置 | 要避免什么？ 反模式 |
|---|---|
| Einstein | 设计标准 | 生成式响应不会识别 AI 模型使用的数据源 |
| Einstein | 设计标准 | 机器人和生成式 AI 响应未向用户识别 |
| Einstein | 设计标准 | 生成式响应直接发送到最终用户，无需人工参与 |
| Einstein | 设计标准 | 用于提示工程的数据集未记录 |
| Einstein | 设计标准 | ⚠ 没有记录 AI 解决方案设计中人员参与点的要求 |
| Einstein | 设计标准 | 设计标准未指明必须向用户识别 AI 的点 |
| Einstein | 设计标准 | 缺少有关生成式响应的免责声明 |
| Einstein | 设计标准 | 没有记录 AI 解决方案设计的直接和间接反馈路径的标准 |
| Einstein | 设计标准 | 设计标准不存在或不包含明确的策略和批准的 AI 应用程序用例 |
| Einstein | 设计标准 | 聊天机器人消息传递和对话设计的明确标准不存在（但正在使用聊天机器人） |
| Einstein | 文档 | AI 监控流程不存在或未记录 |
| Einstein | 文档 | 涉及 AI 功能的配置和自定义文档缺失、不完整或存储在无法访问的位置 |
| Einstein | 文档 | ⚠ 在您的组织中实施预测或推荐，而无需记录他们的模型 |
| Einstein | 文档 | ⚏ 有关用于所有 AI 流程的培训、评估和测试数据的信息不清楚或不可用 |
| Einstein | 文档 | 关于 AI 相关数据清理、偏见测试和结果的信息不清楚或不可用 |
| Einstein | 文档 | 聊天机器人在贵组织中实施，无需消息和对话流文档 |
| Einstein | 提示模板 | AI 依赖第三方数据 提示模板仅依赖第三方数据，没有任何零或第一方数据 |
了解有关架构良好、受信 → 合规 → 道德标准 → 公司政策的更多信息
| Where to look? 产品区域 | 位置 | 要避免什么？ 反模式 |
|---|---|
| 平台 | 设计标准 | 设计标准不存在，或未对受公司政策约束的领域提供明确指导 |
| 平台 | 文档 | 配置和自定义文档不引用公司价值或策略 |
| 平台 | 组织 | ⚏ 受公司策略相关合规性约束的对象缺少合规性分类、数据所有者、数据灵敏性级别或字段使用情况的配置 |