Este texto se tradujo utilizando el sistema de traducción automatizado de Salesforce. Realice nuestra encuesta para proporcionar comentarios sobre este contenido y díganos qué le gustaría ver a continuación.
Cumplimiento - Estándares éticos
Obtenga más información acerca de Confianza bien arquitectónica → Compatible → Estándares éticos → Inteligencia artificial
| ¿Dónde buscar? Área de producto | Ubicación | ¿Qué aspecto tiene? Patrón |
|---|---|
| Einstein | Estándares de diseño | ✅ Las respuestas generativas siempre identifican orígenes de datos utilizados por modelos de IA |
| Einstein | Estándares de diseño | ✅ Los conjuntos de datos que se pueden/no se pueden utilizar para prompt enginerring se han documentado |
| Einstein | Estándares de diseño | ✅ Los bots y las respuestas de IA generativa se identifican claramente para los usuarios |
| Einstein | Estándares de diseño | ✅ Los puntos en los que se debe identificar la IA para un usuario están claramente definidos |
| Einstein | Estándares de diseño | ✅ Estándares para cuándo y cómo utilizar renuncias de responsabilidad para la IA generativa están claramente definidos |
| Einstein | Estándares de diseño | ✅ Existen requisitos claros sobre cómo documentar puntos de implicación humana en diseños de soluciones de IA |
| Einstein | Estándares de diseño | ✅ No se envían respuestas generativas directamente a usuarios finales sin puntos de implicación humana |
| Einstein | Estándares de diseño | ✅ Existen estándares para documentar rutas de comentarios directos e indirectos en diseños de soluciones de IA |
| Einstein | Estándares de diseño | ✅ Las políticas y los casos de uso aprobados para aplicaciones de IA son claros y fáciles de encontrar |
| Einstein | Estándares de diseño | ✅ Estándares para mensajería de chatbot y flujo de conversación se han documentado |
| Einstein | Documentación | ✅ La documentación para la configuración y personalizaciones que implican funciones de IA contiene una descripción minuciosa de toda la lógica del proceso y se almacena en una ubicación central accesible para equipos legales o auditores |
| Einstein | Documentación | ✅ Los modelos que dirigen predicciones y recomendaciones están claramente documentados, incluyendo cualquier segmento de datos aplicable |
| Einstein | Documentación | ✅ Lógica de conversación y mensajes de chatbot están completamente documentados |
| Einstein | Documentación | ✅ Existen procesos para supervisar los modelos de IA de su organización en busca de desviación de datos, cambios en puntuaciones de equidad y sesgo, precisión y robustez |
| Einstein | Documentación | ✅ Las descripciones se mantienen para los datos de entrenamiento, evaluación y prueba utilizados para todos los procesos de IA |
| Einstein | Documentación | ✅ Las descripciones se mantienen para cualquier limpieza de datos relacionada con la IA junto con pruebas de sesgo, resultados asociados y puntuaciones de rendimiento/precisión (por ejemplo, puntuaciones F1) |
| Einstein | Organización | ✅ Se comprueba la calidad de las plantillas de solicitudes Se comprueban las plantillas de solicitudes y los resultados de esas pruebas documentan la relevancia, integridad, estilo/tono, precisión fáctica, coherencia, toxicidad y sesgo de las respuestas de plantillas de solicitudes |
| Einstein | Organización | ✅ La IA generativa se utiliza como asistente de un humano Cuando comience con la IA generativa, asegúrese de que hay un "ser humano al timón", que puede revisar la precisión y la utilidad de las respuestas. |
| Einstein | Organización | ✅ Los modelos de IA utilizan datos de Trust Context se proporciona a la IA de generación utilizando datos externos (proporcionados directamente por el cliente) o externos (recopilados basándose en la interacción de un cliente con su negocio) |
Obtenga más información acerca de Confianza bien arquitectónica → Cumplimiento → Normas éticas → Políticas de la empresa
| ¿Dónde buscar? Área de producto | Ubicación | ¿Qué aspecto tiene? Patrón |
|---|---|
| Plataforma | Estándares de diseño | ✅ Los estándares incluyen directrices claras para las áreas afectadas por las políticas de la empresa |
| Plataforma | Documentación | ✅ La documentación para la configuración y personalizaciones incluye referencias a valores de empresa compatibles |
| Plataforma | Organización | ✅ Todos los objetos y campos sujetos al cumplimiento relacionado con políticas de la empresa tienen Categorización de cumplimiento, Propietario de datos, Nivel de confidencialidad de datos y Uso de campo configurados |
Obtenga más información acerca de Confianza bien arquitectónica → Compatible → Estándares éticos → Inteligencia artificial
| ¿Dónde buscar? Área de producto | Ubicación | ¿Qué evitar? Antipatrón |
|---|---|
| Einstein | Estándares de diseño | ⚠️ Las respuestas generativas no identifican orígenes de datos utilizados por modelos de IA |
| Einstein | Estándares de diseño | ⚠️ Los bots y las respuestas de IA generativa no se identifican para los usuarios |
| Einstein | Estándares de diseño | ⚠️ Las respuestas generativas se envían directamente a usuarios finales sin puntos de implicación humana |
| Einstein | Estándares de diseño | ⚠️ Los conjuntos de datos utilizados para la ingeniería de solicitudes no están documentados |
| Einstein | Estándares de diseño | ⚠️ No existen requisitos para documentar puntos de implicación humana en diseños de soluciones de IA |
| Einstein | Estándares de diseño | ⚠️ Los estándares de diseño no indican los puntos en los que se debe identificar la IA a los usuarios |
| Einstein | Estándares de diseño | ⚠️ Faltan renuncias de responsabilidad con respecto a respuestas generativas |
| Einstein | Estándares de diseño | ⚠️ No existen estándares para documentar rutas de comentarios directos e indirectos para diseños de soluciones de IA |
| Einstein | Estándares de diseño | ⚠️ Los estándares de diseño no existen o no incluyen políticas claras y casos de uso aprobados para aplicaciones de IA |
| Einstein | Estándares de diseño | ⚠️ No existen estándares claros para la mensajería de chatbot y el diseño de conversaciones (pero se están utilizando chatbots) |
| Einstein | Documentación | ⚠️ Los procesos de supervisión de IA no existen o no están documentados |
| Einstein | Documentación | ⚠️ Falta documentación para la configuración y personalizaciones que implican funciones de IA, está incompleta o almacenada en una ubicación inaccesible |
| Einstein | Documentación | ⚠️ Las predicciones o recomendaciones se implementan en su organización sin documentación de sus modelos |
| Einstein | Documentación | ⚠️ La información sobre los datos de entrenamiento, evaluación y pruebas utilizados para todos los procesos de IA no está clara o no está disponible |
| Einstein | Documentación | ⚠️ La información sobre la limpieza de datos relacionada con la IA, las pruebas de sesgo y los resultados no está clara o no está disponible |
| Einstein | Documentación | ⚠️ Los chatbots se implementan en su organización sin documentación de mensajes y flujo de conversación |
| Einstein | Plantillas de solicitudes | ⚠️ La IA se basa en datos externos Sus plantillas de solicitudes se basan únicamente en datos externos sin ningún dato cero o de primera parte |
Obtenga más información acerca de Confianza bien arquitectónica → Cumplimiento → Normas éticas → Políticas de la empresa
| ¿Dónde buscar? Área de producto | Ubicación | ¿Qué evitar? Antipatrón |
|---|---|
| Plataforma | Estándares de diseño | ⚠️ Los estándares de diseño no existen o no proporcionan directrices claras acerca de áreas sujetas a políticas de la empresa |
| Plataforma | Documentación | ⚠️ La documentación para la configuración y personalizaciones no hace referencia a valores o políticas de la empresa |
| Plataforma | Organización | ⚠️ A los objetos y que están sujetos al cumplimiento relacionado con políticas de la empresa les falta configuración para Categorización de cumplimiento, Propietario de datos, Nivel de confidencialidad de datos o Uso de campo |