Ética y gobernanza de la IA: patrones
Obtenga más información acerca de la equidad bien arquitectónica → Práctica de gobernanza de IA ética
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Einstein | Datos de capacitación | ✅ Los datos de Salesforce CRM se auditan para detectar brechas de representación demográfica e incoherencias de medición antes de entrenar modelos predictivos |
| Einstein | Datos de capacitación | ✅ Los datos de conversión históricos se analizan por datos demográficos de clientes para identificar segmentos insuficientemente representados que requieren sobremuestreo o recopilación de datos adicional |
| Einstein | Implementación | ✅ La evaluación de equidad se trata como puerta obligatoria equivalente a la revisión de seguridad antes de que los modelos predictivos alcancen la producción |
| Einstein | Implementación | ✅ Paridad demográfica, igualdad de oportunidades e índices de impacto dispares se calculan entre grupos protegidos antes de la implementación |
| Einstein | Implementación | ✅ Las mediciones de equidad se evalúan con respecto a la regla de las cuatro quintas partes (umbral del 80%) como desencadenador de selección (no una partida de aprobación/no aprobación legal) para todos los segmentos de clientes antes de la implementación del modelo |
| Einstein Discovery | Instrumentación | ✅ Los datos de decisiones de modelo predictivo (entradas, salidas y versiones de modelo de predicción) se capturan a través de Einstein Discovery e instrumentación personalizada que permite la detección de sesgos |
| CRM Analytics | Monitoreo | ✅ Los tableros de CRM Analytics analizan datos de decisiones de modelo predictivo capturados para patrones de decisiones entre grupos demográficos a lo largo del tiempo |
| CRM Analytics | Monitoreo | ✅ Las alertas de CRM Analytics se desencadenan cuando las mediciones de paridad demográfica o igualdad de oportunidades se desplazan más allá de umbrales aceptables |
| Einstein | Ingeniería de funciones | ✅ Todas las funciones del modelo predictivo se analizan para la correlación con características protegidas utilizando métodos estadísticos |
| Einstein | Ingeniería de funciones | ✅ Las funciones proxy (territorio, código postal, patrones de nombre de cuenta, cronología de actividad, tipo de dispositivo) se identifican y evalúan para la correlación demográfica |
| Einstein | Ingeniería de funciones | ✅ Las funciones proxy se eliminan o se transforman después de evaluar si el valor predictivo justifica la inclusión a pesar de los efectos proxy |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Einstein | Datos de capacitación | ⚠️ El puntuaje de prospectos se entrena en 10 años de datos históricos sin examinar la representación demográfica o las diferencias de calidad del servicio |
| Einstein | Datos de capacitación | ⚠️ Los datos de conversión históricos se utilizan directamente sin auditar si diferentes datos demográficos recibieron un tratamiento diferente |
| Einstein | Implementación | ⚠️ Las funciones Einstein se implementan basándose únicamente en mediciones de precisión generales sin evaluación de equidad |
| Einstein | Implementación | ⚠️ La paridad demográfica o los índices de impacto dispares no se calculan antes de la implementación de la producción |
| Einstein | Capa de Trust | ⚠️ Las interacciones Agentforce se implementan sin activar la captura de auditoría de Trust Layer para la detección de sesgos |
| CRM Analytics | Monitoreo | ⚠️ Los patrones de decisiones no se siguen por grupos demográficos a lo largo del tiempo; la desviación de sesgos no se detecta |
| Einstein | Ingeniería de funciones | ⚠️ Las características protegidas se eliminan de los datos de entrenamiento suponiendo que esto elimina automáticamente el sesgo |
| Einstein | Ingeniería de funciones | ⚠️ Los patrones de territorio, código postal y nombre de cuenta se utilizan como funciones sin análisis de correlación proxy |
| Einstein | Ingeniería de funciones | ⚠️ Las funciones de proxy que sirven como proxys demográficos perfectos se mantienen sin evaluar alternativas |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Analytics | ✅ Los tableros de CRM Analytics realizan un seguimiento de resultados de decisiones Agentforce por datos demográficos de clientes utilizando datos de auditoría de Capa Einstein Trust |
| Agentforce | Analytics | ✅ Los índices de aprobación, los tiempos de respuesta de servicio, los índices de distribución y los puntuajes de satisfacción se monitorean estratificados por grupo demográfico |
| Agentforce | Analytics | ✅ Las alertas de CRM Analytics están configuradas desencadenándose cuando las mediciones de equidad infringen umbrales definidos que requieren investigación |
| Agentforce | Monitoreo de eventos | ✅ Los registros de Monitoreo de eventos se enrutan a SIEM externo para una retención a largo plazo que supera los límites de retención nativos |
| Agentforce | Monitoreo de eventos | ✅ Las consultas SIEM identifican concentraciones anómalas de resultados negativos para poblaciones de usuarios específicas |
| Agentforce | Seguimiento de auditoría de campo | ✅ Seguimiento de auditoría de campo está activado en objetos personalizados que almacenan datos de decisiones Agentforce, reteniendo el historial archivado indefinidamente hasta su eliminación |
| Agentforce | Seguimiento de auditoría de campo | ✅ Seguimiento de auditoría de campo admite auditorías de equidad a largo plazo e investigaciones regulatorias que requieren la reconstrucción de decisiones de IA históricas |
| CRM Analytics | Monitoreo | ✅ Los tableros de CRM Analytics realizan un seguimiento de las señales de equidad: cambios repentinos en distribuciones de decisiones, picos en casos relacionados con sesgos, degradación del desempeño para poblaciones específicas |
| CRM Analytics | Monitoreo | ✅ Las alertas se desencadenan cuando los índices de aprobación para cualquier segmento de clientes caen más del 15% semana tras semana requiriendo investigación de equidad |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Analytics | ⚠️ Los resultados de decisiones no se siguen por datos demográficos; la desviación de sesgos pasa desapercibida a medida que cambian las distribuciones de datos |
| Agentforce | Analytics | ⚠️ Las mediciones de calidad del servicio no están estratificadas por grupo demográfico; los resultados dispares permanecen invisibles |
| Agentforce | Monitoreo de eventos | ⚠️ Los registros de Monitoreo de eventos se basan en límites de retención nativos sin SIEM externo para auditorías de equidad a largo plazo |
| Agentforce | Monitoreo de eventos | ⚠️ Los patrones de decisión no se analizan entre grandes volúmenes de interacciones; se pierden concentraciones anómalas |
| Agentforce | Seguimiento de auditoría de campo | ⚠️ Seguimiento de auditoría de campo no está activado; las decisiones de IA histórica no se pueden reconstruir para investigaciones regulatorias |
| CRM Analytics | Monitoreo | ⚠️ Las señales de equidad no se monitorean; los cambios repentinos en las distribuciones de decisiones pasan desapercibidos |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Einstein | Datos de capacitación | ✅ Los datos de Salesforce CRM se reequilibran mediante el sobremuestreo de segmentos insuficientemente representados o el sobremuestreo de segmentos sobrerrepresentados antes de la capacitación |
| Data 360 | Arquitectura | ✅ Data 360 agrega datos entre múltiples organizaciones garantizando conjuntos de entrenamiento diversos para modelos predictivos |
| Einstein | Datos de capacitación | ✅ La generación de datos sintéticos complementa segmentos dispersos mientras mantiene la privacidad a través de técnicas de privacidad diferenciales |
| Einstein | Ingeniería de funciones | ✅ Las funciones proxy se sustituyen por funciones alternativas que proporcionan poder predictivo sin correlación demográfica |
| Einstein | Ingeniería de funciones | ✅ Clasificación industrial o tamaño de compañía se utilizan en vez de territorio cuando el territorio sirve como proxy demográfico |
| Einstein | Ingeniería de funciones | ✅ Se utilizan atributos firmegráficos en vez de patrones de nombre de cuenta cuando los nombres se correlacionan con datos demográficos |
| Agentforce | Postprocesamiento | ✅ Los umbrales de decisiones se ajustan por segmento demográfico para igualar las tasas de resultados después de la capacitación del modelo, excepto que, en los Estados Unidos, el Título VII (Ley de Derechos Civiles de 1991) prohíbe ajustar puntuajes o límites por clase protegida para decisiones relacionadas con el empleo, y otras jurisdicciones imponen sus propias restricciones |
| Agentforce | Postprocesamiento | ✅ Se utilizan diferentes umbrales de confianza para diferentes contextos que alcanzan índices de aprobación equitativos mientras se utiliza el mismo modelo predictivo subyacente |
| Agentforce | Postprocesamiento | ✅ Los ajustes de umbral se documentan con justificación de negocio para el trato diferencial, reconociendo que en los Estados Unidos, ninguna documentación hace legal el ajuste de puntuaje o corte por grupo para decisiones relacionadas con el empleo bajo el Título VII |
| Einstein | Reentrenamiento de modelos | ✅ La programación de readiestramiento trimestral o dirigida por eventos se establece capturando patrones de sesgos emergentes y corrigiendo la desviación de las líneas de base de equidad originales |
| Einstein | Reentrenamiento de modelos | ✅ Las mediciones de equidad se revalidan en cada versión de modelo antes de la implementación de producción garantizando que el reciclaje no introdujo nuevos sesgos |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Einstein | Datos de capacitación | ⚠️ Los datos de entrenamiento se utilizan directamente sin reequilibrar segmentos insuficientemente representados o sobrerrepresentados |
| Einstein | Datos de capacitación | ⚠️ Los segmentos demográficos dispersos no se complementan con datos sintéticos o agregación entre organizaciones |
| Einstein | Ingeniería de funciones | ⚠️ Las funciones proxy se mantienen sin evaluar funciones alternativas que proporcionan poder predictivo sin correlación demográfica |
| Agentforce | Postprocesamiento | ⚠️ Se aplican los mismos umbrales de confianza a todos los segmentos demográficos sin igualar las tasas de resultados |
| Agentforce | Postprocesamiento | ⚠️ El trato diferenciado a través de ajustes de umbral carece de justificación de negocio documentada, o, en los Estados Unidos, se aplica a decisiones relacionadas con el empleo en absoluto, donde el Título VII prohíbe ajustar puntuajes o límites por clase protegida independientemente de la documentación |
| Einstein | Reentrenamiento de modelos | ⚠️ Los modelos se implementan y nunca se vuelven a entrenar; los patrones de sesgo y la desviación emergentes no se corrigen |
| Einstein | Reentrenamiento de modelos | ⚠️ El readiestramiento se produce sin revalidar mediciones de equidad; el nuevo sesgo se introduce silenciosamente |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Einstein Discovery | ES | ✅ Las explicaciones Einstein Discovery mostrando factores de predicción afloran en componentes Lightning en el punto de decisión |
| Einstein Discovery | ES | ✅ Las explicaciones muestran qué variables influyeron más en predicciones específicas con impacto direccional para usuarios en puntos de decisión |
| Einstein Discovery | ES | ✅ Las explicaciones están en capas para diferentes audiencias: usuarios de negocio, usuarios técnicos, clientes y auditores |
| Einstein Discovery | ES | ✅ Los usuarios de negocio ven “Este prospecto obtuvo un puntuaje alto porque los ingresos anuales superan 1 millón de dólares y el puntuaje de implicación está en el 10% superior” |
| Einstein Discovery | ES | ✅ Los usuarios técnicos ven tarjetas de modelo con ponderaciones de funciones, características de datos de entrenamiento y mediciones de validación |
| Einstein Discovery | ES | ✅ Los clientes ven “Esta recomendación se basa en sus compras recientes y clientes con preferencias similares” |
| Einstein Discovery | ES | ✅ Los auditores ven el linaje de decisiones completo desde Einstein Discovery y Gestor de modelos con la versión del modelo, los valores de entrada y los factores que dirigieron la predicción |
| Einstein Discovery | ES | ✅ La confianza de predicción se muestra en términos apropiados para el usuario como categorías (Alta confianza, Moderada confianza, Necesita revisión) con explicaciones |
| Einstein Discovery | ES | ✅ Las categorías de confianza explican lo que significa el nivel de confianza para la fiabilidad de las decisiones y qué revisión adicional se producirá |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Einstein Discovery | ES | ⚠️ Las explicaciones se actualizan en sistemas opacos después de la implementación en vez de crear capacidad de explicación en la arquitectura desde el principio |
| Einstein Discovery | ES | ⚠️ Las explicaciones de predicción requieren navegación para separar tableros de CRM Analytics en vez de mostrarse en puntos de decisión |
| Einstein Discovery | ES | ⚠️ Los usuarios ven mediciones de desempeño de modelo abstractas en vez de explicaciones transparentes cuando las decisiones les afectan |
| Einstein Discovery | ES | ⚠️ Las explicaciones no varían por audiencia; las tarjetas de modelo técnico se muestran a clientes o usuarios de negocio |
| Einstein Discovery | ES | ⚠️ Los puntuajes de predicción sin procesar (0,73) se muestran sin explicación de lo que significa el número o qué factores impulsaron la predicción |
| Einstein Discovery | ES | ⚠️ La confianza se muestra como porcentajes de probabilidad que los usuarios interpretan mal sin contexto sobre la fiabilidad o la revisión |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Einstein | Capa de Trust | ✅ Einstein Trust Layer registra solicitudes, respuestas, orígenes de fundamentación y señales Trust automáticamente sin instrumentación personalizada |
| Einstein | Capa de Trust | ✅ Las políticas de retención de datos están diseñadas cumpliendo requisitos reguladores que varían por industria y jurisdicción (por ejemplo, la regla 4511(b) de FINRA establece un periodo de retención predeterminado de seis años y HIPAA requiere un mínimo de seis años para la documentación de cumplimiento) |
| CRM Analytics | Monitoreo | ✅ Los tableros de CRM Analytics analizan datos de decisiones de modelo predictivo capturados para patrones de decisiones, mediciones de equidad y desempeño de modelo a lo largo del tiempo |
| CRM Analytics | Monitoreo | ✅ Las lentes de CRM Analytics muestran distribuciones de predicciones por nivel de confianza, segmento demográfico y tipo de resultado |
| CRM Analytics | Monitoreo | ✅ Las historias Einstein Discovery identifican patrones anómalos que requieren investigación |
| Plataforma | Seguimiento de auditoría de campo | ✅ Seguimiento de auditoría de campo está activado en objetos personalizados que almacenan datos de decisiones de IA, reteniendo el historial archivado indefinidamente hasta su eliminación para registros de consentimiento, sustituir decisiones y sesgar reportes |
| Plataforma | Monitoreo de eventos | ✅ Monitoreo de eventos captura transcripciones de pláticas Agentforce, invocaciones de herramientas y puntos de decisión |
| Plataforma | Monitoreo de eventos | ✅ Los registros de Monitoreo de eventos se enrutan a SIEM externo a través de Eventos de plataforma para almacenamiento a prueba de manipulaciones |
| Plataforma | Monitoreo de eventos | ✅ Las consultas SIEM detectan patrones de sesgo entre grandes volúmenes de interacciones Agentforce |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Einstein | Capa de Trust | ⚠️ Las interacciones Agentforce se implementan sin activar la captura de auditoría de Trust Layer o definir políticas de retención |
| Einstein | Capa de Trust | ⚠️ Las políticas de retención no tienen en cuenta los requisitos reguladores específicos de la industria (servicios financieros, cuidados sanitarios) |
| CRM Analytics | Monitoreo | ⚠️ Los datos de decisiones de modelo predictivo capturados no se analizan; los patrones de decisiones y las mediciones de equidad no se siguen a lo largo del tiempo |
| Plataforma | Seguimiento de auditoría de campo | ⚠️ El historial de campos estándar de 18 meses se basa en los seguimientos de auditoría de decisiones de IA sin tener en cuenta los requisitos de retención regulatorios |
| Plataforma | Seguimiento de auditoría de campo | ⚠️ Seguimiento de auditoría de campo no está activado en objetos con registros de consentimiento, decisiones de sustitución y reportes de sesgo |
| Plataforma | Monitoreo de eventos | ⚠️ Los registros de Monitoreo de eventos se basan en límites de retención nativos sin SIEM externo para almacenamiento a largo plazo a prueba de manipulaciones |
| Plataforma | Monitoreo de eventos | ⚠️ Los registros de interacciones Agentforce no se analizan para patrones de sesgo entre grandes volúmenes |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Gobernanza | Ley de IA de la UE | ✅ Los sistemas de IA de alto riesgo están documentados con documentación de transparencia, documentación técnica, funciones de supervisión humana y mediciones de precisión/equidad |
| Gobernanza | Ley de IA de la UE | ✅ Seguimientos de auditoría de Einstein Trust Layer y tarjetas de modelo Discovery proporcionan bases para requisitos de transparencia de la Ley de IA de la UE |
| Gobernanza | Ley de IA de la UE | ✅ Datos demográficos de entrenamiento de modelo, enfoques de validación y limitaciones conocidas están documentados en registros de decisiones de arquitectura |
| Gobernanza | RGPD | ✅ Los sistemas generan explicaciones coherentes para cualquier decisión histórica on demand en plazos de solicitud de acceso de titulares de datos (que varían por jurisdicción, entre 15 y 45 días) |
| Gobernanza | RGPD | ✅ Los datos de decisiones de modelo predictivo capturados y los factores de explicación Einstein Discovery se almacenan con suficiente retención permitiendo la reconstrucción de explicaciones para el derecho de explicación del RGPD |
| Gobernanza | Responsabilidad algorítmica | ✅ Las evaluaciones de impacto algorítmico se realizan antes de implementar la IA consiguiente como cumplimiento proactivo en vez de respuesta reactiva |
| Gobernanza | Responsabilidad algorítmica | ✅ Los datos de decisiones de modelo predictivo capturados y los tableros de monitoreo de equidad de CRM Analytics proporcionan bases de datos para la creación de reportes de responsabilidad algorítmica |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Gobernanza | Ley de IA de la UE | ⚠️ Los sistemas de IA de alto riesgo se implementan sin documentación de transparencia, funciones de supervisión humana o mediciones de equidad |
| Gobernanza | Ley de IA de la UE | ⚠️ Los datos demográficos de entrenamiento de modelos y las limitaciones conocidas no están documentados en registros de decisiones de arquitectura |
| Gobernanza | RGPD | ⚠️ Los sistemas no pueden generar explicaciones coherentes para decisiones históricas en plazos de solicitud de acceso de titulares de datos del RGPD |
| Gobernanza | RGPD | ⚠️ La retención de datos de decisiones del modelo predictivo capturado es insuficiente para dar cobertura a la reconstrucción de explicaciones para decisiones pasadas |
| Gobernanza | Responsabilidad algorítmica | ⚠️ Las evaluaciones de impacto algorítmicas no se realizan antes de la implementación de la IA consiguiente; el cumplimiento es reactivo después de la investigación regulatoria |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | OWD | ✅ Los valores predeterminados de toda la organización privada se establecen para objetos que contienen datos confidenciales de clientes con acceso otorgado a través de reglas de colaboración y jerarquía de funciones |
| Plataforma | OWD | ✅ Los OWD privados con subvenciones de colaboración explícitas crean patrones de acceso auditables que admiten el cumplimiento de la no discriminación |
| Plataforma | Seguridad a nivel de campo | ✅ Los campos confidenciales que contienen características protegidas (etnia, religión, estado de discapacidad) están ocultos a través de FLS a usuarios sin necesidad de negocio legítima |
| Plataforma | Seguridad a nivel de campo | ✅ El acceso de lectura a campos confidenciales se elimina a través de FLS para la mayoría de los perfiles; el acceso se otorga mínimamente a través de conjuntos de permisos con justificación documentada |
| Plataforma | Asignación y enrutamiento | ✅ Las reglas de asignación, las colas y el enrutamiento de OmniCanal distribuyen el trabajo equitativamente entre territorios, equipos y agentes de servicio basándose en criterios objetivos |
| Plataforma | Reglas de colaboración | ✅ Las reglas de colaboración automáticas se basan en criterios objetivos (industria, geografía, línea de productos) en vez de discreción de gestor subjetiva |
| Plataforma | Conjuntos de permisos | ✅ El acceso temporal a datos confidenciales se otorga a través de conjuntos de permisos con caducidad documentada en vez de modificaciones de perfil permanentes |
| Plataforma | Conjuntos de permisos | ✅ Flujo programado revoca conjuntos de permisos automáticamente después de periodos definidos cuando se necesita acceso a datos demográficos para proyectos específicos |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | OWD | ⚠️ Las OWD de Lectura/Escritura Públicas hacen que restringir el acceso más tarde sea perturbador (ajustar el valor predeterminado desencadena un nuevo cálculo de colaboración); no existen patrones de acceso auditables |
| Plataforma | OWD | ⚠️ OWD de cuenta está establecido como Lectura/Escritura pública con campos demográficos no protegidos visibles para todos los usuarios que activan el sesgo subjetivo |
| Plataforma | Seguridad a nivel de campo | ⚠️ Los campos demográficos confidenciales son visibles para todos los perfiles sin restricciones de FLS; no se evita el uso discriminatorio de datos |
| Plataforma | Reglas de colaboración | ⚠️ La colaboración manual concentra oportunidades de alto valor con grupos de usuarios específicos sin justificación de negocio documentada |
| Plataforma | Reglas de colaboración | ⚠️ Las reglas de colaboración se basan en la discreción subjetiva del gestor en vez de criterios objetivos que activan el sesgo |
| Plataforma | Conjuntos de permisos | ⚠️ Los perfiles se modifican de forma permanente afectando a todos los usuarios en vez de otorgar acceso temporal a través de conjuntos de permisos |
| Plataforma | Conjuntos de permisos | ⚠️ Los conjuntos de permisos que otorgan acceso a datos confidenciales no caducan automáticamente; el acceso permanece indefinido tras la finalización del proyecto |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Shield | Monitoreo de eventos | ✅ Monitoreo de eventos Shield realiza un seguimiento del acceso a campos que contienen características protegidas o atributos confidenciales |
| Shield | Monitoreo de eventos | ✅ Las consultas de Monitoreo de eventos realizan un seguimiento de quién accede a campos demográficos, cuándo y en qué contexto detecta patrones anómalos |
| Shield | Monitoreo de eventos | ✅ Patrones de acceso anómalos (picos repentinos, acceso de usuarios inesperados) desencadenan la investigación de posibles usos indebidos |
| Plataforma | Creación de reportes | ✅ Los reportes analizan cómo las reglas de colaboración distribuyen registros entre usuarios, equipos y territorios calculando estadísticas de distribución por datos demográficos de clientes |
| Plataforma | Creación de reportes | ✅ Los reportes identifican concentraciones donde grupos de usuarios específicos reciben acceso desproporcionado a registros valiosos sin justificación documentada |
| Plataforma | Configuración Seguimiento de auditoría | ✅ Configuración Seguimiento de auditoría se revisa para cambios en parámetros de OWD, reglas de colaboración, configuraciones de FLS y conjuntos de permisos que detectan cambios no autorizados |
| Plataforma | Seguridad de transacciones | ✅ Las políticas de seguridad de transacciones actúan en eventos de Monitoreo de eventos en tiempo real de alto riesgo (actividad de API anómala, inicios de sesión sospechosos, grandes exportaciones de datos confidenciales); FLS y los cambios de colaboración se basan en Configuración Seguimiento de auditoría y aprobaciones de gestión de cambios documentadas |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Shield | Monitoreo de eventos | ⚠️ No se monitorea el acceso a campos demográficos confidenciales; el posible uso indebido no se detecta |
| Shield | Monitoreo de eventos | ⚠️ Los patrones de acceso anómalos (picos, usuarios inesperados) no se siguen ni se investigan |
| Plataforma | Creación de reportes | ⚠️ No se analizan las distribuciones de reglas de colaboración; el acceso desproporcionado a registros valiosos permanece invisible |
| Plataforma | Creación de reportes | ⚠️ Las concentraciones de cuentas de alto valor con grupos de usuarios específicos carecen de justificación de negocio documentada |
| Plataforma | Configuración Seguimiento de auditoría | ⚠️ Configuración del seguimiento de auditoría no se revisa; no se detectan cambios no autorizados en los controles de acceso a datos que activan el acceso a datos confidenciales |
| Plataforma | Seguridad de transacciones | ⚠️ Los eventos de Monitoreo de eventos en tiempo real de alto riesgo (actividad de API anómala, grandes exportaciones de datos confidenciales) no se realizan con políticas de Seguridad de transacciones |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | Objetos personalizados | ✅ El consentimiento granular por caso de uso de IA se activa a través del propósito de seguimiento de objeto Consentimiento personalizado, la fecha/método de otorgamiento, la fecha de retirada y el Id. de Usuario/Contacto relacionado |
| Plataforma | Objetos personalizados | ✅ Los clientes consienten recomendaciones de productos Einstein mientras rechazan decisiones de crédito dirigidas por IA a través de registros de consentimiento separados por caso de uso |
| Plataforma | Seguimiento de auditoría de campo | ✅ Seguimiento de auditoría de campo está activado en el objeto Consentimiento para la retención a largo plazo que cumple los requisitos normativos |
| Data 360 | Consentimiento | ✅ La gestión de consentimiento de Data 360 se utiliza para funciones Personalización de Einstein, ingresando y almacenando preferencias de consentimiento a través de conectores asignados al Modelo de datos de privacidad y utilizándolos como criterios de filtro en segmentación y en activación |
| Data 360 | Consentimiento | ✅ Las categorías de consentimiento se asignan a casos de uso de IA específicos permitiendo a los usuarios anular la personalización manteniendo al mismo tiempo el servicio principal |
| Marketing Cloud | Consentimiento | ✅ El consentimiento de Marketing Cloud se integra con Perspectivas de Mensajería Einstein y Agentforce respetando el estado de suscripción |
| Marketing Cloud | Consentimiento | ✅ El estado de consentimiento de Marketing Cloud se consulta antes de que Agentforce inicie el alcance automatizado evitando el contacto no deseado con usuarios que anularon la suscripción |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Objetos personalizados | ⚠️ El consentimiento de IA se sigue en hojas de cálculo o se basa en el inicio de sesión como consentimiento general implícito sin registros explícitos |
| Plataforma | Objetos personalizados | ⚠️ Se utiliza consentimiento de IA general en vez de consentimiento granular por caso; los usuarios no pueden anular la suscripción a funciones de IA específicas |
| Plataforma | Seguimiento de auditoría de campo | ⚠️ Seguimiento de auditoría de campo no está activado en el objeto Consentimiento; no se mantiene la retención a largo plazo que cumple los requisitos normativos |
| Data 360 | Consentimiento | ⚠️ El consentimiento de Data 360 no se utiliza para Personalización de Einstein; las categorías de consentimiento no se asignan a casos de uso específicos |
| Marketing Cloud | Consentimiento | ⚠️ El consentimiento de Marketing Cloud no está integrado con Einstein o Agentforce; no se respeta el estado de suscripción en el alcance automatizado |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Experience Cloud | Configuración de perfil | ✅ Los usuarios anulan la suscripción a interacciones Agentforce mediante controles de preferencias accesibles en la configuración de perfil de Experience Cloud o Mi configuración con descripciones claras |
| Plataforma | Registros de usuario/contacto | ✅ Las preferencias de IA se almacenan en registros Usuario o Contacto activando la consulta en lógica de decisiones de Flow y Agentforce |
| Agentforce | OmniCanal | ✅ Los usuarios que anulan la suscripción a Agentforce se enrutan a agentes humanos a través de OmniCanal en vez de recibir un servicio degradado |
| Agentforce | Flujo | ✅ El flujo comprueba los campos de consentimiento y preferencia antes de la implicación Agentforce; si el usuario anula la suscripción, se crea un registro de trabajo y se enruta a una cola humana |
| Agentforce | OmniCanal | ✅ La plantilla de colas humanas proporciona tiempos de espera comparables al servicio automatizado para usuarios que anularon la suscripción |
| Plataforma | Registros de usuario/contacto | ✅ Las preferencias de IA se almacenan en registros Usuario o Contacto garantizando la coherencia entre canales (web, móvil, teléfono, email) |
| Plataforma | Flujo | ✅ La preferencia se consulta de forma coherente en todos los flujos de interacción evitando que los usuarios necesiten reafirmar preferencias repetidamente en cada canal |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Experience Cloud | Configuración de perfil | ⚠️ La anulación de suscripción solo está disponible a través del email al equipo de asistencia; no existen controles de preferencias accesibles |
| Plataforma | Registros de usuario/contacto | ⚠️ Las preferencias de IA no se almacenan en registros Usuario o Contacto; las preferencias no se pueden consultar en lógica de Flow o Agentforce |
| Agentforce | OmniCanal | ⚠️ Los usuarios que anulan la suscripción reciben un servicio degradado como presión implícita para aceptar la IA en vez de enrutar a agentes humanos |
| Agentforce | Flujo | ⚠️ El flujo no comprueba los campos de consentimiento o preferencia antes de la implicación Agentforce; se ignoran las preferencias de anulación de suscripción |
| Plataforma | Registros de usuario/contacto | ⚠️ Las preferencias no son coherentes entre canales; los usuarios deben reafirmar la anulación de suscripción en web, móvil, teléfono y email por separado |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Gobernanza | Documentación | ✅ Cada modelo predictivo de producción está documentado con datos demográficos de capacitación, mediciones de equidad, casos de uso previstos, estrategias de mitigación de sesgos y enfoques de monitoreo |
| Gobernanza | Documentación | ✅ La documentación del modelo incluye el enfoque de monitoreo de equidad, los umbrales de alerta, los requisitos de supervisión humana, el programa de revisión y las consideraciones regulatorias |
| Plataforma | Objetos personalizados | ✅ La documentación del modelo se almacena en Salesforce utilizando el objeto Modelo personalizado o Archivos de Salesforce adjuntos a Proyectos que permiten la capacidad de búsqueda y el control de versiones |
| Gobernanza | Puertas de implementación | ✅ Las puertas de equidad previas a la implementación requieren auditoría de datos de capacitación, cálculo de mediciones de equidad, evaluación de impacto, diseño de supervisión humana y revisión de transparencia antes de la producción |
| Gobernanza | Puertas de implementación | ✅ Las brechas de representación de datos de capacitación se analizan y documentan como puerta de implementación obligatoria |
| Gobernanza | Puertas de implementación | ✅ Paridad demográfica, igualdad de oportunidades e impacto dispar se calculan cumpliendo umbrales como puerta obligatoria |
| Gobernanza | Puertas de implementación | ✅ La evaluación de impacto evalúa posibles daños entre poblaciones afectadas como puerta obligatoria |
| Gobernanza | Puertas de implementación | ✅ El diseño de supervisión humana incluyendo patrones de distribución, flujos de trabajo de aprobación y mecanismos de sustitución están diseñados y probados como puertas obligatorias |
| Gobernanza | Puertas de implementación | ✅ Las funciones de explicación se validan para todos los tipos de decisiones como puertas obligatorias |
| Gobernanza | Puertas de implementación | ✅ Las puertas de equidad se tratan con el mismo rigor que las puertas de seguridad con autoridad para bloquear implementaciones que fallan en cualquier puerta |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Gobernanza | Documentación | ⚠️ Las funciones Einstein se implementan sin documentar datos de entrenamiento, mediciones de equidad, mitigación de sesgos o enfoques de monitoreo |
| Gobernanza | Documentación | ⚠️ La documentación del modelo no incluye el enfoque de monitoreo de equidad, los requisitos de supervisión humana o consideraciones regulatorias |
| Plataforma | Objetos personalizados | ⚠️ La documentación del modelo se almacena en hojas de cálculo o wikis sin capacidad de búsqueda o control de versiones |
| Gobernanza | Puertas de implementación | ⚠️ Las funciones Einstein pasan a producción sin puertas de equidad; la implementación se basa únicamente en mediciones de precisión generales |
| Gobernanza | Puertas de implementación | ⚠️ Auditoría de datos de capacitación, cálculo de mediciones de equidad o evaluación de impacto se omiten antes de la implementación de producción |
| Gobernanza | Puertas de implementación | ⚠️ El diseño de supervisión humana, la revisión de transparencia o la validación de explicaciones no se realizan antes de la producción |
| Gobernanza | Puertas de implementación | ⚠️ Las puertas de equidad son solo consultivas sin autoridad para bloquear implementaciones; los modelos proceden a pesar de no cumplir los criterios de equidad |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Gobernanza | Consejo de revisión | ✅ La junta de revisión incluye expertos técnicos (arquitectos, científicos de datos), partes interesadas de negocio, asesores legales, especialistas en privacidad y representantes de comunidades afectadas |
| Gobernanza | Consejo de revisión | ✅ Diversas perspectivas afloran problemas de equidad que los grupos homogéneos pierden durante la revisión ética |
| Gobernanza | Revisar desencadenadores | ✅ Los desencadenadores de revisión están definidos: decisiones que afectan al empleo/crédito/vivienda/asistencia sanitaria/derechos legales, sistemas que afectan a >10.000 usuarios anuales, casos de uso novedosos, riesgo de daño significativo |
| Gobernanza | Revisar desencadenadores | ✅ Las aplicaciones de IA que utilizan datos personales confidenciales (sanitarios, financieros, demográficos) requieren revisión ética antes de la implementación |
| Gobernanza | Autoridad de revisión | ✅ La junta de revisión ética tiene autoridad para requerir cambios, imponer condiciones de monitoreo o bloquear implementaciones que incumplen estándares éticos |
| Plataforma | Objetos personalizados | ✅ Todas las revisiones están documentadas en el nombre de la aplicación de seguimiento de objetos personalizados de Salesforce, la fecha de revisión, las preocupaciones planteadas, los requisitos de mitigación y las condiciones de aprobación |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Gobernanza | Consejo de revisión | ⚠️ La junta de examen carece de diversidad (solo expertos técnicos); los grupos homogéneos no tienen en cuenta los problemas de equidad que afectan a las diferentes poblaciones |
| Gobernanza | Consejo de revisión | ⚠️ No se incluyen representantes de comunidades afectadas; se obtienen puntos ciegos en consideraciones de equidad |
| Gobernanza | Revisar desencadenadores | ⚠️ Los desencadenadores de revisión no están definidos; las aplicaciones de IA de alto riesgo proceden sin revisión ética antes de la implementación |
| Gobernanza | Autoridad de revisión | ⚠️ El examen de la ética es solo consultivo sin aplicación forzosa; las implementaciones se realizan a pesar de no cumplir las normas éticas (teatro de operaciones de rendición de cuentas) |
| Plataforma | Objetos personalizados | ⚠️ Las revisiones no se documentan sistemáticamente; no se realiza un seguimiento de las decisiones, los problemas y las mitigaciones de revisiones históricas |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| CRM Analytics | Monitoreo | ✅ Los tableros de CRM Analytics realizan un seguimiento de mediciones de equidad Einstein y Agentforce desde datos de decisiones capturados y datos de auditoría Trust Layer en una cadencia programada |
| CRM Analytics | Monitoreo | ✅ Paridad demográfica, igualdad de oportunidades, índices de impacto dispares y mediciones de calidad de servicio se monitorean por segmento de cliente |
| CRM Analytics | Monitoreo | ✅ Las alertas de CRM Analytics están configuradas desencadenándose cuando las mediciones de equidad infringen umbrales definidos que requieren investigación |
| CRM Analytics | Monitoreo | ✅ Los tableros de CRM Analytics realizan un seguimiento de las señales de equidad: cambios repentinos en distribuciones de decisiones, picos en casos relacionados con sesgos, degradación del desempeño para poblaciones específicas |
| CRM Analytics | Monitoreo | ✅ Desencadenador de alertas para Puntuaje de oportunidades Einstein cuando los índices de aprobación para cualquier segmento caen más del 15% semana tras semana requiriendo investigación de equidad |
| Gobernanza | Auditorías programadas | ✅ Las auditorías de equidad integrales se realizan trimestralmente para IA de alto riesgo (crédito, empleo, cuidados sanitarios) o semestralmente para sistemas de bajo riesgo |
| Gobernanza | Auditorías programadas | ✅ Las auditorías examinan mediciones de equidad actuales, revisan patrones de sustitución, analizan comentarios de usuarios y sesgan reportes, y validan que los controles de gobernanza siguen siendo efectivos |
| Gobernanza | Respuesta ante incidentes | ✅ Los procesos de respuesta ante incidentes claros están documentados en Salesforce Knowledge para responder cuando se detecta sesgo |
| Gobernanza | Respuesta ante incidentes | ✅ Evaluación de gravedad inmediata consultando datos de decisiones de modelo predictivo en CRM Analytics; el sesgo severo suspende la toma de decisiones automatizada pendiente de investigación |
| Gobernanza | Respuesta ante incidentes | ✅ La mitigación temporal implementa una supervisión humana aumentada a través de umbrales de confianza ajustados, desactivación de funciones o suspensión completa de agentes |
| Gobernanza | Respuesta ante incidentes | ✅ El análisis de causa raíz identifica cómo entró o evolucionó el sesgo; los datos de entrenamiento, las versiones de modelo y los cambios de configuración se analizan a través del seguimiento de auditoría de campo |
| Gobernanza | Respuesta ante incidentes | ✅ La corrección permanente implementa la corrección de datos, el reciclaje de modelos o los cambios de procesos con la comunicación apropiada a los usuarios afectados |
| Gobernanza | Respuesta ante incidentes | ✅ Las medidas de prevención están documentadas en libros de ejecuciones que evitan la repetición de incidentes de sesgo |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| CRM Analytics | Monitoreo | ⚠️ Las mediciones de equidad no se siguen en ninguna cadencia programada desde datos de decisiones capturados o datos de auditoría Trust Layer; la desviación de sesgos pasa desapercibida a medida que cambian las distribuciones de datos |
| CRM Analytics | Monitoreo | ⚠️ Las alertas de CRM Analytics no están configuradas; las infracciones de mediciones de equidad que requieren investigación no se desencadenan |
| CRM Analytics | Monitoreo | ⚠️ No se monitorean las señales de equidad; no se detectan cambios repentinos en las distribuciones de decisiones |
| Gobernanza | Auditorías programadas | ⚠️ Las auditorías de equidad integrales no se realizan en ningún programa; los controles de gobernanza se desvían y se vuelven ineficaces |
| Gobernanza | Auditorías programadas | ⚠️ Los patrones de sustitución, los comentarios de usuarios y los reportes de sesgo no se analizan sistemáticamente durante las auditorías |
| Gobernanza | Respuesta ante incidentes | ⚠️ Los procesos de respuesta ante incidentes claros no están documentados; la detección de sesgos lleva a respuestas ad hoc sin enfoque sistemático |
| Gobernanza | Respuesta ante incidentes | ⚠️ La mitigación temporal o la rehabilitación permanente no se implementan sistemáticamente; el sesgo persiste afectando a los usuarios |
| Gobernanza | Respuesta ante incidentes | ⚠️ El análisis de causa raíz no se realiza; cómo el sesgo ingresado o evolucionado permanece desconocido |
| Gobernanza | Respuesta ante incidentes | ⚠️ No se documentan las medidas de prevención; no se evita la recurrencia |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | Campos obligatorios | ✅ Cada campo obligatorio lleva una justificación de negocio documentada de por qué los datos son obligatorios en vez de opcionales; los campos sin los que puede funcionar un proceso se convierten en opcionales con gestión descendente para valores que faltan |
| Plataforma | Campos obligatorios | ✅ Email es opcional con métodos de comunicación alternativos (SMS, teléfono, correo postal) de modo que los usuarios sin Internet fiable o email personal no se excluyen de la creación de cuentas |
| Plataforma | Campos de nombre | ✅ La arquitectura de nombres utiliza un único campo de nombre completo o una estructura flexible de múltiples partes que admite monónimos, sistemas patronímicos y múltiples nombres dados o familiares sin asumir el orden o la herencia |
| Plataforma | Campos de nombre | ✅ Los campos de nombre se prueban con diversos nombres internacionales, aceptando nombres de una sola palabra, nombres largos, diacríticos, apóstrofos, guiones y escrituras no latinas (árabe, chino, cirílico, devanagari) |
| Plataforma | Validación de direcciones | ✅ La validación de direcciones permisiva acepta la entrada de forma libre cuando falla la validación estructurada y almacena direcciones a medida que los usuarios las ingresan en vez de forzar correcciones no válidas |
| Plataforma | Validación de direcciones | ✅ La verificación de direcciones está integrada en procesos de realización donde la precisión importa operativamente en vez de bloquear Captura de datos por adelantado |
| Plataforma | Preferencias de comunicación | ✅ Los métodos de comunicación preferidos se almacenan en registros Contacto y se respetan de forma coherente en todos los sistemas salientes, ofreciendo alternativas omnicanal en vez de suposiciones de un solo canal |
| Objeto personalizado | Datos demográficos | ✅ Los datos demográficos voluntarios se recopilan a través de una encuesta separada con una opción “Preferir no responder”, almacenada en un objeto personalizado con OWD privada, restringida por FLS y utilizada solo para análisis de equidad agregados |
| Shield | Monitoreo de eventos | ✅ Monitoreo de eventos Shield registra eventos de acceso (exportaciones de reportes, consultas de objetos de API) en datos demográficos para auditar patrones de acceso |
| Plataforma | Enriquecimiento externo | ✅ Los proveedores de enriquecimiento externos son auditados para pruebas de equidad, cobertura demográfica y precisión, metodología de inferencia y restricciones de uso de datos contractuales antes de la implementación |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Campos obligatorios | ⚠️ El email es obligatorio para la creación de cuentas sin alternativa, y la validación de teléfono o dirección rechaza formatos no de EE.UU., apartados postales y rutas rurales, excluyendo usuarios que no pueden proporcionar los datos |
| Plataforma | Campos obligatorios | ⚠️ Los campos se marcan como obligatorios sin documentar si el proceso podría funcionar sin los datos, creando poblaciones invisibles desde registros incompletos rechazados |
| Plataforma | Campos de nombre | ⚠️ Los campos de nombre aplican las convenciones Primera/Última occidental y rechazan monónimos, diacríticos o escrituras no latinas, sometiendo a los usuarios al rechazo del sistema basado en la identidad cultural |
| Plataforma | Validación de direcciones | ⚠️ La validación de direcciones requiere formato postal de EE.UU. y no reconoce direcciones internacionales, apartados postales, direcciones militares (APO/FPO) o tribales, bloqueando la creación de cuentas y la entrega de servicios |
| Plataforma | Preferencias de comunicación | ⚠️ Un canal de comunicación único se asume universal (solo correo electrónico o solo teléfono), excluyendo usuarios sin Internet, sin acceso telefónico o que son sordos o con dificultades auditivas |
| Objeto personalizado | Datos demográficos | ⚠️ Los datos demográficos se deducen de nombres o ubicaciones sin Knowledge de usuario, se almacenan en campos Contacto estándar visibles para todos los usuarios y se utilizan en puntuaje de prospectos o pronósticos sin revelación |
| Plataforma | Enriquecimiento externo | ⚠️ Los datos externos se anexan sin auditar las prácticas de equidad de los proveedores o la cobertura demográfica, importando el sesgo introducido por los proveedores en las decisiones de la organización |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | Asignación y enrutamiento | ✅ Las reglas de asignación y enrutamiento utilizan criterios objetivos (líneas de productos, SLA, requisitos de idioma) y las distribuciones de asignaciones se auditan trimestralmente, estratificadas por datos demográficos de clientes, para garantizar que no surgen patrones de concentración |
| Plataforma | OmniCanal | ✅ El tiempo medio de tratamiento, la resolución del primer contacto y la satisfacción del cliente se monitorean entre rutas de enrutamiento para detectar si los segmentos de clientes reciben sistemáticamente agentes menos experimentados |
| Plataforma | Flujo | ✅ Los flujos que toman decisiones consecuentes se revisan para criterios que se correlacionan con características protegidas (tenencia de cuenta, preferencia de canal, historial de compras, horarios laborales) y su lógica de decisión se documenta en registros de decisiones de arquitectura |
| Plataforma | Flujo | ✅ Flujos de alto riesgo que afectan al empleo, el crédito o el acceso a servicios están sujetos al mismo proceso de revisión ética que los sistemas de IA |
| Plataforma | Reglas de validación | ✅ Las reglas de validación se prueban con datos diversos (direcciones internacionales, nombres no occidentales, formatos de teléfono alternativos) y se amplían siempre que rechazan datos legítimos; los campos Nombre aceptan Unicode y todas las secuencias de comandos |
| Plataforma | Diseño de territorios | ✅ Los datos demográficos de clientes se asignan a través de límites de territorio propuestos antes de que se finalicen los diseños; donde surgen concentraciones, la asignación de recursos se evalúa para la equidad y la justificación de negocio se documenta y monitorea |
| Plataforma | Auditoría | ✅ La lógica de automatización (reglas de negocio, criterios de asignación, decisiones de flujos) está documentada en Salesforce Knowledge o ADR, y los resultados se auditan trimestralmente estratificados por datos demográficos: distribuciones de asignaciones, índices de aprobación de flujos, índices de rechazo de validación y asignación de recursos de territorio |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Asignación y enrutamiento | ⚠️ Las reglas de asignación priorizan prospectos desde ciertos códigos postales a “máximo desempeño” basándose en índices de ganancias históricos sin examinar si ese éxito refleja habilidad o ventaja demográfica |
| Plataforma | OmniCanal | ⚠️ Las mediciones de calidad de enrutamiento no se monitorean entre segmentos de clientes, de modo que las disparidades en la experiencia o resolución de agentes pasan desapercibidas |
| Plataforma | Flujo | ⚠️ Los criterios de decisión de flujo se correlacionan con características protegidas (tenencia, canal, volumen de compra, zona horaria) y se tratan como objetivos porque la lógica determinista se siente neutra |
| Plataforma | Flujo | ⚠️ Los flujos de alto riesgo toman decisiones consecuentes sin revisión ética, documentación de ADR o gestión para usuarios fuera del perfil de cliente habitual |
| Plataforma | Reglas de validación | ⚠️ La validación de nombres está restringida a A-Z y rechaza diacríticos o escrituras no latinas, y la validación de direcciones requiere formato postal de EE.UU.: los datos legítimos se rechazan y los usuarios abandonan solicitudes no reportadas |
| Plataforma | Diseño de territorios | ⚠️ Los límites territoriales siguen una geografía que se correlaciona con la demografía, con diferentes compensaciones o plantillas entre territorios y sin análisis de la concentración demográfica |
| Plataforma | Auditoría | ⚠️ La lógica de automatización no está documentada y los resultados nunca se auditan, por lo que los patrones discriminatorios en la asignación, las aprobaciones, la validación o la asignación de territorios permanecen invisibles |