Ética y gobernanza de la IA: patrones

Obtenga más información acerca de la equidad bien arquitectónica → Práctica de gobernanza de IA ética

Patrones

Dónde buscar	Qué buen aspecto tiene
Einstein \| Datos de entrenamiento	✅ Los datos de Salesforce CRM se auditan para detectar brechas de representación demográfica e incoherencias de medición antes de entrenar modelos predictivos
Einstein \| Datos de entrenamiento	✅ Los datos de conversión históricos se analizan por datos demográficos de clientes para identificar segmentos subrepresentados que requieren sobremuestreo o recopilación de datos adicional
Einstein \| Implementación	✅ La evaluación de equidad se trata como una puerta obligatoria equivalente a una revisión de seguridad antes de que los modelos predictivos lleguen a producción
Einstein \| Implementación	✅ Paridad demográfica, igualdad de oportunidades e índices de impacto dispares se calculan entre grupos protegidos antes de la implementación
Einstein \| Implementación	✅ Las mediciones de equidad se evalúan con respecto a la regla de las cuatro quintas partes (umbral del 80%) como un desencadenador de selección (no una partida de aprobación/no aprobación legal) para todos los segmentos de clientes antes de la implementación del modelo
Einstein Discovery \| Instrumentación	✅ Los datos de decisiones de modelo predictivo (entradas, salidas y versiones de modelo de predicción) se capturan a través de Einstein Discovery e instrumentación personalizada que activa la detección de sesgos
CRM Analytics \| Supervisión	✅ Los paneles de CRM Analytics analizan datos de decisiones de modelo predictivo capturados para patrones de decisiones entre grupos demográficos a lo largo del tiempo
CRM Analytics \| Supervisión	✅ Las alertas de CRM Analytics se desencadenan cuando la paridad demográfica o las mediciones de igualdad de oportunidades van más allá de umbrales aceptables
Einstein \| Ingeniería de funciones	✅ Todas las funciones del modelo predictivo se analizan para la correlación con características protegidas utilizando métodos estadísticos
Einstein \| Ingeniería de funciones	✅ Las funciones proxy (territorio, código postal, patrones de nombre de cuenta, tiempo de actividad, tipo de dispositivo) se identifican y evalúan para la correlación demográfica
Einstein \| Ingeniería de funciones	✅ Las funciones proxy se eliminan o transforman después de evaluar si el valor predictivo justifica la inclusión a pesar de los efectos proxy

Antipatrones

Dónde buscar	Aspecto negativo
Einstein \| Datos de entrenamiento	⚠️ La puntuación de candidatos se entrena en 10 años de datos históricos sin examinar la representación demográfica o las diferencias de calidad del servicio
Einstein \| Datos de entrenamiento	⚠️ Los datos de conversión histórica se utilizan directamente sin auditar si diferentes datos demográficos recibieron un tratamiento diferente
Einstein \| Implementación	⚠️ Las funciones de Einstein se implementan basándose únicamente en mediciones de precisión generales sin evaluación de equidad
Einstein \| Implementación	⚠️ La paridad demográfica o los índices de impacto dispares no se calculan antes de la implementación de la producción
Einstein \| Capa de Trust	⚠️ Las interacciones Agentforce se implementan sin activar la captura de auditoría de Trust Layer para la detección de sesgos
CRM Analytics \| Supervisión	⚠️ Los patrones de decisión no se siguen por grupos demográficos a lo largo del tiempo; la desviación de sesgos pasa desapercibida
Einstein \| Ingeniería de funciones	⚠️ Las características protegidas se eliminan de los datos de entrenamiento asumiendo que esto elimina automáticamente el sesgo
Einstein \| Ingeniería de funciones	⚠️ Los patrones de territorio, código postal y nombre de cuenta se utilizan como funciones sin análisis de correlación proxy
Einstein \| Ingeniería de funciones	⚠️ Las funciones proxy que sirven como proxys demográficos perfectos se mantienen sin evaluar alternativas

Patrones

Dónde buscar	Qué buen aspecto tiene
Agentforce \| Análisis	✅ Los paneles de CRM Analytics realizan un seguimiento de resultados de decisiones Agentforce por datos demográficos de clientes utilizando datos de auditoría de Capa Einstein Trust
Agentforce \| Análisis	✅ Los índices de aprobación, los tiempos de respuesta de servicio, los índices de distribución y las puntuaciones de satisfacción se supervisan estratificados por grupo demográfico
Agentforce \| Análisis	✅ Las alertas de CRM Analytics están configuradas desencadenándose cuando las mediciones de equidad infringen umbrales definidos que requieren investigación
Agentforce \| Supervisión de eventos	✅ Los registros de Supervisión de eventos se enrutan a SIEM externo para una retención a largo plazo que supera los límites de retención nativos
Agentforce \| Supervisión de eventos	✅ Las consultas SIEM identifican concentraciones anómalas de resultados negativos para poblaciones de usuarios específicas
Agentforce \| Seguimiento de auditoría de campo	✅ Seguimiento de auditoría de campo está activado en objetos personalizados que almacenan datos de decisiones Agentforce, conservando el historial archivado indefinidamente hasta su eliminación
Agentforce \| Seguimiento de auditoría de campo	✅ Seguimiento de auditoría de campo admite auditorías de equidad a largo plazo e investigaciones reguladoras que requieren la reconstrucción de decisiones de IA históricas
CRM Analytics \| Supervisión	✅ Los paneles de CRM Analytics realizan un seguimiento de las señales de equidad: cambios repentinos en las distribuciones de decisiones, picos en casos relacionados con sesgos, degradación del rendimiento para poblaciones específicas
CRM Analytics \| Supervisión	✅ Las alertas se desencadenan cuando los índices de aprobación para cualquier segmento de clientes caen más del 15% semana tras semana requiriendo investigación de equidad

Antipatrones

Dónde buscar	Aspecto negativo
Agentforce \| Análisis	⚠️ Los resultados de decisiones no se siguen por datos demográficos; la desviación de sesgos pasa desapercibida a medida que cambian las distribuciones de datos
Agentforce \| Análisis	⚠️ Las mediciones de calidad del servicio no están estratificadas por grupo demográfico; los resultados dispares permanecen invisibles
Agentforce \| Supervisión de eventos	⚠️ Los registros de Supervisión de eventos se basan en límites de retención nativos sin SIEM externo para auditorías de equidad a largo plazo
Agentforce \| Supervisión de eventos	⚠️ Los patrones de decisión no se analizan entre grandes volúmenes de interacciones; se pierden concentraciones anómalas
Agentforce \| Seguimiento de auditoría de campo	⚠️ Seguimiento de auditoría de campo no está activado; las decisiones de IA histórica no se pueden reconstruir para investigaciones reguladoras
CRM Analytics \| Supervisión	⚠️ Las señales de equidad no se supervisan; los cambios repentinos en las distribuciones de decisiones pasan desapercibidos

Patrones

Dónde buscar	Qué buen aspecto tiene
Einstein \| Datos de entrenamiento	✅ Los datos de Salesforce CRM se reequilibran mediante el sobremuestreo de segmentos insuficientemente representados o el submuestreo de segmentos sobrerrepresentados antes de la formación
Data 360 \| Arquitectura	✅ Data 360 agrega datos entre múltiples organizaciones garantizando conjuntos de entrenamiento diversos para modelos predictivos
Einstein \| Datos de entrenamiento	✅ La generación de datos sintéticos complementa segmentos dispersos preservando la privacidad a través de técnicas de privacidad diferenciales
Einstein \| Ingeniería de funciones	✅ Las funciones proxy se sustituyen por funciones alternativas que proporcionan potencia predictiva sin correlación demográfica
Einstein \| Ingeniería de funciones	✅ Clasificación industrial o tamaño de empresa se utilizan en vez de territorio cuando el territorio sirve como proxy demográfico
Einstein \| Ingeniería de funciones	✅ Se utilizan atributos firmegráficos en vez de patrones de nombre de cuenta cuando los nombres se correlacionan con datos demográficos
Agentforce \| Postprocesamiento	✅ Los umbrales de decisión se ajustan por segmento demográfico para igualar las tasas de resultados después de la formación del modelo, excepto que, en los Estados Unidos, el Título VII (Ley de Derechos Civiles de 1991) prohíbe ajustar puntuaciones o límites por clase protegida para decisiones relacionadas con el empleo, y otras jurisdicciones imponen sus propias restricciones
Agentforce \| Postprocesamiento	✅ Se utilizan diferentes umbrales de confianza para diferentes contextos, logrando índices de aprobación equitativos mientras se utiliza el mismo modelo predictivo subyacente
Agentforce \| Postprocesamiento	✅ Los ajustes de umbral se documentan con justificación comercial para el trato diferenciado, reconociendo que en los Estados Unidos, ninguna documentación hace que la puntuación por grupo o el ajuste de corte sea legal para decisiones relacionadas con el empleo bajo el Título VII
Einstein \| Reentrenamiento de modelos	✅ La programación de readiestramiento trimestral o dirigida por eventos se establece capturando patrones de sesgos emergentes y corrigiendo la desviación de las líneas base de equidad originales
Einstein \| Reentrenamiento de modelos	✅ Las mediciones de equidad se revalidan en cada versión de modelo antes de la implementación de producción garantizando que el reciclaje no introdujo nuevos sesgos

Antipatrones

Dónde buscar	Aspecto negativo
Einstein \| Datos de entrenamiento	⚠️ Los datos de entrenamiento se utilizan directamente sin reequilibrar segmentos insuficientemente representados o sobrerepresentados
Einstein \| Datos de entrenamiento	⚠️ Los segmentos demográficos escasos no se complementan con datos sintéticos o agregación entre organizaciones
Einstein \| Ingeniería de funciones	⚠️ Las funciones proxy se mantienen sin evaluar funciones alternativas que proporcionan potencia predictiva sin correlación demográfica
Agentforce \| Postprocesamiento	⚠️ Se aplican los mismos umbrales de confianza a todos los segmentos demográficos sin igualar las tasas de resultados
Agentforce \| Postprocesamiento	⚠️ El trato diferenciado a través de ajustes de umbral carece de justificación comercial documentada o, en los Estados Unidos, se aplica a decisiones relacionadas con el empleo en absoluto, donde el Título VII prohíbe ajustar puntuaciones o límites por clase protegida independientemente de la documentación
Einstein \| Reentrenamiento de modelos	⚠️ Los modelos se implementan y nunca se vuelven a entrenar; los patrones de sesgos emergentes y la desviación no se corrigen
Einstein \| Reentrenamiento de modelos	⚠️ El readiestramiento se produce sin revalidar mediciones de equidad; se introduce un nuevo sesgo de forma silenciosa

Patrones

Dónde buscar	Qué buen aspecto tiene
Einstein Discovery \| ES	✅ Las explicaciones de Einstein Discovery mostrando factores de predicción afloran en componentes Lightning en el punto de decisión
Einstein Discovery \| ES	✅ Las explicaciones muestran qué variables influyeron más en predicciones específicas con impacto direccional para usuarios en puntos de decisión
Einstein Discovery \| ES	✅ Las explicaciones están en capas para diferentes audiencias: usuarios comerciales, usuarios técnicos, clientes y auditores
Einstein Discovery \| ES	✅ Los usuarios comerciales ven “Este candidato obtuvo una puntuación alta porque los ingresos anuales superan 1 millón de dólares y la puntuación de implicación está en el 10% principal”
Einstein Discovery \| ES	✅ Los usuarios técnicos ven tarjetas de modelo con ponderaciones de funciones, características de datos de entrenamiento y mediciones de validación
Einstein Discovery \| ES	✅ Los clientes ven “Esta recomendación se basa en sus compras recientes y clientes con preferencias similares”
Einstein Discovery \| ES	✅ Los auditores ven el linaje de decisiones completo de Einstein Discovery y Gestor de modelos con la versión del modelo, los valores de entrada y los factores que impulsaron la predicción
Einstein Discovery \| ES	✅ La confianza de predicción se muestra en términos apropiados para el usuario como categorías (Alta confianza, Moderada confianza, Necesita revisión) con explicaciones
Einstein Discovery \| ES	✅ Las categorías de confianza explican lo que significa el nivel de confianza para la fiabilidad de las decisiones y qué revisión adicional se producirá

Antipatrones

Dónde buscar	Aspecto negativo
Einstein Discovery \| ES	⚠️ Las explicaciones se actualizan en sistemas opacos después de la implementación en vez de crear explicabilidad en la arquitectura desde el principio
Einstein Discovery \| ES	⚠️ Las explicaciones de predicción requieren navegación para separar paneles de CRM Analytics en vez de mostrarse en puntos de decisión
Einstein Discovery \| ES	⚠️ Los usuarios ven mediciones de rendimiento de modelo abstractas en vez de explicaciones transparentes cuando las decisiones les afectan
Einstein Discovery \| ES	⚠️ Las explicaciones no varían por audiencia; las tarjetas de modelo técnico se muestran a clientes o usuarios comerciales
Einstein Discovery \| ES	⚠️ Las puntuaciones de predicción sin procesar (0,73) se muestran sin explicación de lo que significa el número o qué factores impulsaron la predicción
Einstein Discovery \| ES	⚠️ La confianza se muestra como porcentajes de probabilidad que los usuarios interpretan erróneamente sin contexto sobre fiabilidad o revisión

Patrones

Dónde buscar	Qué buen aspecto tiene
Einstein \| Capa de Trust	✅ Capa Einstein Trust registra solicitudes, respuestas, orígenes de fundamentación y señales Trust automáticamente sin instrumentación personalizada
Einstein \| Capa de Trust	✅ Las políticas de retención de datos están diseñadas cumpliendo requisitos reguladores que varían por sector y jurisdicción (por ejemplo, la regla 4511(b) de FINRA establece un periodo de retención predeterminado de seis años y HIPAA requiere un mínimo de seis años para la documentación de cumplimiento)
CRM Analytics \| Supervisión	✅ Los paneles de CRM Analytics analizan datos de decisiones de modelo predictivo capturados para patrones de decisión, mediciones de equidad y rendimiento de modelo a lo largo del tiempo
CRM Analytics \| Supervisión	✅ Las lentes de CRM Analytics muestran distribuciones de predicciones por nivel de confianza, segmento demográfico y tipo de resultado
CRM Analytics \| Supervisión	✅ Las historias de Einstein Discovery identifican patrones anómalos que requieren investigación
Plataforma \| Seguimiento de auditoría de campo	✅ Seguimiento de auditoría de campo está activado en objetos personalizados que almacenan datos de decisiones de IA, reteniendo el historial archivado indefinidamente hasta que se elimine para registros de consentimiento, anular decisiones e informes de sesgos
Plataforma \| Supervisión de eventos	✅ Supervisión de eventos captura transcripciones de conversaciones Agentforce, invocaciones de herramientas y puntos de decisión
Plataforma \| Supervisión de eventos	✅ Los registros de Supervisión de eventos se enrutan a SIEM externo a través de Eventos de plataforma para almacenamiento a prueba de manipulaciones
Plataforma \| Supervisión de eventos	✅ Las consultas SIEM detectan patrones de sesgo entre grandes volúmenes de interacciones Agentforce

Antipatrones

Dónde buscar	Aspecto negativo
Einstein \| Capa de Trust	⚠️ Las interacciones Agentforce se implementan sin activar la captura de auditoría de Trust Layer o definir políticas de retención
Einstein \| Capa de Trust	⚠️ Las políticas de retención no tienen en cuenta los requisitos normativos específicos del sector (servicios financieros, cuidados sanitarios)
CRM Analytics \| Supervisión	⚠️ Los datos de decisiones del modelo predictivo capturado no se analizan; los patrones de decisión y las mediciones de equidad no se siguen a lo largo del tiempo
Plataforma \| Seguimiento de auditoría de campo	⚠️ El historial de campo estándar de 18 meses se basa en los seguimientos de auditoría de decisiones de IA sin tener en cuenta los requisitos de retención reguladores
Plataforma \| Seguimiento de auditoría de campo	⚠️ Seguimiento de auditoría de campo no está activado en objetos con registros de consentimiento, decisiones de anulación e informes de sesgo
Plataforma \| Supervisión de eventos	⚠️ Los registros de Supervisión de eventos se basan en límites de retención nativos sin SIEM externo para almacenamiento a largo plazo a prueba de manipulaciones
Plataforma \| Supervisión de eventos	⚠️ Los registros de interacciones Agentforce no se analizan para patrones de sesgo entre grandes volúmenes

Patrones

Dónde buscar	Qué buen aspecto tiene
Gobernanza \| EU AI Act	✅ Los sistemas de IA de alto riesgo están documentados con documentación de transparencia, documentación técnica, funciones de supervisión humana y mediciones de precisión/equidad
Gobernanza \| EU AI Act	✅ Seguimientos de auditoría de Capa Einstein Trust y tarjetas de modelo Discovery proporcionan bases para requisitos de transparencia de la Ley de IA de la UE
Gobernanza \| EU AI Act	✅ Datos demográficos de entrenamiento de modelo, enfoques de validación y limitaciones conocidas se documentan en registros de decisiones de arquitectura
Gobernanza \| RGPD	✅ Los sistemas generan explicaciones coherentes para cualquier decisión histórica bajo demanda en plazos de tiempo de solicitud de acceso de titulares de datos (que varían por jurisdicción, entre 15 y 45 días)
Gobernanza \| RGPD	✅ Los datos de decisiones de modelo predictivo capturados y los factores de explicación Einstein Discovery se almacenan con suficiente retención permitiendo la reconstrucción de explicaciones para el derecho a la explicación del RGPD
Gobernanza \| Responsabilidad algorítmica	✅ Las evaluaciones de impacto algorítmico se realizan antes de implementar la IA consiguiente como cumplimiento proactivo en vez de respuesta reactiva
Gobernanza \| Responsabilidad algorítmica	✅ Los datos de decisiones de modelo predictivo capturados y los paneles de supervisión de equidad de CRM Analytics proporcionan bases de datos para la creación de informes de responsabilidad algorítmica

Antipatrones

Dónde buscar	Aspecto negativo
Gobernanza \| EU AI Act	⚠️ Los sistemas de IA de alto riesgo se implementan sin documentación de transparencia, funciones de supervisión humana o mediciones de equidad
Gobernanza \| EU AI Act	⚠️ Datos demográficos de entrenamiento de modelo y limitaciones conocidas no están documentados en registros de decisiones de arquitectura
Gobernanza \| RGPD	⚠️ Los sistemas no pueden generar explicaciones coherentes para decisiones históricas dentro de los plazos de solicitud de acceso de titulares de datos del RGPD
Gobernanza \| RGPD	⚠️ La retención de datos de decisiones de modelo predictivo capturada es insuficiente para dar cobertura a la reconstrucción de explicaciones para decisiones pasadas
Gobernanza \| Responsabilidad algorítmica	⚠️ Las evaluaciones de impacto algorítmico no se realizan antes de la implementación de IA consiguiente; el cumplimiento es reactivo después de la investigación reguladora

Patrones

Dónde buscar	Qué buen aspecto tiene
Plataforma \| OWD	✅ Los valores predeterminados de toda la organización privada se establecen para objetos que contienen datos confidenciales de clientes con acceso otorgado a través de reglas de colaboración y jerarquía de funciones
Plataforma \| OWD	✅ Los OWD privados con subvenciones de colaboración explícitas crean patrones de acceso auditables que admiten el cumplimiento de la no discriminación
Plataforma \| Seguridad a nivel de campo	✅ Los campos confidenciales que contienen características protegidas (etnia, religión, estado de discapacidad) están ocultos a través de FLS a usuarios sin necesidad comercial legítima
Plataforma \| Seguridad a nivel de campo	✅ El acceso de lectura a campos confidenciales se elimina a través de FLS para la mayoría de los perfiles; el acceso se otorga mínimamente a través de conjuntos de permisos con justificación documentada
Plataforma \| Asignación y enrutamiento	✅ Las reglas de asignación, las colas y el enrutamiento de OmniCanal distribuyen el trabajo de forma equitativa entre territorios, equipos y agentes de servicio basándose en criterios objetivos
Plataforma \| Reglas de colaboración	✅ Las reglas de colaboración automáticas se basan en criterios objetivos (industria, geografía, línea de productos) en vez de discreción de gestor subjetiva
Plataforma \| Conjuntos de permisos	✅ El acceso temporal a datos confidenciales se otorga a través de conjuntos de permisos con caducidad documentada en vez de modificaciones de perfil permanentes
Plataforma \| Conjuntos de permisos	✅ Flujo programado revoca conjuntos de permisos automáticamente después de periodos definidos cuando se necesita acceso a datos demográficos para proyectos específicos

Antipatrones

Dónde buscar	Aspecto negativo
Plataforma \| OWD	⚠️ Las OWD de Lectura/Escritura Pública hacen que restringir el acceso sea más tarde disruptivo (ajustar el valor predeterminado desencadena un nuevo cálculo de colaboración); no existen patrones de acceso auditables
Plataforma \| OWD	⚠️ OWD de cuenta está establecido como Lectura/escritura pública con campos demográficos no protegidos visibles para todos los usuarios que activan el sesgo subjetivo
Plataforma \| Seguridad a nivel de campo	⚠️ Los campos demográficos confidenciales son visibles para todos los perfiles sin restricciones de FLS; no se evita el uso discriminatorio de datos
Plataforma \| Reglas de colaboración	⚠️ La colaboración manual concentra oportunidades de alto valor con grupos de usuarios específicos sin justificación comercial documentada
Plataforma \| Reglas de colaboración	⚠️ Las reglas de colaboración se basan en la discreción subjetiva del gestor en vez de criterios objetivos que permiten el sesgo
Plataforma \| Conjuntos de permisos	⚠️ Los perfiles se modifican de forma permanente afectando a todos los usuarios en vez de otorgar acceso temporal a través de conjuntos de permisos
Plataforma \| Conjuntos de permisos	⚠️ Los conjuntos de permisos que otorgan acceso a datos confidenciales no caducan automáticamente; el acceso permanece indefinido tras la finalización del proyecto

Patrones

Dónde buscar	Qué buen aspecto tiene
Shield \| Supervisión de eventos	✅ Supervisión de eventos Shield realiza un seguimiento del acceso a campos que contienen características protegidas o atributos confidenciales
Shield \| Supervisión de eventos	✅ Las consultas de Supervisión de eventos realizan un seguimiento de quién accede a campos demográficos, cuándo y en qué contexto detecta patrones anómalos
Shield \| Supervisión de eventos	✅ Patrones de acceso anómalos (picos repentinos, acceso de usuarios inesperados) desencadenan la investigación de posibles usos indebidos
Plataforma \| Creación de informes	✅ Los informes analizan cómo distribuyen las reglas de colaboración registros entre usuarios, equipos y territorios calculando estadísticas de distribución por datos demográficos de clientes
Plataforma \| Creación de informes	✅ Los informes identifican concentraciones donde grupos de usuarios específicos reciben acceso desproporcionado a registros valiosos sin justificación documentada
Plataforma \| Configuración Seguimiento de auditoría	✅ Configuración Seguimiento de auditoría se revisa para cambios en parámetros de OWD, reglas de colaboración, configuraciones de FLS y conjuntos de permisos que detectan cambios no autorizados
Plataforma \| Seguridad de transacciones	✅ Las políticas de Seguridad de transacciones actúan en eventos de Supervisión de eventos en tiempo real de alto riesgo (actividad de API anómala, inicios de sesión sospechosos, grandes exportaciones de datos confidenciales); FLS y cambios de colaboración se basan en Seguimiento de auditoría de configuración y aprobaciones de gestión de cambios documentadas

Antipatrones

Dónde buscar	Aspecto negativo
Shield \| Supervisión de eventos	⚠️ No se supervisa el acceso a campos demográficos confidenciales; el posible uso indebido no se detecta
Shield \| Supervisión de eventos	⚠️ Los patrones de acceso anómalos (picos, usuarios inesperados) no se siguen ni se investigan
Plataforma \| Creación de informes	⚠️ No se analizan las distribuciones de reglas de colaboración; el acceso desproporcionado a registros valiosos permanece invisible
Plataforma \| Creación de informes	⚠️ Las concentraciones de cuentas de alto valor con grupos de usuarios específicos carecen de justificación comercial documentada
Plataforma \| Configuración Seguimiento de auditoría	⚠️ Configuración No se revisa el seguimiento de auditoría; no se detectan cambios no autorizados en los controles de acceso a datos que activan el acceso a datos confidenciales
Plataforma \| Seguridad de transacciones	⚠️ Eventos de Supervisión de eventos en tiempo real de alto riesgo (actividad de API anómala, grandes exportaciones de datos confidenciales) sobre los que no se actúa con políticas de Seguridad de transacciones

Patrones

Dónde buscar	Qué buen aspecto tiene
Plataforma \| Objetos personalizados	✅ El consentimiento granular por caso de uso de IA se activa a través del propósito de seguimiento de objeto de consentimiento personalizado, la fecha/método de otorgamiento, la fecha de retirada y el Id. de usuario/contacto relacionado
Plataforma \| Objetos personalizados	✅ Los clientes consienten recomendaciones de productos Einstein mientras rechazan decisiones de crédito dirigidas por IA a través de registros de consentimiento separados por caso de uso
Plataforma \| Seguimiento de auditoría de campo	✅ Seguimiento de auditoría de campo está activado en el objeto Consentimiento para la retención a largo plazo que cumple los requisitos normativos
Data 360 \| Consentimiento	✅ La gestión de consentimiento de Data 360 se utiliza para funciones Personalización de Einstein, introduciendo y almacenando preferencias de consentimiento a través de conectores asignados al Modelo de datos de privacidad y utilizándolos como criterios de filtro en segmentación y en activación
Data 360 \| Consentimiento	✅ Las categorías de consentimiento se asignan a casos de uso de IA específicos que permiten a los usuarios anular la personalización mientras mantienen el servicio principal
Marketing Cloud \| Consentimiento	✅ El consentimiento de Marketing Cloud se integra con Einstein Messaging Insights y Agentforce agentes de marketing respetando el estado de suscripción
Marketing Cloud \| Consentimiento	✅ El estado de consentimiento de Marketing Cloud se consulta antes de que Agentforce inicie el contacto automatizado evitando el contacto no deseado con usuarios que anularon la suscripción

Antipatrones

Dónde buscar	Aspecto negativo
Plataforma \| Objetos personalizados	⚠️ El consentimiento de IA se sigue en hojas de cálculo o se basa en el inicio de sesión como consentimiento general implícito sin registros explícitos
Plataforma \| Objetos personalizados	⚠️ Se utiliza consentimiento de IA general en vez de consentimiento granular por caso; los usuarios no pueden anular la suscripción a funciones de IA específicas
Plataforma \| Seguimiento de auditoría de campo	⚠️ Seguimiento de auditoría de campo no está activado en el objeto Consentimiento; no se mantiene la retención a largo plazo que cumple los requisitos normativos
Data 360 \| Consentimiento	⚠️ El consentimiento de Data 360 no se utiliza para Personalización de Einstein; las categorías de consentimiento no se asignan a casos de uso específicos
Marketing Cloud \| Consentimiento	⚠️ El consentimiento de Marketing Cloud no está integrado con Einstein o Agentforce; no se respeta el estado de suscripción en el alcance automatizado

Patrones

Dónde buscar	Qué buen aspecto tiene
Experience Cloud \| Configuración de perfil	✅ Los usuarios anulan la suscripción a interacciones Agentforce mediante controles de preferencias accesibles en la configuración de perfil de Experience Cloud o Mi configuración con descripciones claras
Plataforma \| Registros de usuario/contacto	✅ Las preferencias de IA se almacenan en registros Usuario o Contacto activando la consulta en lógica de decisión de Flow y Agentforce
Agentforce \| OmniCanal	✅ Los usuarios que anulan la suscripción a Agentforce se enrutan a agentes humanos a través de OmniCanal en vez de recibir un servicio degradado
Agentforce \| Flujo	✅ El flujo comprueba los campos de consentimiento y preferencia antes de la implicación Agentforce; si el usuario anuló la suscripción, se crea un registro de trabajo y se enruta a una cola humana
Agentforce \| OmniCanal	✅ La plantilla de colas humanas proporciona tiempos de espera comparables a los del servicio automatizado para usuarios que anularon la suscripción
Plataforma \| Registros de usuario/contacto	✅ Las preferencias de IA se almacenan en registros de Usuario o Contacto garantizando la coherencia entre canales (web, móvil, teléfono, correo electrónico)
Plataforma \| Flujo	✅ La preferencia se consulta de forma coherente en todos los flujos de interacción evitando que los usuarios necesiten reafirmar las preferencias repetidamente en cada canal

Antipatrones

Dónde buscar	Aspecto negativo
Experience Cloud \| Configuración de perfil	⚠️ La anulación de suscripción solo está disponible a través del correo electrónico al equipo de asistencia; no existen controles de preferencias accesibles
Plataforma \| Registros de usuario/contacto	⚠️ Las preferencias de IA no se almacenan en registros Usuario o Contacto; las preferencias no se pueden consultar en lógica de Flujo o Agentforce
Agentforce \| OmniCanal	⚠️ Los usuarios que anulan la suscripción reciben un servicio degradado como presión implícita para aceptar IA en vez de enrutar a agentes humanos
Agentforce \| Flujo	⚠️ El flujo no comprueba los campos de consentimiento o preferencia antes de la implicación Agentforce; se ignoran las preferencias de anulación de suscripción
Plataforma \| Registros de usuario/contacto	⚠️ Las preferencias no son coherentes entre canales; los usuarios deben reafirmar la anulación de suscripción en web, móvil, teléfono y correo electrónico por separado

Patrones

Dónde buscar	Qué buen aspecto tiene
Gobernanza \| Documentación	✅ Cada modelo predictivo de producción está documentado con datos demográficos de entrenamiento, mediciones de equidad, casos de uso previstos, estrategias de mitigación de sesgos y enfoques de supervisión
Gobernanza \| Documentación	✅ La documentación del modelo incluye el enfoque de supervisión de equidad, umbrales de alerta, requisitos de supervisión humana, calendario de revisión y consideraciones normativas
Plataforma \| Objetos personalizados	✅ La documentación del modelo se almacena en Salesforce utilizando el objeto Modelo personalizado o Archivos de Salesforce adjuntos a Proyectos que permiten la capacidad de búsqueda y el control de versiones
Gobernanza \| Puertas de implementación	✅ Las puertas de equidad previas a la implementación requieren auditoría de datos de formación, cálculo de mediciones de equidad, evaluación de impacto, diseño de supervisión humana y revisión de transparencia antes de la producción
Gobernanza \| Puertas de implementación	✅ Las brechas de representación de datos de entrenamiento se analizan y documentan como puerta de implementación obligatoria
Gobernanza \| Puertas de implementación	✅ Paridad demográfica, igualdad de oportunidades e impacto dispar se calculan cumpliendo umbrales como puerta obligatoria
Gobernanza \| Puertas de implementación	✅ La evaluación de impacto evalúa posibles daños entre las poblaciones afectadas como puerta obligatoria
Gobernanza \| Puertas de implementación	✅ El diseño de supervisión humana, incluyendo patrones de distribución, flujos de trabajo de aprobación y mecanismos de anulación están diseñados y probados como puertas obligatorias
Gobernanza \| Puertas de implementación	✅ Las funciones de explicación se validan para todos los tipos de decisiones como puerta obligatoria
Gobernanza \| Puertas de implementación	✅ Las puertas de equidad se tratan con el mismo rigor que las puertas de seguridad con autoridad para bloquear implementaciones que fallen en cualquier puerta

Antipatrones

Dónde buscar	Aspecto negativo
Gobernanza \| Documentación	⚠️ Las funciones de Einstein se implementan sin documentar datos de entrenamiento, mediciones de equidad, sesgos o enfoques de supervisión
Gobernanza \| Documentación	⚠️ La documentación del modelo no incluye el enfoque de supervisión de equidad, los requisitos de supervisión humana o consideraciones reguladoras
Plataforma \| Objetos personalizados	⚠️ La documentación del modelo se almacena en hojas de cálculo o wikis sin capacidad de búsqueda o control de versión
Gobernanza \| Puertas de implementación	⚠️ Las funciones Einstein pasan a producción sin puertas de equidad; la implementación se basa únicamente en mediciones de precisión generales
Gobernanza \| Puertas de implementación	⚠️ Auditoría de datos de formación, cálculo de mediciones de equidad o evaluación de impacto se omiten antes de la implementación de producción
Gobernanza \| Puertas de implementación	⚠️ El diseño de supervisión humana, la revisión de transparencia o la validación de explicaciones no se realizan antes de la producción
Gobernanza \| Puertas de implementación	⚠️ Las puertas de equidad son solo de asesoramiento sin autoridad para bloquear implementaciones; los modelos proceden a pesar de no cumplir los criterios de equidad

Patrones

Dónde buscar	Qué buen aspecto tiene
Gobernanza \| Consejo de revisión	✅ La junta de revisión incluye expertos técnicos (arquitectos, científicos de datos), partes interesadas comerciales, asesores legales, especialistas en privacidad y representantes de comunidades afectadas
Gobernanza \| Consejo de revisión	✅ Diversas perspectivas afloran problemas de equidad que los grupos homogéneos pierden durante la revisión ética
Gobernanza \| Revisar desencadenadores	✅ Los desencadenadores de revisión están definidos: decisiones que afectan al empleo/crédito/vivienda/salud/derechos legales, sistemas que afectan a >10.000 usuarios anuales, casos de uso novedosos, riesgo de daño significativo
Gobernanza \| Revisar desencadenadores	✅ Las aplicaciones de IA que utilizan datos personales confidenciales (sanitarios, financieros, demográficos) requieren revisión ética antes de la implementación
Gobernanza \| Autoridad de revisión	✅ La junta de revisión ética tiene autoridad para requerir cambios, imponer condiciones de supervisión o bloquear implementaciones que incumplen estándares éticos
Plataforma \| Objetos personalizados	✅ Todas las revisiones se documentan en el nombre de la aplicación de seguimiento de objetos personalizados de Salesforce, la fecha de revisión, las preocupaciones planteadas, los requisitos de mitigación y las condiciones de aprobación

Antipatrones

Dónde buscar	Aspecto negativo
Gobernanza \| Consejo de revisión	⚠️ La junta de examen carece de diversidad (solo expertos técnicos); los grupos homogéneos no tienen en cuenta los problemas de equidad que afectan a las diferentes poblaciones
Gobernanza \| Consejo de revisión	⚠️ No se incluyen representantes de comunidades afectadas; se obtienen puntos ciegos en consideraciones de equidad
Gobernanza \| Revisar desencadenadores	⚠️ Los desencadenadores de revisión no están definidos; las aplicaciones de IA de alto riesgo proceden sin revisión ética antes de la implementación
Gobernanza \| Autoridad de revisión	⚠️ El examen de la ética es solo consultivo sin aplicación; las implementaciones se realizan a pesar de no cumplir las normas éticas (teatro de operaciones de rendición de cuentas)
Plataforma \| Objetos personalizados	⚠️ Las revisiones no se documentan sistemáticamente; no se realiza un seguimiento de las decisiones, los problemas y las mitigaciones de revisiones históricas

Patrones

Dónde buscar	Qué buen aspecto tiene
CRM Analytics \| Supervisión	✅ Los paneles de CRM Analytics realizan un seguimiento de mediciones de equidad Einstein y Agentforce desde datos de decisiones capturados y datos de auditoría de Trust Layer en una cadencia programada
CRM Analytics \| Supervisión	✅ Paridad demográfica, igualdad de oportunidades, índices de impacto dispares y mediciones de calidad de servicio supervisados por segmento de cliente
CRM Analytics \| Supervisión	✅ Las alertas de CRM Analytics están configuradas desencadenándose cuando las mediciones de equidad infringen umbrales definidos que requieren investigación
CRM Analytics \| Supervisión	✅ Los paneles de CRM Analytics realizan un seguimiento de las señales de equidad: cambios repentinos en las distribuciones de decisiones, picos en casos relacionados con sesgos, degradación del rendimiento para poblaciones específicas
CRM Analytics \| Supervisión	✅ Desencadenador de alertas para Puntuación de oportunidades de Einstein cuando los índices de aprobación para cualquier segmento caen más del 15% semana tras semana requiriendo investigación de equidad
Gobernanza \| Auditorías programadas	✅ Las auditorías de equidad integrales se realizan trimestralmente para IA de alto riesgo (crédito, empleo, cuidados sanitarios) o semestralmente para sistemas de bajo riesgo
Gobernanza \| Auditorías programadas	✅ Las auditorías examinan mediciones de equidad actuales, revisan patrones de anulación, analizan comentarios de usuarios e informes de sesgos y validan que los controles de gobernanza permanecen efectivos
Gobernanza \| Respuesta a incidentes	✅ Los procesos de respuesta de incidentes claros están documentados en Salesforce Knowledge para responder cuando se detecta sesgo
Gobernanza \| Respuesta a incidentes	✅ Evaluación de gravedad inmediata consultando datos de decisiones de modelo predictivo en CRM Analytics; el sesgo severo suspende la toma de decisiones automatizada pendiente de investigación
Gobernanza \| Respuesta a incidentes	✅ La mitigación temporal implementa una mayor supervisión humana a través de umbrales de confianza ajustados, desactivación de funciones o suspensión completa de agentes
Gobernanza \| Respuesta a incidentes	✅ El análisis de causa raíz identifica cómo entró o evolucionó el sesgo; los datos de entrenamiento, las versiones de modelo y los cambios de configuración se analizan a través de Seguimiento de auditoría de campo
Gobernanza \| Respuesta a incidentes	✅ La solución permanente implementa la corrección de datos, el reciclaje de modelos o cambios de procesos con la comunicación apropiada a los usuarios afectados
Gobernanza \| Respuesta a incidentes	✅ Las medidas de prevención se documentan en libros de ejecución que evitan la repetición de incidentes de sesgo

Antipatrones

Dónde buscar	Aspecto negativo
CRM Analytics \| Supervisión	⚠️ Las mediciones de equidad no se siguen en ninguna cadencia programada desde datos de decisión capturados o datos de auditoría de Trust Layer; la desviación de sesgo pasa desapercibida a medida que cambian las distribuciones de datos
CRM Analytics \| Supervisión	⚠️ Las alertas de CRM Analytics no están configuradas; las infracciones de mediciones de equidad que requieren investigación no se desencadenan
CRM Analytics \| Supervisión	⚠️ No se supervisan las señales de equidad; no se detectan cambios repentinos en las distribuciones de decisiones
Gobernanza \| Auditorías programadas	⚠️ Las auditorías integrales de equidad no se realizan en ningún programa; los controles de gobernanza se desvían y dejan de ser efectivos
Gobernanza \| Auditorías programadas	⚠️ Los patrones de sustitución, los comentarios de los usuarios y los informes de sesgos no se analizan sistemáticamente durante las auditorías
Gobernanza \| Respuesta a incidentes	⚠️ Los procesos de respuesta a incidentes claros no están documentados; la detección de sesgos conduce a respuestas ad hoc sin enfoque sistemático
Gobernanza \| Respuesta a incidentes	⚠️ La mitigación temporal o la rehabilitación permanente no se implementan sistemáticamente; el sesgo persiste afectando a los usuarios
Gobernanza \| Respuesta a incidentes	⚠️ No se realiza el análisis de causa raíz; cómo se introdujo o evolucionó el sesgo permanece desconocido
Gobernanza \| Respuesta a incidentes	⚠️ No se documentan las medidas de prevención; no se evita la recurrencia

Patrones

Dónde buscar	Qué buen aspecto tiene
Plataforma \| Campos obligatorios	✅ Cada campo obligatorio incluye una justificación comercial documentada de por qué los datos son obligatorios en vez de opcionales; los campos sin los que puede funcionar un proceso se vuelven opcionales con gestión descendente para valores que faltan
Plataforma \| Campos obligatorios	✅ El correo electrónico es opcional con métodos de comunicación alternativos (SMS, teléfono, correo postal) de modo que los usuarios sin Internet fiable o correo electrónico personal no se excluyen de la creación de cuentas
Plataforma \| Campos de nombre	✅ La arquitectura de nombres utiliza un único campo de nombre completo o estructura flexible de múltiples partes que acomoda monónimos, sistemas patronímicos y múltiples nombres propios o de familia sin asumir orden o herencia
Plataforma \| Campos de nombre	✅ Los campos de nombre se prueban con diversos nombres internacionales, aceptando nombres de una sola palabra, nombres largos, diacríticos, apóstrofos, guiones y escrituras no latinas (árabe, chino, cirílico, devanagari)
Plataforma \| Validación de direcciones	✅ La validación de direcciones permisiva acepta entrada de forma libre cuando falla la validación estructurada y almacena direcciones a medida que los usuarios las introducen en vez de forzar correcciones no válidas
Plataforma \| Validación de direcciones	✅ La verificación de direcciones está integrada en procesos de realización donde la precisión importa operativamente en vez de bloquear Captura de datos por adelantado
Plataforma \| Preferencias de comunicación	✅ Los métodos de comunicación preferidos se almacenan en registros de Contacto y se respetan de forma coherente en todos los sistemas salientes, ofreciendo alternativas de OmniCanal en vez de suposiciones de canal único
Objeto personalizado \| Datos demográficos	✅ Los datos demográficos voluntarios se recopilan a través de una encuesta separada con la opción “Preferir no responder”, almacenada en un objeto personalizado con OWD privado, restringida por FLS y utilizada solo para análisis de equidad agregados
Shield \| Supervisión de eventos	✅ Supervisión de eventos Shield registra eventos de acceso (exportaciones de informes, consultas de objetos de API) en datos demográficos para auditar patrones de acceso
Plataforma \| Enriquecimiento externo	✅ Los proveedores de enriquecimiento externos son auditados para pruebas de equidad, cobertura demográfica y precisión, metodología de inferencia y restricciones de uso de datos contractuales antes de la implementación

Antipatrones

Dónde buscar	Aspecto negativo
Plataforma \| Campos obligatorios	⚠️ Se requiere correo electrónico para la creación de cuentas sin alternativa, y la validación de teléfono o dirección rechaza formatos que no sean de EE.UU., apartados de correos y rutas rurales, excluyendo usuarios que no pueden proporcionar los datos
Plataforma \| Campos obligatorios	⚠️ Los campos se marcan como obligatorios sin documentar si el proceso podría funcionar sin los datos, creando poblaciones invisibles a partir de registros incompletos rechazados
Plataforma \| Campos de nombre	⚠️ Los campos de nombre aplican las convenciones de Western First/Last y rechazan monónimos, diacríticos o escrituras no latinas, sometiendo a los usuarios al rechazo del sistema basado en la identidad cultural
Plataforma \| Validación de direcciones	⚠️ La validación de direcciones requiere formato postal de EE.UU. y no reconoce direcciones internacionales, apartados de correos, direcciones militares (APO/FPO) o tribales, bloqueando la creación de cuentas y la prestación de servicios
Plataforma \| Preferencias de comunicación	⚠️ Un canal de comunicación único se asume universal (solo correo electrónico o solo teléfono), excluyendo usuarios sin Internet, sin acceso telefónico o que son sordos o con dificultades auditivas
Objeto personalizado \| Datos demográficos	⚠️ Los datos demográficos se infieren de nombres o ubicaciones sin Knowledge del usuario, se almacenan en campos Contacto estándar visibles para todos los usuarios y se utilizan en la puntuación de candidatos o previsiones sin revelación
Plataforma \| Enriquecimiento externo	⚠️ Los datos externos se adjuntan sin auditar las prácticas de equidad de los proveedores o la cobertura demográfica, importando sesgos introducidos por los proveedores en las decisiones de la organización

Patrones

Dónde buscar	Qué buen aspecto tiene
Plataforma \| Asignación y enrutamiento	✅ Las reglas de asignación y enrutamiento utilizan criterios objetivos (líneas de productos, SLA, requisitos de idioma) y las distribuciones de asignaciones se auditan trimestralmente, estratificadas por datos demográficos de clientes, para garantizar que no surjan patrones de concentración
Plataforma \| OmniCanal	✅ El tiempo medio de gestión, la resolución del primer contacto y la satisfacción del cliente se supervisan en rutas de enrutamiento para detectar si los segmentos de clientes reciben sistemáticamente agentes menos experimentados
Plataforma \| Flujo	✅ Los flujos que toman decisiones consecuentes se revisan para criterios que se correlacionan con características protegidas (tenencia de cuenta, preferencia de canal, historial de compras, horario de oficina) y su lógica de decisión se documenta en registros de decisiones de arquitectura
Plataforma \| Flujo	✅ Flujos de alto riesgo que afectan al empleo, el crédito o el acceso a servicios están sujetos al mismo proceso de revisión ética que los sistemas de IA
Plataforma \| Reglas de validación	✅ Las reglas de validación se prueban con datos diversos (direcciones internacionales, nombres no occidentales, formatos de teléfono alternativos) y se amplían siempre que rechazan datos legítimos; los campos Nombre aceptan Unicode y todas las secuencias de comandos
Plataforma \| Diseño de territorios	✅ Los datos demográficos de clientes se asignan a través de los límites de territorios propuestos antes de que finalicen los diseños; donde surgen concentraciones, la asignación de recursos se evalúa para la equidad y la justificación comercial se documenta y supervisa
Plataforma \| Auditoría	✅ La lógica de automatización (reglas comerciales, criterios de asignación, decisiones de flujo) se documenta en Salesforce Knowledge o ADR, y los resultados se auditan trimestralmente estratificados por datos demográficos: distribuciones de asignaciones, índices de aprobación de flujos, índices de rechazo de validación y asignación de recursos de territorio

Antipatrones

Dónde buscar	Aspecto negativo
Plataforma \| Asignación y enrutamiento	⚠️ Las reglas de asignación priorizan candidatos desde ciertos códigos postales a “máximo rendimiento” basándose en índices de ganancia históricos sin examinar si ese éxito refleja habilidad o ventaja demográfica
Plataforma \| OmniCanal	⚠️ Las mediciones de calidad de enrutamiento no se supervisan entre segmentos de clientes, de modo que las disparidades en la experiencia o resolución de agentes pasan desapercibidas
Plataforma \| Flujo	⚠️ Los criterios de decisión de flujo se correlacionan con características protegidas (tenencia, canal, volumen de compra, zona horaria) y se tratan como objetivos porque la lógica determinista se siente neutra
Plataforma \| Flujo	⚠️ Los flujos de alto riesgo toman decisiones consecuentes sin revisión ética, documentación de ADR o gestión para usuarios fuera del perfil de cliente típico
Plataforma \| Reglas de validación	⚠️ La validación de nombres está restringida a A-Z y rechaza diacríticos o escrituras no latinas, y la validación de direcciones requiere formato postal de EE.UU.: los datos legítimos se rechazan y los usuarios abandonan solicitudes no reportadas
Plataforma \| Diseño de territorios	⚠️ Los límites territoriales siguen una geografía que se correlaciona con la demografía, con diferentes compensaciones o plantillas entre territorios y sin análisis de la concentración demográfica
Plataforma \| Auditoría	⚠️ La lógica de automatización no está documentada y los resultados nunca se auditan, por lo que los patrones discriminatorios en la asignación, aprobaciones, validación o asignación de territorios permanecen invisibles