Equidad de IA y Detección de sesgos - Patrones agentes
Obtenga más información acerca de la equidad bien arquitectónica → Equidad de empresa
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Pruebe agentes sistemáticamente para sesgos demográficos utilizando diversas personas que representan grupos protegidos; genere solicitudes idénticas variando solo señales demográficas como nombres, ubicaciones o estilos de comunicación |
| Data 360 | Segmentos de datos | ✅ Antes de utilizar datos de Salesforce para la formación de agentes o la fundamentación de RAG, audite la representación demográfica e identifique grupos subrepresentados |
| Data 360 | Base de datos de Knowledge | ✅ Auditar bases de Knowledge y fuentes de recuperación para el equilibrio demográfico; garantizar que la calidad, integridad y precisión de la documentación sean comparables en todos los segmentos de clientes |
| Agentforce | Supervisión de agentes | ✅ Supervisar interacciones de agentes entre grupos demográficos para la coherencia del comportamiento; analizar la longitud de la respuesta, el nivel de detalle, los marcadores de cortesía y la calidad de la solución estratificados por características del usuario |
| Agentforce | Supervisión de agentes | ✅ Detectar bucles de comentarios supervisando cambios de distribución de decisiones a lo largo del tiempo; interrumpir bucles a través de revisión humana de casos periféricos y reequilibrado periódico |
| Data 360 | Datos de entrenamiento | ✅ Muestra grupos demográficos infrarrepresentados en datos de formación garantizando una representación equilibrada; sintetizar datos adicionales utilizando técnicas como SMOTE cuando los datos reales son insuficientes |
| Agentforce | Plantilla de solicitud | ✅ Restringir el comportamiento de los agentes a través de solicitudes del sistema: “Trate todos los datos demográficos de clientes con la misma profesionalidad y detalle. Proporcione explicaciones de longitud y calidad comparables independientemente del estilo de comunicación del cliente o el trasfondo”. |
| Einstein | Modelo de predicción | ✅ Calcular coeficientes de correlación entre todas las funciones del modelo y características protegidas; evaluar si el valor predictivo legítimo justifica la inclusión de funciones altamente correlacionadas |
| Einstein | Modelo de predicción | ✅ Identificar y eliminar funciones proxy que se correlacionan con características protegidas (proxies de código postal para raza, proxy de patrones de nombre para género/etnia, proxys de tiempo de comunicación para religión/entretenimiento, proxys de tipo de dispositivo para ingresos, proxys de asignación de territorios para composición demográfica) |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Data 360 | Datos de entrenamiento | ⚠️ Uso de datos históricos de CRM para la formación de agentes sin auditar la representación demográfica, permitiendo sesgos algorítmicos para componer sesgos humanos |
| Agentforce | Configuración de agentes | ⚠️ Implementación de agentes sin pruebas de sesgo demográfico sistemáticas entre diversas personas que representan grupos protegidos |
| Data 360 | Base de datos de Knowledge | ⚠️ Proporcionar artículos Knowledge detallados para clientes empresariales pero solo respuestas genéricas para clientes de pequeñas empresas, perpetuando las disparidades de calidad del servicio |
| Agentforce | Supervisión de agentes | ⚠️ Permitir a los agentes adaptar el comportamiento basándose en señales de conversación que se correlacionan con características protegidas (estilo de comunicación, complejidad de lenguaje, patrones de tiempo) sin supervisión |
| Einstein | Modelo de predicción | ⚠️ Incluir funciones proxy (código postal, patrones de nombre, tipo de dispositivo) en modelos de decisión consiguientes sin evaluar la correlación con características protegidas |
| Agentforce | Configuración de agentes | ⚠️ Permitir bucles de comentarios donde las decisiones de agentes crean la disparidad que justifica decisiones adversas futuras (por ejemplo, enrutar agentes reduciendo oportunidades a ciertos territorios, generando menos datos de éxito, reduciendo aún más el éxito predicho) |
| Data 360 | Segmentos de datos | ⚠️ Toma como valor predeterminado referencias de cultura mayoritaria en ejemplos de contenido que alienan usuarios subrepresentados |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Supervisión de agentes | ✅ Registrar entradas y salidas completas para cada agente en una cadena de orquestación de modo que el sesgo en un resultado final pueda rastrearse hacia atrás a la etapa que lo introdujo y donde se produjo la amplificación |
| Plataforma | CRM Analytics | ✅ Crear paneles que muestran distribuciones de decisiones en cada etapa de orquestación desglosadas por datos demográficos para identificar en qué parte de la cadena surgen o se amplían las disparidades |
| Plataforma | CRM Analytics | ✅ Calcule la paridad demográfica, la igualdad de oportunidades y el impacto dispar en cada etapa de la cadena, no solo en el resultado final; las mediciones por etapas capturan la composición que parece aceptable en cualquier etapa pero se degrada en toda la cadena |
| Agentforce | Configuración de modelo | ✅ Maximice la diversidad entre agentes en patrones de consenso para reducir errores correlacionados: diferentes modelos de base donde sea factible (como a través de configuraciones LLM de Bring Your Own), diferentes orígenes de recuperación, diferentes enfoques de solicitudes y diferentes calibraciones de umbral de confianza |
| Agentforce | Configuración de agentes | ✅ Insertar revisión humana en puntos de inflexión de orquestación donde una etapa restringe significativamente las opciones aguas abajo, incluso cuando la confianza de agentes individuales es alta, porque la orquestación crea efectos emergentes que las puntuaciones de confianza por agente no capturan |
| Agentforce | Configuración de agentes | ✅ Configure disyuntores de orquestación que se detienen y se distribuyen a un humano cuando la confianza de cualquier agente cae por debajo del umbral, la distribución de salida cambia significativamente entre etapas, la cadena encuentra datos no representados en entrenamiento o validación o el usuario desafía una decisión intermedia |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Supervisión de agentes | ⚠️ Ejecutar cadenas de orquestación sin registrar las entradas y salidas de cada agente, haciendo imposible rastrear qué etapa introdujo el sesgo cuando aflora un resultado discriminatorio |
| Agentforce | Configuración de modelo | ⚠️ Tratar el consenso de múltiples agentes como corrección de sesgos cuando todos los agentes comparten el mismo modelo de base o datos de entrenamiento, de modo que el acuerdo solo valida el sesgo compartido en vez de corregirlo |
| Plataforma | CRM Analytics | ⚠️ Medición de la equidad solo en el resultado final de la orquestación, faltando la composición por etapas donde cada etapa parece aceptable de forma aislada pero la cadena se compone de una disparidad inaceptable |
| Agentforce | Configuración de agentes | ⚠️ Apoyarse en puntuaciones de confianza de agentes individuales para abrir una cadena de orquestación sin insertar revisión humana en puntos de inflexión donde una etapa restringe opciones aguas abajo |
| Agentforce | Configuración de agentes | ⚠️ Permitir que una cadena de orquestación continúe sin disyuntor cuando un agente ascendente tiene baja confianza, las distribuciones cambian entre etapas o la cadena encuentra datos fuera de sus conjuntos de entrenamiento y validación |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Negocio | Puerta de implementación | ✅ Convertir la evaluación de equidad en una puerta de implementación obligatoria equivalente en autoridad a la revisión de seguridad antes de implementar cualquier agente que tome decisiones consiguientes |
| Einstein | Modelo de predicción | ✅ Calcule la paridad demográfica dividiendo la población en segmentos demográficos, midiendo tasas de resultados positivos por segmento y comparando tasas entre segmentos |
| Einstein | Modelo de predicción | ✅ Garantizar la igualdad de oportunidades verificando que los agentes identifiquen personas calificadas igualmente bien independientemente de las características demográficas; verificar que las tasas de positivos verdaderos son comparables entre grupos |
| Einstein | Modelo de predicción | ✅ Aplique la regla de las cuatro quintas partes: si algún grupo recibe resultados positivos a menos del 80% de la tasa del grupo con mayor rendimiento, investigar si hay sesgos |
| Einstein | Modelo de predicción | ✅ Calcular índices de impacto dispares para todas las decisiones de agentes resultantes y documentar resultados de investigación cuando los índices caen por debajo del 80% |
| Negocio | Documentación | ✅ Documento cuando las infracciones de paridad demográfica reflejan factores comerciales legítimos en vez de discriminación |
| Negocio | Revisión legal | ✅ Consulte a un asesor legal cuando implemente oportunidades igualadas a través de umbrales específicos del grupo, señalando que en los Estados Unidos, ajustar puntuaciones o límites por clase protegida para decisiones relacionadas con el empleo está prohibido bajo el Título VII (Ley de Derechos Civiles de 1991), y que otras jurisdicciones imponen sus propias restricciones |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Negocio | Puerta de implementación | ⚠️ Implementación de agentes que toman decisiones consecuentes sin calcular mediciones de equidad entre grupos demográficos |
| Einstein | Modelo de predicción | ⚠️ Faltan sistemáticamente candidatos cualificados de grupos insuficientemente representados estableciendo umbrales de evidencia más altos para esos grupos que para los grupos mayoritarios |
| Einstein | Modelo de predicción | ⚠️ Implementar umbrales específicos de grupos sin justificación legal o validación de que los umbrales mejoran la equidad sin crear otros efectos discriminatorios, o, en los Estados Unidos, implementarlos para decisiones relacionadas con el empleo en absoluto, donde el Título VII prohíbe ajustar puntuaciones o límites por clase protegida |
| Negocio | Documentación | ⚠️ No documentar cuándo las infracciones de mediciones de equidad reflejan diferencias comerciales legítimas frente a discriminación |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Einstein | Capa de Trust | ✅ Utilice datos de auditoría de Trust Layer para analizar distribuciones de respuestas entre grupos demográficos; cree paneles de CRM Analytics comparando índices de aprobación, patrones de recomendación y puntuaciones de riesgo por segmento de cliente |
| Einstein | Capa de Trust | ✅ Query Trust Layer registra regularmente: muestran todas las predicciones de alto valor agrupadas por sector de clientes, región y tamaño de cuenta para verificar que las distribuciones de predicciones son coherentes entre segmentos |
| Agentforce | Rastreo de sesiones | ✅ Muestra de 100 decisiones de agentes estratificadas por grupo demográfico y hacer que los revisores evalúen si la calidad del razonamiento es comparable entre grupos utilizando trazas de razonamiento de Rastreo de sesiones Agentforce |
| Plataforma | CRM Analytics | ✅ Configure alertas cuando los patrones de decisión de agentes se desvían significativamente de la línea base (por ejemplo, los índices de aprobación para un segmento específico caen un 20% semana tras semana) |
| Plataforma | CRM Analytics | ✅ Construya una supervisión personalizada para alertar sobre señales de equidad: “Notificar cuando la longitud media de la conversación para cualquier segmento de cliente supera 1,5 veces la media general durante tres días consecutivos” |
| Plataforma | CRM Analytics | ✅ Cree plantillas de panel de CRM Analytics reutilizables que realizan un seguimiento de mediciones de equidad para casos de uso comunes de agentes, incluyendo paridad demográfica, igualdad de oportunidades, índices de impacto dispares y gráficos de tendencias |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Rastreo de sesiones | ⚠️ Ignorar los rastreos de razonamiento de Rastreo de sesiones Agentforce y el rastreo de auditoría de Trust Layer cuando los usuarios reportan sesgos, faltando qué pasos de razonamiento, orígenes de datos o patrones de recuperación introdujeron el sesgo |
| Plataforma | CRM Analytics | ⚠️ Fallo al configurar alertas de detección de anomalías para señales de equidad, permitiendo que los turnos de distribución repentinos pasen desapercibidos |
| Plataforma | CRM Analytics | ⚠️ Crear paneles de equidad ad-hoc por equipo en vez de compartir plantillas reutilizables estandarizando la supervisión de equidad |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Diseñar agentes para decisiones de alto riesgo (empleo, crédito, atención sanitaria, legal, vivienda) para analizar, recomendar y preparar decisiones mientras se requiere la aprobación humana antes de la ejecución |
| Plataforma | Proceso de aprobación | ✅ Configure Agentforce para generar recomendaciones con pruebas de apoyo, enrutar decisiones por encima del umbral a revisores humanos a través del Proceso de aprobación y aflorar rastros de razonamiento de agentes en la interfaz de aprobación |
| Agentforce | Configuración de agentes | ✅ Implementar la distribución basada en la confianza: alta confianza (>90%) procede de forma autónoma, moderada (70-90%) requiere revisión humana, baja (<70%) se defiere completamente a humano con resumen de contexto |
| Agentforce | Configuración de agentes | ✅ Calibrar umbrales de confianza utilizando datos de producción; muestrear decisiones de agentes en cada banda de confianza y calcular índices de éxito reales para validar la calibración |
| Agentforce | Configuración de agentes | ✅ Establezca desencadenadores de distribución con límite de tiempo: después de 5-7 turnos sin resolución, después de 10 minutos transcurridos, cuando el usuario expresa frustración o cuando el agente repite la misma respuesta |
| Plataforma | OmniCanal | ✅ Configurar OmniCanal para enrutar casos distribuidos a colas basadas en habilidades apropiadas con contexto de conversación completo; capacitar agentes humanos para gestionar distribuciones sin requerir que los usuarios repitan información |
| Agentforce | ES | ✅ Proporcionar una opción “Conectar con agente humano” en las interfaces de chat de agentes en todo momento, no detrás de un número mínimo de interacciones fallidas |
| Agentforce | Configuración de agentes | ✅ Permita a los humanos autorizados sustituir cualquier decisión de agente en cualquier punto con justificación documentada; agregue el botón “Sustituir agente” a todas las interfaces de decisiones de agentes que requieren explicación de texto de varias líneas |
| Plataforma | Objeto personalizado | ✅ Registrar sustituciones en objetos personalizados con Id. de decisión, marca de tiempo de sustitución, justificación y anulación; crear patrones de anulación de seguimiento de paneles de CRM Analytics por agente, tipo de decisión y datos demográficos de clientes |
| Negocio | Documentación | ✅ Requerir justificación documentada para aprobaciones o denegaciones que difieren de la recomendación de agentes; realizar un seguimiento de patrones de anulación para identificar deficiencias sistemáticas de agentes |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Despliegue de agentes como tomadores de decisiones autónomos para decisiones de alto riesgo (empleo, crédito, atención sanitaria, legal, vivienda) sin puertas de aprobación humana |
| Agentforce | Configuración de agentes | ⚠️ Utilizar puntuaciones de confianza mal calibradas donde las decisiones de “alta confianza” solo tienen éxito el 75% de las veces, socavando Trust en mecanismos de distribución |
| Agentforce | Configuración de agentes | ⚠️ Atrapando clientes en bucles automatizados no útiles sin distribución limitada en el tiempo o por turnos para los seres humanos |
| Plataforma | OmniCanal | ⚠️ Enrutamiento de casos distribuidos sin contexto de conversación completo, obligando a los usuarios a repetir la información ya proporcionada al agente |
| Negocio | Gobernanza | ⚠️ Permitir la difusión de la responsabilidad donde todos asumen que la IA es responsable y nadie asume la propiedad de las decisiones |
| Negocio | Gobernanza | ⚠️ Asignación de responsabilidad después de que se produzcan incidentes en vez de antes de la implementación con personas nombradas documentadas en registros de decisiones de arquitectura |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Negocio | Documentación | ✅ Asignar responsabilidad antes de la implementación: propietario del modelo (equidad/precisión), propietario de la decisión (caso de uso/impacto), autoridad de apelación (recursos de equidad), autoridad de auditoría (auditorías periódicas) |
| Negocio | Documentación | ✅ Documentar todas las funciones de rendición de cuentas con nombres, no solo títulos, garantizando que la rendición de cuentas persiste a través de cambios organizativos |
| Negocio | Gobernanza | ✅ Potencie la autoridad de apelación (junta de revisión de ética o equipo designado) para gestionar las apelaciones de usuarios que creen que las decisiones de agentes fueron injustas con procesos accesibles y oportunos que pueden revertir decisiones de agentes |
| Negocio | Gobernanza | ✅ Autorizar a la autoridad de auditoría (equipo de cumplimiento) a realizar auditorías periódicas y suspender agentes que incumplen las normas de equidad pendientes de solución |
| Negocio | Gobernanza | ✅ Programar una revisión mensual de patrones de anulación de alta frecuencia con el equipo de desarrollo de agentes |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Negocio | Gobernanza | ⚠️ Documentar funciones de rendición de cuentas solo con títulos (por ejemplo, “Candidato de ciencia de datos”) sin individuos nombrados, permitiendo que la rendición de cuentas desaparezca durante cambios organizativos |
| Negocio | Gobernanza | ⚠️ Permitir a los propietarios de decisiones delegar la rendición de cuentas en sistemas de IA en vez de mantener la rendición de cuentas personal por impacto real |
| Negocio | Gobernanza | ⚠️ Hacer que los procesos de apelación sean inaccesibles, inoportunos o carezcan de autoridad para revertir decisiones de agentes |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Arquitecto de múltiples capas de explicación: de cara al usuario (lenguaje sencillo), comercial (factores clave de decisión), técnico (detalles de modelo/ponderaciones de funciones) y de auditoría (rastreos de decisiones completos) |
| Agentforce | Configuración de agentes | ✅ Mostrar razonamiento de resumen en tiempo real al tomar decisiones: “Recomendé Producto A basándose en su historial de compras (3 compras similares), promoción actual (20% de descuento) y disponibilidad de inventario” |
| Agentforce | Configuración de agentes | ✅ Proporcione “¿Por qué recomendó esto?” vínculo que permite a los usuarios ver el razonamiento completo incluyendo todos los artículos Knowledge recuperados, registros consultados y lógica de decisión |
| Agentforce | Rastreo de sesiones | ✅ Recuperar rastros de razonamiento desde Rastreo de sesiones Agentforce para la reconstrucción histórica cuando los usuarios desafían decisiones pasadas semanas o meses después |
| Agentforce | Rastreo de sesiones | ✅ Rastreo de sesiones Agentforce de muestra de rastreos de razonamiento estratificados por grupos demográficos para analizar si la calidad de las decisiones es coherente; revise 100 rastreos de cada segmento de clientes |
| Agentforce | Configuración de agentes | ✅ Comunicar confianza en términos apropiados para el usuario: “Alta confianza” / “Confianza moderada” / “Baja confianza” con contexto de fiabilidad de lenguaje sin formato en vez de puntuaciones de probabilidad sin procesar |
| Agentforce | Configuración de agentes | ✅ Para decisiones de confianza moderada o baja, explique qué revisión adicional se producirá y la cronología esperada |
| Agentforce | Configuración de agentes | ✅ Proporcione explicaciones contrafácticas mostrando a los usuarios qué cambiaría el resultado: “Su puntuación de candidatos aumentaría con información de empleo verificada (+8 puntos)” |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Visualización de puntuaciones de probabilidad sin procesar (por ejemplo, “73% de confianza”) que los usuarios interpretan mal en vez de un lenguaje de confianza apropiado para el usuario |
| Agentforce | Configuración de agentes | ⚠️ Proporcionar contrahechos que alienten a jugar el sistema o revelen inadvertidamente características protegidas como factores de decisión (por ejemplo, “Su aplicación tendría una puntuación más alta si fuera 10 años menor”) |
| Agentforce | Configuración de agentes | ⚠️ Proporcionar solo un nivel de explicación que no sirve ni a los usuarios finales (demasiado técnicos) ni a los auditores (demasiado simplificados) |
| Agentforce | Configuración de agentes | ⚠️ No almacenar huellas de razonamiento histórico, lo que hace imposible explicar decisiones pasadas cuando se impugna |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Indicar claramente cuándo interactúan los usuarios con agentes Agentforce con revelación prominente y continua (no enterrada en términos de servicio o mostrada solo una vez al inicio de la interacción) |
| Agentforce | Configuración de agentes | ✅ Mostrar indicadores visuales persistentes: avatar de agente marcado como “Asistente de IA”, encabezado mostrando “Está chateando con un Agente de servicio Agentforce” y la opción visible “Conectar con agente humano” durante toda la conversación |
| Agentforce | Configuración de agentes | ✅ Garantizar que los usuarios que prefieren la interacción humana puedan cambiar sin fricciones o penalizaciones de calidad de servicio |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Enterrar la revelación de IA en términos de servicio o mostrarla solo una vez al inicio de la interacción en vez de mantener indicadores visuales persistentes |
| Agentforce | Configuración de agentes | ⚠️ Penalización de usuarios que eligen la interacción humana con un servicio degradado o tiempos de espera aumentados |
| Agentforce | Configuración de agentes | ⚠️ Ocultar la opción “Conectar con agente humano” o requerir a los usuarios completar interacciones de agentes antes de acceder a asistencia humana |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | Supervisión de eventos | ✅ Configure Supervisión de eventos para realizar un seguimiento de: Registros de eventos de API que muestran interacciones del sistema de agentes, eventos de inicio de sesión para cuentas de servicio de agentes y exportaciones de informes cuando los agentes acceden a datos masivos |
| Plataforma | Supervisión de eventos | ✅ Supervisión de eventos de transmisión registra en SIEM externo para la retención a largo plazo y manipular pruebas que cumplen los requisitos normativos |
| Plataforma | Seguimiento de auditoría de campo | ✅ Active Seguimiento de auditoría de campo (retención indefinida de historial archivado) en los objetos que almacenan o están influenciados por decisiones de agentes, seleccionando entre los objetos estándar que admite más objetos personalizados con seguimiento de historial de campo activado; crítico para casos de uso de crédito, empleo y otros casos de alto riesgo |
| Plataforma | Shield | ✅ Utilice Supervisión de eventos Shield para decisiones de agentes de mayor riesgo donde la integridad del seguimiento de auditoría es crítica (capacidades mejoradas, campos de eventos estructurados, integración de informes de cumplimiento) |
| Plataforma | Objeto personalizado | ✅ Crear el almacenamiento de objetos personalizados AgentDecision__c: Decision_ID, Marca de tiempo, Tipo_agente, Versión_modelo, Puntuación_confianza, Resultado, Id._usuario, Id._registro; con el objeto de fusión DecisionInput__c vinculando decisiones a instantáneas de funciones de entrada |
| Plataforma | Objeto personalizado | ✅ Almacenar valores de función de entrada exactos en el momento de la decisión (no valores actuales que pueden cambiar) para permitir probar si las decisiones diferirían con datos actualizados |
| Negocio | Documentación | ✅ Versión del modelo de registro, estado de configuración (umbrales, reglas comerciales, parámetros) y contexto medioambiental (identidad de usuario, marca de tiempo, historial de conversaciones) para cada decisión resultante |
| Plataforma | LWC | ✅ Cree componentes LWC integrados en registros para mostrar el historial de decisiones con vínculos de “Ver razonamiento” |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Seguimiento de auditoría de campo | ⚠️ Confianza en el historial de campo estándar (retención de 18 meses) para decisiones de alto riesgo que requieren retención reguladora de varios años |
| Plataforma | Objeto personalizado | ⚠️ Almacenar solo valores de registro actuales en vez de instantáneas de entrada de tiempo de decisión, lo que hace imposible reconstruir decisiones históricas con precisión |
| Negocio | Documentación | ⚠️ No registrar la versión del modelo y el estado de configuración activos en el momento de la decisión, lo que hace imposible el análisis de causa raíz cuando se descubre un sesgo |
| Plataforma | Supervisión de eventos | ⚠️ Mantener registros de auditoría solo dentro de Salesforce sin transmisión SIEM externa, sin pruebas de manipulación para el cumplimiento normativo |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | CRM Analytics | ✅ Construya paneles mostrando: distribución de decisiones por segmento demográfico (gráficos de barras), mediciones de equidad a lo largo del tiempo (líneas de tendencia con umbrales de alerta), índice de impacto dispar con indicador de regla de cuatro quintas partes, predictores principales que contribuyen a decisiones, índice de anulación por grupo demográfico |
| Plataforma | CRM Analytics | ✅ Alertar cuando las distribuciones de entrada cambian significativamente desde datos demográficos de entrenamiento; supervisar el cambio de distribución indicando una posible degradación de la equidad |
| Agentforce | Configuración de agentes | ✅ Agregar la opción “Report Concern” a la interfaz de chat Agentforce; enrutar informes a la junta de revisión de ética con contexto de conversación completo; realizar un seguimiento en objeto personalizado con flujo de trabajo de investigación requerido |
| Negocio | Gobernanza | ✅ Supervisar paneles de equidad semanalmente, investigar infracciones de umbral en 24 horas, realizar análisis de patrón de anulación mensual, realizar auditorías de equidad integrales trimestrales |
| Negocio | Gobernanza | ✅ Permitir a los usuarios reportar sesgos percibidos a través de mecanismos accesibles; los informes de usuario afloran problemas cualitativos que las mediciones cuantitativas pierden |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Negocio | Gobernanza | ⚠️ Tratar la detección de sesgos como validación previa a la implementación puntual en vez de supervisión continua a medida que los agentes evolucionan a través de actualizaciones de solicitudes, cambios de versión de modelo y distribuciones de datos cambiantes |
| Plataforma | CRM Analytics | ⚠️ No se configuran alertas cuando las mediciones de equidad infringen umbrales definidos, permitiendo que la desviación gradual pase desapercibida |
| Agentforce | Configuración de agentes | ⚠️ No proporcionar a los usuarios mecanismos accesibles para reportar sesgos percibidos, faltan problemas cualitativos que las mediciones cuantitativas no pueden aflorar |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | Integración | ✅ Construir funciones de exportación que permitan a los equipos de cumplimiento extraer conjuntos de datos de decisiones completos con estratificación demográfica para la revisión de auditores externos respetando las leyes de privacidad de datos |
| Negocio | Documentación | ✅ Mantener la documentación actual que cubre: propósito del agente y casos de uso previstos, datos demográficos de entrenamiento y limitaciones conocidas, mediciones de equidad (previo a la implementación y producción), estrategias de mitigación de sesgos, configuraciones de supervisión humana, enfoque de supervisión y asignaciones de responsabilidad |
| Negocio | Gobernanza | ✅ Antes de implementar agentes que toman decisiones consecuentes, realice evaluaciones de impacto algorítmico evaluando posibles efectos positivos y negativos entre grupos de partes interesadas |
| Negocio | Gobernanza | ✅ Programar auditorías de equidad externas semestrales por terceros; mantener el escaneo de horizonte normativo adaptándose a la Ley de IA de la UE, las leyes estatales y las leyes del sector |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Integración | ⚠️ Diseñar arquitecturas de agentes sin anticipar auditorías externas por reguladores, organizaciones de derechos civiles o clientes; carecer de capacidades de exportación para revisión de auditores |
| Negocio | Documentación | ⚠️ Permitir que la documentación quede obsoleta a medida que los agentes evolucionan a través de actualizaciones de solicitudes o cambios de modelo sin actualizar mediciones de equidad y estrategias de mitigación |
| Negocio | Gobernanza | ⚠️ Despliegue de agentes que toman decisiones consecuentes sin realizar evaluaciones de impacto que evalúen los efectos entre grupos de partes interesadas |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Requerir suscripción explícita para agentes consecuentes (decisión de crédito, selección de empleo, aptitud para el servicio) en vez de activar de forma predeterminada |
| Plataforma | Objeto personalizado | ✅ Crear AI_Consent__c con campos: User_ID, Use_Case, Grant_Date, Grant_Method, Withdrawal_Date, Status; active Seguimiento de auditoría de campo para la retención de registros de consentimiento a largo plazo |
| Agentforce | Configuración de agentes | ✅ Agregar comprobación de consentimiento a la lógica de invocación de agentes: consultar AI_Consent__c para el consentimiento activo antes del procesamiento; dar cobertura al consentimiento a nivel de caso de uso (Agente de servicio frente a agente de ventas) |
| Plataforma | Comunidad/Sitio de Experience | ✅ Crear una interfaz de gestión de consentimiento de autoservicio accesible desde el perfil de usuario; programar recordatorios de renovación de consentimiento cada 12 meses |
| Agentforce | Configuración de agentes | ✅ Al implementar nuevas funciones que afectan a usuarios existentes, busque de forma proactiva el consentimiento para nuevos casos de uso en vez de basarse en el consentimiento original que no contemplaba aplicaciones específicas |
| Agentforce | Configuración de agentes | ✅ Active la retirada de consentimiento en cualquier momento con el cese inmediato del procesamiento de agentes; facilite la retirada como otorgar sin requerir contactos de asistencia |
| Agentforce | Configuración de agentes | ✅ Activar la gestión de preferencias de usuario: estilo de comunicación (conciso frente a detallado), nivel de proactividad, preferencia de distribución; almacenar en registro Usuario campos personalizados y referencia en solicitudes del sistema de agentes |
| Plataforma | OmniCanal | ✅ Proporcionar la opción persistente “Conectar con agente humano” durante las interacciones; cuando se selecciona, enrutar a OmniCanal con contexto de conversación completo y indicador de prioridad sin penalizaciones de tiempo de espera o servicio degradado |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Activación de agentes consecuentes de forma predeterminada sin que el usuario explícito se suscriba para comprender cómo les afectarán los agentes |
| Agentforce | Configuración de agentes | ⚠️ Requerir el consentimiento de IA general en vez de activar el consentimiento granular a nivel de caso de uso (un cliente podría consentir agentes de servicio mientras rechaza agentes de ventas) |
| Agentforce | Configuración de agentes | ⚠️ Hacer que la retirada del consentimiento requiera contactos de asistencia o procesos burocráticos en vez de autoservicio con efecto inmediato |
| Agentforce | Configuración de agentes | ⚠️ Confianza en el consentimiento original al implementar funciones de agentes materialmente nuevas que no se contemplaron en el consentimiento original |
| Agentforce | Configuración de agentes | ⚠️ Requerir a los usuarios completar interacciones de agentes o explicar sus preferencias antes de conectarlos con un agente humano |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Revisar todos los orígenes de datos utilizados en el razonamiento de agentes para contenido de características protegidas; eliminar o enmascarar características protegidas de entradas de agentes cuando no se justifique legalmente para el tipo de decisión |
| Agentforce | Plantilla de solicitud | ✅ Incluya instrucciones explícitas de no discriminación en solicitudes del sistema: “Trate a todos los clientes con la misma profesionalidad independientemente de su nombre, ubicación, estilo de comunicación o cualquier otra característica. Nunca haga suposiciones sobre clientes basándose en características demográficas”. |
| Agentforce | Configuración de agentes | ✅ Prueba con diversas personas antes de la producción: generar solicitudes idénticas variando solo las señales demográficas (nombres que sugieren diferentes etnias, ubicaciones, estilos de comunicación); comparar respuestas para calidad, longitud, profesionalismo y resultados |
| Agentforce | Supervisión de agentes | ✅ Calcular índices de resolución de primer contacto estratificados por segmento de cliente; investigar cuando existen disparidades significativas entre segmentos |
| Agentforce | Supervisión de agentes | ✅ Muestra conversaciones de agentes entre segmentos y hacer que los revisores evalúen la calidad de la respuesta en dimensiones coherentes (precisión, exhaustividad, profesionalismo, utilidad) con pruebas de fiabilidad entre calificadores |
| Agentforce | Supervisión de agentes | ✅ Realizar un seguimiento de los índices de distribución estratificados por datos demográficos de clientes; índices más altos para ciertos segmentos indican que los agentes son menos efectivos para esos usuarios |
| Negocio | Encuestas | ✅ Encuesta a usuarios de todos los grupos demográficos y comparación de puntuaciones de satisfacción; en general, la alta satisfacción puede enmascarar experiencias pobres para grupos minoritarios |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Incluir datos de características protegidas (estado de discapacidad, religión, origen nacional) en entradas de agentes para decisiones donde esas características no están justificadas legalmente |
| Agentforce | Plantilla de solicitud | ⚠️ Implementar agentes sin instrucciones explícitas de no discriminación en solicitudes del sistema, basándose únicamente en el comportamiento del modelo de base |
| Agentforce | Configuración de agentes | ⚠️ Agentes de prueba solo con personas mayoritariamente demográficas, que carecen de sesgo contra grupos insuficientemente representados |
| Negocio | Encuestas | ⚠️ Apoyarse en puntuaciones de satisfacción general que enmascaran experiencias pobres para grupos minoritarios ahogados por la satisfacción de la mayoría |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | LWC | ✅ Para implementaciones de chat personalizadas, asegúrese de lo siguiente: estructura HTML semántica con puntos de referencia apropiados, regiones en vivo de ARIA anunciando nuevos mensajes, navegación por el historial de mensajes, indicadores de enfoque claros en elementos interactivos |
| Plataforma | LWC | ✅ Prueba con JAWS, NVDA y VoiceOver durante todo el desarrollo, no solo el escaneo automatizado |
| Agentforce | Configuración de agentes | ✅ Configurar respuestas de agentes para utilizar lenguaje sin formato para audiencias generales; evitar la jerga y proporcionar glosarios para términos técnicos inevitables; estructurar respuestas largas con encabezados y listas de viñetas |
| Agentforce | Configuración de agentes | ✅ Validar la calidad de la respuesta es comparable entre idiomas a través de la evaluación del hablante nativo, no solo mediciones automatizadas que pierden matices culturales |
| Agentforce | Configuración de agentes | ✅ Para casos de uso críticos para el negocio que sirven a poblaciones de idiomas diversas, configure la gestión específica del idioma (variables de idioma, solicitudes traducidas, filtrado de artículos Knowledge por idioma) y valide la calidad por idioma en vez de basarse únicamente en la transferencia multilingüe del modelo de base |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | LWC | ⚠️ Construcción de implementaciones de chat personalizadas sin pruebas de accesibilidad manuales (basándose solo en análisis automatizado) |
| Agentforce | Configuración de agentes | ⚠️ Uso de jerga y lenguaje complejo sin glosarios, creando barreras cognitivas para los usuarios |
| Agentforce | Configuración de agentes | ⚠️ Basándose únicamente en la transferencia multilingüe de modelo de base para idiomas de menores recursos, proporcionando una calidad degradada para usuarios de idiomas no mayoritarios |
| Agentforce | Configuración de agentes | ⚠️ Validación de la calidad de la respuesta multilingüe solo a través de mediciones automatizadas que pierden matices culturales |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Negocio | Gobernanza | ✅ Establecer una junta de revisión ética con autoridad de aplicación antes de implementar cualquier agente de producción |
| Negocio | Gobernanza | ✅ Definir puertas de implementación obligatorias: auditoría de datos, cálculo de mediciones de equidad y evaluación de impacto algorítmica |
| Plataforma | CRM Analytics | ✅ Crear paneles de supervisión de equidad de línea base en CRM Analytics antes de la primera implementación de agentes |
| Plataforma | Supervisión de eventos | ✅ Activar la captura de auditoría de Capa de Trust de Einstein y configurar Supervisión de eventos para acciones de agentes como base antes de la producción |
| Negocio | Gobernanza | ✅ Implementar pruebas de regresión de equidad automatizadas en oportunidades en curso de CI/CD para la ampliación |
| Negocio | Gobernanza | ✅ Estandarizar patrones de gestión de consentimiento entre todos los nuevos agentes a medida que se amplían las implementaciones |
| Plataforma | Integración | ✅ Crear herramientas de reconstrucción de decisiones de agentes que permitan el autoservicio del equipo de cumplimiento |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Negocio | Gobernanza | ⚠️ Despliegue de agentes de producción antes de establecer una junta de revisión ética con autoridad de aplicación |
| Negocio | Gobernanza | ⚠️ Tratar la equidad como una idea posterior en vez de una puerta de implementación obligatoria equivalente a una revisión de seguridad |
| Negocio | Gobernanza | ⚠️ Omitir evaluaciones de impacto algorítmicas antes de implementar agentes que toman decisiones consecuentes |
| Plataforma | CRM Analytics | ⚠️ Implementación del primer agente de producción sin paneles de supervisión de equidad de línea base |