Trust Agentic Enterprise - Patrones
Obtenga más información acerca de Well-Architected Confideicomiso → Agentic Enterprise Trust
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Configuración de agente | ✅ Crear usuario de integración “Agent_Product_Support” con conjunto de permisos otorgando Lectura en caso/producto, acceso a artículos Knowledge y Acciones específicas solo para actualizaciones de casos |
| Agentforce | Configuración de agente | ✅ Configurar el usuario que ejecuta con los permisos mínimos requeridos para el ámbito definido del agente |
| Plataforma | Conjuntos de permisos | ✅ Crear usuarios de integración creados específicamente para contextos de agentes y otorgar conjuntos de permisos proporcionando exactamente lo que requiere el agente |
| Plataforma | Monitoreo de eventos | ✅ Después de la implementación, utilice Monitoreo de eventos para identificar permisos otorgados nunca ejercidos en tiempo de ejecución y eliminarlos; Configurar Seguimiento de auditoría registra los cambios de configuración (subvenciones y revocaciones), no qué permisos se utilizan actualmente |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agente | ⚠️ Asignar administrador del sistema como usuario que ejecuta porque “solo funciona” y evita errores de permisos durante las pruebas |
| Plataforma | Organización | ⚠️ Permitir a los agentes conservar conjuntos de permisos amplios que se otorgaron durante el desarrollo sin revisión posterior a la implementación |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Generador de agentes | ✅ Tratar el subagente y la configuración de acciones en Agent Builder como un límite de permisos, no solo el enrutamiento: si una acción no está asignada a un subagente, el agente no puede invocarla |
| Agentforce | Generador de agentes | ✅ Eliminar subagentes que exponen funciones que el agente no necesita (un agente que responde a preguntas de productos no debe tener modificación de registro, envío de email o invocación de flujo en el ámbito), y revisar el ámbito de subagentes cuando cambian las responsabilidades |
| Plataforma | Apex | ✅ Verificar que cada acción Apex en el conjunto de acciones del agente se utiliza con colaboración o colaboración heredada a menos que el contexto del sistema sea deliberado y documentado, de modo que el usuario que ejecuta mantenga el límite de seguridad |
| Agentforce | Acción | ✅ Validar salidas de herramientas con un esquema antes de que el agente las procese, tratando cada respuesta de herramienta como entrada no fiable |
| Agentforce | Acción | ✅ Restringir parámetros de herramientas a intervalos de valores permitidos (por ejemplo, validar dominios de destinatarios en una acción de envío de email) en vez de permitir que el razonamiento de agentes en datos no de confianza los determine |
| Agentforce | Acción | ✅ Aplicar comprobaciones de permisos a nivel de herramienta en la capa de implementación de la herramienta, no solo en la configuración del agente, de modo que una capacidad verifique su contexto de llamada antes de ejecutar |
| Agentforce | Acción | ✅ Utilizar credenciales nombradas para todas las llamadas externas desde acciones de agentes |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Generador de agentes | ⚠️ Dejar subagentes que exponen la modificación de registros, el envío de emails o la invocación de flujos en un agente diseñado solo para responder a preguntas de productos |
| Agentforce | Generador de agentes | ⚠️ Tratar la configuración del agente como solo enrutamiento sin reconocer que cualquier cosa enumerada es accesible a través de la manipulación de solicitudes, incluso funciones para las que el agente no estaba diseñado para utilizar |
| Plataforma | Apex | ⚠️ Adición de una acción Apex personalizada que se ejecuta en modo sistema (sin colaboración) que omite las reglas de colaboración y seguridad a nivel de campo del usuario que ejecuta sin diseñar deliberadamente para él |
| Agentforce | Acción | ⚠️ Respuestas de herramientas de procesamiento como entrada de confianza sin validación de esquemas, permitiendo que los datos defectuosos o inyectados alcancen el razonamiento de agentes |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Configuración de agente | ✅ Cadena de permisos de documento: Orquestador de pedidos (Leer pedidos, Estado de pedido de escritura) → Especialista de inventario (Inventario de lectura/escritura) → Especialista de envío (Crear envío). Verificar contexto de usuario permite todas las operaciones descendentes |
| Agentforce | Configuración de agente | ✅ Asignar permisos efectivos de la cadena de orquestación completa antes de la implementación |
| Agentforce | Configuración de agente | ✅ Diseñar límites de permisos en todo el flujo de trabajo, no solo agentes individuales |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agente | ⚠️ Permitir al orquestador con permisos limitados invocar especialistas con Modificar todos los datos, omitiendo las restricciones del orquestador |
| Agentforce | Configuración de agente | ⚠️ Evaluar permisos de agentes individuales sin asignar el privilegio efectivo de toda la cadena de orquestación |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Plantilla de solicitud | ✅ Separe instrucciones de datos arquitectónicamente: Las instrucciones a nivel del sistema no deben mezclarse con contenido de origen de registro, texto proporcionado por el usuario o respuestas de herramientas a través de la concatenación de cadenas |
| Agentforce | Acción | ✅ Identifique Descripción de caso, Cuerpo de email, Transcripción de chat como campos de alto riesgo. Implemente una capa de preprocesamiento que resuma el contenido antes de pasar al razonamiento de agentes, eliminando instrucciones de inyección potenciales mientras conserva el significado |
| Agentforce | Configuración de agente | ✅ Definir contratos de validación de entrada en cada límite de agente y tratar cada origen de contenido externo como no confiable |
| Data 360 | Fuentes de conexión a tierra | ✅ Tratar artículos Knowledge, documentos indexados de Data 360 y orígenes de recuperación externos como superficies de inyección persistentes que requieren revisión continua |
| Einstein | Capa de Trust | ✅ Tratar los controles de seguridad de Capa Einstein Trust como una capa en defensa en profundidad, no solución completa |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Plantilla de solicitud | ⚠️ Concatenar Descripción de caso sin procesar en solicitud de agente con instrucciones del sistema, suponiendo que el modelo distinguirá el contenido del caso de las instrucciones de ataque |
| Data 360 | Fuentes de conexión a tierra | ⚠️ Trust fundamentando fuentes sin considerar que el contenido adversario persiste y puede ser modificado a lo largo del tiempo por partes sin acceso directo de agentes |
| Einstein | Capa de Trust | ⚠️ Confíe exclusivamente en los controles de seguridad de Trust Layer sin defensas arquitectónicas adicionales para técnicas de inyección novedosas |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Einstein | Capa de Trust | ✅ El agente que recupera información de casos consulta solo campos necesarios para el razonamiento (Número de caso, Producto, Estado, Prioridad) en vez de todos los campos Caso. El enmascaramiento de PII proporciona protección adicional si aparece una PII inesperada |
| Einstein | Capa de Trust | ✅ Configurar Trust Layer de forma apropiada y documentar flujos de datos a través del procesamiento Trust Layer |
| Einstein | Capa de Trust | ✅ Determinar qué clasificaciones de datos pueden ingresar inferencia LLM para su contexto regulador |
| Plataforma | Monitoreo de eventos | ✅ Enrutar eventos de auditoría de Trust Layer a SIEM junto con datos de Monitoreo de eventos |
| Plataforma | Monitoreo de eventos | ✅ Implementar el registro a nivel de aplicación capturando lo que decidió el agente, qué acción realizó y qué resultado de negocio resultó junto con los registros Trust Layer |
| Negocio | Documentación | ✅ Validar la retención de auditoría de Trust Layer cumple los requisitos normativos |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Einstein | Capa de Trust | ⚠️ Consultar todos los campos Caso incluyendo notas confidenciales e información de pago, basándose en el enmascaramiento de PII para eliminar todo lo problemático |
| Einstein | Capa de Trust | ⚠️ Diseñar agentes para enviar contexto de registro completo a inferencia LLM suponiendo que el enmascaramiento de PII gestiona todo |
| Einstein | Capa de Trust | ⚠️ Tratar el enmascaramiento de PII de Trust Layer como sustituto de la minimización de datos en vez de como defensa en profundidad |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Configuración de agente | ✅ Especialista de realización de pedidos valida datos de pedidos proporcionados por el orquestador que incluyen campos obligatorios (Id. de pedido, Id. de cliente, SKU de producto), valores dentro de los intervalos esperados (cantidad > 0, precio > 0) y el estado del pedido permite la realización antes de la ejecución |
| Agentforce | Configuración de agente | ✅ Definir contratos de interfaz tipificados explícitos para la comunicación entre agentes con datos estructurados, con ámbito y validados |
| Agentforce | Configuración de agente | ✅ Diseñar cada agente en un flujo de trabajo de múltiples agentes para validar el contexto que recibe antes de actuar, independientemente de la identidad del llamante |
| Agentforce | Configuración de agente | ✅ Tratar el contenido de mensajes entre agentes con el mismo escrutinio que la entrada de usuario externo |
| Integración | Servicios externos | ✅ Para agentes que invocan servicios de IA externos o agentes externos fuera de Salesforce, aplique principios de zero Trust y valide respuestas que entran dentro de la estructura y el ámbito esperados |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agente | ⚠️ El especialista ejecuta directamente cualquier acción solicitada por el orquestador sin validar la estructura de la solicitud, los valores o el contexto de la autorización |
| Agentforce | Configuración de agente | ⚠️ Los orquestadores pasan cadenas de instrucciones sin procesar que los especialistas tratan como directivas autorizadas |
| Agentforce | Configuración de agente | ⚠️ Pasar contexto de ejecución completo, datos de sesión de usuario o rastreo de razonamiento acumulado a cada agente descendente |
| Integración | Servicios externos | ⚠️ Actuar sobre respuestas de agentes externos que indican a su orquestador realizar acciones fuera del ámbito de tarea actual sin rechazo o distribución |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | Flujo | ✅ Agente de reembolso configurado con punto de control Flujo que requiere aprobación humana antes de que se ejecute cualquier reembolso superior a 1.000 $, independientemente de la confianza del agente. Punto de control implementado fuera del razonamiento de agentes |
| Plataforma | Flujo | ✅ Implementar puntos de control HITL como puertas de flujo de trabajo fuera del bucle de razonamiento de agentes, diseñados como controles arquitectónicos en vez de instrucciones de agentes |
| Negocio | Documentación | ✅ Defina categorías de acciones que requieren confirmación humana: acciones irreversibles, acciones por encima de umbrales financieros, acciones de comunicación externa, acciones que implican datos regulados, acciones donde se han observado errores |
| Agentforce | Configuración de agente | ✅ Diseñar interfaces de revisión que afloran la acción propuesta, el agente de datos utilizado para llegar a la propuesta y la ruta de razonamiento donde esté disponible |
| Plataforma | Auditoría | ✅ Almacenar decisión de revisión con registro de acción de agente: quién revisó, cuándo, qué información mostrada, qué decidieron |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agente | ⚠️ Configurar el agente con la instrucción “Solicitar aprobación antes de emitir reembolsos superiores a 1.000 $” suponiendo que la instrucción no puede sustituirse por una inyección rápida |
| Agentforce | Configuración de agente | ⚠️ Implementar HITL como instrucciones de agente que pueden interpretarse y posiblemente ignorarse, en vez de como puntos de control de flujo de trabajo fuera de la ruta de razonamiento |
| Negocio | Proceso | ⚠️ Presentar a los revisores humanos solicitudes de aprobación que carecen de contexto sobre la acción propuesta, los datos utilizados o la ruta de razonamiento, sin proporcionar una supervisión genuina |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | Monitoreo de eventos | ✅ Enrutar eventos de Monitoreo de eventos y Trust Layer a SIEM para monitoreo de seguridad centralizado |
| Plataforma | Seguridad de transacciones | ✅ Configurar políticas de Seguridad de transacciones con evaluación en tiempo real incluyendo funciones de bloqueo y notificación |
| Agentforce | Configuración de agente | ✅ Implementar el registro de aplicaciones personalizado capturando resúmenes de razonamiento, invocaciones de herramientas y fallos de validación |
| Plataforma | Monitoreo de eventos | ✅ Diseñar reglas de alerta detectando patrones sospechosos específicos de agentes: acceso masivo a datos fuera de los plazos previstos, invocación de acciones no alineadas con el propósito, fallos de validación repetidos, patrones de orquestación anómalos |
| Agentforce | Configuración de agente | ✅ Realizar un seguimiento de patrones de invocación de acciones típicos, volúmenes de acceso a datos, índices de llamadas de inferencia, índices de error y tiempos de ejecución por agente para establecer líneas base de comportamiento |
| Plataforma | Monitoreo de eventos | ✅ Definir eventos de seguridad específicos de agentes: infracciones de límites de permisos, fallos de validación repetidos, anomalías de orquestación, infracciones de umbral de confianza, patrones de activación de reserva |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Monitoreo de eventos | ⚠️ Aplicar patrones de monitoreo de actividad humana a agentes sin establecer líneas base de comportamiento específicas de agentes |
| Plataforma | Monitoreo de eventos | ⚠️ Confíe solo en la detección basada en firmas sin monitoreo de comportamiento que pueda detectar ataques novedosos |
| Plataforma | Monitoreo de eventos | ⚠️ Ignorar índices de error elevados, fallos de validación repetidos o patrones de orquestación anómalos como comportamiento normal de agentes |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | Auditoría | ✅ Para cada acción de agente significativa, capture: identidad de agente y contexto de usuario que ejecuta, evento desencadenante, datos recuperados para fundamentación, resumen de razonamiento, acción y resultado específicos, nivel de confianza, decisión de revisión humana si procede |
| Plataforma | Auditoría | ✅ Implementar el registro de auditoría a nivel de aplicación para contexto de negocio que los registros de plataforma (eventos de Monitoreo de eventos, Trust Layer) no incluyen |
| Plataforma | Auditoría | ✅ Enrutar eventos de Event Monitoring y Trust Layer a almacenamiento a largo plazo más allá de los periodos de retención nativos |
| Agentforce | Configuración de agente | ✅ Registrar la identidad de agentes en cada paso en el rastreo de ejecución de múltiples agentes para la atribución a través de cadenas de orquestación |
| Agentforce | Configuración de agente | ✅ Capturar y aflorar resúmenes de razonamiento identificando factores clave que influyen en la recomendación del agente para decisiones de alto impacto |
| Negocio | Documentación | ✅ Diseñar flujos de trabajo de agentes de modo que los usuarios puedan solicitar explicaciones para decisiones que les afectan |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Auditoría | ⚠️ Confíe en la reconstrucción de lo que hizo el agente a partir de efectos secundarios en registros: para cuando necesite un seguimiento de auditoría, es posible que los registros hayan cambiado |
| Plataforma | Auditoría | ⚠️ Registrar flujos de trabajo de múltiples agentes sin identificar qué agente específico realizó qué acción en la cadena |
| Negocio | Proceso | ⚠️ Implemente agentes que toman decisiones de alto impacto sin capturar resúmenes de razonamientos o proporcionar mecanismos de explicación a usuarios afectados |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Agentforce | Instrucciones de agente | ✅ Cuando una nueva restricción aparece a mitad de la decisión (plazo, presupuesto, plantilla, licencia), vuelva a ejecutar la compensación completa entre todos los factores originales en vez de permitir que la nueva entrada revierta la decisión anterior por sí misma |
| Agentforce | Instrucciones de agente | ✅ Indicar el cambio en el objetivo explícitamente (aflorar cuando el objetivo de optimización cambia de “arquitectónicamente sólido y mantenible” a “entregable bajo la restricción”) de modo que el humano pueda ver lo que se está optimizando ahora para |
| Negocio | Proceso | ✅ Tratar una tensión de arquitectura frente a entrega como una compensación de propiedad humana: presentar lo que se gana (velocidad) frente a lo que se paga (costo total de propiedad, capacidad de mantenimiento, bloqueo) y enrutar la decisión al propietario responsable |
| Agentforce | Instrucciones de agente | ✅ Mantener la arquitectura ajustada (el diseño cumple los requisitos) y la viabilidad de entrega (puede este equipo enviarlo a tiempo) como factores visibles separados en vez de contraerlos en una sola respuesta |
| Plataforma | Documentación | ✅ Al revertir una decisión documentada, vuelva a sopesarla con la justificación original y registre la reversión como una compensación transparente y con plazos fijos con un desencadenador de revisita: un registro de decisión actualizado muestra que la compensación se volvió a sopesar, no simplemente se reemplazó |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Instrucciones de agente | ⚠️ Permitir que una nueva restricción única (equipo no disponible, fecha límite ajustada) revierta una decisión técnica mientras descarta silenciosamente los factores de costo y capacidad de mantenimiento que impulsaron la opción original |
| Agentforce | Instrucciones de agente | ⚠️ Cambio del objetivo de optimización de “arquitectónicamente racional y mantenible” a “entregable bajo la restricción” sin marcar que el objetivo cambió |
| Negocio | Proceso | ⚠️ Revertir de un diseño sólido a una opción más económica o más conveniente bajo una nueva restricción, sin resurgir el costo total a largo plazo de propiedad, capacidad de mantenimiento y bloqueo que impulsó la opción original |
| Negocio | Proceso | ⚠️ Resolución de un conflicto de arquitectura frente a entrega dentro del razonamiento del agente en vez de distribuirlo como una compensación consciente de propiedad humana |
| Plataforma | Documentación | ⚠️ Producir un nuevo registro de decisión que registre la reversión pero no la vuelva a ponderar con la justificación original: respetar el desencadenador de la revisita en letra pero no en sustancia |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Negocio | Documentación | ✅ Realizar un seguimiento de desarrollos normativos en jurisdicciones donde operan soluciones y diseñar el cumplimiento en sistemas de agentes desde el principio |
| Negocio | Documentación | ✅ Evaluar los niveles de riesgo del sistema de IA por marcos aplicables (Ley de IA de la UE, Carta de Derechos de la IA de EE.UU., marcos regionales) |
| Agentforce | Configuración de agente | ✅ Implementar mecanismos de transparencia y capacidad de explicación y diseñar una supervisión humana adecuada al nivel de riesgo |
| Negocio | Documentación | ✅ Documentar cómo se cumple cada requisito específico de la industria (HIPAA, DORA, SOX, GDPR, CCPA) a través de controles arquitectónicos específicos |
| Negocio | Documentación | ✅ Validar el cumplimiento antes de la implementación de producción |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Negocio | Proceso | ⚠️ Actualizar la transparencia, la capacidad de explicación y la supervisión humana después de la implementación en vez de incorporarlas desde el principio |
| Negocio | Proceso | Implemente agentes que procesan PHI, datos financieros o datos personales sin validar que cumplen los requisitos de HIPAA, DORA/SOX o GDPR/CCPA |
| Negocio | Proceso | ⚠️ Ignorar leyes específicas de IA emergentes (categoría de riesgo de Ley de IA de la UE, requisitos de transparencia), tratándolas como solo agentes cuando la automatización tradicional de Salesforce tampoco está exenta |
Patrones
| Dónde buscar | Qué aspecto tiene |
|---|---|
| Plataforma | AgentExchange | ✅ Antes de activar la acción externa para uso de agentes, revise qué acción realiza a nivel de flujo de datos y código, qué servicios externos llama y qué datos transmite |
| Plataforma | AgentExchange | ✅ Volver a visitar configuraciones de acciones externas cuando se aplican actualizaciones de paquetes gestionados |
| Agentforce | Plantilla de solicitud | ✅ Revise plantillas de solicitudes originadas fuera de su equipo antes de su uso y trátelas como código que se ejecuta dentro del proceso de razonamiento privilegiado con acceso a los datos de su organización |
| Agentforce | Plantilla de solicitud | ✅ Establecer el proceso de revisión y aprobación para plantillas utilizadas en agentes de producción y mantener el registro de la procedencia de la plantilla |
| Agentforce | Configuración de agente | ✅ Mantenga el conjunto de pruebas para Agente de servicio al cliente con preguntas representativas, casos extremos e intentos de inyección conocidos. Ejecutar conjunto en sandbox tras la notificación de actualización de modelo, comparar la calidad y la seguridad de la respuesta antes de promocionar a producción |
| Agentforce | Configuración de agente | ✅ Tratar cambios de versión de modelo como eventos de implementación y mantener conjuntos de pruebas de comportamiento para agentes que cubren entradas representativas, casos extremos y patrones adversarios conocidos |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | AgentExchange | ⚠️ Activar acciones de AgentExchange externas para uso de agentes sin revisar código, flujos de datos y llamadas de servicio externas |
| Agentforce | Plantilla de solicitud | ⚠️ Utilice plantillas de solicitudes de fuentes externas o ejemplos de comunidad sin revisar instrucciones integradas que podrían modificar el comportamiento de seguridad de los agentes o introducir sesgos de razonamiento |
| Agentforce | Configuración de agente | ⚠️ Permitir actualizaciones de modelo automáticas a agentes de producción sin validación, descubriendo cambios de comportamiento a través de quejas de usuarios |