Trust Agentic Enterprise - Patrones
Obtenga más información acerca de Well-Architected Confideicomiso → Agentic Enterprise Trust
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Crear el usuario de integración “Agent_Product_Support” con el conjunto de permisos otorgando lectura en caso/producto, acceso a artículos Knowledge y acciones específicas solo para actualizaciones de casos |
| Agentforce | Configuración de agentes | ✅ Configurar el usuario que ejecuta con los permisos mínimos requeridos para el ámbito definido del agente |
| Plataforma | Conjuntos de permisos | ✅ Crear usuarios de integración creados específicamente para contextos de agentes y otorgar conjuntos de permisos proporcionando exactamente lo que requiere el agente |
| Plataforma | Supervisión de eventos | ✅ Después de la implementación, utilice Supervisión de eventos para identificar permisos otorgados nunca ejercidos en tiempo de ejecución y eliminarlos; Configuración Seguimiento de auditoría registra los cambios de configuración (subvenciones y revocaciones), no qué permisos se utilizan actualmente |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Asignar Administrador del sistema como usuario que ejecuta porque “solo funciona” y evita errores de permisos durante las pruebas |
| Plataforma | Organización | ⚠️ Permitir a los agentes conservar conjuntos de permisos amplios que se otorgaron durante el desarrollo sin revisión posterior a la implementación |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Generador de agentes | ✅ Tratar el subagente y la configuración de acciones en Agent Builder como un límite de permisos, no solo el enrutamiento: si una acción no está asignada a un subagente, el agente no puede invocarla |
| Agentforce | Generador de agentes | ✅ Eliminar subagentes que exponen funciones que el agente no necesita (un agente que responde a preguntas de productos no debe tener modificación de registro, envío de correo electrónico o invocación de flujo en el ámbito) y revisar el ámbito de subagente cuando cambian las responsabilidades |
| Plataforma | Apex | ✅ Verificar cada acción Apex en el conjunto de acciones del agente se utiliza con colaboración o colaboración heredada a menos que el contexto del sistema sea deliberado y documentado, de modo que el usuario que ejecuta mantenga el límite de seguridad |
| Agentforce | Acción | ✅ Validar salidas de herramientas en un esquema antes de que el agente las procese, tratando cada respuesta de herramienta como entrada no fiable |
| Agentforce | Acción | ✅ Restringir parámetros de herramientas a intervalos de valores permitidos (por ejemplo, validar dominios de destinatarios en una acción de envío de correo electrónico) en vez de permitir que el razonamiento de agentes en datos no fiables los determine |
| Agentforce | Acción | ✅ Aplicar comprobaciones de permisos a nivel de herramienta en la capa de implementación de la herramienta, no solo en la configuración del agente, de modo que una función verifique su contexto de llamada antes de ejecutar |
| Agentforce | Acción | ✅ Utilizar credenciales nombradas para todas las llamadas externas desde acciones de agentes |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Generador de agentes | ⚠️ Dejar subagentes que exponen la modificación de registros, el envío de correos electrónicos o la invocación de flujos en un agente diseñado solo para responder a preguntas de productos |
| Agentforce | Generador de agentes | ⚠️ Tratar la configuración de agentes como solo enrutamiento sin reconocer que cualquier cosa enumerada es accesible a través de manipulación de solicitudes, incluso funciones que el agente no se diseñó para utilizar |
| Plataforma | Apex | ⚠️ Adición de una acción Apex personalizada que se ejecuta en modo sistema (sin colaboración) que omite las reglas de colaboración y seguridad a nivel de campo del usuario que ejecuta sin diseñar deliberadamente para él |
| Agentforce | Acción | ⚠️ Respuestas de la herramienta de procesamiento como entrada de confianza sin validación de esquema, permitiendo que los datos defectuosos o inyectados alcancen el razonamiento de los agentes |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Cadena de permisos de documento: Orquestador de pedidos (Leer pedidos, Estado de escritura de pedido) → Especialista de inventario (Leer/Escribir inventario) → Especialista de envío (Crear envío). Verificar contexto de usuario permite todas las operaciones descendentes |
| Agentforce | Configuración de agentes | ✅ Asignar permisos efectivos de la cadena de orquestación completa antes de la implementación |
| Agentforce | Configuración de agentes | ✅ Diseñar límites de permisos en todo el flujo de trabajo, no solo agentes individuales |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Permitir al orquestador con permisos limitados invocar especialista con Modificar todos los datos, omitiendo las restricciones del orquestador |
| Agentforce | Configuración de agentes | ⚠️ Evaluar permisos de agentes individuales sin asignar el privilegio efectivo de toda la cadena de orquestación |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Plantilla de solicitud | ✅ Instrucciones separadas de datos arquitectónicamente: instrucciones a nivel del sistema no deben mezclarse con contenido de origen de registro, texto proporcionado por el usuario o respuestas de herramientas a través de la concatenación de cadenas |
| Agentforce | Acción | ✅ Identifique Descripción de caso, Cuerpo de correo electrónico, Transcripción de chat como campos de alto riesgo. Implemente una capa de preprocesamiento que resuma el contenido antes de pasar al razonamiento de agentes, eliminando posibles instrucciones de inyección preservando el significado |
| Agentforce | Configuración de agentes | ✅ Defina contratos de validación de entrada en cada límite de agente y trate cada origen de contenido externo como no confiable |
| Data 360 | Fuentes de conexión a tierra | ✅ Tratar artículos Knowledge, documentos indexados de Data 360 y orígenes de recuperación externos como superficies de inyección persistentes que requieren revisión continua |
| Einstein | Capa de Trust | ✅ Tratar los controles de seguridad de Capa Einstein Trust como una capa en defensa en profundidad, no solución completa |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Plantilla de solicitud | ⚠️ Concatenar Descripción de caso sin procesar en solicitud de agente con instrucciones del sistema, suponiendo que el modelo distinguirá el contenido del caso de las instrucciones de ataque |
| Data 360 | Fuentes de conexión a tierra | ⚠️ Trust fundamentando fuentes sin considerar que el contenido adversario persiste y puede ser modificado con el tiempo por partes sin acceso directo a agentes |
| Einstein | Capa de Trust | ⚠️ Confíe exclusivamente en los controles de seguridad Trust Layer sin defensas arquitectónicas adicionales para técnicas de inyección novedosas |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Einstein | Capa de Trust | ✅ El agente que recupera información de casos consulta solo los campos necesarios para el razonamiento (Número de caso, Producto, Estado, Prioridad) en vez de todos los campos de Caso. El enmascaramiento de PII proporciona protección adicional si aparece una PII inesperada |
| Einstein | Capa de Trust | ✅ Configure Trust Layer de forma apropiada y documente flujos de datos a través del procesamiento de Trust Layer |
| Einstein | Capa de Trust | ✅ Determinar qué clasificaciones de datos pueden introducir inferencia LLM para su contexto regulador |
| Plataforma | Supervisión de eventos | ✅ Enrutar eventos de auditoría de Trust Layer a SIEM junto con datos de Supervisión de eventos |
| Plataforma | Supervisión de eventos | ✅ Implementar el registro a nivel de aplicación capturando lo que decidió el agente, qué acción realizó y qué resultado comercial resultó junto con los registros Trust Layer |
| Negocio | Documentación | ✅ Validar la retención de auditoría de Trust Layer cumple los requisitos normativos |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Einstein | Capa de Trust | ⚠️ Consulte todos los campos de Caso incluyendo notas confidenciales e información de pago, basándose en el enmascaramiento de PII para eliminar todo lo problemático |
| Einstein | Capa de Trust | ⚠️ Agentes de diseño para enviar contexto de registro completo a inferencia LLM suponiendo que el enmascaramiento de PII gestiona todo |
| Einstein | Capa de Trust | ⚠️ Tratar el enmascaramiento de PII de capa Trust como sustituto de la minimización de datos en vez de como defensa en profundidad |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Configuración de agentes | ✅ Order Fulfillment Specialist valida los datos de pedidos proporcionados por el orquestador que incluyen campos obligatorios (Id. de pedido, Id. de cliente, SKU de producto), los valores están dentro de los intervalos esperados (cantidad > 0, precio > 0) y el estado del pedido permite la realización antes de la ejecución |
| Agentforce | Configuración de agentes | ✅ Definir contratos de interfaz tipificados explícitos para la comunicación entre agentes con datos estructurados, con ámbito y validados |
| Agentforce | Configuración de agentes | ✅ Diseñar cada agente en flujo de trabajo de múltiples agentes para validar el contexto que recibe antes de actuar, independientemente de la identidad del llamante |
| Agentforce | Configuración de agentes | ✅ Tratar el contenido de mensajes entre agentes con el mismo escrutinio que la entrada de usuario externo |
| Integración | Servicios externos | ✅ Para agentes que invocan servicios de IA externos o agentes externos fuera de Salesforce, aplique principios de zero Trust y valide respuestas que recaen dentro de la estructura y el ámbito esperados |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ El especialista ejecuta directamente cualquier acción solicitada por el orquestador sin validar la estructura, los valores o el contexto de autorización de la solicitud |
| Agentforce | Configuración de agentes | ⚠️ Los orquestadores pasan cadenas de instrucciones sin procesar que los especialistas tratan como directivas autorizadas |
| Agentforce | Configuración de agentes | ⚠️ Pasar contexto de ejecución completo, datos de sesión de usuario o rastreo de razonamiento acumulado a cada agente descendente |
| Integración | Servicios externos | ⚠️ Actuar sobre respuestas de agentes externos que indican a su orquestador realizar acciones fuera del ámbito de tarea actual sin rechazo o distribución |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | Flujo | ✅ Agente de reembolso configurado con el punto de control Flujo que requiere aprobación humana antes de que se ejecute cualquier reembolso superior a 1.000 $, independientemente de la confianza del agente. Punto de control implementado fuera del razonamiento de agentes |
| Plataforma | Flujo | ✅ Implementar puntos de control HITL como puertas de flujo de trabajo fuera del bucle de razonamiento de agentes, diseñados como controles arquitectónicos en vez de instrucciones de agentes |
| Negocio | Documentación | ✅ Defina categorías de acciones que requieren confirmación humana: acciones irreversibles, acciones por encima de umbrales financieros, acciones que se comunican externamente, acciones que implican datos regulados, acciones donde se han observado errores |
| Agentforce | Configuración de agentes | ✅ Interfaces de revisión de diseño que afloran la acción propuesta, el agente de datos utilizado para alcanzar la propuesta y la ruta de razonamiento donde esté disponible |
| Plataforma | Auditoría | ✅ Decisión de revisión de establecimiento con registro de acción de agente: quién revisó, cuándo, qué información mostrada, qué decidieron |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Configuración de agentes | ⚠️ Configure el agente con la instrucción “Solicitar aprobación antes de emitir reembolsos superiores a 1.000 $” suponiendo que la instrucción no se puede sustituir por inyección rápida |
| Agentforce | Configuración de agentes | ⚠️ Implementar HITL como instrucciones de agentes que pueden interpretarse y posiblemente ignorarse, en vez de como puntos de control de flujo de trabajo fuera de la ruta de razonamiento |
| Negocio | Proceso | ⚠️ Presentar a los revisores humanos solicitudes de aprobación que carecen de contexto sobre la acción propuesta, los datos utilizados o la ruta de razonamiento, sin proporcionar una supervisión genuina |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | Supervisión de eventos | ✅ Enrutar eventos de Supervisión de eventos y Trust Layer a SIEM para la supervisión de seguridad centralizada |
| Plataforma | Seguridad de transacciones | ✅ Configurar políticas de Seguridad de transacciones con evaluación en tiempo real incluyendo funciones de bloqueo y notificación |
| Agentforce | Configuración de agentes | ✅ Implementar el registro de aplicaciones personalizado capturando resúmenes de razonamiento, invocaciones de herramientas y fallos de validación |
| Plataforma | Supervisión de eventos | ✅ Diseñar reglas de alerta detectando patrones sospechosos específicos de agentes: acceso masivo a datos fuera de los plazos previstos, invocación de acciones no alineadas con el propósito, fallos de validación repetidos, patrones de orquestación anómalos |
| Agentforce | Configuración de agentes | ✅ Realizar un seguimiento de patrones de invocación de acciones típicos, volúmenes de acceso a datos, índices de llamadas de inferencia, índices de error y tiempos de ejecución por agente para establecer líneas base de comportamiento |
| Plataforma | Supervisión de eventos | ✅ Definir eventos de seguridad específicos de agentes: infracciones de límites de permisos, fallos de validación repetidos, anomalías de orquestación, infracciones de umbral de confianza, patrones de activación de reserva |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Supervisión de eventos | ⚠️ Aplicar patrones de supervisión de actividad humana a agentes sin establecer líneas base de comportamiento específicas de agentes |
| Plataforma | Supervisión de eventos | ⚠️ Confíe solo en la detección basada en firmas sin supervisión de comportamiento que pueda detectar ataques novedosos |
| Plataforma | Supervisión de eventos | ⚠️ Ignorar índices de error elevados, fallos de validación repetidos o patrones de orquestación anómalos como comportamiento normal de agentes |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | Auditoría | ✅ Para cada acción de agente significativa, capture: identidad de agente y contexto de usuario que ejecuta, evento desencadenante, datos recuperados para fundamentación, resumen de razonamiento, acción y resultado específicos, nivel de confianza, decisión de revisión humana si procede |
| Plataforma | Auditoría | ✅ Implementar el registro de auditoría a nivel de aplicación para contexto comercial que los registros de plataforma (Event Monitoring, eventos Trust Layer) no incluyen |
| Plataforma | Auditoría | ✅ Enrutar eventos de Supervisión de eventos y Trust Layer a almacenamiento a largo plazo más allá de los periodos de retención nativos |
| Agentforce | Configuración de agentes | ✅ Registrar la identidad de agentes en cada paso en el rastreo de ejecución de múltiples agentes para la atribución a través de cadenas de orquestación |
| Agentforce | Configuración de agentes | ✅ Capturar y aflorar resúmenes de razonamiento que identifican factores clave que influyen en la recomendación del agente para decisiones de alto impacto |
| Negocio | Documentación | ✅ Diseñe flujos de trabajo de agentes de modo que los usuarios puedan solicitar explicaciones para decisiones que les afectan |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | Auditoría | ⚠️ Confíe en la reconstrucción de lo que hizo el agente a partir de efectos secundarios en registros: para cuando necesite un seguimiento de auditoría, es posible que los registros hayan cambiado |
| Plataforma | Auditoría | ⚠️ Registrar flujos de trabajo de múltiples agentes sin identificar qué agente específico realizó qué acción en la cadena |
| Negocio | Proceso | ⚠️ Implementar agentes que toman decisiones de alto impacto sin capturar resúmenes de razonamiento o proporcionar mecanismos de explicación a los usuarios afectados |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Agentforce | Instrucciones de agente | ✅ Cuando una nueva restricción aparece a mitad de la decisión (plazo, presupuesto, plantilla, licencia), vuelva a ejecutar la compensación completa entre todos los factores originales en vez de permitir que la nueva entrada revierta la decisión anterior por sí misma |
| Agentforce | Instrucciones de agente | ✅ Indicar el cambio en el objetivo explícitamente (aflorar cuando el objetivo de optimización cambia de “arquitectónicamente sólido y mantenible” a “entregable bajo la restricción”) de modo que el humano pueda ver para qué se está optimizando ahora |
| Negocio | Proceso | ✅ Tratar una tensión de arquitectura frente a entrega como una compensación de propiedad humana: presentar lo que se gana (velocidad) frente a lo que se paga (coste total de propiedad, mantenibilidad, bloqueo) y dirigir la decisión al propietario responsable |
| Agentforce | Instrucciones de agente | ✅ Mantenga la arquitectura ajustada (el diseño sirve a los requisitos) y la viabilidad de entrega (puede este equipo enviarlo a tiempo) como factores visibles separados en vez de contraerlos en una sola respuesta |
| Plataforma | Documentación | ✅ Cuando revierta una decisión documentada, vuelva a ponderarla con la justificación original y registre la reversión como una compensación transparente y con plazos definidos con un desencadenador de revisita: un registro de decisión actualizado muestra que la compensación se volvió a ponderar, no simplemente se sustituyó |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Agentforce | Instrucciones de agente | ⚠️ Permitir que una nueva restricción única (equipo no disponible, plazo ajustado) revierta una decisión técnica mientras descarta silenciosamente los factores de coste y mantenibilidad que impulsaron la elección original |
| Agentforce | Instrucciones de agente | ⚠️ Cambio del objetivo de optimización de “arquitectónicamente racional y mantenible” a “entregable bajo la restricción” sin marcar que el objetivo cambió |
| Negocio | Proceso | ⚠️ Volver de un diseño sólido a una opción más económica o conveniente bajo una nueva restricción, sin resurgir el coste total a largo plazo de propiedad, mantenibilidad y bloqueo que impulsó la opción original |
| Negocio | Proceso | ⚠️ Resolución de un conflicto de arquitectura frente a entrega dentro del razonamiento del agente en vez de distribuirlo como una compensación consciente de propiedad humana |
| Plataforma | Documentación | ⚠️ Producir un nuevo registro de decisión que registre la reversión pero no la vuelva a ponderar con la justificación original, respetando el desencadenador de la revisita en letra pero no en sustancia |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Negocio | Documentación | ✅ Realizar un seguimiento de los desarrollos normativos en jurisdicciones donde operan soluciones y diseñar el cumplimiento en sistemas de agentes desde el principio |
| Negocio | Documentación | ✅ Evaluar los niveles de riesgo del sistema de IA por marcos aplicables (Ley de IA de la UE, Carta de Derechos de IA de EE.UU., marcos regionales) |
| Agentforce | Configuración de agentes | ✅ Implementar mecanismos de transparencia y explicabilidad y diseñar una supervisión humana adecuada al nivel de riesgo |
| Negocio | Documentación | ✅ Documentar cómo se cumple cada requisito específico del sector (HIPAA, DORA, SOX, RGPD, CCPA) a través de controles arquitectónicos específicos |
| Negocio | Documentación | ✅ Validar el cumplimiento antes de la implementación de producción |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Negocio | Proceso | ⚠️ Actualizar la transparencia, la explicabilidad y la supervisión humana después de la implementación en vez de incorporarlas desde el principio |
| Negocio | Proceso | Implemente agentes que procesan datos personales, financieros o de PHI sin validar que cumplen los requisitos de HIPAA, DORA/SOX o GDPR/CCPA |
| Negocio | Proceso | ⚠️ Ignorar las regulaciones específicas de IA emergentes (categoría de riesgo de la Ley de IA de la UE, requisitos de transparencia), tratándolas como solo agentes cuando la automatización tradicional de Salesforce tampoco está exenta |
Patrones
| Dónde buscar | Qué buen aspecto tiene |
|---|---|
| Plataforma | AgentExchange | ✅ Antes de activar la acción externa para uso de agentes, revise qué acción realiza a nivel de código y flujo de datos, qué servicios externos llama y qué datos transmite |
| Plataforma | AgentExchange | ✅ Volver a visitar configuraciones de acciones externas cuando se aplican actualizaciones de paquetes gestionados |
| Agentforce | Plantilla de solicitud | ✅ Revise plantillas de solicitudes originadas fuera de su equipo antes de su uso y trátelas como código que se ejecuta dentro del proceso de razonamiento privilegiado con acceso a los datos de su organización |
| Agentforce | Plantilla de solicitud | ✅ Establecer el proceso de revisión y aprobación para plantillas utilizadas en agentes de producción y mantener el registro de la procedencia de la plantilla |
| Agentforce | Configuración de agentes | ✅ Mantenga el conjunto de pruebas para Agente de servicio al cliente con preguntas representativas, casos extremos e intentos de inyección conocidos. Ejecutar conjunto en sandbox tras la notificación de actualización de modelo, comparar la calidad y la seguridad de la respuesta antes de promocionar a producción |
| Agentforce | Configuración de agentes | ✅ Tratar cambios de versión de modelo como eventos de implementación y mantener conjuntos de pruebas de comportamiento para agentes que cubren entradas representativas, casos extremos y patrones adversarios conocidos |
Antipatrones
| Dónde buscar | Aspecto negativo |
|---|---|
| Plataforma | AgentExchange | ⚠️ Activar acciones de AgentExchange externas para uso de agentes sin revisar el código, los flujos de datos y las llamadas de servicio externas |
| Agentforce | Plantilla de solicitud | ⚠️ Utilice plantillas de solicitudes de fuentes externas o ejemplos de comunidad sin revisar instrucciones integradas que podrían modificar el comportamiento de seguridad de los agentes o introducir sesgos de razonamiento |
| Agentforce | Configuración de agentes | ⚠️ Permitir actualizaciones de modelo automáticas a agentes de producción sin validación, descubriendo cambios de comportamiento a través de quejas de usuarios |