Trust Agentic Enterprise - Patterns
Узнайте больше о Well-Architected T Trust → Agentic Enterprise Trust
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ✅ Создайте пользователя интеграции “Agent_Product_Support” с набором полномочий, предоставляющим «Чтение» для обращения/продукта, доступ к статьям Knowledge и определенные действия только для обновлений обращений |
| Конфигурация Agentforce | Agent Configuration | ✅ Настройка текущего пользователя с минимальными полномочиями, необходимыми для определенной области агента |
| Платформа | Наборы полномочий | ✅ Создание специально созданных пользователей интеграции для контекстов агентов и предоставление наборов полномочий, предоставляющих именно то, что требуется агенту |
| Платформа | Мониторинг событий | ✅ После развертывания используйте мониторинг событий для определения предоставленных полномочий, которые не были реализованы во время выполнения, и их удаления; Контрольный журнал настройки записывает изменения конфигурации (предоставления и отзывы), а не фактически используемые полномочия |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Назначьте системного администратора в качестве текущего пользователя, поскольку он “просто работает” и избегает ошибок полномочий во время тестирования |
| Платформа | Организация | ⚠️ Разрешить агентам сохранять широкие наборы полномочий, предоставленные во время разработки, без проверки после развертывания |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Agentforce | Agent Builder | ✅ Считайте субагента и конфигурацию действия в конструкторе агентов границей полномочий, а не только маршрутизацией — если действие не назначено субагенту, агент не может его вызвать |
| Agentforce | Agent Builder | ✅ Удалите субагентов, открывающих ненужные агенту возможности (агент, отвечающий на вопросы о продукте, не должен иметь изменения записи, отправки эл. почты или вызова потока в области), и просмотрите область субагента при изменении обязанностей |
| Platform | Apex | ✅ Проверьте каждое действие Apex в наборе действий агента, используемое с общим доступом или унаследованным общим доступом, если контекст системы не является преднамеренным и документированным, чтобы текущий пользователь оставался границей безопасности |
| Agentforce | Action | ✅ Проверка результатов инструмента по схеме до их обработки агентом, рассматривая каждый ответ инструмента как ненадежный ввод |
| Agentforce | Action | ✅ Ограничьте параметры инструмента разрешенными диапазонами значений (например, проверка доменов получателей в действии отправки эл. почты), а не позволяйте агентам определять их на основе рассуждений о ненадежных данных |
| Agentforce | Action | ✅ Внедрение проверки полномочий на уровне инструмента на уровне внедрения инструмента, не только в конфигурации агента, чтобы возможность проверяла контекст вызова перед выполнением |
| Agentforce | Action | ✅ Используйте именованные регистрационные данные для всех внешних выносок из действий агента |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Agentforce | Agent Builder | ⚠️ Оставление субагентов, открывающих изменение записи, отправку эл. почты или вызов потока для агента, созданного только для ответа на вопросы о продукте |
| Agentforce | Agent Builder | ⚠️ Считать конфигурацию агента только маршрутизацией, не признавая, что все перечисленное достижимо посредством быстрых манипуляций, даже возможности, для которых агент не был создан |
| Platform | Apex | ⚠️ Добавление настраиваемого действия Apex, выполняемого в системном режиме (без общего доступа), позволяющего пропустить правила безопасности и общего доступа текущего пользователя без его преднамеренного создания |
| Agentforce | Action | ⚠️ Ответы инструмента обработки в качестве надежного ввода без проверки схемы, позволяющие неправильным или инъецированным данным достигать аргументации агента |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ✅ Цепочка полномочий документа: Оркестр заказа («Чтение заказов», «Запись статуса заказа») → Специалист запаса («Чтение/запись запаса») → Специалист по доставке («Создание доставки»). Проверка контекста пользователя разрешает все операции в нисходящем направлении |
| Конфигурация Agentforce | Agent Configuration | ✅ Соотнесение эффективных полномочий полной цепочки оркестрации перед развертыванием |
| Конфигурация Agentforce | Agent Configuration | ✅ Разработка границ полномочий в полном бизнес-правиле, а не только для отдельных агентов |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Разрешить оркестранту с ограниченными полномочиями вызывать специалиста с «Изменением всех данных», минуя ограничения оркестранта |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Оценка полномочий отдельного агента без соотнесения действующих привилегий всей цепочки оркестрации |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Agentforce | Шаблон подсказки | ✅ Отделите инструкции от данных в архитектурном плане: инструкции системного уровня не должны смешиваться с содержимым записи, текстом, предоставленным пользователем, или ответами инструмента посредством конкатенации строк |
| Agentforce | Action | ✅ Определите описание обращения, текст сообщения эл. почты, транскрипт чата как поля высокого риска. Внедрите слой предварительной обработки, суммирующий содержимое перед передачей агенту рассуждений, лишая потенциальных инструкций по впрыску, сохраняя смысл |
| Конфигурация Agentforce | Agent Configuration | ✅ Определите контракты проверки ввода на каждой границе агента и обработайте каждый внешний источник содержимого как ненадежный |
| Данные 360 | Источники заземления | ✅ Считайте статьи Knowledge, документы с индексацией Data 360 и внешние источники извлечения стойкими поверхностями впрыска, требующими постоянного рассмотрения |
| Einstein | Слой Trust | ✅ Рассматривайте элементы управления безопасностью уровня Einstein Trust как один слой в глубокой защите, а не как полноценное решение |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Agentforce | Шаблон подсказки | ⚠️ Конкатенация исходного описания обращения в напоминание агента посредством системных инструкций, при условии, что модель будет отличать содержимое обращения от инструкций по атакам |
| Данные 360 | Источники заземления | ⚠️ Источники заземления Trust, не учитывая, что состязательное содержимое сохраняется и может быть изменено со временем сторонами без прямого доступа агента |
| Einstein | Слой Trust | ⚠️ Полагаться исключительно на элементы управления безопасностью Trust Layer без дополнительных архитектурных средств защиты для новых методов впрыска |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Einstein | Слой Trust | ✅ Агент, извлекающий сведения об обращении, запрашивает только поля, необходимые для рассуждения (номер обращения, продукт, статус, приоритет), а не все поля обращения. Маскировка персональных данных обеспечивает дополнительную защиту при появлении непредвиденных персональных данных |
| Einstein | Слой Trust | ✅ Соответствующим образом настроить Trust Layer и документировать потоки данных посредством обработки Trust Layer |
| Einstein | Слой Trust | ✅ Определите, какие классификации данных могут войти в вывод LLM для вашего нормативного контекста |
| Платформа | Мониторинг событий | ✅ Перенаправление событий аудита уровня Trust в SIEM вместе с данными мониторинга событий |
| Платформа | Мониторинг событий | ✅ Внедрение ведения журнала на уровне приложения, собирающего решение агента, предпринятые им действия и бизнес-результаты наряду с журналами Trust Layer |
| Бизнес | Документация | ✅ Проверка соответствия сохранности аудита Trust Layer нормативным требованиям |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Einstein | Слой Trust | ⚠️ Запрос всех полей обращения, включительно с конфиденциальными примечаниями и сведениями об оплате, используя маскировку персональных данных для удаления всего проблемного |
| Einstein | Слой Trust | ⚠️ Создайте агентов для отправки полного контекста записи в вывод LLM при условии, что маскировка персональных данных обрабатывает все |
| Einstein | Слой Trust | ⚠️ Считайте маскировку PII уровня Trust заменой минимизации данных, а не углубленной защитой |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ✅ Специалист по выполнению заказа проверяет предоставленные оркестратором данные заказа содержат обязательные поля (код заказа, код клиента, SKU продукта), значения находятся в ожидаемых диапазонах (количество > 0, цена > 0), а статус заказа разрешает выполнение перед выполнением |
| Конфигурация Agentforce | Agent Configuration | ✅ Определение четких типизированных контрактов интерфейса для межагентской связи со структурированными, масштабированными, проверенными данными |
| Конфигурация Agentforce | Agent Configuration | ✅ Создайте бизнес-правило каждого агента в мультиагенте для проверки полученного контекста перед действием, вне зависимости от удостоверения абонента |
| Конфигурация Agentforce | Agent Configuration | ✅ Относитесь к содержимому межагентских сообщений с такой же тщательностью, как и к вводу внешних пользователей |
| Интеграция | Внешние службы | ✅ Для агентов, вызывающих внешние службы искусственного интеллекта или сторонних агентов за пределами Salesforce, примените принципы zero- Trust и проверьте ответы на соответствие ожидаемой структуре и сфере |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Специалист напрямую выполняет любое действие, запрошенное оркестратором, без проверки структуры запроса, значений или контекста авторизации |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Оркестраторы передают строки исходных инструкций, которые специалисты рассматривают как авторитетные директивы |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Передайте полный контекст выполнения, данные сеанса пользователя или накопленную трассировку рассуждений каждому агенту в нисходящем направлении |
| Интеграция | Внешние службы | ⚠️ Действие над ответами внешнего агента, которые дают указание оркестранту выполнять действия вне текущего объема задачи без отклонения или расширения |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Поток | ✅ Агент возмещения, настроенный с контрольной точкой потока, требующей утверждения человеком перед выполнением любого возмещения свыше $1000, вне зависимости от надежности агента. Контрольная точка, внедренная вне агентских рассуждений |
| Платформа | Поток | ✅ Внедрение контрольных точек HITL в качестве ворот бизнес-правил вне цикла рассуждений агента, созданных в качестве архитектурных элементов управления, а не инструкций агента |
| Бизнес | Документация | ✅ Определите категории действий, требующих подтверждения человеком: необратимые действия, действия выше финансовых порогов, действия, взаимодействующие внешне, действия, связанные с регламентированными данными, действия, в которых были замечены ошибки |
| Конфигурация Agentforce | Agent Configuration | ✅ Интерфейсы проверки дизайна, отображающие предлагаемое действие, агент данных, используемый для достижения предложения, и путь рассуждения при наличии |
| Платформа | Аудит | ✅ Решение проверки магазина с записью действия агента: кто проверял, когда, какая информация отображалась, что решал |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Настройте агента с инструкцией «Спросите утверждение перед выдачей возмещения свыше $1000» при условии, что инструкцию нельзя переопределить быстрым вливанием |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Внедрение HITL в качестве инструкций агента, которые можно толковать и потенциально игнорировать, а не в качестве контрольных точек бизнес-правил вне пути рассуждения |
| Бизнес | Процесс | ⚠️ Предъявление экспертам по рассмотрению обращений с запросами на утверждение без контекста предлагаемых действий, использованных данных или пути рассуждения — отсутствие подлинного надзора |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Мониторинг событий | ✅ Перенаправление событий Event Monitoring и Trust Layer в SIEM для централизованного мониторинга безопасности |
| Платформа | Безопасность транзакций | ✅ Настройка политик безопасности транзакций посредством оценки в реальном времени, включительно с возможностями блокировки и уведомления |
| Конфигурация Agentforce | Agent Configuration | ✅ Внедрение настраиваемого журнала приложений, собирающего сводки рассуждений, вызовы инструментов и сбои проверки |
| Платформа | Мониторинг событий | ✅ Правила оповещения о разработке, определяющие подозрительные схемы агента: пакетный доступ к данным за пределами ожидаемых окон, вызов действий, не соответствующих цели, повторные сбои проверки, аномалии оркестрации |
| Конфигурация Agentforce | Agent Configuration | ✅ Отслеживание типичных схем вызова действий, объемов доступа к данным, частоты вызовов вывода, уровня ошибок и времени выполнения на агента для установки поведенческих базисов |
| Платформа | Мониторинг событий | ✅ Определение событий безопасности агента: нарушения границ полномочий, повторные сбои проверки, аномалии оркестрации, нарушения порога надежности, резервные схемы активации |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Мониторинг событий | ⚠️ Применение схем мониторинга человеческой деятельности к агентам без установления характерных для агентов поведенческих базисов |
| Платформа | Мониторинг событий | ⚠️ Полагаться только на обнаружение на основе сигнатуры без поведенческого мониторинга, который может обнаружить новые атаки |
| Платформа | Мониторинг событий | ⚠️ Игнорировать повышенный уровень ошибок, повторные сбои проверки или аномальные схемы оркестрации как нормальное поведение агента |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Аудит | ✅ Для каждого важного действия агента собирайте: удостоверение агента и текущий пользовательский контекст, событие запуска, данные, извлеченные для запрета, сводка рассуждений, конкретные действия и результат, уровень надежности, решение о проверке, если применимо |
| Платформа | Аудит | ✅ Внедрение регистрации аудита на уровне приложения для бизнес-контекста, который не содержат журналы платформы (отслеживание событий, события Trust Layer) |
| Платформа | Аудит | ✅ Перенаправление событий Event Monitoring и Trust Layer в долгосрочное хранилище после нативных периодов хранения |
| Конфигурация Agentforce | Agent Configuration | ✅ Регистрация удостоверения агента на каждом этапе в мультиагентной трассировке выполнения для атрибуции посредством цепочек оркестрации |
| Конфигурация Agentforce | Agent Configuration | ✅ Сбор и публикация резюме рассуждений, определяющих ключевые факторы, влияющие на рекомендацию агента для принятия высокоэффективных решений |
| Бизнес | Документация | ✅ Разработка бизнес-правил агента, чтобы пользователи могли запрашивать объяснения затрагивающих их решений |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Аудит | ⚠️ Полагаться на восстановление того, что сделал агент от побочных эффектов в записях — к моменту, когда вам нужен контрольный журнал, записи могут измениться |
| Платформа | Аудит | ⚠️ Регистрация бизнес-правил нескольких агентов без определения конкретного агента, выполняющего какое-либо действие в цепочке |
| Бизнес | Процесс | ⚠️ Развертывание агентов, принимающих высокоэффективные решения, без сбора резюме рассуждений или предоставления механизмов объяснения соответствующим пользователям |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Agentforce | Инструкции агента | ✅ При появлении нового ограничения в середине принятия решения (крайний срок, бюджет, укомплектование кадрами, лицензия) выполните повторно полное компромиссное решение по всем первоначальным факторам, а не позволяйте новому вводу самостоятельно отменить предыдущее решение |
| Agentforce | Инструкции агента | ✅ Явно изложите изменение цели — всплывающее, когда цель оптимизации смещается с «архитектурно обоснованной и обслуживаемой» на «обеспечиваемое в условиях ограничения», чтобы человек мог видеть, для чего сейчас оптимизируется |
| Бизнес | Процесс | ✅ Рассматривайте напряженность между архитектурой и доставкой как компромисс, принадлежащий человеку: представить полученное (скорость) по сравнению с оплаченным (общая стоимость владения, обслуживания, блокировка) и перенаправить решение подотчетному ответственному |
| Agentforce | Инструкции агента | ✅ Сохраняйте архитектурную форму (соответствует ли дизайн требованиям) и возможность доставки (может ли эта рабочая группа отправить ее вовремя) как отдельные заметные факторы, а не сводите их к единому ответу |
| Платформа | Документация | ✅ При отмене задокументированного решения следует повторно взвесить его по сравнению с первоначальным обоснованием и записать отмену как прозрачное компромиссное решение с определенными сроками и триггером пересмотра — обновленная запись решения показывает, что компромиссное решение было повторно взвешено, а не просто заменено |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Agentforce | Инструкции агента | ⚠️ Разрешение отдельному новому ограничению (группа недоступна, сжатые сроки) отменить техническое решение, молча отказавшись от факторов стоимости и ремонтопригодности, которые обусловили первоначальный выбор |
| Agentforce | Инструкции агента | ⚠️ Сдвиг цели оптимизации с «архитектурно обоснованной и обслуживаемой» на «выполняемой в условиях ограничения» без обозначения изменения цели |
| Бизнес | Процесс | ⚠️ отказ от рационального дизайна в пользу более дешевого или более целесообразного варианта в новых условиях, без повторного покрытия долгосрочной общей стоимости владения, обслуживания и блокировки, которые привели к первоначальному выбору |
| Бизнес | Процесс | ⚠️ Разрешение конфликта между архитектурой и доставкой внутри рассуждений агента вместо того, чтобы расширять его как сознательное компромиссное решение, принадлежащее человеку |
| Платформа | Документация | ⚠️ Создание новой записи решения, регистрирующей отмену, но не соотносящей ее с первоначальным обоснованием — соблюдение триггера повторного рассмотрения по букве, но не по существу |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Бизнес | Документация | ✅ Отслеживание изменений в нормативном регулировании в юрисдикциях, где действуют решения, и проектирование соответствия агентским системам с самого начала |
| Бизнес | Документация | ✅ Оценка уровней риска для системы искусственного интеллекта в зависимости от применимых рамочных основ (Закон ЕС об искусственном интеллекте, Билль о правах на основе искусственного интеллекта США, региональные рамочные основы) |
| Конфигурация Agentforce | Agent Configuration | ✅ Внедрение механизмов транспарентности и объяснимости и разработка надзора за людьми в соответствии с уровнем риска |
| Бизнес | Документация | ✅ Документирование соответствия каждого отраслевого требования (HIPAA, DORA, SOX, GDPR, CCPA) посредством конкретных архитектурных средств контроля |
| Бизнес | Документация | ✅ Проверка соответствия перед развертыванием производства |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Бизнес | Процесс | ⚠️ Модернизация прозрачности, объяснимости и человеческого надзора после развертывания вместо их встроения с самого начала |
| Бизнес | Процесс | ⚠️ Развертывание агентов, обрабатывающих PHI, финансовые данные или личные данные, без проверки их соответствия требованиям HIPAA, DORA/SOX или GDPR/CCPA |
| Бизнес | Процесс | ⚠️ Игнорировать разрабатываемые нормативные акты на основе искусственного интеллекта (Закон ЕС об искусственном интеллекте, классификация рисков, требования прозрачности), рассматривая их как только агентские, если традиционная автоматизация Salesforce также не является исключением |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | AgentExchange | ✅ Прежде чем включить стороннее действие для использования агентом, просмотрите действия, выполняемые на уровне кода и потока данных, вызываемые внешние службы и передаваемые данные |
| Платформа | AgentExchange | ✅ Пересмотр конфигураций сторонних действий при применении обновлений управляемого пакета |
| Agentforce | Шаблон подсказки | ✅ Просмотрите шаблоны напоминаний, полученные вне рабочей группы, перед использованием и обработайте их как код, выполняемый в привилегированном процессе рассуждения с доступом к данным организации |
| Agentforce | Шаблон подсказки | ✅ Создание процесса проверки и утверждения шаблонов, используемых в производственных агентах, и ведение учета происхождения шаблонов |
| Конфигурация Agentforce | Agent Configuration | ✅ Обслуживайте пакет тестов для агента обслуживания клиентов с помощью представительных вопросов, краевых обращений и известных попыток впрыска. Запуск пакета в безопасной среде после уведомления об обновлении модели, сравнение качества ответа и безопасности перед продвижением в производственную |
| Конфигурация Agentforce | Agent Configuration | ✅ Считайте изменения версии модели событиями развертывания и поддерживайте пакеты поведенческих тестов для агентов, охватывающих представительные вводные данные, краевые обращения и известные схемы состязательности |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | AgentExchange | ⚠️ Включение сторонних действий AgentExchange для использования агентом без просмотра кода, потоков данных и вызовов внешних служб |
| Agentforce | Шаблон подсказки | ⚠️ Используйте шаблоны напоминаний из внешних источников или примеров сообществ, не проверяя встроенные инструкции, которые могут изменить поведение безопасности агента или внедрить предвзятость рассуждений |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Разрешить автоматические обновления модели производственным агентам без проверки, обнаружив изменения в поведении посредством жалоб пользователей |