Оперативное мастерство - Агентские схемы
Узнайте больше о оперативном совершенстве → Операционное совершенство Agentic Enterprise
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Agentforce | Отслеживание сеансов | ✅ Используйте нативную модель данных отслеживания сеансов (STDM), собирающую взаимодействия агентов в объединенной модели данных в Data 360, а не создавайте параллельную систему телеметрии — записывайте каждый разговор в виде иерархии трассировки сеансов, взаимодействий (оборотов) и этапов (UserInputStep, LLMExecutionStep, FunctionStep) |
| Agentforce | Отслеживание сеансов | ✅ Используйте стандартные объекты STDM (AIAgentSession, AIAgentSessionParticipant, AIAgentInteraction, AIAgentInteractionStep, AIAgentInteractionMessage), которые записывают действия нативно в качестве этапов взаимодействия, а не требуют отдельного журнала действий |
| Agentforce | Отслеживание сеансов | ✅ Извлеките сведения об использовании маркера, модели и напоминании, присоединив этапы взаимодействия к записям вызова LLM (посредством ссылок GenerationId и GenAiGatewayRequest/Response), а не сохраняйте их в качестве настраиваемых полей сеанса |
| Agentforce | Отслеживание сеансов | ✅ Собирайте трассировки рассуждений в механизме рассуждения «Атлас» — отслеживание сеансов записывает этапы организатора как часть каждого взаимодействия — для раскрытия процессов решений агента и улучшения отладки |
| Конфигурация Agentforce | Agent Configuration | ✅ Регистрация сведений об уровне перехода, включая вводные данные пользователя, ответ агента, объяснение мотивации, рейтинги надежности, извлеченный контекст, предпринятые действия и возникшие ошибки |
| Einstein | Слой Trust | ✅ Включение контрольного журнала генеративного искусственного интеллекта Einstein Trust Layer (текст напоминания и ответа, версии с маскировкой персональных данных, данные заземления, оценки безопасности и токсичности, сведения о модели), транслируемого в Data 360, плюс генеративный искусственный интеллект Einstein и сбор и хранение данных отзывов для долгосрочного хранения |
| Платформа | Настраиваемые объекты | ✅ Зарезервируйте настраиваемые объекты регистрации для преднамеренных исключений, например, легкий объект, коррелирующий поведение агента с бизнес-результатами, вместо того, чтобы делать их основной подложкой журнала |
| Платформа | Панель мониторинга | ✅ Корреляция поведения агента с бизнес-результатами, определение возможностей улучшения посредством анализа схемы и подача непрерывных ожидаемых продаж обучения с помощью примеров с метками качества |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Настраиваемые объекты | ⚠️ Создание вручную настраиваемых транзакционных объектов в качестве основной подложки для записи разговоров вместо собственной модели данных отслеживания сеансов, сталкиваясь с масштабными проблемами хранения многооборотных разговоров, больших полезных данных JSON и быстрого роста данных |
| Agentforce | Отслеживание сеансов | ⚠️ Создание параллельной системы телеметрии, когда отслеживание сеансов Agentforce уже собирает взаимодействия в объединенной модели данных в Data 360 |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Регистрация только ответов агента без сбора вводных данных, трассировки рассуждений, извлеченного контекста и предпринятых действий |
| Einstein | Слой Trust | ⚠️ Отключение контрольного журнала уровня Einstein Trust Layer в производстве или отказ от включения сбора и хранения данных отзывов для длительного хранения в Data 360 |
| Платформа | Мониторинг | ⚠️ Полагаться исключительно на успех/неудачу разговора без сбора данных об использовании маркера, модели и подсказках посредством присоединений вызова STDM LLM |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Мониторинг | ✅ Измерить задержку ответа в процентилях (р50, р95, р99), выявляющую типичную производительность и наихудший прогноз |
| Платформа | Мониторинг | ✅ Инструментирование каждого этапа задержки отдельно (вывод модели, извлечение контекста, выполнение действия, сеть), включение целевой оптимизации |
| Платформа | Мониторинг | ✅ Предупреждение о превышении пороговых значений задержки р95, указывающее на ухудшение производительности |
| Платформа | Мониторинг | ✅ Отслеживание распределения маркеров (маркеры напоминания, маркеры завершения, общие маркеры) на разговор, на агента и на сценарий использования |
| Платформа | Мониторинг | ✅ Обнаружение выпадающих разговоров, использующих чрезмерные маркеры, предлагающие оперативные проблемы или неправильное использование |
| Платформа | Мониторинг | ✅ Сравнение текущей производительности с известными ограничениями скорости или оповещением о базовых значениях нагрузки при приближении к пороговым значениям |
| Платформа | Мониторинг | ✅ Расчет уровня ошибок в процентах от общего количества запросов, обеспечивающих сравнение между агентами и периодами времени |
| Платформа | Мониторинг | ✅ Различие между категориями ошибок (ошибки модели, ошибки полномочий, ошибки интеграции), требующих разных ответов |
| Платформа | Мониторинг | ✅ Рассчитать доступность как процент времени успешного ответа агентов на запросы и отслеживания по ООД |
| Платформа | Proactive Monitoring | ✅ Настройка порогов Proactive Monitoring на основе базовых схем поведения агента вместо принятия стандартных параметров |
| Платформа | Масштабный центр | ✅ Просмотр данных центра масштабирования после развертывания новых агентов или внесения значительных оперативных изменений, проверяющих соответствие потребления ресурсов ожиданиям |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Мониторинг | ⚠️ Измерение только средней задержки вместо процентилей, маскировка наихудших взаимодействий пользователя |
| Платформа | Мониторинг | ⚠️ Отслеживание общей задержки без инструментирования отдельных этапов (вывод, извлечение, выполнение действия) |
| Платформа | Мониторинг | ⚠️ Обработка всех ошибок одинаково, а не систематизация по типу (модель, полномочие, интеграция) для получения соответствующего ответа |
| Платформа | Proactive Monitoring | ⚠️ Принятие порогов Proactive Monitoring по умолчанию без настройки на базовые схемы поведения агента |
| Платформа | Масштабный центр | ⚠️ Развертывание новых агентов или внесение оперативных изменений без просмотра данных центра масштабирования для проверки расхода ресурсов |
| Платформа | Мониторинг | ⚠️ Игнорирование схем потребления маркеров и неудачное обнаружение выпадающих разговоров, использующих 10 типичных маркеров |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Agentforce | Тестовый центр | ✅ Начните с собственного инструмента тестирования и оценки: поддерживать многоразовые наборы тестовых заданий в центре тестирования Agentforce и выполнять пакетный запуск агентов против них, проверяя, выбрал ли агент ожидаемую тему и действие и подготовил приемлемый ответ |
| Agentforce | Тестовый центр | ✅ Использование собственных специалистов по оценке — готовых измерений качества и подхода LLM-as-judge для оценки качества разговоров — и авторских настраиваемых специалистов по оценке для критериев организации с использованием представительных разговоров, чтобы оценка отражала реальное использование |
| Agentforce | Тестовый центр | ✅ Для фактических вопросов с известными ответами сохраните утверждения с известными ответами в качестве повторяемых тестовых заданий в центре тестирования; для открытых вопросов добавьте человеческую проверку образцов разговоров |
| Data 360 | Качество извлечения | ✅ Для агентов, основанных на базе Knowledge, используйте собственный анализ качества извлечения для оценки релевантности контекста, релевантности ответа и верности (groundedness) ответов |
| Einstein | Слой Trust | ✅ Использование обнаружения токсичности среды выполнения Einstein Trust Layer в качестве первой линии защиты ограждений, а потом улучшение мониторинга безопасности посредством фильтрации содержимого, ручной выборки проверки, составления отчетов по пользователям и проверки справедливости в демографических группах |
| Data 360 | GenAIFeedback | ✅ Сбор качества обслуживания пользователей посредством отзыва Agentforce, поступающего в DMO GenAIFeedback / GenAIFeedbackСведения о деталях в данных 360 (большие пальцы вверх/вниз, принятие/отклонение, правки, стенографические комментарии) наряду с запросом шлюза и данными создания |
| Platform | Analytics | ✅ Сочетание явного отзыва (задаваемого до эскалации, после разговора, последующих опросов) со скрытыми сигналами (уровень завершения, эскалация, оставление, попытки), корреляция с характеристиками разговора для руководства приоритизацией улучшения |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Agentforce | Тестовый центр | ⚠️ Создание и выполнение настраиваемого тестового жгута вместо начала работы с многоразовыми наборами тестов и собственными оценщиками центра тестирования Agentforce |
| Agentforce | Тестовый центр | ⚠️ Опора исключительно на автоматизированную оценку без проверки качества открытых ответов |
| Платформа | Мониторинг | ⚠️ Мониторинг только точности без отслеживания релевантности, безопасности и измерений качества обслуживания пользователей |
| Data 360 | GenAIFeedback | ⚠️ Отсутствие сбора отзывов пользователей (явных или скрытых) о качестве ответа агента, когда отзыв Agentforce уже поступает в DMO GenAIFeedback |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Пропуск проверок справедливости, оценивающих распределение результатов между демографическими группами |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ✅ Установите базовую производительность сразу после развертывания агента, оценивая точность, актуальность, безопасность и удовлетворенность в репрезентативных тестовых сценариях |
| Конфигурация Agentforce | Agent Configuration | ✅ Периодически проводить повторную оценку по одним и тем же тестовым сценариям, выявляя изменения производительности, не зависящие от смен схемы использования |
| Платформа | Мониторинг | ✅ Предупреждение о снижении показателей качества за пределы допустимых порогов, определенных допустимым влиянием на бизнес |
| Platform | Analytics | ✅ Мониторинг вводных характеристик (длина вопроса, распределение тем, сложность языка, терминология домена) с обнаружением значительных смен распространения |
| Платформа | Мониторинг | ✅ Мониторинг характеристик ответа (средняя длина ответа, частота вызовов действий, частота эскалации, схемы ошибок) установление поведенческих базисов |
| Платформа | Мониторинг | ✅ Настройка автоматического оповещения о превышении пороговых значений отклонения, инициирующих расследование и исправление |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Неспособность установить базовую производительность после первичного развертывания агента, что делает дрейф неопределяемым |
| Платформа | Мониторинг | ⚠️ Игнорирование отклонения распределения, когда схемы ввода пользователя значительно меняются по сравнению с тем, для обработки чего были созданы агенты |
| Платформа | Мониторинг | ⚠️ Не отслеживание изменений в поведении (длина ответа, частота действий, частота эскалации) по сравнению с установленными базисами |
| Платформа | Мониторинг | ⚠️ Отсутствие автоматического оповещения о показателях дрейфа, использование только ручного наблюдения для обнаружения ухудшения |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Мониторинг | ✅ Мониторинг распределений потребления маркеров с обнаружением выпадающих разговоров и изучение тех, кто потребляет 10 типичных маркеров |
| Платформа | Мониторинг | ✅ Обнаружение внезапного увеличения количества отказов, новых типов ошибок, не указанных в базисе, или локализованных концентраций ошибок, влияющих на конкретных пользователей или агентов |
| Platform | Analytics | ✅ Отслеживание отказа от разговора по этапу разговора с определением отказа пользователей во время первичного взаимодействия, в середине разговора или после завершения задачи |
| Платформа | Мониторинг | ✅ Немедленно перенаправляйте критические ошибки агентов инженерам по вызову, ухудшение качества группам, работающим с продуктами, в рабочие часы и незначительные аномалии в ежедневные рассылки |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Мониторинг | ⚠️ Обработка всех предупреждений с одинаковой срочностью, что приводит к усталости предупреждений и пропущенным критическим сбоям |
| Платформа | Мониторинг | ⚠️ Игнорирование аномалий стоимости, например, скачки потребления маркеров, которые могут свидетельствовать о актуальных проблемах, злоупотреблениях или проблемах с инфраструктурой |
| Platform | Analytics | ⚠️ Не отслеживание уровня отказа от разговора или непроведение анализа отказа по этапам |
| Платформа | Мониторинг | ⚠️ Ожидание отчетов пользователей, а не активное обнаружение скачков уровня ошибок посредством автоматического мониторинга |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Исходный контроль | ✅ Храните шаблоны напоминаний в Git рядом с кодом приложения, рассматривая напоминания как критическую логику приложения, заслуживающую проверки кода, тестирования и контролируемого развертывания |
| Einstein | Конструктор подсказок | ✅ Используйте Конструктор подсказок для итеративной оперативной разработки с журналом версий и возможностями тестирования, потом экспортируйте в управление версиями для конвейеров развертывания |
| Платформа | Исходный контроль | ✅ Сохранение конфигураций (выбор модели, температура, ограничения маркеров, конфигурации извлечения, полномочия действий, флажки функций) в качестве кода, включающего значения среды и обнаружение отклонения |
| Платформа | Исходный контроль | ✅ Применение семантической версии к компонентам агента: основные (изменения), незначительные (функции), исправления (исправления ошибок) с отображением номеров версий в журналах |
| Платформа | Документация | ✅ Документируйте изменения, почему они изменились, какое тестирование подтвердило изменение и какие процедуры отката существуют для каждого напоминания и изменения конфигурации |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Einstein | Конструктор подсказок | ⚠️ Внесение быстрых изменений без проверки кода, тестирования или управляемых процессов развертывания |
| Platform | Конфигурация | ⚠️ Хранение конфигураций агентов вне контроля источников, где невозможно обнаружить дрейф и невозможно автоматизировать развертывания |
| Платформа | Документация | ⚠️ Внесение быстрых изменений без документирования обоснования, результатов тестирования или процедур отката |
| Платформа | Исходный контроль | ⚠️ Отсутствие применения семантического версионирования, что делает невозможным корреляцию инцидентов с определенными развертываниями |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Документация | ✅ Ведение реестра моделей, записывающего, какие версии модели развернуты, включительно с семейством моделей, определенной версией, состоянием точной настройки, средой, датой развертывания и ответственной рабочей группой |
| Платформа | Документация | ✅ Зарегистрируйте каждое развертывание агента, включая версию, среду, отметку времени, развертывающего пользователя, полученные утверждения и результат развертывания |
| Платформа | Документация | ✅ Соотнесите зависимости между агентами, напоминаниями, базами Knowledge, действиями и интеграциями явно, а не обнаруживайте их во время инцидентов |
| Бизнес | Процесс | ✅ Составление графика аннулирования с достаточным количеством уведомлений о поддерживаемом политикой минимальном периоде, позволяющем осуществлять запланированную миграцию, а не экстренно реагировать на вынужденные аннулирования |
| Платформа | Документация | ✅ Процедуры отката документа для каждого агента, включительно с целевой версией, этапами выполнения, проверочным тестированием и требованиями к уведомлениям |
| Платформа | Постановка | ✅ Тестирование процедур отката в непроизводственных средах, проверяющих их работоспособность до зависимости от них во время производственных инцидентов |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Документация | ⚠️ Обнаружение зависимостей между агентами, напоминаниями и базами Knowledge только во время инцидентов, а не ведение явных карт зависимостей |
| Бизнес | Процесс | ⚠️ Предоставление недостаточных уведомлений об амортизации, вынуждающих к срочным миграциям, а не запланированным переходам |
| Платформа | Документация | ⚠️ Наличие непроверенных процедур отката, которые дают сбой при наибольшей необходимости во время производственных инцидентов |
| Платформа | Развертывание | ⚠️ Развертывание агентов без версии журнала, среды, утверждений или результата, потеря возможности соотнесения инцидентов с развертываниями |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Пользовательский интерфейс | ✅ Систематически собирать явные отзывы (большие пальцы вверх/вниз, оценки качества, комментарии) и скрытые отзывы (уровень завершения, частота расширения, схемы повторных попыток) |
| Data 360 | Курирование данных | ✅ Курирование входов разговора в наборы данных обучения посредством фильтрации на качество, удаления проблемных примеров, обеспечения репрезентативности и повторения |
| Данные 360 | Заземление | ✅ Адаптация агентов к лексике домена, бизнес-процессам и Knowledge организации в первую очередь посредством RAG, основанного на Data 360, и оперативная настройка — собственный путь адаптации Salesforce |
| Einstein | BYOLLM | ✅ Если заземления и оперативной настройки недостаточно, отладьте модель внешне и подключите ее через BYOLLM, а не ожидайте внутриплатформенной генеративной настройки |
| Einstein | Конструктор подсказок | ✅ Создание регулярной каденции оперативной проверки с изучением недавних разговоров, показателей качества и отзывов пользователей, определяющих возможности улучшения |
| Einstein | Конструктор подсказок | ✅ Внедрение инкрементных быстрых изменений посредством тестирования A/B, проверяющего улучшения перед полным развертыванием |
| Конфигурация Agentforce | Agent Configuration | ✅ Поддержка тестовых наборов, охватывающих счастливые пути, краевые обращения, состязательные вводные данные и сценарии архивных проблем, постоянно расширяясь по мере обнаружения новых краевых обращений |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Данные | ⚠️ Попытка улучшения без систематического сбора отзывов, что делает улучшение догадкой, а не на основе данных |
| Data 360 | Курирование данных | ⚠️ Использование некурируемых журналов разговоров для обучения, включительно с нарушениями безопасности, ошибками и нерепрезентативными примерами |
| Данные 360 | Заземление | ⚠️ Достижение внешней точной настройки перед исчерпанием заземления RAG и оперативной настройки, нативного пути, который решает большинство потребностей адаптации домена без настраиваемой модели |
| Einstein | Конструктор подсказок | ⚠️ Считать оперативную инженерию разовым мероприятием, а не непрерывной практикой, скорректированной по мере изменения схемы использования |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Наличие статических тестовых наборов, которые никогда не расширяются для охвата новых краевых случаев, обнаруженных в производстве |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Типы настраиваемых метаданных | ✅ Внедрение флажков функций посредством типов настраиваемых метаданных или настраиваемых параметров для отделения развертывания от выпуска для изменений агентов высокого риска |
| Платформа | Наборы полномочий | ✅ Внедрите развертывания канарейки, высвобождающие изменения агента в маленьком поднаборе пользователей, используя наборы полномочий, контролирующие доступ агента |
| Конфигурация Agentforce | Agent Configuration | ✅ Интенсивно отслеживайте когорту канарейки, измеряя уровень успеха, качество, уровень ошибок, задержку, потребление маркера и удовлетворенность, и разворачивайте развертывание, только когда канарейка соответствует или улучшается в контрольной группе, выполняющей предыдущую версию агента |
| Platform | Analytics | ✅ Определите критерии успеха перед началом тестов A/B, предотвращающих неоднозначные результаты, в соответствии с бизнес-целями |
| Конфигурация Agentforce | Agent Configuration | ✅ Развертывание тестирования претендента-чемпиона, сохраняющего проверенную версию в качестве резервной, при сравнении с улучшенной версией претендента |
| Бизнес | Процесс | ✅ Установите объективные критерии рекламной акции, включая минимальный размер выборки, пороги качества и продолжительность оценки до принятия решений о рекламной акции |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Одновременное развертывание изменений агентов для всех пользователей без тестирования канарейки, увеличение радиуса взрыва проблем |
| Платформа | Развертывание | ⚠️ Развертывание изменений агентов высокого риска без флажков функций, обеспечивающих мгновенный откат без перераспределения |
| Platform | Analytics | ⚠️ Выполнение тестов А/Б без предопределенных критериев успеха, что приводит к неоднозначным результатам и неверным решениям |
| Platform | Analytics | ⚠️ Выполнение экспериментов с недостаточным объемом выборки, приводящих к шумным результатам, которые приводят к некорректным выводам |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Использование флажков функций для каждого незначительного изменения напоминания, а не резервирование их для высокорисковых изменений важных для бизнеса агентов |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Мониторинг | ✅ Обнаружение ошибок агентов посредством автоматического мониторинга предупреждений об уровне ошибок, ухудшении показателей качества, аномалиях стоимости, увеличении задержки и расширении пользователей |
| Платформа | Мониторинг | ✅ Дополнить автоматизированное обнаружение механизмами отчетности пользователей, позволяющими расширять проблемы |
| Бизнес | Процесс | ✅ Определение критериев серьезности на основе влияния пользователя, радиуса взрыва, риска целостности данных и срочности восстановления |
| Платформа | Документация | ✅ Документирование процедур первичного ответа в качестве беговых книг, выполняемых инженерами по вызову без глубокого опыта агента |
| Конфигурация Agentforce | Agent Configuration | ✅ Добавить в первичный ответ: отключение неисправного агента (автоматического выключателя), маршрутизация в резервную версию, сбор диагностики, уведомление заинтересованных лиц, инициирование связи с инцидентами |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Мониторинг | ⚠️ Использование отчетов пользователей в качестве основного механизма обнаружения, а не автоматического мониторинга сбоев агента |
| Бизнес | Процесс | ⚠️ Использование классификации субъективной тяжести, которая приводит к недооценке реальных проблем или переоценке незначительных проблем |
| Платформа | Документация | ⚠️ Отсутствие рунет-книжек, требующее изучения конкретных инцидентов инженерами, обладающими глубокими знаниями агентов во время каждого инцидента |
| Бизнес | Процесс | ⚠️ Обработка ошибок агента идентично традиционным ошибкам приложения без учета галлюцинаций, ответов вне темы или нарушений безопасности |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Platform | Apex | ✅ Внедрите автоматические выключатели с настраиваемым порогом ошибки (например, 50% ошибки), окном продолжительности (например, 5 мин скольжения) и тестированием восстановления (периодические пробные запросы) |
| Конфигурация Agentforce | Agent Configuration | ✅ Создание резервных иерархий: Основной сложный агент → Простой резервный агент → Статические ответы на вопросы → Человеческая передача |
| Платформа | Оркестрация | ✅ Внедрение резервной логики в слой оркестрации, а не внутри отдельных агентов, обеспечивающей последовательное поведение в экосистеме агента |
| Конфигурация Agentforce | Agent Configuration | ✅ Создание бизнес-процессов передачи человека, сохраняющих контекст разговора, сообщающих причину передачи и перенаправляющих соответствующему агенту человека с соответствующими знаниями |
| Платформа | Мониторинг | ✅ Мониторинг доли раздач по теме, агенту и причине сбоя для определения пробелов в возможностях агента |
| Конфигурация Agentforce | Agent Configuration | ✅ При неудачном выполнении сложных рассуждений - резервная копия упрощенной логики; при недоступности данных в реальном времени - работа с кэшированными данными; при неудачном выполнении интеграций - работа в режиме только для чтения |
| Платформа | Оркестрация | ✅ Регулярное тестирование резервных путей проверки их работы при необходимости |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Отсутствие автоматических выключателей, что позволяет неисправным агентам многократно воздействовать на пользователей во время решения проблем |
| Платформа | Оркестрация | ⚠️ Внедрение резервной логики в отдельных агентах, а не на уровне оркестрации, создавая непоследовательность поведения |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Создание двоичных агентов передачи/сбоя, которые работают идеально или полностью без изящных параметров деградации |
| Платформа | Оркестрация | ⚠️ Никогда не тестируйте резервные пути, обнаруживая, что они работают не только во время реальных инцидентов |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Человеческая передача, которая теряет контекст разговора, вынуждая пользователей повторять информацию |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Бизнес | Процесс | ✅ Проведение безупречных проверок после инцидентов с уделением особого внимания усовершенствованиям системы, а не индивидуальной ошибке, создающей психологическую безопасность |
| Бизнес | Процесс | ✅ Создание подробной временной шкалы из начальных условий посредством обнаружения, расследования, ответа, восстановления и проверки с помощью отметок времени |
| Бизнес | Процесс | ✅ Используйте методику “Пять причин” бурения от симптомов к фундаментальным причинам, а не упрощенные выводы |
| Бизнес | Процесс | ✅ Анализ способствующих факторов, включая пробелы в мониторинге, пробелы в тестировании, пробелы в документации, пробелы в автоматизации и архитектурные пробелы |
| Бизнес | Процесс | ✅ Оценка обнаружения: какой сигнал должен был обнаружить проблему раньше, какой мониторинг позволяет быстрее обнаружить |
| Бизнес | Процесс | ✅ Укажите конкретные, назначенные, ограниченные по времени элементы действий, предотвращающие повторение (например, “добавить предупреждение для уровня ошибок более 5% в течение 10 мин - назначено: Алекс - срок: 2 недели”) |
| Бизнес | Процесс | ✅ Отслеживание выполнения элемента действия в последующих проверках, гарантирующих фактическое постоянное улучшение |
| Платформа | Документация | ✅ Документирование проверок постинцидентов в общедоступной базе Knowledge с присвоением тегов, включающих анализ схемы в нескольких инцидентах |
| Бизнес | Процесс | ✅ Предоставление общего доступа к обзорам пост-инцидентных ситуаций, выходящим за рамки непосредственных мер реагирования на инциденты, посредством групповых совещаний или занятий по обмену опытом |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Бизнес | Процесс | ⚠️ Посмертные случаи с ориентацией на вину, снижающие психологическую безопасность и препятствующие честной оценке неудач |
| Бизнес | Процесс | ⚠️ Упрощенные выводы первопричины («у агента была ошибка»), а не конкретные выводы, обеспечивающие эффективное исправление |
| Бизнес | Процесс | ⚠️ Расплывчатые элементы действий, например, «улучшить мониторинг» вместо определенных, назначенных, ограниченных по времени задач |
| Бизнес | Процесс | ⚠️ Низкий уровень выполнения элемента действия, указывающий на непрерывный сбой процесса улучшения |
| Бизнес | Процесс | ⚠️ Сохранение изолированности обучения после инцидента для оперативных сотрудников, а не широкий общий доступ для организационного обучения |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Бизнес | Процесс | ✅ Проверка контрольного списка перед развертыванием, включительно с тестированием, проверкой безопасности, проверкой соответствия, документацией, конфигурацией мониторинга и утверждением заинтересованных лиц |
| Бизнес | Процесс | ✅ Оценка риска на основе радиуса взрыва, конфиденциальности данных, полномочий действий, зависимостей интеграции, сложности восстановления и последствий соответствия |
| Бизнес | Процесс | ✅ Требования к утверждению шкалы на основе риска: высокого риска требует утверждения руководителя, проверки безопасности и постепенного развертывания; низкого риска требует коллегиальной проверки и стандартного тестирования |
| Платформа | Процессы утверждения | ✅ Внедрение автоматизированных, отслеживаемых и проверяемых бизнес-правил утверждения посредством процессов утверждения Salesforce или внешних инструментов развертывания |
| Бизнес | Процесс | ✅ Определение процедур обхода чрезвычайных ситуаций, требующих утверждения руководителями, обоснования документации и ускоренной проверки после развертывания |
| Платформа | Мониторинг | ✅ Отдельное отслеживание аварийных развертываний; высокая частота аварийного развертывания указывает на проблемы процесса, требующие исследования |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Бизнес | Процесс | ⚠️ Применение равномерной глубины утверждения вне зависимости от профиля риска агента, трата усилий на агентов с низким уровнем риска или недооценка агентов с высоким уровнем риска |
| Бизнес | Процесс | ⚠️ Развертывание производственных агентов без проверки контрольного списка перед развертыванием тестирования, безопасности, соответствия и мониторинга |
| Платформа | Развертывание | ⚠️ Отсутствие аварийных процедур обхода, приводящих к критическим задержкам исправления во время производственных инцидентов |
| Бизнес | Процесс | ⚠️ Часто требует экстренного развертывания, что указывает на нарушение стандартных процессов, а не на исключительные обстоятельства |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ✅ Тестирование выходных характеристик (содержит обязательную информацию, поддерживает соответствующий тон, содержит ссылки), а не точный текст для недетерминистских выходных данных агента |
| Конфигурация Agentforce | Agent Configuration | ✅ Установить минимальные пороги качества (например, “95% точность по продержанному набору тестов, нулевые нарушения безопасности, проверка справедливости не показывает демографических диспропорций, превышающих 5%“) |
| Конфигурация Agentforce | Agent Configuration | ✅ Выполнение тестирования безопасности с помощью состязательных вводных данных, включительно с быстрым впрыском, попытками взлома, расширением запросов и запросами за пределами объема |
| Конфигурация Agentforce | Agent Configuration | ✅ Обеспечивают ли тестирование безопасности, выполненное участниками рабочей группы, не участвующими в разработке агентов, свежий взгляд на уязвимости |
| Платформа | Тестирование производительности | ✅ Тестирование при реалистичной нагрузке, включительно с параллельными разговорами, типичной продолжительностью разговора и предполагаемым объемом использования |
| Платформа | Безопасность | ✅ Убедитесь, что агенты не имеют доступа к несанкционированным данным, не могут выполнять несанкционированные действия и что оперативная инъекция не может повысить привилегии |
| Platform | CI/CD | ✅ Интеграция сканирования безопасности в ожидаемые продажи развертывания посредством анализатора кодов Salesforce и специализированных инструментов безопасности на основе искусственного интеллекта |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Конфигурация Agentforce | Agent Configuration | ⚠️ Тестирование агентов для точного текста совпадает с недетерминистскими выводами, а не тестирование характеристик вывода |
| Платформа | Тестирование производительности | ⚠️ Только тестирование с сценариями для одного пользователя, отсутствующими проблемами ограничения губернатора, ограничениями ресурсов и препятствиями масштабируемости |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Пропуск тестирования безопасности или тестирование разработчиками собственных агентов без свежего взгляда на уязвимости |
| Платформа | Безопасность | ⚠️ Не тестирование на возможность расширения полномочий агента или доступа к несанкционированным данным посредством быстрого внедрения |
| Конфигурация Agentforce | Agent Configuration | ⚠️ Наличие статических наборов тестов, не представляющих реального разнообразия использования, включая разные типы пользователей и сложности разговора |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Документация | ✅ Задокументируйте каждое изменение: что изменилось, почему, какое тестирование его проверило и какая процедура отката существует |
| Бизнес | Коммуникация | ✅ Уведомление всех заинтересованных лиц (пользователей, группы, работающие с ops, службы поддержки, предприятия), описывающее изменения, когда, какие преимущества, какие риски и к кому обращаться |
| Бизнес | Коммуникация | ✅ Создание шаблонов связи для разных типов изменений, стандартизирующих сообщения и снижающих накладные расходы на подготовку |
| Платформа | Мониторинг событий | ✅ Развертывания агентов времени в периоды низкого использования, информированные данными мониторинга событий, отображающими фактические схемы использования |
| Бизнес | Процесс | ✅ Развертывание изменений основных агентов от начала до середины недели во избежание выходных с ограниченной возможностью реагирования на инциденты |
| Бизнес | Процесс | ✅ Установление периодов заморозки изменений перед крупными бизнес-событиями (конец финансового года, запуск продуктов, основные маркетинговые кампании) |
| Бизнес | Процесс | ✅ Календарь заморозки изменений документа, сообщающий об ограниченных периодах достаточно заблаговременно |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Развертывание | ⚠️ Развертывание во время пикового использования, закрытия месяца, закрытия квартала или основных бизнес-событий |
| Платформа | Развертывание | ⚠️ Развертывание по понедельникам (увеличение) или пятницам (сокращение численности персонала), когда возможности реагирования на инциденты ограничены |
| Бизнес | Процесс | ⚠️ Чрезмерное изменение замораживает скорость улучшения без пропорционального уменьшения риска |
| Бизнес | Коммуникация | ⚠️ Развертывание изменений агента без уведомления соответствующих пользователей, операционных групп, групп поддержки или заинтересованных лиц |
| Платформа | Документация | ⚠️ Внесение изменений без документального обоснования, создание организаций, которые повторно находят уроки, а не используют опыт |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Платформа | Пользовательский интерфейс | ✅ Внедрение сбора отзывов в пользовательский интерфейс разговора, включающее немедленный ответ, пока взаимодействие свежее, а не задержанный сбор |
| Platform | Analytics | ✅ Запрос журналов разговоров, анализирующих типы вопросов, продолжительность разговоров, уровень успешности по теме и качество обслуживания пользователей по характеристикам разговоров |
| Platform | Analytics | ✅ Анализируйте группировку журналов ошибок по типу ошибки, задействованным пользователям, схемам разговоров и временному распределению для выявления систематических проблем |
| Platform | Analytics | ✅ Приоритизация исправления ошибок по частоте и влиянию: высокочастотные ошибки, влияющие на многих пользователей, требуют немедленного внимания |
| Платформа | Мониторинг | ✅ Определение базовых показателей качества после первоначального развертывания и мониторинг текущего качества по сравнению с базовыми показателями, предупреждающими о снижении тенденций |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Платформа | Пользовательский интерфейс | ⚠️ Задержка сбора отзывов (например, последующие сообщения эл. почты через несколько дней) снижение доли ответов и введение предвзятости отзыва |
| Platform | Analytics | ⚠️ Не анализ схем использования для определения того, оправдывают ли агенты сложность операций или возможности используются недостаточно |
| Platform | Analytics | ⚠️ Равное обращение со всеми ошибками, а не приоритизация по частоте и влиянию на бизнес |
| Платформа | Мониторинг | ⚠️ Принятие решений по улучшению без данных, без качественных базовых показателей и мониторинга тенденций |
Шаблоны
| Где искать | Как хорошо выглядит |
|---|---|
| Бизнес | Процесс | ✅ Обеспечение согласованной структуры эксперимента: гипотеза, экспериментальное проектирование, показатели, размер выборки и критерии успеха |
| Бизнес | Процесс | ✅ Документировать эксперименты перед выполнением, предотвращающие неоднозначное толкование результатов |
| Platform | Analytics | ✅ Отслеживание назначения вариантов в метаданных разговора, включающих корреляцию результатов по варианту |
| Platform | Analytics | ✅ Вычисление требуемого размера выборки перед экспериментами на основе ожидаемого размера эффекта, статистической мощности и приемлемого уровня ошибок |
| Platform | Analytics | ✅ Используйте многорукую оптимизацию бандитов для динамического распределения большего трафика между более производительными вариантами, снижающими стоимость возможности |
| Платформа | Документация | ✅ Ведение каталога экспериментов с протестированными вариантами, результатами измерения, достигнутыми результатами и принятыми решениями для предотвращения повторного тестирования неудачных подходов |
Антишаблоны
| Где искать | Как плохо выглядит |
|---|---|
| Бизнес | Процесс | ⚠️ Выполнение экспериментов без предопределенных гипотез и критериев успеха, приводящих к неоднозначным результатам |
| Platform | Analytics | ⚠️ Использование недостаточного объема выборки, приводящее к шумным результатам, которые приводят к неправильным решениям по улучшению |
| Платформа | Документация | ⚠️ Отсутствие каталога экспериментов, приводящее к повторному тестированию ранее неудачных подходов и потере организационных Knowledge |
| Platform | Analytics | ⚠️ Не отслеживание пользователей, получивших какие-либо варианты, что делает корреляцию результатов невозможной |