Этика и управление на основе искусственного интеллекта - схемы

Узнайте больше о справедливости с хорошей архитектурой → Практика управления на основе искусственного интеллекта

Шаблоны

Где искать	Как хорошо выглядит
Einstein \| Обучающие данные	✅ Данные Salesforce CRM проверяются на наличие пробелов в демографической представленности и несоответствий измерений перед обучением прогнозируемых моделей
Einstein \| Обучающие данные	✅ Архивные данные преобразования анализируются демографией клиентов для определения недопредставленных сегментов, требующих перевыборки или дополнительного сбора данных
Einstein \| Развертывание	✅ Оценка справедливости обрабатывается как обязательный шлюз, эквивалентный проверке безопасности, прежде чем прогнозируемые модели поступят в производство
Einstein \| Развертывание	✅ Демографический паритет, равные возможности и коэффициенты неравномерного влияния рассчитываются в защищенных группах перед развертыванием
Einstein \| Развертывание	✅ Показатели справедливости оцениваются по правилу четырех пятых (порог 80%) в качестве триггера проверки, а не легальной линии пропуска/сбоя, для всех клиентских сегментов перед развертыванием модели
Einstein Discovery \| Приборы	✅ Данные решений прогнозируемой модели — вводные данные прогноза, выходные данные и версии модели — собираются посредством Einstein Discovery и настраиваемой аппаратуры, включающей обнаружение предвзятости
CRM Analytics \| Мониторинг	✅ Панели мониторинга CRM Analytics анализируют собранные данные решений прогнозируемой модели для схем принятия решений в демографических группах в динамике
CRM Analytics \| Мониторинг	✅ Предупреждения CRM Analytics запускаются, когда показатели демографического паритета или равных возможностей выходят за пределы допустимых порогов
Einstein \| Инженерия функций	✅ Все функции прогнозируемой модели анализируются на корреляцию с защищенными характеристиками с помощью статистических методов
Einstein \| Инженерия функций	✅ Прокси-функции (территория, почтовый индекс, схемы имен организаций, время действия, тип устройства) определяются и оцениваются на наличие демографической корреляции
Einstein \| Инженерия функций	✅ Функции прокси удаляются или трансформируются после оценки того, оправдывает ли прогнозируемое значение включение, несмотря на эффекты прокси

Антишаблоны

Где искать	Как плохо выглядит
Einstein \| Обучающие данные	⚠️ Оценка интересов обучается на основе архивных данных за 10 лет без изучения демографической представленности или различий в качестве обслуживания
Einstein \| Обучающие данные	⚠️ Архивные данные преобразования используются напрямую без аудита того, получали ли разные демографические показатели различный подход
Einstein \| Развертывание	⚠️ Функции Einstein развертываются исключительно на основе общих показателей точности без оценки справедливости
Einstein \| Развертывание	⚠️ Демографический паритет или коэффициенты неравномерного влияния не рассчитываются до развертывания производства
Einstein \| Слой Trust	⚠️ Взаимодействия Agentforce развертываются без включения сбора аудита уровня Trust для обнаружения предвзятости
CRM Analytics \| Мониторинг	⚠️ Характер принятия решений не отслеживается демографическими группами в динамике; отклонение остается незамеченным
Einstein \| Инженерия функций	⚠️ Защищенные характеристики удаляются из данных обучения при условии автоматического устранения предвзятости
Einstein \| Инженерия функций	⚠️ Схемы территорий, почтовых индексов и имен организаций используются в качестве функций без прокси-корреляционного анализа
Einstein \| Инженерия функций	⚠️ Функции прокси, служащие идеальными демографическими прокси, сохраняются без оценки альтернатив

Шаблоны

Где искать	Как хорошо выглядит
Agentforce \| Analytics	✅ Панели мониторинга CRM Analytics отслеживают результаты решений Agentforce по демографии клиентов с помощью данных аудита слоя Einstein Trust
Agentforce \| Analytics	✅ Уровень одобрения, время ответа службы, уровень эскалации и рейтинги удовлетворенности отслеживаются по демографической группе
Agentforce \| Analytics	✅ Предупреждения CRM Analytics настроены на запуск, когда показатели справедливости нарушают определенные пороги, требующие исследования
Agentforce \| Отслеживание событий	✅ Журналы мониторинга событий перенаправляются во внешний SIEM для длительного хранения с превышением собственных ограничений сохранения
Agentforce \| Отслеживание событий	✅ Запросы SIEM определяют аномальные концентрации отрицательных результатов для определенных групп пользователей
Agentforce \| Контрольный журнал поля	✅ Контрольный журнал поля включен в настраиваемых объектах, хранящих данные решений Agentforce, сохраняя архивный журнал неопределенно долго до удаления
Agentforce \| Контрольный журнал поля	✅ Контрольный журнал на местах поддерживает долгосрочные проверки справедливости и нормативные расследования, требующие реконструкции архивных решений на основе искусственного интеллекта
CRM Analytics \| Мониторинг	✅ Панели мониторинга CRM Analytics отслеживают сигналы справедливости: внезапные изменения в распределениях решений, всплески обращений, связанных с предвзятостью, ухудшение показателей для конкретных групп населения
CRM Analytics \| Мониторинг	✅ Предупреждения запускаются, когда уровень утверждения для любого клиентского сегмента падает более чем на 15% за неделю, требуя исследования справедливости

Антишаблоны

Где искать	Как плохо выглядит
Agentforce \| Analytics	⚠️ Результаты решений не отслеживаются демографией; отклонение остается незамеченным по мере сдвига распределения данных
Agentforce \| Analytics	⚠️ Показатели качества обслуживания не стратифицированы по демографической группе; несопоставимые результаты остаются незаметными
Agentforce \| Отслеживание событий	⚠️ Журналы мониторинга событий используют собственные ограничения сохранности без внешних SIEM для долгосрочных проверок справедливости
Agentforce \| Отслеживание событий	⚠️ Схемы принятия решений не анализируются в больших объемах взаимодействий; аномальные концентрации пропускаются
Agentforce \| Контрольный журнал поля	⚠️ Контрольный журнал поля не включен; архивные решения на основе искусственного интеллекта не могут быть восстановлены для проведения нормативных расследований
CRM Analytics \| Мониторинг	⚠️ Сигналы справедливости не отслеживаются; внезапные изменения в распределениях решений остаются незамеченными

Шаблоны

Где искать	Как хорошо выглядит
Einstein \| Обучающие данные	✅ Данные Salesforce CRM ребалансируются посредством перевыборки недопредставленных сегментов или недовыборки перепредставленных сегментов перед обучением
Data 360 \| Архитектура	✅ Data 360 агрегирует данные в нескольких организациях, обеспечивая разные наборы обучения для прогнозируемых моделей
Einstein \| Обучающие данные	✅ Создание синтетических данных дополняет скудные сегменты, сохраняя конфиденциальность посредством методов дифференцированной конфиденциальности
Einstein \| Инженерия функций	✅ Функции прокси заменяются альтернативными функциями, предоставляющими прогнозируемую силу без демографической корреляции
Einstein \| Инженерия функций	✅ Классификация отрасли или размер компании используются вместо территории, когда территория служит демографическим прокси-сервером
Einstein \| Инженерия функций	✅ Фирмографические атрибуты используются вместо схем имен организаций, когда имена коррелируют с демографией
Agentforce \| Post-Processing	✅ Пороговые значения решений корректируются для каждого демографического сегмента в целях выравнивания показателей результатов после обучения по модели, за исключением того, что в Соединенных Штатах раздел VII (Закон о гражданских правах 1991 года) запрещает корректировку оценок или пороговых значений по защищенным классам для решений, связанных с занятостью, а другие юрисдикции накладывают свои собственные ограничения
Agentforce \| Post-Processing	✅ Для разных контекстов используются разные пороги надежности, обеспечивающие справедливый уровень утверждения при использовании одной базовой прогнозируемой модели
Agentforce \| Post-Processing	✅ Корректировка порога документально подтверждается деловым обоснованием дифференцированного режима с учетом того, что в Соединенных Штатах никакая документация не делает оценку или корректировку порогового значения для каждой группы правомерными для решений, касающихся занятости, в соответствии с разделом VII
Einstein \| Переобучение модели	✅ Создается ежеквартальное расписание переобучения или переобучения под влиянием событий, позволяющее выявлять возникающие схемы предвзятости и исправлять отклонения от исходных базовых показателей справедливости
Einstein \| Переобучение модели	✅ Показатели справедливости проверяются повторно в каждой версии модели перед развертыванием производства, обеспечивающим отсутствие новой предвзятости при переобучении

Антишаблоны

Где искать	Как плохо выглядит
Einstein \| Обучающие данные	⚠️ Данные обучения используются напрямую без изменения баланса недопредставленных или перепредставленных сегментов
Einstein \| Обучающие данные	⚠️ Разреженные демографические сегменты не дополняются синтетическими данными или межорганизационной агрегацией
Einstein \| Инженерия функций	⚠️ Функции прокси сохраняются без оценки альтернативных функций, предоставляющих прогнозируемую силу без демографической корреляции
Agentforce \| Post-Processing	⚠️ Одинаковые пороги надежности применяются ко всем демографическим сегментам без выравнивания показателей результатов
Agentforce \| Post-Processing	⚠️ Дифференцированный режим, основанный на корректировках пороговых значений, не имеет документального обоснования предпринимательской деятельности или вообще применяется в Соединенных Штатах к решениям, связанным с занятостью, где раздел VII запрещает корректировку оценок или отсечек по защищенному классу, независимо от документации
Einstein \| Переобучение модели	⚠️ Модели развертываются и никогда не проходят переобучение; возникающие схемы смещения и дрейф остаются неисправленными
Einstein \| Переобучение модели	⚠️ Переобучение происходит без повторной проверки показателей справедливости; новая предвзятость вводится негласно

Шаблоны

Где искать	Как хорошо выглядит
Einstein Discovery \| UX	✅ Объяснения Einstein Discovery, отображающие факторы прогноза, появляются в компонентах Lightning в момент принятия решения
Einstein Discovery \| UX	✅ Пояснения показывают, какие переменные наиболее повлияли на конкретные прогнозы с направленным влиянием для пользователей в моменты принятия решения
Einstein Discovery \| UX	✅ Пояснения многослойные для разных аудиторий: бизнес-пользователи, технические пользователи, клиенты и аудиторы
Einstein Discovery \| UX	✅ Бизнес-пользователям отображается «Этот интерес оценивается как высокий, поскольку годовой доход превышает $1M, а рейтинг занятости находится в первых 10%»
Einstein Discovery \| UX	✅ Технические пользователи видят карты модели с весами функций, характеристиками данных обучения и показателями проверки
Einstein Discovery \| UX	✅ Клиенты видят “Эта рекомендация основана на ваших недавних покупках и клиентах с похожими предпочтениями”
Einstein Discovery \| UX	✅ Аудиторы видят полную линейку решений от Einstein Discovery и менеджера моделей с версией модели, значениями ввода и факторами, повлиявшими на прогноз
Einstein Discovery \| UX	✅ Доверие к прогнозу отображается в удобном для пользователя виде в виде категорий (высокая надежность, умеренная надежность, проверка потребностей) с пояснениями
Einstein Discovery \| UX	✅ Категории надежности объясняют, что означает уровень надежности для надежности решений и какой дополнительный пересмотр будет

Антишаблоны

Где искать	Как плохо выглядит
Einstein Discovery \| UX	⚠️ Пояснения переоборудуются в непрозрачные системы после развертывания вместо встраивания объяснимости в архитектуру с самого начала
Einstein Discovery \| UX	⚠️ Объяснения прогноза требуют навигации для разделения панелей мониторинга CRM Analytics вместо отображения в точках принятия решения
Einstein Discovery \| UX	⚠️ Пользователи видят абстрактные показатели производительности модели вместо прозрачных объяснений, когда решения влияют на них
Einstein Discovery \| UX	⚠️ Пояснения не отличаются в зависимости от аудитории; карточки технических моделей отображаются клиентам или бизнес-пользователям
Einstein Discovery \| UX	⚠️ Рейтинги исходного прогноза (0,73) отображаются без объяснения, что означает число или какие факторы повлияли на прогноз
Einstein Discovery \| UX	⚠️ Уверенность отображается как проценты вероятности, которые пользователи неправильно интерпретируют без контекста относительно надежности или проверки

Шаблоны

Где искать	Как хорошо выглядит
Einstein \| Слой Trust	✅ Слой Einstein Trust регистрирует напоминания, ответы, источники заземления и сигналы Trust автоматически без настраиваемых приборов
Einstein \| Слой Trust	✅ Политики хранения данных разработаны в соответствии с нормативными требованиями, различающимися в зависимости от отрасли и юрисдикции (например, правило 4511 b) ФИНРА устанавливает стандартный шестилетний срок хранения, а ЗПИНС требует наличия документации о соответствии минимум шести лет)
CRM Analytics \| Мониторинг	✅ Панели мониторинга CRM Analytics анализируют собранные данные решений прогнозируемой модели на наличие схем решений, показателей справедливости и производительности модели в динамике
CRM Analytics \| Мониторинг	✅ Представления Lens CRM Analytics отображают распределения прогнозов по уровню надежности, демографическому сегменту и типу результата
CRM Analytics \| Мониторинг	✅ Истории Einstein Discovery определяют аномальные закономерности, требующие исследования
Платформа \| Контрольный журнал поля	✅ Контрольный журнал поля включен для настраиваемых объектов, хранящих данные решений на основе искусственного интеллекта, сохраняя архивный журнал неопределенно долго до удаления для записей согласия, переопределения решений и отчетов о предвзятости
Платформа \| Мониторинг событий	✅ Event Monitoring собирает транскрипты разговоров Agentforce, вызовы инструментов и точки решений
Платформа \| Мониторинг событий	✅ Журналы мониторинга событий перенаправляются во внешний SIEM посредством событий платформы для хранения доказательств подделки
Платформа \| Мониторинг событий	✅ Запросы SIEM обнаруживают схемы предвзятости в больших объемах взаимодействий Agentforce

Антишаблоны

Где искать	Как плохо выглядит
Einstein \| Слой Trust	⚠️ Взаимодействия Agentforce развертываются без включения сбора аудита уровня Trust и определения политик сохранности
Einstein \| Слой Trust	⚠️ Политика сохранения не учитывает отраслевые нормативные требования (финансовые услуги, здравоохранение)
CRM Analytics \| Мониторинг	⚠️ Собранные данные решений прогнозируемой модели не анализируются; схемы решений и показатели справедливости не отслеживаются в динамике
Платформа \| Контрольный журнал поля	⚠️ Стандартный 18-месячный журнал поля используется для контрольных журналов решений на основе искусственного интеллекта без учета нормативных требований к сохранности
Платформа \| Контрольный журнал поля	⚠️ Контрольный журнал поля не включен для объектов с записями согласия, решениями переопределения и отчетами о предвзятости
Платформа \| Мониторинг событий	⚠️ Журналы мониторинга событий зависят от собственных ограничений сохранности без внешнего SIEM для длительного хранения подделки
Платформа \| Мониторинг событий	⚠️ Журналы взаимодействия Agentforce не анализируются на наличие схемы предвзятости в больших объемах

Шаблоны

Где искать	Как хорошо выглядит
Управление \| Закон ЕС об искусственном интеллекте	✅ Системы искусственного интеллекта высокого риска документируются с документацией о прозрачности, технической документацией, возможностями надзора за людьми и показателями точности/справедливости
Управление \| Закон ЕС об искусственном интеллекте	✅ Контрольные журналы уровня Einstein Trust и карты модели Discovery обеспечивают основы для требований прозрачности Закона ЕС об искусственном интеллекте
Управление \| Закон ЕС об искусственном интеллекте	✅ Демография данных обучения модели, подходы проверки и известные ограничения документируются в записях решений архитектуры
Управление \| GDPR	✅ Системы генерируют последовательные объяснения любого архивного решения по запросу в пределах временных промежутков запроса доступа к субъекту данных (которые варьируются в зависимости от юрисдикции, от 15 до 45 дней)
Управление \| GDPR	✅ Записанные данные решений прогнозируемой модели и коэффициенты объяснения Einstein Discovery хранятся с достаточной сохранностью, что позволяет восстановить объяснение для GDPR право на объяснение
Управление \| Алгоритмическая подотчетность	✅ Оценки алгоритмического воздействия проводятся перед развертыванием последующего искусственного интеллекта в качестве активного соответствия, а не реактивного реагирования
Управление \| Алгоритмическая подотчетность	✅ Собранные данные решений прогнозируемой модели и панели мониторинга мониторинга CRM Analytics обеспечивают основы данных для составления отчетов по алгоритмической отчетности

Антишаблоны

Где искать	Как плохо выглядит
Управление \| Закон ЕС об искусственном интеллекте	⚠️ Системы искусственного интеллекта высокого риска развертываются без документации о прозрачности, возможностей надзора за людьми или показателей справедливости
Управление \| Закон ЕС об искусственном интеллекте	⚠️ Демографические данные обучения модели и известные ограничения не документируются в записях решений по архитектуре
Управление \| GDPR	⚠️ Системы не могут создавать последовательные объяснения архивных решений в временных интервалах запроса доступа к субъектам данных GDPR
Управление \| GDPR	⚠️ Сохранность собранных данных решений прогнозируемой модели недостаточна для поддержки реконструкции объяснения прошлых решений
Управление \| Алгоритмическая подотчетность	⚠️ Оценки влияния алгоритма не проводятся до последующего развертывания искусственного интеллекта; соответствие реагирует после запроса регулятора

Шаблоны

Где искать	Как хорошо выглядит
Platform \| OWD	✅ Частные единые стандартные параметры устанавливаются для объектов, содержащих конфиденциальные данные клиентов с доступом, предоставленным посредством иерархии ролей и правил общего доступа
Platform \| OWD	✅ Частные ОВД с четкими грантами на общий доступ создают проверяемые схемы доступа, поддерживающие соблюдение недискриминации
Платформа \| Безопасность поля	✅ Конфиденциальные поля, содержащие защищенные характеристики (этническая принадлежность, религия, статус нетрудоспособности), скрыты посредством FLS от пользователей без законной бизнес-потребности
Платформа \| Безопасность поля	✅ Доступ чтения к конфиденциальным полям удаляется посредством FLS для большинства профилей; доступ предоставляется минимально посредством наборов полномочий с документированным обоснованием
Платформа \| Назначение и маршрутизация	✅ Правила назначения, очереди и маршрутизация мультиканала поровну распределяют работу между территориями, группами и сервисными агентами на основе объективных критериев
Платформа \| Правила общего доступа	✅ Правила автоматического общего доступа основаны на объективных критериях (отрасль, география, линейка продуктов), а не на субъективном усмотрении менеджера
Платформа \| Наборы полномочий	✅ Временный доступ к конфиденциальным данным предоставляется посредством наборов полномочий с документированным истечением срока действия, а не постоянными изменениями профиля
Платформа \| Наборы полномочий	✅ Запланированный поток автоматически отзывает наборы полномочий после определенных периодов, когда требуется доступ к демографическим данным для конкретных проектов

Антишаблоны

Где искать	Как плохо выглядит
Platform \| OWD	⚠️ Общедоступные OWD для чтения и записи делают ограничение доступа позже дезорганизующим (ужесточение по умолчанию инициирует пересчет общего доступа); проверяемые схемы доступа не существуют
Platform \| OWD	⚠️ OWD организации установлен на «Общедоступный: для чтения и записи» с незащищенными демографическими полями, доступными всем пользователям, включающими субъективную предвзятость
Платформа \| Безопасность поля	⚠️ Конфиденциальные демографические поля отображаются всем профилям без ограничений FLS; использование дискриминационных данных не запрещено
Платформа \| Правила общего доступа	⚠️ Общий доступ, установленный вручную, концентрирует ценные возможности с определенными группами пользователей без документального бизнес-обоснования
Платформа \| Правила общего доступа	⚠️ Правила общего доступа зависят от усмотрения субъективного менеджера, а не от объективных критериев, способствующих предвзятости
Платформа \| Наборы полномочий	⚠️ Профили изменяются постоянно и влияют на всех пользователей вместо предоставления временного доступа посредством наборов полномочий
Платформа \| Наборы полномочий	⚠️ Срок действия наборов полномочий, предоставляющих доступ к конфиденциальным данным, не истекает автоматически; доступ остается неопределенным после завершения проекта

Шаблоны

Где искать	Как хорошо выглядит
Shield \| Отслеживание событий	✅ Мониторинг событий щита отслеживает доступ к полям, содержащим защищенные характеристики или конфиденциальные атрибуты
Shield \| Отслеживание событий	✅ Запросы Event Monitoring отслеживают, кто, когда и в каком контексте открывает демографические поля для обнаружения аномалий
Shield \| Отслеживание событий	✅ Аномальные схемы доступа (внезапные всплески, доступ непредвиденных пользователей) инициируют расследование потенциального неправильного использования
Платформа \| Отчетность	✅ Отчеты анализируют, как правила общего доступа распространяют записи среди пользователей, рабочих групп и территорий, рассчитывая статистику распространения по демографии клиентов
Платформа \| Отчетность	✅ Отчеты определяют концентрации, при которых конкретные группы пользователей получают несоразмерный доступ к ценным записям без документального обоснования
Платформа \| Контрольный журнал настройки	✅ Контрольный журнал настройки проверяется на наличие изменений в параметрах OWD, правилах общего доступа, конфигурациях FLS и наборах полномочий, обнаруживающих несанкционированные изменения
Платформа \| Безопасность транзакций	✅ Политики безопасности транзакций действуют в отношении событий мониторинга событий в реальном времени с высоким риском (аномальная деятельность API, подозрительные входы, крупные экспорты конфиденциальных данных); FLS и изменения общего доступа зависят от контрольного журнала настройки и задокументированных утверждений управления изменениями

Антишаблоны

Где искать	Как плохо выглядит
Shield \| Отслеживание событий	⚠️ Доступ к конфиденциальным демографическим полям не отслеживается; потенциальное неправильное использование остается незамеченным
Shield \| Отслеживание событий	⚠️ Аномальные схемы доступа (скачки, непредвиденные пользователи) не отслеживаются и не исследуются
Платформа \| Отчетность	⚠️ Распределения правил общего доступа не анализируются; несоразмерный доступ к ценным записям остается невидимым
Платформа \| Отчетность	⚠️ Концентрации организаций с высокой стоимостью и определенными группами пользователей не имеют документированного бизнес-обоснования
Платформа \| Контрольный журнал настройки	⚠️ Контрольный журнал настройки не проверяется; не обнаружены несанкционированные изменения в элементах управления доступом к данным, включающие доступ к конфиденциальным данным
Платформа \| Безопасность транзакций	⚠️ События мониторинга событий высокого риска в реальном времени (аномальная активность API, большие экспорты конфиденциальных данных) не обрабатываются политиками безопасности транзакций

Шаблоны

Где искать	Как хорошо выглядит
Платформа \| Настраиваемые объекты	✅ Детализация согласия на сценарий использования на основе искусственного интеллекта включена посредством цели отслеживания настраиваемого объекта согласия, даты/метода предоставления, даты отзыва и связанного кода пользователя/контакта
Платформа \| Настраиваемые объекты	✅ Клиенты соглашаются с рекомендациями продуктов Einstein, отклоняя кредитные решения на основе искусственного интеллекта посредством отдельных записей согласия на сценарий использования
Платформа \| Контрольный журнал поля	✅ Контрольный журнал поля включен в объекте «Согласие» для долгосрочного хранения, соответствующего нормативным требованиям
Данные 360 \| Согласие	✅ Управление согласием Data 360 используется для функций персонализации Einstein, приема и хранения параметров согласия посредством коннекторов, соотнесенных с моделью данных конфиденциальности, и использования их в качестве критериев фильтрации при сегментации и при активации
Данные 360 \| Согласие	✅ Категории согласия соотносятся с определенными сценариями использования искусственного интеллекта, что позволяет пользователям отказаться от персонализации при сохранении базового обслуживания
Marketing Cloud \| Согласие	✅ Согласие Marketing Cloud интегрируется с важными данными о службе сообщений Einstein и маркетинговыми агентами Agentforce, соблюдающими статус подписки
Marketing Cloud \| Согласие	✅ Статус согласия Marketing Cloud запрашивается до того, как Agentforce инициирует автоматизированную работу с клиентами, предотвращающую нежелательные контакты с пользователями, отказавшимися от

Антишаблоны

Где искать	Как плохо выглядит
Платформа \| Настраиваемые объекты	⚠️ Согласие на искусственный интеллект отслеживается в электронных таблицах или зависит от входа в качестве скрытого общего согласия без явных записей
Платформа \| Настраиваемые объекты	⚠️ Одеяло согласия на искусственный интеллект используется вместо детального согласия на использование; пользователи не могут отказаться от определенных функций искусственного интеллекта
Платформа \| Контрольный журнал поля	⚠️ Контрольный журнал поля не включен в объекте «Согласие»; требования к регулированию долгосрочного хранения, соответствующие
Данные 360 \| Согласие	⚠️ Согласие Data 360 не используется для персонализации Einstein; категории согласия не соотносятся с определенными сценариями использования
Marketing Cloud \| Согласие	⚠️ Согласие Marketing Cloud не интегрировано с Einstein или Agentforce; статус подписки не учитывается при автоматической работе с

Шаблоны

Где искать	Как хорошо выглядит
Experience Cloud \| Параметры профиля	✅ Пользователи отказываются от взаимодействий Agentforce посредством доступных элементов управления настройками в параметрах профиля Experience Cloud или «Мои параметры» с четким описанием
Платформа \| Записи пользователя/контакта	✅ Предпочтения искусственного интеллекта сохраняются в записях пользователя или контакта, включающих запрос в логике решений Flow и Agentforce
Agentforce \| Мультиканал	✅ Пользователи, отказавшиеся от Agentforce, перенаправляются агентам-людям посредством мультиканала, а не получают ухудшенное обслуживание
Agentforce \| Flow	✅ Поток проверяет поля согласия и предпочтений перед занятостью Agentforce; если пользователь отказался, создается рабочая запись и перенаправляется в человеческую очередь
Agentforce \| Мультиканал	✅ Комплектация кадровой очереди предоставляет сопоставимое с автоматизированным обслуживанием время ожидания для пользователей, отказавшихся
Платформа \| Записи пользователя/контакта	✅ Предпочтения искусственного интеллекта сохраняются в записях пользователя или контакта, обеспечивая согласованность в каналах (веб, мобильный, телефон, электронная почта)
Платформа \| Поток	✅ Предпочтение запрашивается последовательно во всех потоках взаимодействия, предотвращая необходимость повторного утверждения предпочтений пользователями в каждом канале

Антишаблоны

Где искать	Как плохо выглядит
Experience Cloud \| Параметры профиля	⚠️ Отказ доступен только по электронной почте группе поддержки; доступные элементы управления настройками отсутствуют
Платформа \| Записи пользователя/контакта	⚠️ Предпочтения искусственного интеллекта не сохраняются в записях пользователя или контакта; предпочтения не могут быть запрошены в логике потока или Agentforce
Agentforce \| Мультиканал	⚠️ Пользователи, отказавшиеся от использования искусственного интеллекта, получают ограниченное обслуживание в качестве скрытого давления для принятия искусственного интеллекта вместо маршрутизации агентам-людям
Agentforce \| Flow	⚠️ Поток не проверяет поля согласия или предпочтений до занятости Agentforce; предпочтения отказа игнорируются
Платформа \| Записи пользователя/контакта	⚠️ Предпочтения не согласуются между каналами; пользователи должны повторно утверждать отказ от веб, мобильного, телефона и электронной почты отдельно

Шаблоны

Где искать	Как хорошо выглядит
Управление \| Документация	✅ Каждая производственная прогнозируемая модель документирована с демографическими данными обучения, показателями справедливости, предполагаемыми сценариями использования, стратегиями смягчения предвзятости и методами мониторинга
Управление \| Документация	✅ Типовая документация включает подход, основанный на мониторинге справедливости, пороговые значения предупреждений, требования к надзору со стороны человека, график проверки и нормативные рекомендации
Платформа \| Настраиваемые объекты	✅ Документация модели хранится в Salesforce посредством настраиваемого объекта «Модель» или Salesforce Files, вложенных в проекты, включающие возможность поиска и управления версиями
Управление \| Шлюзы развертывания	✅ Шлюзы справедливости перед развертыванием требуют аудита данных обучения, расчета показателей справедливости, оценки влияния, проектирования человеческого надзора и проверки прозрачности перед производством
Управление \| Шлюзы развертывания	✅ Пробелы в представлении данных обучения анализируются и документируются как обязательный шлюз развертывания
Управление \| Шлюзы развертывания	✅ Демографический паритет, равные возможности и неравномерное влияние рассчитываются как достижение порогов в качестве обязательного выхода
Управление \| Шлюзы развертывания	✅ Оценка воздействия оценивает потенциальный ущерб для затрагиваемых групп населения в качестве обязательной основы
Управление \| Шлюзы развертывания	✅ Конструкция надзора за человеком, включительно со схемами расширения, бизнес-правилами утверждения и механизмами переопределения, разработаны и протестированы в качестве обязательных ворот
Управление \| Шлюзы развертывания	✅ Возможности объяснения проверяются для всех типов решений в качестве обязательных ворот
Управление \| Шлюзы развертывания	✅ К воротам справедливости относятся так же строго, как и к воротам безопасности с полномочием блокировать развертывания, выходящие из строя ни в одном из ворот

Антишаблоны

Где искать	Как плохо выглядит
Управление \| Документация	⚠️ Функции Einstein развертываются без документирования данных обучения, показателей справедливости, уменьшения предвзятости или подходов мониторинга
Управление \| Документация	⚠️ Типовая документация не включает подход, основанный на контроле за соблюдением принципов справедливости, требования к надзору со стороны человека или нормативные рекомендации
Платформа \| Настраиваемые объекты	⚠️ Документация модели хранится в электронных таблицах или вики-версиях без возможности поиска или контроля версий
Управление \| Шлюзы развертывания	⚠️ Функции Einstein переходят в производство без ворот справедливости; развертывание основано исключительно на общих показателях точности
Управление \| Шлюзы развертывания	⚠️ Аудит данных обучения, расчет показателей справедливости или оценка влияния пропускаются перед развертыванием в производственной среде
Управление \| Шлюзы развертывания	⚠️ Проектирование надзора человека, проверка прозрачности или проверка объяснений не выполняются перед производственной
Управление \| Шлюзы развертывания	⚠️ Шлюзы справедливости поддерживаются только рекомендациями без полномочий блокировки развертываний; модели работают, несмотря на сбой критериев справедливости

Шаблоны

Где искать	Как хорошо выглядит
Управление \| Контрольная комиссия	✅ В состав совета по проверке входят технические эксперты (архитекторы, специалисты по обработке данных), заинтересованные лица, юристы, специалисты по конфиденциальности и представители затрагиваемых сообществ
Управление \| Контрольная комиссия	✅ Различные точки зрения всплывают проблемы справедливости, которые однородные группы упускают во время проверки этики
Управление \| Проверка триггеров	✅ Триггеры проверки определены: решения, затрагивающие права на трудоустройство/кредитование/жилье/здравоохранение/законные права, системы, влияющие на >10 тыс. пользователей ежегодно, новые сценарии использования, значительный риск вреда
Управление \| Проверка триггеров	✅ Приложения на основе искусственного интеллекта, использующие конфиденциальные личные данные (медицинские, финансовые, демографические), требуют проверки этики перед развертыванием
Управление \| Проверка полномочий	✅ Совет по проверке этики имеет полномочия требовать изменений, вводить условия мониторинга или блокировать развертывания, не соответствующие этическим стандартам
Платформа \| Настраиваемые объекты	✅ Все проверки документируются в имени заявки на отслеживание настраиваемых объектов Salesforce, дате рассмотрения, поднятых проблемах, требованиях к смягчению последствий и условиях утверждения

Антишаблоны

Где искать	Как плохо выглядит
Управление \| Контрольная комиссия	⚠️ Контрольной комиссии не хватает разнообразия (только технические эксперты); однородные группы упускают вопросы справедливости, затрагивающие разные группы населения
Управление \| Контрольная комиссия	⚠️ Представители затрагиваемых общин не включены; слепые зоны по соображениям справедливости приводят
Управление \| Проверка триггеров	⚠️ Триггеры проверки не определены; приложения на основе искусственного интеллекта высокого риска выполняются без проверки этики перед развертыванием
Управление \| Проверка полномочий	⚠️ Проверка этических норм осуществляется только на консультативной основе без обеспечения их соблюдения; развертывание осуществляется, несмотря на несоблюдение этических норм (театр подотчетности)
Платформа \| Настраиваемые объекты	⚠️ Проверки не документируются систематически; архивные решения, проблемы и смягчения не отслеживаются

Шаблоны

Где искать	Как хорошо выглядит
CRM Analytics \| Мониторинг	✅ Панели мониторинга CRM Analytics отслеживают показатели справедливости Einstein и Agentforce из собранных данных решений и данных аудита Trust Layer в запланированной каденции
CRM Analytics \| Мониторинг	✅ Демографическое равенство, равные возможности, неравномерные коэффициенты влияния и показатели качества обслуживания отслеживаются по сегменту клиентов
CRM Analytics \| Мониторинг	✅ Предупреждения CRM Analytics настроены на запуск, когда показатели справедливости нарушают определенные пороги, требующие исследования
CRM Analytics \| Мониторинг	✅ Панели мониторинга CRM Analytics отслеживают сигналы справедливости: внезапные изменения в распределениях решений, всплески обращений, связанных с предвзятостью, ухудшение показателей для конкретных групп населения
CRM Analytics \| Мониторинг	✅ Триггер предупреждений для функции «Определение рейтингов возможностей Einstein», когда уровень утверждения для любого сегмента падает более чем на 15% за неделю, требуя исследования справедливости
Управление \| Запланированные проверки	✅ Комплексный аудит справедливости проводится ежеквартально для высокодоходных систем искусственного интеллекта (кредиты, занятость, здравоохранение) или раз в полгода для систем с более низкими ставками
Управление \| Запланированные проверки	✅ Аудиты изучают текущие показатели справедливости, анализируют схемы переопределения, анализируют отзывы пользователей и отчеты о предвзятости и проверяют эффективность механизмов управления
Управление \| Реакция на инцидент	✅ Четкие процессы реагирования на инциденты документируются в Salesforce Knowledge для ответа при обнаружении предвзятости
Управление \| Реакция на инцидент	✅ Немедленная оценка серьезности путем запроса данных решений прогнозируемой модели в CRM Analytics; сильная предвзятость приостанавливает автоматическое принятие решений до завершения расследования
Управление \| Реакция на инцидент	✅ Временное смягчение последствий инициирует усиление надзора человека посредством скорректированных порогов надежности, отключения функции или полной приостановки агента
Управление \| Реакция на инцидент	✅ Анализ коренных причин определяет, как поступила или эволюционировала предвзятость; данные обучения, версии модели и изменения конфигурации анализируются посредством контрольного журнала поля
Управление \| Реакция на инцидент	✅ Необратимое исправление внедряет исправление данных, переобучение модели или изменения процесса с соответствующей коммуникацией с соответствующими пользователями
Управление \| Реакция на инцидент	✅ Меры по предупреждению задокументированы в справочниках, предотвращающих повторение инцидентов предвзятости

Антишаблоны

Где искать	Как плохо выглядит
CRM Analytics \| Мониторинг	⚠️ Показатели справедливости не отслеживаются в любой запланированной каденции из собранных данных решений или данных аудита Trust Layer; отклонение погрешности остается незамеченным по мере изменения распределения данных
CRM Analytics \| Мониторинг	⚠️ Предупреждения CRM Analytics не настроены; нарушения показателей справедливости, требующие расследования, не запускаются
CRM Analytics \| Мониторинг	⚠️ Сигналы справедливости не отслеживаются; резкие изменения в распределениях решений не регистрируются
Управление \| Запланированные проверки	⚠️ Всеобъемлющие проверки справедливости не проводятся по любому расписанию; управление контролирует отклонение и становится неэффективным
Управление \| Запланированные проверки	⚠️ Схемы переопределения, отзывы пользователей и отчеты о предвзятости не анализируются систематически во время аудитов
Управление \| Реакция на инцидент	⚠️ Четкие процессы реагирования на инциденты не документируются; обнаружение предвзятости приводит к несистематическому реагированию
Управление \| Реакция на инцидент	⚠️ Временное смягчение последствий или необратимое исправление не применяются систематически; сохраняется предвзятость, затрагивающая пользователей
Управление \| Реакция на инцидент	⚠️ Анализ первопричин не проводится; как поступила или эволюционировала предвзятость, остается неизвестным
Управление \| Реакция на инцидент	⚠️ Профилактические меры не задокументированы; повторение не предотвращается

Шаблоны

Где искать	Как хорошо выглядит
Платформа \| Обязательные поля	✅ Каждое обязательное поле содержит документированное бизнес-обоснование, почему данные являются обязательными, а не дополнительными; поля, без которых процесс может функционировать, становятся дополнительными при обработке отсутствующих значений в нисходящем направлении
Платформа \| Обязательные поля	✅ Электронная почта не обязательна при наличии альтернативных методов связи (SMS, телефон, почтовая почта), поэтому пользователи без надежного интернета или личной электронной почты не исключаются из создания организации
Платформа \| Поля имен	✅ Архитектура имени использует одно полное поле или гибкую многочастную структуру, которая учитывает мононимы, системы отчества и несколько имен или фамилий без принятия порядка или наследования
Платформа \| Поля имен	✅ Поля имен тестируются разными международными именами, принимая однословные имена, длинные имена, диакритику, апострофы, дефисы и нелатиницу (арабский, китайский, кириллица, деванагари)
Платформа \| Проверка адреса	✅ Разрешительная проверка адреса принимает ввод в свободной форме при сбое структурированной проверки и сохраняет адреса по мере ввода пользователями, а не принудительно вносит недопустимые исправления
Платформа \| Проверка адреса	✅ Проверка адреса встроена в процессы выполнения, где точность имеет оперативное значение, а не блокирует сбор данных заранее
Платформа \| Предпочтения коммуникации	✅ Предпочтительные методы связи сохраняются в записях контактов и последовательно учитываются во всех исходящих системах, предлагая альтернативы мультиканала, а не предположения одного канала
Настраиваемый объект \| Демографические данные	✅ Добровольные демографические данные собираются посредством отдельного опроса с параметром «Предпочитаю не отвечать», хранятся в настраиваемом объекте с Private OWD, ограничены FLS и используются только для агрегированной аналитики справедливости
Shield \| Отслеживание событий	✅ События отслеживания событий Shield регистрируют события доступа (экспорты отчетов, запросы объектов API) к демографическим данным для схем доступа аудита
Платформа \| Стороннее обогащение	✅ Сторонние поставщики обогащения проверяются на добросовестность, демографический охват и точность, методологию вывода и контрактные ограничения на использование данных до внедрения

Антишаблоны

Где искать	Как плохо выглядит
Платформа \| Обязательные поля	⚠️ Электронная почта обязательна для создания организации без альтернативы, а проверка телефона или адреса отклоняет форматы, поля ОУ и сельские маршруты за пределами США, исключая пользователей, которые не могут предоставить данные
Платформа \| Обязательные поля	⚠️ Поля помечаются обязательными без документирования возможности функционирования процесса без данных, что создает невидимые заполнители из отклоненных неполных записей
Платформа \| Поля имен	⚠️ Поля имен применяют западные конвенции «Первый/Последний» и отклоняют мононимы, диакритику или нелатиницу, подвергая пользователей системному отклонению на основе культурной идентичности
Платформа \| Проверка адреса	⚠️ Проверка адреса требует почтового формата США и не распознает международные адреса, поля ОУ, военные (APO/FPO) или адреса племенной земли, блокируя создание организации и предоставление услуг
Платформа \| Предпочтения коммуникации	⚠️ Предполагается, что единый канал связи является универсальным (только электронная почта или телефон), исключая пользователей без интернета, без доступа к телефону или глухих или слабослышащих
Настраиваемый объект \| Демографические данные	⚠️ Демографические данные выводятся из имен или расположений без Knowledge пользователя, хранятся в стандартных полях контактов, доступных всем пользователям, и используются в оценке интересов или прогнозировании без разглашения
Платформа \| Стороннее обогащение	⚠️ Сторонние данные дополняются без аудита практики добросовестности поставщиков или демографического охвата, импорта введенной поставщиком предвзятости в решения организации

Шаблоны

Где искать	Как хорошо выглядит
Платформа \| Назначение и маршрутизация	✅ Правила назначения и маршрутизации используют объективные критерии (линии продуктов, соглашения об уровне обслуживания, требования к языку), а распределения назначений ежеквартально проверяются, стратифицированные демографическими показателями клиентов, во избежание появления схем концентрации
Платформа \| Мультиканал	✅ Среднее время обработки, разрешение первого контакта и качество обслуживания клиентов отслеживаются в путях маршрутизации для определения систематического получения менее опытных агентов клиентскими сегментами
Платформа \| Поток	✅ Потоки, принимающие последующие решения, проверяются на наличие критериев, коррелирующих с защищенными характеристиками (время владения организацией, предпочтение канала, журнал покупок, часы работы), а их логика решений документируется в записях решений архитектуры
Платформа \| Поток	✅ Потоки с высокими ставками, влияющие на доступ к занятости, кредитам или услугам, проходят такой же процесс проверки этики, как и системы искусственного интеллекта
Платформа \| Правила проверки	✅ Правила проверки тестируются с использованием разных данных (международные адреса, незападные имена, альтернативные форматы телефонов) и расширяются при каждом отклонении законных данных; поля имени принимают Юникод и все сценарии
Платформа \| Дизайн территории	✅ Демография клиентов соотносится между предлагаемыми границами территории до завершения проектирования; при возникновении концентрации проводится оценка распределения ресурсов на предмет справедливости и документируется и отслеживается бизнес-обоснование
Платформа \| Аудит	✅ Логика автоматизации (бизнес-правила, критерии назначения, решения потока) документируется в Salesforce Knowledge или ADR, а результаты ежеквартально проверяются по демографической стратификации — распределениям назначений, уровням утверждения потока, уровням отклонения проверки и распределению ресурсов территории

Антишаблоны

Где искать	Как плохо выглядит
Платформа \| Назначение и маршрутизация	⚠️ Правила назначения приоритизируют интересы из определенных почтовых индексов до «лучших исполнителей» на основе архивных показателей реализации, не изучая, отражает ли этот успех навык или демографическое преимущество
Платформа \| Мультиканал	⚠️ Показатели качества маршрутизации не отслеживаются в клиентских сегментах, поэтому различия во взаимодействии или разрешении агентов остаются незамеченными
Платформа \| Поток	⚠️ Критерии принятия решения по потоку коррелируют с защищенными характеристиками (время владения, канал, объем покупки, часовой пояс) и рассматриваются как объективные, поскольку детерминистская логика чувствует нейтральность
Платформа \| Поток	⚠️ Потоки с высокими ставками принимают последующие решения без проверки этики, документации ADR или обработки для пользователей за пределами типичного профиля клиента
Платформа \| Правила проверки	⚠️ Проверка имени ограничена A-Z и отклоняет диакритику или нелатинскую письменность, а проверка адреса требует почтового формата США — законные данные отклоняются, а пользователи отказываются от запросов без сообщения
Платформа \| Дизайн территории	⚠️ Границы территорий соответствуют географическому признаку, коррелирующему с демографическими показателями, с различной компенсацией или укомплектованием кадрами в разных территориях и без анализа демографической концентрации
Платформа \| Аудит	⚠️ Логика автоматизации не задокументирована и результаты никогда не проверяются, поэтому дискриминационные схемы в назначении, утверждениях, проверке или распределении территорий остаются незаметными