Соответствие - этические стандарты
Узнайте больше о надежных → Соответствующих → Этические нормы → Искусственный интеллект
| Где искать? Область продукта | Расположение | Как выглядит добро? Схема |
|---|---|
| Einstein | Стандарты дизайна | ✅ Генеративные ответы всегда определяют источники данных, используемые моделями искусственного интеллекта |
| Einstein | Стандарты дизайна | ✅ Наборы данных, которые могут/не могут использоваться для оперативной инжиниринга, задокументированы |
| Einstein | Стандарты дизайна | ✅ Боты и генеративные ответы на основе искусственного интеллекта четко определяются пользователям |
| Einstein | Стандарты дизайна | ✅ Точки, в которых должен быть определен искусственный интеллект для пользователя, четко определены |
| Einstein | Стандарты дизайна | ✅ Четко определены стандарты использования отказов от ответственности для генеративного искусственного интеллекта |
| Einstein | Стандарты дизайна | ✅ Существуют четкие требования к способу документирования точек участия человека в проектировании решений на основе искусственного интеллекта |
| Einstein | Стандарты дизайна | ✅ Порождающие ответы не отправляются напрямую конечным пользователям без точек человеческого участия |
| Einstein | Стандарты дизайна | ✅ Существуют стандарты документирования прямых и непрямых путей обратной связи в конструкциях решений на основе искусственного интеллекта |
| Einstein | Стандарты дизайна | ✅ Политики и утвержденные сценарии использования для приложений на основе искусственного интеллекта понятны и легко находят |
| Einstein | Стандарты дизайна | ✅ Стандарты для службы сообщений чатбота и потока разговора были задокументированы |
| Einstein | Документация | ✅ Документация по конфигурации и настройкам, связанным с функциями искусственного интеллекта, содержит подробное описание всей логики процесса и хранится в центральном расположении, которое доступно группам юристов или аудиторам |
| Einstein | Документация | ✅ Модели, определяющие прогнозы и рекомендации, четко задокументированы, включая любые применимые сегменты данных |
| Einstein | Документация | ✅ Логика разговора и сообщения чатбота тщательно задокументированы |
| Einstein | Документация | ✅ Созданы процессы для мониторинга моделей искусственного интеллекта вашей организации на предмет отклонения данных, изменений в показателях справедливости и предвзятости, точности и надежности |
| Einstein | Документация | ✅ Сохраняются описания данных обучения, оценки и тестирования, используемых для всех процессов на основе искусственного интеллекта |
| Einstein | Документация | ✅ Описания сохраняются для любой очистки данных, связанных с искусственным интеллектом, вместе с тестированием предвзятости, связанными результатами и оценками производительности/точности (например, оценки F1) |
| Einstein | Организация | ✅ Шаблоны напоминаний проверяются на качество Шаблоны напоминаний проверяются, и результаты этих тестов документируют актуальность, полноту, стиль/тон, фактическую точность, согласованность, токсичность и предвзятость ответов шаблонов напоминаний |
| Einstein | Организация | ✅ Генеративный искусственный интеллект используется в качестве помощника человека Начиная с генеративного искусственного интеллекта, убедитесь в наличии «человека во главе», который может проверить точность и полезность ответов. |
| Einstein | Организация | ✅ Модели на основе искусственного интеллекта используют Trust данные Контекст предоставляется генному искусственному интеллекту посредством нулевых (предоставляется напрямую клиентом) или сторонних (собирается на основе взаимодействия клиента с вашим предприятием) данных |
Узнайте больше о надежных → Соответствующих → Этические стандарты → Политики компании
| Где искать? Область продукта | Расположение | Как выглядит добро? Схема |
|---|---|
| Платформа | Стандарты проектирования | ✅ Стандарты содержат четкие рекомендации для областей, на которые влияет политика компании |
| Платформа | Документация | ✅ Документация для конфигурации и настроек содержит ссылки на поддерживаемые значения компании |
| Платформа | Организация | ✅ Все объекты и поля, подлежащие соблюдению политики компании, имеют настроенные категоризация соответствия, ответственный за данные, уровень конфиденциальности данных и использование полей |
Узнайте больше о надежных → Соответствующих → Этические нормы → Искусственный интеллект
| Где искать? Область продукта | Расположение | Чего избегать? Антишаблон |
|---|---|
| Einstein | Стандарты дизайна | ⚠️ Генеративные ответы не определяют источники данных, используемые моделями искусственного интеллекта |
| Einstein | Стандарты дизайна | ⚠️ Боты и генеративные ответы на основе искусственного интеллекта не определяются для пользователей |
| Einstein | Стандарты дизайна | ⚠️ Обобщающие ответы отправляются напрямую конечным пользователям без точек человеческого участия |
| Einstein | Стандарты дизайна | ⚠️ Наборы данных, используемые для оперативного проектирования, не документируются |
| Einstein | Стандарты дизайна | ⚠️ Требования к документированию точек участия человека в проектировании решений на основе искусственного интеллекта отсутствуют |
| Einstein | Стандарты дизайна | ⚠️ Стандарты проектирования не определяют точки, в которых должен быть определен искусственный интеллект для пользователей |
| Einstein | Стандарты дизайна | ⚠️ Отказы относительно генеративных ответов отсутствуют |
| Einstein | Стандарты дизайна | ⚠️ Не существует стандартов для документирования прямых и непрямых путей обратной связи для дизайнов решений на основе искусственного интеллекта |
| Einstein | Стандарты дизайна | ⚠️ Стандарты проектирования отсутствуют или не содержат четких политик и утвержденных способов использования для приложений на основе искусственного интеллекта |
| Einstein | Стандарты дизайна | ⚠️ Четкие стандарты для службы сообщений чатбота и дизайна разговора отсутствуют (но используются чатботы) |
| Einstein | Документация | ⚠️ Процессы мониторинга на основе искусственного интеллекта не существуют или не задокументированы |
| Einstein | Документация | ⚠️ Документация для конфигурации и настроек, связанных с функциями искусственного интеллекта, отсутствует, не завершена или хранится в недоступном месте |
| Einstein | Документация | ⚠️ Прогнозы или рекомендации внедряются в вашей организации без документирования их моделей |
| Einstein | Документация | ⚠️ Информация о данных обучения, оценки и тестирования, используемых для всех процессов на основе искусственного интеллекта, неясна или недоступна |
| Einstein | Документация | ⚠️ Информация об очистке данных, связанных с искусственным интеллектом, тестировании предвзятости и результатах неясна или недоступна |
| Einstein | Документация | ⚠️ Чатботы внедрены в вашей организации без документирования сообщений и потока разговора |
| Einstein | Шаблоны напоминаний | ⚠️ Искусственный интеллект зависит от сторонних данных Ваши шаблоны напоминаний зависят только от сторонних данных без нулевых или первых данных |
Узнайте больше о надежных → Соответствующих → Этические стандарты → Политики компании
| Где искать? Область продукта | Расположение | Чего избегать? Антишаблон |
|---|---|
| Платформа | Стандарты проектирования | ⚠️ Стандарты дизайна отсутствуют или не содержат четких рекомендаций относительно областей, на которые распространяется политика компании |
| Платформа | Документация | ⚠️ Документация для конфигурации и настроек не ссылается на значения или политики компании |
| Платформа | Организация | ⚠️ Отсутствует конфигурация для категоризации соответствия, ответственного за данные, уровня конфиденциальности данных или использования полей объектов, подлежащих соблюдению политики компании |