공정성

공정함

Salesforce 아키텍처에서 공정성은 액세스 가능한 인터페이스, 편향 감지 및 완화, 투명한 결정, 윤리적 거버넌스를 통해 사용자에게 공평하게 서비스를 제공하는 솔루션 구축을 의미합니다. Einstein 예측은 고객 및 직원에게 영향을 미치는 결과에 영향을 미칩니다. 즉, 설계자는 인구 통계 그룹 전체에서 공정한 결과를 얻는 시스템을 설계해야 하며, 장애가 있는 사용자도 액세스할 수 있어야 합니다.

Salesforce는 공정성을 위해 설계된 플랫폼 기능을 제공하며, WCAG 2.2 AA를 준수하기 위해 노력합니다. 올바르게 사용되는 경우 Salesforce Lightning 설계 시스템(SLDS)은 이 목표를 지원하도록 설계된 구성 요소를 제공합니다. 각 구성 요소를 자세히 살펴보겠습니다.

  • Shield Platform Encryption 인구 통계 데이터와 같은 중요한 특성을 보호하며, 이벤트 모니터링은 투명한 데이터 처리를 지원하는 감사 추적을 제공합니다.
  • Einstein Trust Layer(ETL)는 모니터링 및 규정 준수 목적으로 생성형 AI 프롬프트 및 응답을 위한 안전한 감사 추적을 캡처합니다.
  • Experience Cloud에는 접근성 제어가 포함되어 있습니다.
  • 필드 감사 내역은 필드 수준 데이터 변경 내역을 장기간 보존하여 AI 결정 데이터가 추적된 필드에 저장될 때 알고리즘 책임을 지원합니다.

이러한 기능은 Salesforce 공정성 관행의 운영 비용을 절감하는 데 도움이 됩니다.

Salesforce에서는 공정성이 솔루션을 제공하기 위해 세 가지 차원에서 작동합니다. 포괄적인 디자인을 통해 Lightning 웹 구성 요소(LWC), Visualforce 페이지 및 Experience Cloud 사이트를 완벽하게 액세스할 수 있습니다. 이 기능은 원활한 키보드 네비게이션, 화면 판독기 호환성, 인지 디자인 조정 기능을 제공합니다. AI 공정성 관행을 통해 Einstein 예측은 편향 감지, 다양한 교육 데이터, 지속적인 모니터링을 사용하여 공정한 결과를 얻을 수 있습니다. 거버넌스는 모델이 발전하고 사용 사례가 확대될 때 공정성을 유지하는 프로세스와 제어 기능을 제공합니다.

공정성을 무시하면 복합 위험이 발생합니다. 액세스할 수 없는 Experience Cloud 사이트는 조직을 아메리칸 장애인법(ADA) 소송에 노출할 수 있으며, 연방 기관 및 해당 계약업체의 경우, 508조 준수 위반이 발생할 수 있습니다. 시스템의 위험 분류와 새로운 알고리즘 책임 법에 따라 편향된 Einstein 예측이 EU AI Act 요구 사항을 위반할 수 있습니다. 의사 결정 논리에 대한 의미 있는 정보가 부족한 법적 또는 유사한 영향을 미치는 AI 중심의 자동화된 결정은 GDPR 22 및 15(1)(h) 정보 권리를 위반할 수 있습니다.

공정성을 위해 설계하는 조직은 시스템에 영향을 받는 고객, 직원, 커뮤니티에 대해 예측 가능한 피해를 줄이는 경향이 있습니다. 공정성에 실패하면 경제적 손상, 거부된 기회, 정서적 고통, 체계적 차별 강화 등 영향을 받는 개인에게 실질적인 물질적 손상을 유발할 수 있습니다. 규제 조정은 영향을 받는 개인에게 적절한 서비스를 제공하는 과정에서 따르는 경향이 있습니다.

이러한 원칙을 사용하여 플랫폼의 공정성을 위한 아키텍처 결정을 안내합니다.

  • Lightning 액세스 가능성 패턴을 위한 디자인. 구축 시 가능한 경우 WCAG 2.2 AA 액세스 가능성을 지원하도록 설계된 Lightning Design System 및 표준 Lightning 웹 구성 요소를 사용하십시오. SLDS 구축할 때 액세스 가능성이 핵심 설계 원칙인 라이브러리를 활용합니다. SLDS 구성 요소는 키보드 액세스 가능성 및 보조 기술과의 호환성을 검사하며, 많은 구성 요소에는 개발자 팁이 포함된 액세스 가능성 섹션이 포함되어 있습니다. 사용자 정의 구성 요소가 필요한 경우 보조 기술 테스트를 통해 명시적 액세스 가능한 다양한 인터넷 응용 프로그램(WAI-ARIA) 구현, 시맨틱 HTML 및 키보드 탐색 패턴을 검증해야 합니다.
  • 각 모델 유형에 적합한 도구를 사용하여 편향을 줄이고 모니터링합니다. 배포 전에 프로덕션에서 지속적으로 공정한 결과를 얻기 위해 AI 출력을 확인합니다. 예측 모델의 경우 Einstein Discovery 및 사용자 지정 기기를 통해 의사 결정 데이터를 수집하고 CRM Analytics에서 분석하여 공정성 메트릭을 측정합니다. 생성형 AI 및 Agentforce 기능의 경우 Einstein Trust Layer(ETL) 감사 트레일의 프롬프트 및 응답을 사용하십시오. 규제 투명성 요구 사항을 충족하도록 결정을 문서화합니다.
  • 데이터 보호 컨트롤을 위한 Leverage Shield Platform Encryption. 개인 데이터를 보호하면서 정확히 일치하는 쿼리가 필요한 민감한 특성에 대한 결정적 스키마와 함께 Shield Platform Encryption 사용합니다. SIEM이 필수 규정을 위해 Salesforce 네이티브 보존 구간을 초과하는 쓰기 일회용 저장소 및 액세스 분리를 적용하는 경우 이벤트 모니터링 로그를 외부 보안 정보 및 이벤트 관리(SIEM) 시스템에 라우팅하여 변경 사항이 확인된 감사 추적을 지원합니다.
  • 고당치 예측을 위한 검토 워크플로를 설계합니다. Salesforce 플로에서 승인 프로세스 및 검토 메커니즘을 구성하여 결과적 결정에 영향을 미치는 Einstein 예측이 적절한 인적 검토를 받도록 합니다. 신뢰 임계값 및 비즈니스 규칙을 사용하여 조치를 취하기 전에 예측을 확인해야 하는 시점을 결정합니다.
  • 차별 방지를 위해 조직 전체 기본값(OWD) 및 현장 수준 보안(FLS)을 적용합니다. OWD 및 FLS를 사용하여 데이터 액세스 패턴을 구성하여 기본적으로 액세스를 제한하고 공유 규칙을 사용하여 각 역할에 필요한 추가 액세스 권한만 부여합니다. 프로필에 민감한 특성을 노출하고 차별화된 의사 결정을 활성화할 수 있는 과도한 액세스 권한을 부여하지 마십시오.
  • 플랫폼 동의를 통해 사용자 에이전시를 활성화합니다. Data 360 또는 사용자 정의 동의 개체의 동의 관리 기능을 필드 감사 내역과 함께 사용하여 사용 사례별로 세부적인 AI 동의를 추적합니다. 사용자가 AI 기반 기능을 옵트아웃하고 가능한 경우 사람의 대안을 제공할 수 있습니다.

데이터 아키텍처 결정에 따라 Salesforce 시스템에 표시되고 표시되지 않는 모집단이 결정됩니다. 데이터 품질이 좋지 않은 것은 단순히 기술적인 문제가 아닙니다. 데이터 격차가 특정 인구 통계 그룹에 체계적으로 저하되면 공정성 문제가 됩니다.

  • 데이터 가용성에 대한 필수 필드 검토. 필수 필드가 인구 통계에 따라 다른 정보 가용성을 가정하면 데이터 완결성이 차별화됩니다. 불완전한 레코드를 거부하는 시스템에서는 필수 정보를 제공할 수 없는 사용자가 표시되지 않습니다.
    • 이메일 주소를 요구하면 신뢰할 수 있는 인터넷 액세스 또는 개인 이메일 주소가 없는 모집단이 제외됩니다.
    • 미국 사회 보장 번호(SSN) 요구는 아직 SSN을 발급하지 않은 국제 고객 및 최근 이민자를 제외합니다.
    • 번지 주소를 필수로 지정하면 노숙자 및 비번지 주소가 있는 사용자가 제외됩니다.
  • 필수 필드에 대한 비즈니스 근거를 감사합니다. 모든 필수 필드에 대해 옵션이 아닌 정보가 필수인 이유를 문서화하는 것이 중요합니다. 프로세스가 대체 접근 방식을 통해 특정 데이터 없이 작동할 수 있는 경우 해당 필드를 선택 사항으로 지정하고 누락된 값을 정상적으로 처리하도록 시스템을 설계합니다. 이렇게 하면 해당 데이터를 제공할 수 없는 사용자가 제외되지 않도록 할 수 있습니다.

서부 명명 규칙(성 없이, 성 없이)을 따르는 이름 필드는 다른 명명 관행을 사용하는 문화를 제외할 수 있습니다.

많은 문화에서 다음을 사용합니다.

  • 이름이 없는 단일 이름 또는 동의어
  • “성”이 생성적으로 변경되는 명명 시스템
  • 다중 지정된 이름 또는 성
  • 라이프 이벤트 또는 소셜 컨텍스트에 따라 변경되는 이름
  • “first” 및 “last”가 문화적으로 무의미한 구분인 이름

단일 전체 이름 필드 또는 공통의 명명 규칙을 수용하는 유연한 다중 부분 구조를 사용하여 이름 아키텍처를 설계합니다. 이름 순서, 상속 패턴 또는 문화 규칙에 대해 가정하지 마십시오.

다양한 국제 이름을 사용하여 이름 필드가 다음을 허용하는지 테스트합니다.

  • 단일 단어 이름(예: Sukarno, Cher 및 Teller)
  • 일반 필드 길이 제한을 초과하는 긴 이름
  • 대화 상자, 아포스트로프, 하이픈 및 공백이 있는 이름
  • 비라틴어 스크립트가 있는 이름(예: 아랍어, 중국어, 키릴어, 데바나가리)

이름 확인이 사용자의 정당한 이름을 거부하면 문화적 정체성을 기반으로 하는 시스템 거부가 발생합니다.

주소 확인 서비스는 미국 및 서유럽 형식에 최적화된 경우가 많으며 다음을 인식하지 못하는 경우가 많습니다.

  • 필드 순서가 다른 국제 주소 형식
  • 번지 이름이 없는 지역 주소
  • 군사 주소(예: APO 및 FPO)
  • PO 상자 및 대체 배달 위치
  • 고유한 주소 시스템이 있는 부족지
  • 주소 구성 요소의 비라틴 스크립트가 있는 국가

주소 확인이 비정상적인 주소 형식을 거부하면 주소가 확인 데이터베이스의 기대치와 일치하지 않는 사용자의 계정 생성, 배송, 서비스 제공이 차단됩니다.

다음은 접근성에 유의하여 주소 유효성 검사를 설계하는 몇 가지 방법입니다.

  • 권한 주소 유효성 검사를 구현합니다.
  • 구조화된 확인이 실패할 경우 자유 형식 주소 입력을 허용합니다.
  • 사용자가 잘못된 내용을 수정하도록 강제 적용하지 않고 사용자가 입력한 그대로 주소를 저장합니다.
  • 주소 유효성 검사를 사용하여 데이터 보강 및 중복 감지를 수행하고 주소 서식을 확인하지 않습니다.

데이터 캡처를 사전에 차단하는 대신 주소 확인을 처리 프로세스에 구축하여 주소 정확도가 운영적으로 중요합니다.

특정 통신 채널에 대한 범용 액세스 가정은 기술 액세스 또는 기본 설정이 다른 모집단을 제외합니다.

이메일 전용 커뮤니케이션은 다음을 제외합니다.

  • 신뢰할 수 있는 인터넷 액세스 권한이 없는 사용자
  • 이메일 사용에 불편한 노인
  • SMS 또는 Messaging 앱이 기본 커뮤니케이션 방법인 지역의 사용자

전화 전용 통신은 다음을 제외합니다.

  • 청각 장애가 있고 청각 장애가 있는 사용자
  • 전화 액세스 권한이 없는 사용자 또는 공유 전화기를 사용하는 사용자

사용자가 채널 기본 설정을 제어할 수 있는 옴니채널 통신 아키텍처를 설계합니다. 연락처 레코드에 선호하는 커뮤니케이션 방법을 저장하고 모든 아웃바운드 커뮤니케이션 시스템 전반의 기본 설정을 일관되게 준수합니다. 단일 채널 메서드가 전체적으로 작동한다고 가정하는 대신 다양한 커뮤니케이션 대안을 제공합니다.

공정성 모니터링을 위해 인구 통계 데이터를 수집하려면 오용을 방지하기 위해 주의 깊은 아키텍처가 필요합니다.

인구 통계 데이터의 수집 및 처리는 관할에 따라 다르며 법적으로 제한됩니다(EU에서 GDPR 9조에서는 특정 법적 근거가 필요한 특수 범주 데이터로 취급됩니다. 미국에서는 편향 모니터링이 일반적으로 자발적인 EEO 자체 식별에 의존합니다). 법적 근거가 있는 조직은 인구 통계 데이터를 사용하여 다음을 수행합니다.

  • 보호된 그룹별로 계층화된 공정성 메트릭 모니터링
  • 자동화 및 AI 시스템에서 편향 감지
  • 차별 방지 요구 사항에 대한 규제 준수 증명

인구 통계 데이터를 수집하면 다음과 같은 특정 위험이 발생합니다.

  • 액세스 제어에 실패한 경우 데이터를 차별적인 목적으로 사용할 수 있음
  • 사용자가 수집 방법을 신뢰하지 못하고 부정확한 데이터를 제공할 수 있음
  • 컬렉션이 침입적이거나 차별적일 수 있음

다음 정보를 사용하여 자발적 자가 식별을 설계하고 인구 통계 데이터 컬렉션을 설계합니다.

  • 투명한 목적으로 명확하게 설명(예: 공정성 모니터링 또는 규정 준수 보고)
  • 자발적이며 항상 사용 가능한 “응답하지 않음” 옵션을 포함합니다.
  • 부적절한 액세스를 방지하기 위해 엄격한 FLS를 사용하여 운영 데이터와 분리
  • 보고 및 분석을 위해 집계되며 개별 결정에 연결되지 않음
  • 액세스 패턴 감사를 위해 Shield 이벤트 모니터링을 통해 모니터링

개인정보 보호정책에서 인구 통계 데이터가 어떻게 사용될지 또는 사용되지 않을지 정확하게 문서화하는 것이 중요합니다. 공개되지 않은 데이터 사용을 통해 사용자 Trust 위반하면 신뢰도가 심각하게 손상될 수 있으므로 복구하기가 어렵습니다.

Salesforce 레코드에 인구 통계, 펌프 통계 또는 행동 데이터를 추가하는 타사 데이터 보강은 다음을 통해 편향을 야기할 수 있습니다.

  • 정형적 유형을 기반으로 하는 부정확한 추론
  • 인구 통계와 관련된 격차가 있는 불완전한 적용 범위
  • 알 수 없는 공정성 속성을 사용하는 독점적 알고리즘
  • 편향된 내역 레코드에서 가져온 데이터

데이터 보강 서비스를 구현하기 전에 다음을 감사해야 합니다.

  • 공급업체 공정성 테스트 및 편차 완화 관행
  • 인구 통계 그룹 전반의 데이터 적용 범위 및 정확도
  • 예측 생성에 사용되는 유추 방법론 및 기능
  • 계약상 데이터 사용 제한 및 보존 정책

타사 데이터가 Salesforce 조직에 들어오면 결정에 영향을 미치므로 공급업체가 도입한 편향이 발생할 수 있으며, 이는 조직에서도 편향으로 반영됩니다.

Salesforce 컨텍스트에서 액세스 가능성은 장애가 있는 사용자를 위해 작동하는 Lightning 웹 구성 요소, Visualforce 페이지 및 Experience Cloud 사이트를 구성하는 것을 의미합니다. 표준 Lightning 구성 요소는 올바르게 사용할 경우 기본 액세스 가능성을 제공하지만 사용자 정의 개발 및 Experience Cloud 구성은 명시적인 액세스 가능성 구현이 필요합니다.

Lightning Design System 구성 요소는 설계된 대로 사용될 때 WCAG 2.2 AA 규정 준수를 지원하도록 설계되었습니다. Salesforce는 완벽한 규정 준수를 위해 노력하지만 인증하지는 않습니다. 액세스 가능성 고려 없이 SLDS 패턴이나 맞춤형 구성 요소를 구축하는 것은 장애가 있는 사용자에게 장벽을 만듭니다.

표준 Lightning 웹 구성 요소는 내장된 액세스 가능성을 제공합니다. Lightning, Lightning, Lightning, Lightning 같은 구성 요소에는 적절한 ARIA 특성, 레이블 연결, 키보드 탐색, 초점 관리가 자동으로 포함됩니다. 가능한 경우 유사한 모양이지만 적절한 접근성 인프라가 부족할 수 있는 사용자 정의 대안을 구축하는 대신 표준 구성 요소를 사용하십시오.

  • 사용자 정의 Lightning 웹 구성 요소에서 시맨틱 HTML 사용하기. 사용자 정의 구성 요소를 구축할 때 혼동스럽게 중첩된
    구성 요소가 아닌 시맨틱 HTML 요소(
    ,
  • 사용자 정의 구성 요소에서 ARIA 구현. 시맨틱 HTML이 인터페이스 동작을 전달할 수 없는 경우 ARIA 랜드마크, 역할, 속성을 적용합니다. 동적 콘텐츠를 업데이트하려면 화면 판독기에 변경 사항을 알리는 aria-live 지역이 필요합니다. 사용자 정의 대화형 구성 요소는 동작과 일치하는 명시적 역할 정의가 필요합니다. Lightning 기본 구성 요소는 ARIA를 자동으로 처리하지만 사용자 지정 구성 요소는 화면 판독기 테스트를 통해 수동 ARIA 검증이 필요합니다.
  • 보조 기술로 시험: 실제 화면 판독기를 사용하여 Lightning 구성 요소를 검증합니다(예: JAWS 및 NVDA for Windows, VoiceOver for macOS 및 iOS, TalkBack for Android). Deque의 대규모 연구에 따르면, axe-core와 같은 자동화된 도구는 볼륨별로 접근성 문제의 약 57%를 포착합니다. 나머지 문제는 화면 판독기 탐색 패턴을 이해하는 사용자가 보조 기술을 사용하여 수동으로 테스트해야 합니다.
  • Lightning 플로에서 초점 관리를 사용합니다. 모달이 열리거나 동적 콘텐츠가 로드되거나 사용자가 다단계 플로를 완료할 때 키보드 사용자에게 새 콘텐츠를 안내하기 위해 초점을 프로그래밍 방식으로 관리해야 합니다. Lightning 모달 및 팝오버 구성 요소는 기본적인 포커스 관리 기능을 제공하지만 복잡한 플로에서는 콘텐츠 변경 시 포커스를 적절하게 이동하려면 명시적인 포커스 논리가 필요합니다.

Experience Cloud 사이트는 ADA, Section 508 및/또는 European Accessibility Act 요건을 충족해야 할 수 있는 액세스 가능한 디자인이 필요한 외부 사용자(고객, 파트너 및 공중 대상 그룹 포함)를 제공합니다(권한, 대상 그룹 및 조직 유형에 따라 다릅니다).

  • 액세스 가능한 템플릿 사용하기. Lightning Web Runtime(LWR)을 사용하여 구축된 Experience Cloud 템플릿에는 기본 액세스 가능성이 포함되어 있습니다. 고객 계정 포털 및 도움말 센터와 같은 표준 템플릿은 올바르게 구성된 경우 WCAG 2.2 AA 기반을 제공합니다. 사용자 정의 템플릿은 시맨틱 마크업, 키보드 탐색, 화면 판독기 호환성을 포함하여 명시적인 액세스 가능성을 구현해야 합니다.
  • Themeing에서 WCAG 준수 확인. 사용자 정의 테마 및 브랜드화된 사이트에는 색 대비 유효성 검사가 필요합니다. 익스피리언스 빌더의 테마 설정은 색상, 오타그래픽, 간격을 제어합니다. 모든 텍스트가 정상 텍스트(정규 텍스트의 경우 18pt 미만 또는 굵은 텍스트의 경우 14pt 미만) 및 대형 텍스트(정규 텍스트의 경우 18pt 이상, 굵은 텍스트의 경우 14pt 이상) 및 UI 구성 요소의 경우 3:1의 대비를 충족하는지 확인합니다. 브라우저 개발자 도구 또는 온라인 대비 검사를 사용하여 규정 준수 여부를 확인합니다. 브라우저 확대/축소를 통해 200%까지 테스트하여 콘텐츠 또는 기능을 손실하지 않고 텍스트의 크기를 조정하십시오.
  • 탐색 메뉴에서 키보드 탐색을 사용합니다. Experience Cloud 탐색 구성 요소는 마우스 종속성 없이 키보드 전용 작업을 지원해야 합니다. 사용자는 포커스 트랩 없이 Tab, Enter, Escape 및 화살표 키를 사용하여 드롭다운 메뉴, 메가 메뉴, 플라이아웃 탐색을 탐색하거나 탐색해야 합니다. 키보드만 사용하여 모든 탐색 경로를 테스트하여 액세스 가능성을 확인합니다.
  • Experience Cloud에서 양식 접근성을 활성화합니다. 적절한 레이블 요소 또는 aria-labelledby를 사용하여 레이블을 모든 양식 입력과 명시적으로 연결합니다. 자체적으로 자리 표시자 텍스트는 데이터 입력이 시작되는 즉시 텍스트가 사라지므로 접근성 요구 사항이 실패하므로 화면 판독기 사용자에게 충분하고 지속적인 컨텍스트가 없습니다. Lightning 입력 구성 요소는 필수 레이블 특성을 사용하여 구성된 경우 내장된 레이블 연결을 제공합니다. 사용자 정의 Visualforce 양식에는 명시적 label-input 연결이 필요합니다.
  • 보조 기술을 사용하여 Experience Cloud 사이트 테스트. 공개 Experience Cloud 사이트를 시작하기 전에 화면 판독기, 키보드 전용 탐색, 브라우저 확대/축소를 사용하여 포괄적인 접근성 테스트를 수행해야 합니다. 장애가 있는 사용자를 유용성 테스트에 포함하여 전문가 검토에서 놓칠 수 있는 실용적인 환경 배리어를 파악하는 것이 중요합니다. 외부 Experience Cloud 접근성을 검증하지 않고 내부 Lightning 페이지만 테스트하면 공개 사이트가 접근성 불만 및 소송에 취약해집니다.
  • 이미지 및 아이콘에 대체 텍스트를 사용합니다. Experience Cloud의 모든 정보가 담긴 이미지, 아이콘 및 그래픽 콘텐츠에는 대체 텍스트가 필요합니다. 장식 이미지는 빈 대체 텍스트(alt="")를 사용하므로 화면 판독기가 건너뛰게 할 수 있습니다. 정보 이미지는 콘텐츠 및 기능을 설명하는 의미 있는 대체 텍스트를 제공합니다. 아이콘에 대한 대체 텍스트를 작성할 때 시각적 모양이 아닌 아이콘의 작업 또는 목적에 초점을 맞춥니다(예: 돋보기 아이콘을 “돋보기”로 설명하는 대신 대체 텍스트에 “검색 사이트”와 같은 기능 유틸리티를 명시해야 합니다). 이미지를 관리할 때 CMS는 콘텐츠 작성자에게 대체 텍스트를 입력하라는 메시지를 표시하거나 이미지를 장식으로 명시적으로 표시해야 합니다(alt=”). 이렇게 하면 미학적 이미지에 대한 대체 텍스트 및 강제 설명이 누락되는 것을 방지하여 접근성을 보장할 수 있습니다.

완벽한 키보드 액세스 가능성은 사용자가 언제든지 마우스 또는 터치 상호 작용 없이 키보드를 사용하여 모든 기능에 액세스할 수 있음을 의미합니다.

  • Lightning 페이지에서 논리적 초점 순서 사용하기. 포커스 순서가 시각적 레이아웃 및 상호 작용 플로를 따르는지 확인합니다. 사용자가 탭을 누르면 시각적 디자인을 기반으로 사용자가 기대하는 순서대로 시각적 초점이 대화형 요소를 통해 이동해야 합니다. Lightning 앱 빌더 및 익스피리언스 빌더는 구성 요소 배치를 기반으로 포커스 순서를 설정합니다. 사용자 정의 구성 요소는 논리적 포커스 진행을 보장하기 위해 명시적인 tabindex 관리를 필요로 합니다.
  • 명확한 초점 표시기를 사용하여 명암조 요구 사항을 충족합니다. Lightning Design System은 대부분의 구성 요소에 대한 WCAG 요구 사항을 충족하는 초점 스타일을 제공합니다. 사용자 정의 구성 요소는 주변 콘텐츠에 대한 3:1 대비 요구 사항을 충족하려면 고급 포커스 지표가 필요할 수 있습니다. 시력이 낮은 사용자가 키보드를 통해 탐색할 수 있도록 포커스 표시기가 명확하게 표시되어야 합니다. 다른 가시 포커스 스타일링을 제공하지 않고도 CSS를 사용하여 초점 표시기를 제거하지 마십시오(개요: 없음).
  • 모달 및 오버레이에서 키보드 랩 완화 기능 사용하기. 모달 대화 상자는 모달이 열려 있는 동안 모달 내에 포커스를 붙잡아 키보드 사용자가 숨겨진 백그라운드 콘텐츠에 접근하지 못하도록 합니다. 모달 종료 시 포커스 트랩이 릴리스되고 트리거 요소에 포커스를 반환해야 합니다. iframe 및 타사 위젯 등 내장형 콘텐츠는 이스케이프 메커니즘 없이 키보드 포커스를 영구적으로 캡처할 수 없습니다.
  • 충돌 없이 바로 가기 키를 사용하십시오. Lightning Salesforce 도움말에 명시된 표준 키보드 바로 가기를 제공합니다. 사용자 정의 키보드 바로 가기는 표준 브라우저 컨트롤 및 화면 판독기 탐색 명령과 충돌을 방지하도록 설계되어야 합니다. WCAG 성공 기준에 따라 단일 문자 바로 가기(예: 단일 문자 또는 문장 부호 누르기)는 전역 작업을 트리거하지 않아야 합니다. 특정 구성 요소에 활성 포커스가 있는 경우로 활성화를 제한하거나 사용자에게 바로 가기를 완전히 해제하거나 다시 매핑할 수 있는 방법을 제공해야 합니다.

CI/CD 파이프라인에 액세스 가능성 검증을 구축하여 액세스 가능성을 정기적인 수동 감사로 처리하는 대신 모든 배포에서 구조적 문제를 자동으로 찾습니다.

  • Lightning 웹 구성 요소 접근성 테스트에 sa11y를 사용합니다. Salesforce의 sa11y 라이브러리(@sa11y/jest 패키지)는 Axe-core 액세스 가능성 엔진을 래핑하여 Jest 단위 테스트에 toBeAccessible() 일치를 추가합니다. 단위 테스트의 일부로 적절한 ARIA 사용, 레이블 연결, 대비 비율, 시맨틱 마크업을 자동으로 확인하는 액세스 가능성 테스트를 작성합니다. 중요 액세스 가능성 문제가 감지되면 빌드가 실패하도록 구성합니다.
  • Experience Cloud용 Lighthouse CI 사용하기. Google Lighthouse는 Experience Cloud 사이트 등 웹 페이지 액세스 가능성을 감사합니다. Lighthouse CI를 배포 파이프라인에 통합하여 공용 페이지의 접근성 문제를 스캔합니다. 배포 승인을 받기 전에 최소 액세스 가능성 점수를 요구하도록 점수 임계값을 구성합니다.
  • Salesforce DX MCP 패키지를 통해 액세스 가능성 에이전트를 사용합니다. MCP 호환 환경 또는 Agentforce Vibes 내에서 WCAG 표준에 맞게 코드를 검토하고, 표적 수정 사항을 표시하며, 엔지니어가 검토, 검증 및 병합할 수 있도록 가져오기 요청을 생성할 수 있습니다.

결정적 Salesforce 자동화에서 편향은 AI가 사진을 찍기 오래 전에 존재했습니다. 할당 규칙, 플로 결정, 확인 규칙 및 영역 설계는 차별을 지속할 수 있는 인간의 판단을 인코딩합니다. 아키텍처가 철저하게 검사하는 AI 편차와 달리 자동화 편차는 결정적 논리가 객관적인 것으로 간주되므로 검사되지 않는 경우가 많습니다.

  • 리드 및 사례 할당 규칙을 따르십시오. 세일즈 및 서비스 팀 전체에서 작업을 배포합니다. 할당 논리가 보호된 특성과 연관된 기준을 사용하면 자동화가 서비스 품질 및 기회 액세스에 체계적인 차이를 야기합니다.
  • 영역, 우편 번호 또는 계정 특성을 사용하는 할당 규칙은 가치가 낮은 작업을 다른 곳에 라우팅하는 동안 특정 팀에 비례하게 중요한 기회를 라우팅할 수 있습니다. 영역 경계가 영역에 따라 다른 고객 인구 통계 및 보상 구조와 연관되어 있는 경우 할당 자동화가 경제적 차별을 야기합니다.
  • 할당 규칙 결과를 정기적으로 감사합니다. 고객 인구 통계에 따라 계층화된 영역 및 팀 전반의 할당 분포를 계산합니다. 엔터프라이즈 계정이 특정 영역에 집중되고 중소기업 계정이 다른 곳에 배포되는 경우 및 엔터프라이즈 영역이 더 나은 보상 또는 자원을 받는 경우 할당 규칙이 불공평한 결과를 유발하여 공정한 검토를 보장할 수 있습니다.
  • 옴니채널 기술 기반 라우팅 검토. 이는 고객 모집단 전반의 서비스 품질에 영향을 미칠 수 있습니다. 라우팅 논리가 특정 기술이 고객 가치 또는 문제 복잡성과 연관되어 있다고 암시적으로 가정하는 경우 고객은 인구 통계 프록시에 따라 다른 서비스 결과를 받을 수 있습니다.

라우팅 경로 전반에서 평균 처리 시간, 최초 연락 해결, 고객 만족도를 모니터링하는 것이 중요합니다. 차이점은 특정 고객 세그먼트가 체계적으로 경험이 낮은 에이전트를 받는지 아니면 라우팅 옵션을 줄이는지 여부를 나타낼 수 있습니다.

  • Salesforce 플로 자동화 검토. 승인 결정, 자격 결정 또는 액세스 보조금을 내리면 유해하게 보이는 비즈니스 규칙을 통해 차별 논리를 인코딩할 수 있습니다. 특정 플로는 기준이 보호된 특성과 연관되어 있는 경우 간접 차별을 야기합니다.
  • 공정성을 고려하여 Flow 결정 검토. 사용자에게 영향을 미치는 결과적 결정을 내리는 모든 플로의 경우 다음을 물어야 합니다.
  • 일반적인 고객 프로필과 일치하지 않는 사용자는 어떻게 될까요?
  • 결정 기준이 인구 통계 특성과 연관되어 있습니까?
  • 예외 및 가장자리 사례가 공평하게 처리되었습니까? 아니면 특정 그룹이 체계적으로 저하되었습니까?

플로 결정 논리 및 공정성 고려 사항을 아키텍처 결정 레코드에 문서화하고 중요 플로를 AI 시스템과 동일한 윤리 검토 정책에 적용하는 것이 중요합니다.

  • 확인 규칙 검토. 데이터 입력을 방지하면 정보가 시스템 가정과 일치하지 않는 사용자의 유효한 데이터가 제외될 수 있습니다. 합법적인 데이터를 거부하는 확인 규칙은 보이지 않는 모집단을 만듭니다. 데이터가 확인 패턴과 일치하지 않는 사용자는 특정 시스템에 연결할 수 없습니다. 사용자가 기술 오류를 보고하지 않고 요청을 중단하므로 확인 실패는 보고되지 않는 경우가 많습니다. 다음은 몇 가지 일반적인 확인 편향 패턴입니다.
  • 라틴 문자가 필요한 이름 유효성 검사는 대화 상자 및 비 라틴 스크립트가 있는 이름을 제외할 수 있습니다.
  • 전화 번호 유효성 검사는 종종 미국/서양 형식을 사용하며, 이는 국제 번호 및 대체 통신 방법을 제외합니다.
  • 주소 확인 시 비표준 주소(예: PO 상자, 농촌 경로, 부족지, 국제 형식)를 인식하지 못합니다.
  • 개인 이메일 주소가 필요한 이메일 확인은 개인 이메일 액세스 권한이 없는 사용자에게 불만을 야기할 수 있습니다.
  • 다양한 데이터를 사용하여 검증 규칙 테스트. 국제 주소, 비서양 이름, 대체 전화 형식을 확인 테스트에 포함합니다. 확인에서 합법적인 데이터를 거부하는 경우 유효한 사용자를 제외하지 않도록 확인 논리를 확장해야 합니다.
  • 판매 영역 디자인 검토. 고객 세분화 전략 및 세일즈 영역 설계에 따라 고객 모집단 전반의 자원 할당이 결정됩니다. 영역 경계 또는 세분화 기준이 인구 통계와 연관되어 자원 할당이 불균등할 경우 해당 할당으로 인해 차별적인 결과가 발생할 수 있습니다. 지리적 경계를 사용하는 영역 디자인은 주거 구분 패턴으로 인해 인종, 민족, 경제 인구 통계와 관련이 있는 경우가 많습니다. 영역에 따라 보상, 직원 배치 수준 또는 자원 투자가 다를 경우 지역이 차별화 자원 할당의 메커니즘이 될 수 있습니다.
  • 설계하기 전에 영역 인구 통계를 분석합니다. 제안된 영역 경계 전반에 걸쳐 고객 인구 통계를 매핑합니다. 인구 통계 집약도가 나타나면 인구 통계 구성에 관계없이 모든 영역에서 자원 할당이 공정한지 평가합니다. 비즈니스 사유에 따라 영역 전반에 걸쳐 다른 자원 수준이 필요할 경우(예: 시장 성숙도, 경쟁 집약도, 성장 가능성) 해당 사유를 명시적으로 문서화하고 결과를 모니터링하여 서비스가 부족한 영역에 적절한 투자 기회를 제공하여 고정된 차이를 방지합니다.
  • 자동화 논리의 투명성을 유지합니다. Salesforce Knowledge 또는 아키텍처 결정 레코드에 비즈니스 규칙, 할당 기준, 플로 결정 논리를 문서화합니다. 투명한 자동화를 사용하면 숨겨진 논리가 방지하는 방식으로 공정성을 검토할 수 있습니다.
  • 정기적으로 결과 감사. 분기별 감사 일정을 예약하여 고객 인구 통계에 따라 계층화될 수 있는 자동화 결과를 분석합니다. 차이점은 조사 및 잠재적인 조치를 트리거한다는 점에 유의하십시오.
  • 다음을 추적하는 것이 중요합니다.
  • 팀 및 영역 전반의 할당 배포
  • 자격 결정을 내리는 플로의 승인율
  • 데이터 패턴별 확인 규칙 거부율
  • 영역 성과 및 자원 할당
  • 이티컬 렌즈를 통해 높은 지분의 자동화 검토. AI 시스템과 동일한 윤리 검토 프로세스에 대한 고용, 신용, 서비스 액세스 또는 기타 결과에 영향을 미치는 주제 플로 및 할당 규칙입니다. 자동화 편차는 알고리즘 편차와 동일한 수준의 검사가 필요합니다.

Salesforce에서 AI 공정성은 Einstein 사용하여 예측이 모든 인구 통계 그룹 전반에서 공정한 결과를 생성하는지 확인하는 데 중점을 둡니다. Einstein Discovery 및 맞춤형 장비는 편향 감지를 지원하는 예측 모델 결정 데이터를 수집합니다. CRM Analytics 대시보드는 공정성 메트릭을 추적합니다. 필드 감사 내역 및 이벤트 모니터링은 알고리즘 책임을 위한 결정 데이터를 수집합니다.

결과적 결정에 영향을 미치는 Einstein 예측(예: 리드 점수 매기기, 기회 예측, 고객 세분화)에는 배포 전의 공정성 평가가 필요하며, 이는 필수 동등한 단계로 작동합니다(보안 검토와 유사).

통계 방법을 사용하여 모든 예측 모델 기능을 분석하여 보호된 특성과 상관 관계를 확인합니다. 프록시 효과에도 불구하고 예측 값이 포함을 정당화하는지 여부를 평가한 후 프록시 기능을 제거하거나 변환합니다.

  • 교육 전에 Salesforce CRM 데이터를 감사하십시오. Salesforce 조직에는 과거 관행을 기반으로 하는 수십 년간의 인적 결정을 포함합니다. 이전 판매 팀이 특정 인구 통계 요소의 우선 순위를 지정한 경우 Einstein 리드 점수 매기기가 이러한 패턴을 학습하고 영구화합니다. 내역 데이터에 대한 예측 모델을 교육하기 전에 고객 세그먼트 전반의 인구 통계 표현 차이 및 측정 불일치 여부에 대해 해당 데이터를 감사해야 합니다.
  • 인구 그룹 간의 공정도 메트릭을 계산합니다. 예측 모델을 배포하기 전에 필요한 인구 통계 데이터를 수집하고 처리할 수 있는 법적 근거가 있는 보호된 그룹 전반에서 인구 통계 패리티, 동일한 기회, 편파 효과 비율을 계산해야 합니다. Einstein 리드 점수 매기기에서 A 세그먼트에 50%의 높은 점수를 할당하지만 B 세그먼트에만 30%의 시간을 할당하는 경우 60% 비율은 4/5 규칙 (80%)을 실패하고 조사 및 완화가 필요합니다. 80% 수치는 검사 트리거가 아니라 법적 통과/실패선입니다. 5분의 4 규칙은 고용 선택을 위한 미국 연방 엄지 규칙이며, 정지하는 것은 안전한 항구가 아닙니다. 통계적으로 중요한 차이는 더 높은 비율로 검사할 수 있으며, 다른 규칙은 부정적인 영향을 다르게 측정합니다(예: EU 간접적 차별법은 특정 관행이 고정 임계값 없이 “특별한 단점”을 만드는지 여부를 결정합니다). 운영 중인 관할 지역 및 사용 사례에 대한 조사 임계값을 조정합니다.
  • 차이즈 감지를 위한 예측 모델 결정 데이터 캡처. 리드 점수 매기기 및 기회 점수 매기기와 같은 예측 모델에서 편향을 감지하려면 Einstein Discovery 및 사용자 정의 기기를 통해 결정 데이터를 수집합니다. 예측 입력, 출력, 모델 버전을 추적된 필드에 저장하고 필드 감사 추적을 활성화합니다. CRM Analytics에서 해당 데이터를 분석하여 시간 경과에 따른 인구 통계 그룹의 의사 결정 패턴을 추적하고 인구 통계 패리티 또는 동등 기회 메트릭이 허용 가능한 임계값을 초과할 때 경고를 보내는 대시보드를 구축합니다.
  • 예측 모델에서 프록시 기능을 감지합니다. 보호된 특성과 연관된 기능은 모델에서 보호된 특성이 제외된 경우에도 간접적 차별을 활성화합니다.
    • Salesforce 데이터에는 일반적으로 프록시 기능이 포함됩니다.
  • 영역 또는 우편 번호(인종, 민족, 소득 프록시)
  • 계정 이름 패턴(조직 규모 및 산업 인구 통계에 대한 프록시)
  • 커뮤니케이션 활동 시간(시간대, 종교, 간호 책임 프록시)
  • 활동 데이터의 장치 유형 또는 브라우저(수입 수준 프록시)

Einstein 예측에서 편향이 감지되면 적절한 파이프라인 스테이지에서 완화 기능을 적용해야 합니다( 근본 원인 및 기술적 제약 사항 기준).

  • 모델 교육 전의 균형 데이터. 예측 모델을 교육하기 전에 과도하게 대표되는 고객 세그먼트를 샘플링하거나 과도하게 대표되는 세그먼트를 샘플링하여 Salesforce CRM 데이터의 균형을 조정합니다. Data 360을 사용하여 여러 조직에서 데이터를 집계하여 다양한 교육 집합을 보장합니다. 합성 데이터 생성은 차별화된 개인 정보 보호 기법을 통해 개인 정보를 보호하면서 희귀 세그먼트를 보완할 수 있습니다.
  • 기능 엔지니어링에서 프록시를 제거합니다. 프록시 기능이 식별되면 인구 통계 상관 관계 없이 예측 기능을 제공하는 대체 기능으로 대체합니다. 영역이 인구 통계 프록시 역할을 하는 경우 산업 분류 또는 회사 크기를 대안으로 고려하십시오. 계정 이름 패턴이 인구 통계와 연관되어 있는 경우 대신 firmographic 특성을 사용하십시오.
  • 후처리 시 임계값 조정. 인구 통계 세그먼트당 결정 임계값을 조정하여 모델 교육 후 결과율을 균등화합니다. 고용 관련 결정의 경우 다음은 금지됩니다. 7장(1991년 시민권법)은 점수를 조정하거나 보호 등급별로 다른 컷오프 점수를 사용하는 것을 금지하며, 문서화된 정당성은 이 관행을 합법화하지 않습니다. 금지되지 않은 경우 예측이 자동화된 결정을 알리는 경우 차별 처리에 대한 비즈니스 근거와 함께 임계값 조정을 문서화합니다.
  • 업데이트된 데이터를 사용하여 모델을 정기적으로 재교육합니다. 분기별(또는 중요한 데이터 배포 교대 근무가 발생할 경우) 모델 재교육을 예약합니다. 새 데이터에 대한 재교육은 새로운 편향 패턴을 포착하고 원래 공정성 기준에서 드리프트를 수정합니다. 프로덕션 배포 전에 모든 모델 버전에 대한 공정성 메트릭을 다시 확인하여 재교육 시 새로운 편차가 발생하지 않도록 합니다.

Einstein Trust Layer는 생성형 AI 및 Agentforce 기능에 대한 프롬프트, 응답 및 Trust 신호를 수집하여 생성형 AI에 대한 투명성과 규정 준수를 지원합니다. 예측 모델의 경우 투명성과 의사 결정은 Einstein Discovery 및 Model Manager에서 가져옵니다. 감사 데이터를 보존하기 위해 사용자 지정 기기가 필요합니다.

배포 후 불투명 시스템에 설명을 다시 맞추는 대신 초기 아키텍처에서 Einstein 솔루션에 설명 가능성을 구축합니다.

  • 결정 지점에서 Einstein Discovery 설명을 표면화합니다. Einstein Discovery 방향적 영향을 미치는 특정 예측에 가장 영향을 미친 변수를 보여주는 예측 요소 설명을 제공합니다. CRM Analytics 대시보드를 분리하기 위한 탐색이 필요하지 않고 결정 시 사용자에게 이러한 설명을 표시하는 Lightning 구성 요소를 구성합니다. 결정이 사용자에게 영향을 미치는 경우 추상 모델 성능 메트릭이 아닌 투명성이 필요합니다.
  • 다양한 대상 그룹에 대한 레이어 설명. 각 대상 그룹에 적합한 설명 깊이를 제공합니다.
  • 기업 사용자: “연간 매출이 $1백만을 초과하고 참여 점수가 상위 10%에 속하므로 이 리드가 높은 점수를 기록했습니다.”
  • 기술 사용자: Einstein Discovery 모델 카드에 기능 가중치, 교육 데이터 특성 및 유효성 검사 메트릭을 제공합니다.
  • 고객: “이 권장 사항은 최근 구매 및 기본 설정이 유사한 고객을 기반으로 합니다.”
  • ** 감사자:** Einstein Discovery 및 Model Manager의 의사 결정 계보(모델 버전, 입력 값 및 예측을 촉진한 요소)를 사용자 지정 기기를 통해 수집합니다.
  • 신뢰를 적절하게 전달하십시오. 사용자 적절한 용어로 예측 신뢰도를 표시하고 사용자가 잘못 해석할 수 있는 원시 성공 확률 점수를 방지합니다. “73% 신뢰도”를 표시하는 대신 카테고리(예: 높은 신뢰도, 보통 신뢰도, 검토 요구 사항)를 사용하여 각 신뢰도 수준이 의사 결정 신뢰도에 미치는 영향과 추가 검토가 발생하는 영향에 대한 설명과 함께 이를 전달합니다.

사용자에게 영향을 미치는 모든 AI 기반 결정에 대한 책임, 디버깅, 규제 준수를 지원하는 종합적이고 변경할 수 없는 감사 추적을 유지합니다.

  • 적절한 도구를 사용하여 예측 감사 데이터를 수집합니다. 필드 감사 내역이 활성화된 추적된 필드에 예측 모델 감사 데이터(예측 입력, 출력, 모델 버전)를 저장합니다. 데이터 보존 정책을 구성하여 산업 및 관할에 따라 다를 수 있는 규제 요구 사항을 충족합니다.
    • Financial-services 규칙은 규정별로 보존을 설정합니다(예: FINRA 규칙 4511(b)은 다른 경우 FINRA 규칙 또는 SEA 규칙 17a-4에 따라 지정된 보존 기간이 없는 기록에 대해 기본 6년 보존 기간을 설정합니다).
    • 의료 서비스 보존은 일반적인 무기한 보존 의무가 아닌 특정 규칙에 따라 규제됩니다(예: HIPAA는 규정 준수 문서에 대해 최소 6년을 요구하며, 의료 기록 보존은 각 주 법에 의해 규정됩니다).
  • CRM Analytics를 사용하여 예측 모델 결정 데이터를 분석합니다. 수집한 예측 모델 결정 데이터(예측 입력, 출력, 추적된 필드의 모델 버전)에 대해 CRM Analytics 대시보드를 구축하여 시간에 따른 의사 결정 패턴, 공정성 메트릭, 모델 성과를 분석합니다. 신뢰 수준, 인구 통계 세그먼트, 결과 유형별로 예측 분포를 표시하는 렌즈를 만듭니다. 추가 조사를 필요로 하는 변칙적인 패턴을 식별하는 Einstein Discovery 스토리지를 구성합니다.
  • 장기 보존을 위해 현장 감사 내역을 사용합니다. 표준 필드 내역은 UI에서 18개월 동안 및 API를 통해 최대 24개월 동안의 변경 사항을 추적합니다. 필드 감사 내역을 사용하면 AI 결정 데이터를 저장하는 사용자 정의 개체에 대해 필드 내역을 무기한으로 유지할 수 있습니다. 기본적으로 최대 18개월 후에 내역을 보관한 다음, 삭제할 때까지 보관된 데이터를 보관합니다. 동의 레코드, 재정의 결정, 편향 보고서를 포함하는 개체에 대해 필드 감사 내역을 활성화하여 규제 보존 요구 사항을 충족합니다.
  • Agentforce 상호 작용에 이벤트 모니터링 사용하기. 이벤트 모니터링은 작업 및 플로 실행 시기와 같은 Agentforce 호출 수준 이벤트를 수집합니다. 이벤트 모니터링 데이터를 외부 SIEM(API를 통해 표준 이벤트 로그 파일 데이터 및 플랫폼 이벤트를 통해 이벤트의 실시간 이벤트 모니터링 하위 집합)으로 내보내고 Salesforce 네이티브 보존 기간을 초과하는 저장소로 내보냅니다. 변동 증거는 쓰기 1회 저장 및 액세스 분리를 적용하는 특정 SIEM 동작에 따라 다릅니다. SIEM 쿼리를 구성하여 대량 Agentforce 상호 작용에서 편향 패턴을 감지합니다.
  • Einstein Trust 레이어를 사용하여 Agentforce 대화를 감사합니다. Einstein Trust Layer는 Data 360에 저장된 Agentforce 대화 프롬프트 및 응답의 감사 추적을 캡처하여 투명성 및 규정 준수에 대한 기록 수준을 제공합니다.

여러 관할 지역에서 현재 및 새롭게 도입된 AI 규정을 준수하기 위해 배치된 아키텍트 투명성 기능을 자세히 살펴보겠습니다.

  • EU AI Act 투명성 요구 사항. EU AI Act에 따라 고위험 AI 시스템에는 투명도 문서, 기술 문서, 인적 감독 기능, 정확도/공정도 메트릭이 필요합니다. Einstein Trust Layer 감사 트레일과 Einstein Discovery 모델 카드는 이러한 요구 사항을 기반으로 합니다. 문서 모델은 아키텍처 결정 레코드에서 데이터 인구 통계, 확인 접근 방식, 알려진 제한 사항을 교육합니다.
  • GDPR 설명 권리. GDPR는 EU 데이터 주체에게 결정 논리에 대한 의미 있는 정보에 대한 권한을 부여합니다. 결정이 자동화된 처리를 기반으로 하며 법적 또는 유사하게 중요한 영향을 미칠 경우. 이 권리는 15(1)(h) 및 22(3)조(71(71)조)와 함께 읽혀지고, Dun & Bradstreet(2025) 사건에서 유럽 재판소에서 명확히 했습니다. 데이터 주체 액세스 요청 시간 범위 내에서 내역 결정에 대한 수요에 대한 일관된 설명을 생성하는 시스템을 설계합니다. 이는 15일에서 45일 사이에 달라집니다(권한에 따라 다릅니다). 예측 입력, 출력, 모델 버전 및 Einstein Discovery 설명 요소 등 수집하는 예측 모델 결정 데이터를 통해 충분한 보존 상태로 저장된 경우 설명을 재구성할 수 있습니다.
  • 알고리즘 책임법칙. 미국의 시/도 수준 알고리즘 책임법에 따라 자동화된 의사 결정 시스템에 대한 영향 평가 및 투명도 보고가 점점 더 필요합니다. 수집하는 예측 모델 결정 데이터 및 CRM Analytics 공정성 모니터링 대시보드는 이러한 보고서에 대한 데이터 파운데이션을 제공합니다. 규제 질의에 대한 반응형 응답이 아닌 사전 예방적 준수로 결과적 AI를 배포하기 전에 알고리즘 영향 평가를 수행합니다.

OWD, 공유 규칙 및 필드 수준 보안(FLS)은 사용자가 결정을 내릴 때 검토하고 사용할 수 있는 정보를 결정하는 데이터 액세스 패턴을 구성합니다. 올바른 구성을 통해 민감한 특성에 대한 차별적인 액세스를 방지하고 공정한 서비스를 보장할 수 있습니다.

OWD 및 필드 수준 보안을 설계하여 기본적으로 액세스를 제한합니다. 공유 규칙의 경우 최소 권한 원칙(PoLP)을 사용하여 각 역할이 합법적으로 필요로 하는 추가 액세스 권한만 부여하고 보호된 특성을 기반으로 차별적인 의사 결정을 피합니다.

  • 제한적인 OWD를 기본값으로 활성화합니다. 중요한 고객 데이터가 포함된 개체에 대해 비공개 OWD를 사용하고 역할 계층 및 공유 규칙별로 액세스 권한을 부여합니다. 공용 읽기/쓰기 OWD는 나중에 액세스 제한을 중단시킵니다. 기본값을 좁히면 공유 재계산이 트리거되고 공유가 완료된 후에만 적용되며, 불가능하지 않습니다. 명시적 공유 기부금이 부여된 비공개 OWD는 비차별 준수를 지원하는 감사 가능한 액세스 패턴을 만듭니다.
  • 민감한 특성에 필드 수준 보안을 적용합니다. 합법적인 비즈니스 목적으로 액세스 권한이 필요하지 않은 사용자에게 보호된 특성(예: 민족, 종교, 장애 상태)이 포함된 중요한 필드를 숨깁니다. 대부분의 프로필에서 민감한 필드에 대한 읽기 액세스를 제거하도록 FLS를 구성합니다. 이러한 필드가 특정 목적(예: 다양성 보고 및 합리적인 조정)에 필요할 경우 문서화된 비즈니스 근거가 포함된 권한 집합을 사용하여 최소 액세스 권한을 부여합니다.
  • 공정한 결과를 위해 할당 및 공유 규칙을 설계합니다. 할당 규칙, 대기열, 옴니채널 라우팅을 사용하여 영역, 팀, 서비스 에이전트 전체에서 작업을 균등하게 배포합니다. 문서화된 비즈니스 근거 없이 특정 사용자 그룹에 중요한 기회 또는 고객을 집중시키는 수동 공유를 피하십시오. 편향을 활성화할 수 있는 주관적 관리자 재량권 대신 목표 기준(예: 산업, 지역, 제품 라인)을 기반으로 자동 공유 규칙을 구성합니다.
  • 임시 액세스를 위한 권한 집합을 제공합니다. 프로필을 수정하는 대신 권한 집합을 통해 중요한 데이터에 임시로 액세스할 수 있는 권한을 부여하여 모든 사용자에게 영구적으로 영향을 미칩니다. 사용자가 특정 프로젝트에 대한 인구 통계 데이터에 액세스해야 하는 경우(예: 다양성 분석 및 숙박 요청) 문서화된 만료가 포함된 권한 집합을 할당합니다. 예약된 플로는 정의된 기간 이후에 권한 집합을 자동으로 취소할 수 있습니다.

Shield 이벤트 모니터링 및 보고서를 사용하여 데이터 사용 시 잠재적인 차별 또는 편향을 나타내는 데이터 액세스 패턴을 감지합니다.

  • Shield 이벤트 모니터링을 사용하여 민감한 데이터에 대한 액세스를 감사합니다. 이벤트 모니터링을 사용하여 보호된 특성 또는 민감한 특성이 포함된 개체에 대한 개체 수준 액세스 이벤트(보고서 내보내기, API 쿼리, 페이지 보기)를 수집합니다. 해당 이벤트에 대한 쿼리를 구성하여 개체에 액세스한 사람, 시기, 컨텍스트를 표시하고 비정상적인 패턴(예: 갑작스러운 급증 및 예기치 않은 사용자의 액세스)을 조사 트리거로 처리합니다.
  • 공유 규칙 배포에 대한 보고서. 사용자, 팀, 영역에서 레코드가 배포되는 방식을 분석하는 보고서를 작성합니다. 고객 인구 통계별로 배포 통계를 계산하여 중요한 계정 및 기회가 균등하게 배포되도록 합니다. 문서화된 비즈니스 근거 없이 특정 사용자 그룹이 중요한 레코드에 비례하게 액세스할 수 있는 집약도를 식별합니다.
  • CRUD 및 FLS 위반 감사. 설정 감사 내역에서 OWD 설정, 공유 규칙, FLS 구성, 권한 집합에 대한 변경 사항을 검토합니다. 데이터 액세스 제어를 무단으로 변경하면 민감한 데이터에 부적절하게 액세스하려고 시도할 수 있습니다. 트랜잭션 보안 정책을 사용하여 고위험 실시간 이벤트 모니터링 이벤트(예: 비정상적인 API 활동, 의심스러운 로그인, 중요한 데이터의 대규모 보고서 또는 목록 보기 내보내기)에 대해 조치를 취합니다. 트랜잭션 보안은 레코드 수준 DML 또는 FLS 변경 사항이 아닌 이러한 런타임 이벤트에서만 작동하므로 설정 감사 내역 및 FLS 및 공유 변경 사항에 대한 문서화된 변경 관리 승인을 사용해야 합니다.

Salesforce에서 사용자 에이전시는 고객과 직원이 AI가 경험에 미치는 영향을 의미 있게 제어할 수 있음을 의미합니다. Salesforce 동의 관리 기능, Data 360 동의, 사용자 정의 동의 개체를 통해 AI 상호 작용을 세부적으로 제어할 수 있습니다.

Data 360 동의 관리, Marketing Cloud 동의 또는 AI별 동의 요구 사항에 대해 필드 감사 내역을 사용하는 사용자 정의 동의 개체를 사용하여 동의 추적을 설계합니다.

  • AI 사용 사례별 세분화된 동의 활성화. 대체 AI 동의를 사용하는 대신 AI 사용 사례별 동의를 활성화합니다. 고객은 Einstein 제품 권장 사항에 동의할 수 있지만 AI 기반 신용 결정을 거부할 수 있습니다. 동의 개체에 대한 필드 감사 내역을 활성화하여 장기간 보존하고 규제 요구 사항을 충족합니다. 다음을 추적하는 필드를 사용하여 사용자 정의 동의 개체를 설계합니다.
  • 동의 목적(예: Einstein 리드 점수 매기기, Einstein 회신 권장 사항 및 Einstein 권장 사항 빌더)
  • 동의 부여 날짜 및 부여 방법(예: 웹 양식, API, 전화, 이메일)
  • 동의 철회 날짜(해당되는 경우)
  • 관련 사용자 또는 연락처 ID
  • 개인화에 Data 360 동의를 사용하십시오. Einstein 개인 설정 기능에 Data 360 동의 관리를 사용합니다. Data 360은 개인정보 보호 데이터 모델에 매핑된 커넥터를 통해 업스트림 시스템에서 동의 기본 설정을 수집하고 저장하며, 이를 통해 해당 동의 특성을 세분화 및 활성화 시 필터 기준으로 사용할 수 있습니다. 특정 AI 사용 사례에 동의 특성을 매핑하여 사용자가 핵심 서비스를 유지하면서 개인 설정 거부할 수 있도록 지원
  • Marketing Cloud 동의 통합을 활성화합니다. Marketing Cloud 동의를 Einstein Messaging 인사이트 및 AI 기반 마케팅 기능과 통합합니다. 모든 AI 중심 커뮤니케이션에서 Marketing Cloud 구독 상태 및 동의를 존중합니다.

비슷한 품질의 인적 대안을 통해 사용자 기본 설정을 존중하는 액세스 가능한 제어를 통해 AI 기반 기능에서 의미 있는 수신 거부를 제공합니다.

  • 프로필 설정에서 액세스할 수 있는 옵트아웃을 제공합니다. 사용자가 Experience Cloud 프로필 설정 또는 내부 앱의 내 설정에서 액세스 가능한 기본 설정 제어를 통해 AI 중심 상호 작용을 거부할 수 있습니다. 각 수신 거부의 의미와 수신 거부 시 사용자에게 제공되는 대체 환경에 대한 명확한 설명을 제공합니다. 사용자 또는 연락처 레코드에 기본 설정을 저장합니다.
  • 채널 간에 지속적인 기본 설정 옵션을 제공합니다. 사용자 또는 연락처 레코드에 AI 기본 설정을 저장하여 채널 전체(예: 웹, 모바일, 전화, 이메일)에서 일관성을 유지합니다. 모든 상호 작용 플로에서 기본 설정을 일관적으로 쿼리하여 사용자가 다른 채널에서 기본 설정을 반복적으로 재할당하지 않도록 합니다.

윤리적 AI 거버넌스는 모델이 발전하고 데이터가 이동하며 사용 사례가 확대될 때 공정성을 유지하는 데 도움이 되는 조직 구조를 제공합니다. 거버넌스가 없으면 조직의 주의가 변화함에 따라 초기 공정성 노력이 저하됩니다.

Einstein 배포 전에 필수 문서를 설정하고 검사점을 검토합니다. 보안 검토와 마찬가지로 중요한 게이트로 생각해 보십시오.

  • 예제 문서 제공. 사용자 정의 모델 개체 또는 프로젝트에 첨부된 Salesforce Files를 사용하여 Salesforce에 모델 문서를 저장하여 검색 가능성 및 버전 관리를 활성화합니다. 다음을 사용하여 모든 프로덕션 예측 모델을 문서화합니다.
  • 교육 데이터 인구 통계 및 알려진 표현 공백(Einstein Discovery 및 Prediction Builder와 같은 고객 교육 예측 모델용)
  • 인구 통계 그룹별로 계산되는 배포 전 공정성 메트릭
  • 의도한 사용 사례 및 알려진 부적절한 사용
  • 개발 도중 적용되는 편향 완화 전략
  • 공정성 모니터링 접근 방식 및 경고 임계값
  • 인적 감독 요구 사항 및 승인 워크플로
  • 일정 및 책임자 검토
  • 규제 고려 사항 및 규정 준수 위치
  • 배포 전 공정성 게이트 활성화 게이트 테스트에 실패한 모델은 프로덕션으로 진행하지 않아야 합니다. 공정성 도어는 보안 도어와 동일한 엄격함으로 처리합니다. 다시 말해 배포를 차단할 권한이 있습니다. Einstein 예측을 프로덕션에 배포하기 전에 다음을 수행해야 합니다.
  • 교육 데이터 감사 검토. 모든 표현 간격을 분석하고 문서화해야 합니다.
  • 공정성 메트릭 검토(예: 인구 통계 평등, 동등한 기회, 편파 효과는 임계값을 충족하기 위해 계산 및 확인해야 함)
  • 효과 평가 검토. 영향을 받는 모집단 전반에서 잠재적인 피해를 평가합니다.
  • 인간의 감독으로 디자인. 모든 에스컬레이션 패턴, 승인 워크플로, 재정의 메커니즘이 적절하게 설계 및 테스트되어야 합니다.
  • 투명성 검토를 완료합니다. 모든 결정 유형에 대해 설명 기능을 확인해야 합니다.
  • 완전한 문서. 모든 필수 모델 문서 아티팩트를 승인해야 합니다.

기능 간 감독을 제공하고 집행 권한이 있는 중요 AI 응용 프로그램에 대한 검토 프로세스를 수립합니다.

  • 검토 위원회 구성. 기술 전문가(예: 아키텍처 및 데이터 과학자), 비즈니스 이해당사자(예: 제품 소유자 및 운영 담당자), 법률 고문, 개인정보 보호 전문가, 영향을 받는 지역 사회의 담당자를 포함합니다(가능한 경우). 다양한 관점으로 인해 균일한 그룹이 놓치는 공정성 문제가 발생합니다.
  • 에티크 위원회 승인이 필요한 모든 트리거를 검토하십시오. 배포 전에 윤리 검토가 필요한 AI 사용 사례를 정의합니다.
  • 고용, 신용, 주택, 헬스케어 또는 법적 권리에 영향을 미치는 결정
  • 연간 10,000명 이상의 사용자 또는 트랜잭션에 영향을 미치는 자동화된 시스템
  • 건강, 금융 또는 인구 통계 데이터 등 중요한 개인 데이터를 사용하는 AI 응용 프로그램
  • 설정된 조직적 전례가 없는 신규 사용 사례
  • 편향이 잠재적으로 개인 또는 그룹에 상당한 피해를 유발할 수 있는 시스템
  • 검토하고 배포를 차단할 권한이 있는 사람을 결정합니다. 윤리 검토 위원회에는 변경을 요구하거나 모니터링 조건을 적용하거나 윤리 표준을 준수하지 않는 배포를 차단할 수 있는 권한이 있어야 합니다. 조언 전용 검토(적용 기관이 없는 경우)는 거버넌스 프로세스의 효율성을 제한할 수 있습니다. 신청 이름, 검토 날짜, 제기된 우려 사항, 완화 요구 사항, 승인 조건을 추적하는 Salesforce 사용자 정의 개체의 모든 검토를 문서화합니다.

공정성 모니터링은 데이터 배포가 변화하고 사용자 모집단이 변화함에 따라 편차 드리프트를 감지하기 위해 지속적으로 주의를 기울여야 하는 진행 중인 프로세스입니다.

  • CRM Analytics 공정성 대시보드 만들기. 수집하는 예측 모델 결정 데이터를 사용하여 공정성 메트릭을 추적하는 대시보드를 구축합니다. 고객 세그먼트별로 인구 통계 패리티, 기회 같음, 편파 효과 비율, 예측 품질 메트릭을 모니터링합니다. 공정성 메트릭이 정의된 임계값을 초과하고 조사가 필요한 경우 트리거되는 CRM Analytics 경고를 구성합니다.
  • 공정성 신호에 대한 사용자 정의 모니터링을 활성화합니다. 사용자 정의 공정성 모니터링을 구축하여 신호를 감지합니다(예: 인구 통계 그룹별 결정 분포의 갑작스러운 변화, 편향 관련 사례 레코드의 급증 또는 특정 모집단의 모델 성능 저하).
  • 공정성 감사 예약. 중요도가 높은 AI 시스템(예: 신용, 고용, 헬스케어)에 대한 포괄적인 분기별 공정성 감사 및 중요도가 낮은 시스템(예: 권장 사항 및 개인 설정)에 대한 반년 간 감사를 수행합니다. 감사는 현재 공정성 메트릭을 검사하고, 승인 내역의 재정의 패턴을 검토하고, 사용자 피드백 및 편향 보고서를 분석하고, 거버넌스 제어가 계속해서 효과적인지 확인해야 합니다.
  • 공정성 실패에 대한 사고 대응 구현. 편차가 감지될 때 응답하는 방법을 자세히 설명하는 Salesforce Knowledge 문서화된 명확한 프로세스를 수립합니다.
  • 직접: CRM Analytics에서 예측 모델 결정 데이터를 쿼리하여 심각도 및 범위를 평가합니다. 사고가 심각한 경우 조사 대기 중인 모든 자동화된 의사 결정을 일시 중단합니다.
  • 단기: 임시 경감 전략을 구현합니다(예: 조정된 신뢰 임계값, 기능 비활성화 또는 에이전트의 전체 중단을 통한 인적 감독 증가).
  • 조사: 근본 원인 분석(RCA)을 완료하여 편향이 시스템에 들어오거나 진화한 방식을 식별합니다. RCA 동안 필드 감사 내역을 통해 교육 데이터, 모델 버전, 구성 변경 사항을 분석합니다.
  • 수리: 데이터 정정, 모델 재교육 또는 프로세스 변경을 통해 영구 수정을 구현합니다.
  • 통신: 사례, 이메일 또는 Experience Cloud 알림을 통해 영향을 받는 사용자에게 알립니다.
  • 예방: 변경 사항을 처리하여 반복을 방지하고 런북에 예방 메서드를 문서화합니다.

아키텍처를 검토하는 동안, 프로덕션 배포 전, 지속적인 평가에 주기적으로 이 체크리스트를 사용합니다.

데이터 품질 및 대표적 공정성

  • 데이터 없이 프로세스가 작동할 수 있는 필드를 선택 사항으로 지정하고 누락된 값을 처리하도록 다운스트림 프로세스를 설계하여 정보를 제공할 수 없는 사용자(이메일, SSN, 거리 주소)를 제외하지 않습니다.
  • 아키텍처 이름 필드는 서양의 첫 번째/마지막 순서를 가정하는 대신 단일 전체 이름 필드 또는 유연한 다중 부분 구조로 표시되며, 이는 동의어, 비라틴어 스크립트, 대화 상자, 긴 이름을 허용합니다.
  • 자유 형식 및 국제 형식을 허용하는 권한 주소 유효성 검사를 구현하여 형식 불일치에 대한 레코드 생성을 차단하는 대신 입력한 그대로 주소를 저장합니다.
  • 연락처 레코드에 커뮤니케이션 채널 기본 설정을 저장하고 모든 사용자에게 도달한다고 가정하는 대신 옴니채널 대안(이메일, SMS, 전화, 우편, 채팅, 음성)을 지원합니다.
  • FLS를 사용하는 비공개 OWD에 별도로 저장되고 보고를 위해 집계되고 Shield 이벤트 모니터링을 통해 모니터링되는 “대답하지 않기” 옵션을 사용하여 자발적 자가 식별을 통해 인구 통계 데이터를 수집합니다.
  • 레코드에 인구 통계 또는 동작 데이터를 추가하기 전에 타사 보강 공정성 테스트, 인구 통계 적용 범위, 추론 방법을 감사하십시오.

가용성 및 포괄적인 디자인

  • WCAG 2.2 AA 액세스 가능성을 지원하도록 설계된 Lightning Design System 구성 요소를 사용합니다. Salesforce는 규정 준수를 위해 노력하지만 구성 요소를 올바르게 사용해야 한다는 점에 유의하십시오.
  • 화면 판독기 테스트를 사용하여 사용자 정의 Lightning 웹 구성 요소를 검증합니다(예: JAWS, NVDA 및 VoiceOver).
  • 마우스 종속성이 없는 Lightning 페이지 및 Experience Cloud 사이트에 전체 키보드 탐색이 있는지 확인합니다.
  • 브라우저 개발 도구 또는 대비 검사기를 사용하여 일반 텍스트의 대비 비율이 4.5:1를 충족하는지 확인합니다.
  • 중요한 문제에 대한 구축에 실패한 CI/CD 파이프라인에 sa11y 또는 Lighthouse 액세스 가능성 스캔을 통합합니다.
  • 공개 출시 전에 보조 기술을 사용하여 Experience Cloud 사이트를 테스트합니다.
  • 모든 동적 변경 사항(예: 오류 상태, 로딩 스피너 또는 메뉴 확장)이 명확하게 발표되고, 말한 내용이 UI의 시각적 의도와 일치하는지 확인하여 청각적 사용자 의견을 확인합니다.

Salesforce 자동화의 공정성

  • 할당 및 라우팅 규칙을 검토하여 특정 인구 통계 그룹에 긍정적 또는 부정적 결과를 집중할 수 있는 보호된 특성과의 상관 관계를 확인합니다.
  • 편향을 위한 감사 플로 및 프로세스 자동화 의사 결정 논리를 통해 Salesforce Knowledge 또는 아키텍처 의사 결정 레코드에 비즈니스 규칙 및 기준을 문서화합니다.
  • 특정 데이터 패턴 또는 모집단에 비례하게 영향을 미치는 거부율에 대한 확인 규칙을 평가합니다.
  • 인구 통계 상관 관계를 위해 영역 및 세분화 설계를 분석하고 명시적인 비즈니스 근거를 문서화하고 서비스가 부족한 영역을 모니터링하여 공정한 자원 할당을 수행합니다.
  • AI 시스템과 동일한 윤리 검토 프로세스에 중요 플로 및 할당 규칙(직용, 신용, 서비스 액세스)을 적용하고 인구 통계별로 계층화된 자동화 결과에 대한 분기별 감사 일정을 예약합니다.

AI 공정성 및 편차 감지

  • 예측 모델 교육 전에 인구 통계 표현 차이에 대한 Salesforce CRM 데이터를 감사합니다.
  • 배포 전에 인구 통계 패리티, 기회 같음, 인구 통계 그룹별 편파 효과 비율을 계산합니다.
  • 정당성 평가를 필수 배포 게이트로 구현합니다(보안 검토와 동일한 것으로 간주).
  • 필드 감사 내역으로 수집된 예측 모델 결정 데이터를 사용하여 공정성 메트릭을 추적하는 CRM Analytics 대시보드를 구축합니다.
  • 보호된 특성(예: 영역 및 계정 이름 패턴)과 프록시 상관 관계에 대한 예측 모델 기능을 분석합니다.
  • 모든 중요 AI 시스템에 대한 포괄적인 분기별 공정성 감사 일정을 예약합니다.

투명성 및 감사 가능성

  • Lightning 구성 요소의 결정 지점에 Einstein Discovery 예측 설명을 표시합니다.
  • 규정 요구 사항을 충족하는 보존 방법을 사용하여 Einstein Trust Layer 감사 캡처를 구성합니다.
  • 장기 보존을 위해 AI 결정 데이터를 저장하는 모든 사용자 정의 개체에서 필드 감사 내역을 활성화합니다.
  • 기본 보존을 초과하는 저장소로 이벤트 모니터링 데이터(API를 통해 이벤트 로그 파일 데이터 및 플랫폼 이벤트를 통해 실시간 이벤트 모니터링 이벤트)를 외부 SIEM으로 내보내고, SIEM 측의 변경 증거에 대한 쓰기 한 번 제어 기능을 사용합니다.
  • 원시 확률 대신 사용자 적절한 신뢰 통신(예: 높음, 보통, 낮음)을 제공합니다.

Salesforce 자동화로 인적 감독

  • 플로에서 신뢰 기반 에스컬레이션 임계값을 구성하고 신뢰도가 낮은 예측을 사람 검토에 라우팅합니다.
  • 다단계 검토 체인이 필요한 중요 결정에 Salesforce 승인 프로세스를 사용합니다.
  • Agentforce 및 옴니채널 라우팅을 통합하여 인간 에이전트에 원활하게 에스컬레이션할 수 있습니다.
  • Agentforce 인터페이스에서 영구 “Human Agent에 연결” 옵션을 제공하여 사용자 에이전시를 존중합니다.
  • 사용자 정의 필드에 수집된 Agentforce 재정의에 대해 문서화된 근거 및 승인 내역 추적을 요구합니다.

데이터 액세스 제어의 차별화 안 함

  • 비공개 OWD를 활성화한 다음, 역할 계층 및 공유 규칙을 통해 추가 액세스 권한을 부여합니다.
  • 필드 수준 보안을 구성하여 액세스 권한이 필요하지 않은 사용자에게 민감한 인구 통계 필드를 숨깁니다.
  • Shield 이벤트 모니터링을 통해 민감한 데이터에 대한 개체 수준 액세스 이벤트(보고서 내보내기 및 API 쿼리)를 모니터링하고 비정상적인 액세스 패턴을 분석합니다.
  • 공유 규칙 배포를 분석하는 보고서를 작성하여 영역 전반에서 레코드를 공정하게 할당합니다.
  • 무단 OWD, 공유 규칙 또는 FLS 구성 변경 사항에 대한 설정 감사 내역을 검토합니다.

사용자 에이전트 및 동의

  • 필드 감사 내역을 사용하여 사용자 정의 동의 개체를 설계하여 사용 사례별 세부적인 AI 동의를 추적합니다.
  • Data 360 또는 Marketing Cloud 동의를 Einstein 개인 설정 및 Agentforce 기능과 통합합니다.
  • 사용자 또는 연락처 레코드에 AI 기본 설정을 저장하여 채널 전체(예: 웹, 모바일 및 전화)에서 일관성을 유지합니다.
  • 옴니채널 라우팅을 통해 프로필 설정 및 사람 대안에서 액세스 가능한 수신 거부를 제공합니다.
  • Einstein 예측 또는 Agentforce 참여가 사용자에게 영향을 미치기 전에 플로의 동의 레코드를 쿼리합니다.

** 윤리적 AI 거버넌스**

  • 공정성 메트릭 및 완화 전략을 비롯한 모든 생산 예측 모델을 문서화하고, 고객이 교육한 예측 모델(예: Einstein Discovery 및 Prediction Builder)의 경우 교육 데이터 인구 통계도 문서화합니다.
  • 모든 공정성 기준을 충족할 때까지 배포를 차단하는 필수 배포 사전 공정성 게이트를 설정합니다.
  • AI 윤리 검토위원회를 모든 중요 AI 응용 프로그램의 집행 기관으로 만듭니다.
  • CRM Analytics 대시보드를 구축하여 CRM Analytics 경고를 통해 예약된 케이던스의 공정성 메트릭을 모니터링합니다.
  • 공정성 실패에 대한 사고 대응 절차를 정의하고 Salesforce Knowledge 프로세스를 문서화합니다.
  • 모든 중요한 시스템에 대한 재정의 패턴 및 사용자 피드백을 분석하는 분기별 공정성 감사 일정을 예약합니다.

좋게 설계된 프레임워크에 대한 사용자 의견을 공유하십시오.