AI 윤리 및 거버넌스 - 패턴
잘 설계된 공정성에 대해 자세히 알아보기 → Ethical AI Governance 실습
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Einstein | 교육 데이터 | ✅ 예측 모델을 교육하기 전에 Salesforce CRM 데이터가 인구 통계 표현 차이 및 측정 불일치에 대해 감사됨 |
| Einstein | 교육 데이터 | ✅ 전환 내역 데이터는 고객 인구 통계에 의해 분석되어 샘플링 과잉 또는 추가 데이터 수집이 필요한 부재중인 세그먼트를 식별합니다. |
| Einstein | 배포 | ✅ 공정성 평가는 예측 모델이 프로덕션에 도달하기 전에 보안 검토와 동일한 필수 경로로 취급됩니다. |
| Einstein | 배포 | ✅ 인구 통계 패리티, 기회 같음, 편파 효과 비율은 배포 전에 보호된 그룹 전체에서 계산됩니다. |
| Einstein | 배포 | ✅ 공정성 메트릭은 모델 배포 전의 모든 고객 세그먼트에 대해 법적 통과/실패선이 아닌 선별 트리거로 4/5 규칙(80% 임계값)에 대해 평가됩니다. |
| Einstein Discovery | 장비 | ✅ 예측 모델 결정 데이터(예측 입력, 출력 및 모델 버전)는 Einstein Discovery 및 편향 감지를 지원하는 사용자 지정 기기를 통해 수집됩니다. |
| CRM Analytics | 모니터링 | ✅ CRM Analytics 대시보드에서 시간 경과에 따른 인구 통계 그룹 전반의 의사 결정 패턴에 대한 수집된 예측 모델 결정 데이터를 분석합니다. |
| CRM Analytics | 모니터링 | ✅ 인구 통계 패리티 또는 동등 기회 메트릭이 허용되는 임계값을 넘을 경우 CRM Analytics 경고가 트리거됩니다. |
| Einstein | 기능 엔지니어링 | ✅ 통계 방법을 사용하여 모든 예측 모델 기능이 보호된 특성과 상관 관계를 분석합니다. |
| Einstein | 기능 엔지니어링 | ✅ 프록시 기능(영역, 우편 번호, 계정 이름 패턴, 활동 시간, 장치 유형)이 인구 통계 상관 관계에 대해 식별 및 평가됩니다. |
| Einstein | 기능 엔지니어링 | ✅ 프록시 효과에도 불구하고 예측 값이 포함을 정당화하는지 평가한 후 프록시 기능이 제거되거나 변환됩니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Einstein | 교육 데이터 | ⚡️ 리드 점수 매기기는 인구 통계 표현 또는 서비스 품질 차이를 검사하지 않고 10년 동안의 내역 데이터를 기반으로 교육됩니다. |
| Einstein | 교육 데이터 | ⚡️ 전환 내역 데이터는 다른 인구 통계가 다른 처리를 받았는지 여부를 감사하지 않고 직접 사용됩니다. |
| Einstein | 배포 | ⚡️ Einstein 기능은 공정성 평가 없이 전반적인 정확도 메트릭만 기반으로 구축됩니다. |
| Einstein | 배포 | ⚡️ 인구 통계 패리티 또는 편파 효과 비율은 프로덕션 배포 전에 계산되지 않습니다. |
| Einstein | Trust 계층 | ⚡️ 편향 감지를 위해 Trust 계층 감사 캡처를 활성화하지 않고 Agentforce 상호 작용을 배포합니다. |
| CRM Analytics | 모니터링 | ⚡️ 결정 패턴은 시간 경과에 따라 인구 통계 그룹에서 추적되지 않으며 편차 드리프트가 감지되지 않습니다. |
| Einstein | 기능 엔지니어링 | ⚡️ 편차가 자동으로 제거된다고 가정해 교육 데이터에서 보호된 특성이 제거됩니다. |
| Einstein | 기능 엔지니어링 | ⚡️ 영역, 우편 번호 및 계정 이름 패턴은 프록시 상관 관계 분석 없이 기능으로 사용됩니다. |
| Einstein | 기능 엔지니어링 | ⚡️ 대안을 평가하지 않고 완벽한 인구 통계 프록시 역할을 하는 프록시 기능 유지 |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Agentforce | Analytics | ✅ CRM Analytics 대시보드는 Einstein Trust 계층 감사 데이터를 사용하여 고객 인구 통계별로 Agentforce 결정 결과를 추적합니다. |
| Agentforce | Analytics | ✅ 승인율, 서비스 응답 시간, 에스컬레이션률 및 만족도 점수는 인구 통계 그룹별로 계층화된 모니터링 |
| Agentforce | Analytics | ✅ 공정성 메트릭이 조사가 필요한 정의된 임계값을 초과하는 경우 트리거되도록 CRM Analytics 경고가 구성됨 |
| Agentforce | 이벤트 모니터링 | ✅ 이벤트 모니터링 로그가 외부 SIEM으로 라우팅되어 네이티브 보존 제한을 초과하는 장기간 보존 |
| Agentforce | 이벤트 모니터링 | ✅ SIEM 쿼리에서 특정 사용자 모집단에 대한 부정적인 결과의 비정상적인 집약도를 식별합니다. |
| Agentforce | 필드 감사 내역 | ✅ 필드 감사 내역이 Agentforce 결정 데이터를 저장하는 사용자 정의 개체에 활성화되어 삭제될 때까지 아카이빙된 내역을 무기한으로 유지 |
| Agentforce | 필드 감사 내역 | ✅ 필드 감사 내역은 과거 AI 결정 재구축이 필요한 장기 공정성 감사 및 규제 조사 지원 |
| CRM Analytics | 모니터링 | ✅ CRM Analytics 대시보드는 공정성 신호를 추적합니다. 결정 분포의 갑작스러운 변화, 편차 관련 사례의 급증, 특정 모집단의 성능 저하 |
| CRM Analytics | 모니터링 | ✅ 고객 세그먼트의 승인율이 주별로 15% 이상 하락하면 공정성 조사가 필요하면 경고가 트리거됩니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Agentforce | Analytics | ⚡️ 결정 결과는 인구 통계에서 추적되지 않으며, 편차 드리프트는 데이터 배포 변화에 따라 감지되지 않습니다. |
| Agentforce | Analytics | ⚡️ 서비스 품질 메트릭은 인구 통계 그룹별로 계층화되지 않으며 편파한 결과는 표시되지 않습니다. |
| Agentforce | 이벤트 모니터링 | ⚡️ 이벤트 모니터링 로그는 장기 공정성 감사를 위해 외부 SIEM이 없는 기본 유지 제한에 의존합니다. |
| Agentforce | 이벤트 모니터링 | ⚡️ 대용량 상호 작용에서 결정 패턴이 분석되지 않으며, 비정상적인 농도가 누락됩니다. |
| Agentforce | 필드 감사 내역 | ⚡️ 필드 감사 내역이 활성화되어 있지 않으며, 규제 조사에 대해 내역 AI 결정을 재구성할 수 없습니다. |
| CRM Analytics | 모니터링 | ⚡️ 공정성 신호는 모니터링되지 않으며, 결정 분포의 갑작스러운 변화는 눈에 띄지 않습니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Einstein | 교육 데이터 | ✅ 교육 전에 샘플링되지 않은 세그먼트를 과도하게 샘플링하거나 샘플링되지 않은 세그먼트를 샘플링하여 Salesforce CRM 데이터의 균형을 다시 맞춥니다. |
| Data 360 | 아키텍처 | ✅ Data 360은 여러 조직에서 데이터를 집계하여 예측 모델에 대한 다양한 교육 집합을 보장합니다. |
| Einstein | 교육 데이터 | ✅ 합성 데이터 생성은 차별화된 개인 정보 보호 기법을 통해 개인 정보를 보호하면서 희귀 세그먼트를 보완합니다. |
| Einstein | 기능 엔지니어링 | ✅ 프록시 기능이 인구 통계 상관 관계 없이 예측 기능을 제공하는 대체 기능으로 대체됨 |
| Einstein | 기능 엔지니어링 | ✅ 영역이 인구 통계 프록시 역할을 하는 경우 영역 대신 산업 분류 또는 회사 크기가 사용됩니다. |
| Einstein | 기능 엔지니어링 | ✅ 이름이 인구 통계와 연관될 경우 계정 이름 패턴 대신 펌그래픽 특성이 사용됩니다. |
| Agentforce | 후처리 | ✅ 결정 임계값은 모델 교육 후 결과율을 동일하게 지정하기 위해 인구 통계 세그먼트별로 조정됩니다. 미국에서는 1991년의 Civil Rights Act(Civil Rights Act)에서 고용 관련 결정에 대해 보호 클래스별로 점수 또는 컷오프 조정을 금지하고, 다른 관할 지역에서는 자체 제약을 부과합니다. |
| Agentforce | 후처리 | ✅ 같은 기본 예측 모델을 사용하는 동안 공정한 승인율을 달성하는 다양한 컨텍스트에 다양한 신뢰 임계값이 사용됩니다. |
| Agentforce | 후처리 | ✅ 임계값 조정 내용은 차별 처리를 위한 비즈니스 근거와 함께 문서화되며, 미국에서는 문서화가 제목 VII에 따른 고용 관련 결정에 대해 그룹별 점수 또는 컷오프 조정을 합법화하지 않음을 인정합니다. |
| Einstein | 모델 재교육 | ✅ 분기별 또는 이벤트 중심 재교육 일정이 설정되어 신흥 편차 패턴을 파악하고 원래 공정성 기준에서 드리프트를 수정합니다. |
| Einstein | 모델 재교육 | ✅ 재교육이 새로운 편향을 유발하지 않도록 프로덕션 배포 전에 모든 모델 버전에 대한 공정성 메트릭이 다시 확인됩니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Einstein | 교육 데이터 | ⚡️ 교육 데이터는 재배포 또는 재배포된 세그먼트의 균형을 조정하지 않고 직접 사용됩니다. |
| Einstein | 교육 데이터 | ⚡️ 축소된 인구 통계 세그먼트는 합성 데이터 또는 교차 조직 집계로 보완되지 않음 |
| Einstein | 기능 엔지니어링 | ⚡️ 인구 통계 상관 관계 없이 예측 기능을 제공하는 대체 기능을 평가하지 않고 프록시 기능이 유지됩니다. |
| Agentforce | 후처리 | ⚡️ 결과율이 동일하지 않고 모든 인구 통계 세그먼트에 동일한 신뢰 임계값이 적용됩니다. |
| Agentforce | 후처리 | ⚡️ 임계값 조정을 통한 차별 처리는 문서화된 비즈니스 근거가 없거나 미국에서는 문서에 관계없이 점수 또는 컷오프를 보호 클래스별로 조정하는 것이 금지된 고용 관련 결정에 전혀 적용됩니다. |
| Einstein | 모델 재교육 | ⚡️ 모델이 배포되고 재교육되지 않으며, 발생하는 편차 패턴 및 드리프트가 수정되지 않습니다. |
| Einstein | 모델 재교육 | ⚡️ 재교육은 공정성 메트릭을 다시 확인하지 않고 진행되며, 새 편차는 자동으로 도입됩니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Einstein Discovery | UX | ✅ 예측 요소를 보여주는 Einstein Discovery 설명은 결정 지점에서 Lightning 구성 요소에 표시됩니다. |
| Einstein Discovery | UX | ✅ 설명은 결정 지점에서 사용자에게 지향적 영향을 미치는 특정 예측에 가장 영향을 미친 변수를 보여줍니다. |
| Einstein Discovery | UX | ✅ 설명은 비즈니스 사용자, 기술 사용자, 고객, 감사자와 같은 다양한 대상 그룹에 대해 계층화됩니다. |
| Einstein Discovery | UX | ✅ 비즈니스 사용자에게 “연간 매출이 $1M를 초과하고 참여 점수가 상위 10%에 속하므로 이 리드가 높은 점수를 받았습니다.” |
| Einstein Discovery | UX | ✅ 기술 사용자에게 기능 가중치, 교육 데이터 특성, 유효성 검사 메트릭이 포함된 모델 카드 표시 |
| Einstein Discovery | UX | ✅ 고객에게 “이 권장 사항은 최근 구매 및 기본 설정이 유사한 고객을 기반으로 합니다.” |
| Einstein Discovery | UX | ✅ 감사자는 모델 버전, 입력 값 및 예측을 촉진한 요소와 함께 Einstein Discovery 및 Model Manager의 전체 의사 결정 계보를 볼 수 있습니다. |
| Einstein Discovery | UX | ✅ 예측 신뢰도는 설명과 함께 사용자 적절한 용어로 범주로 표시됩니다(높은 신뢰도, 적절한 신뢰도, 검토 필요). |
| Einstein Discovery | UX | ✅ 신뢰 범주는 결정 신뢰도에 대한 신뢰 수준과 발생할 추가 검토를 설명합니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Einstein Discovery | UX | ⚡️ 설명은 처음부터 아키텍처에 대한 설명 가능성을 구축하는 대신 배포 후 불투명 시스템에 다시 장착됩니다. |
| Einstein Discovery | UX | ⚡️ 예측 설명은 결정 지점에 표시되지 않고 CRM Analytics 대시보드를 분리하도록 탐색해야 합니다. |
| Einstein Discovery | UX | ⚡️ 사용자에게 결정에 영향을 미칠 경우 투명한 설명 대신 추상 모델 성능 메트릭이 표시됩니다. |
| Einstein Discovery | UX | ⚡️ 설명은 대상 그룹에 따라 다르지 않으며 기술 모델 카드가 고객 또는 비즈니스 사용자에게 표시됩니다. |
| Einstein Discovery | UX | ⚡️ 원시 예측 점수(0.73)는 숫자의 의미 또는 예측을 촉진한 요소에 대한 설명 없이 표시됩니다. |
| Einstein Discovery | UX | ⚡️ 신뢰도 또는 검토에 대한 컨텍스트 없이 사용자가 잘못 해석할 확률 백분율로 신뢰도가 표시됩니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Einstein | Trust 계층 | ✅ Einstein Trust Layer는 프롬프트, 응답, 기초 교육 소스 및 Trust 신호를 사용자 지정 없이 자동으로 기록합니다. |
| Einstein | Trust 계층 | ✅ 데이터 보존 정책은 업계 및 관할에 따라 다를 수 있는 규제 요구 사항을 충족하기 위해 구조화되어 있습니다(예: FINRA 규칙 4511(b)에서 기본 보존 기간을 6년으로 설정하고 HIPAA는 규정 준수 문서에 6년 이상 필요). |
| CRM Analytics | 모니터링 | ✅ CRM Analytics 대시보드는 결정 패턴, 공정성 메트릭, 시간에 따른 모델 성과에 대해 수집된 예측 모델 결정 데이터를 분석합니다. |
| CRM Analytics | 모니터링 | ✅ CRM Analytics 렌즈는 신뢰 수준, 인구 통계 세그먼트, 결과 유형별로 예측 분포를 표시합니다. |
| CRM Analytics | 모니터링 | ✅ Einstein Discovery 스토리에서 조사가 필요한 비정상적인 패턴을 파악합니다. |
| 플랫폼 | 필드 감사 내역 | ✅ 필드 감사 내역은 AI 결정 데이터를 저장하는 사용자 정의 개체에 활성화되어 동의 레코드 삭제, 결정 재정의, 편향 보고서에 대해 보관된 내역을 무기한으로 유지합니다. |
| 플랫폼 | 이벤트 모니터링 | ✅ 이벤트 모니터링은 Agentforce 대화 기록, 도구 호출 및 결정 지점을 캡처합니다. |
| 플랫폼 | 이벤트 모니터링 | ✅ 이벤트 모니터링 로그가 플랫폼 이벤트를 통해 외부 SIEM으로 라우팅되어 변경 사항이 확인된 저장소 |
| 플랫폼 | 이벤트 모니터링 | ✅ SIEM 쿼리는 대량 Agentforce 상호 작용에서 편향 패턴을 감지합니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Einstein | Trust 계층 | ⚡️ Agentforce 상호 작용은 Trust 계층 감사 캡처를 활성화하거나 보존 정책을 정의하지 않고 배포됩니다. |
| Einstein | Trust 계층 | ⚡️ 보존 정책은 산업별 규제 요구 사항(재무 서비스, 헬스케어)을 고려하지 않습니다. |
| CRM Analytics | 모니터링 | ⚡️ 수집된 예측 모델 결정 데이터는 분석되지 않으며, 결정 패턴 및 공정성 메트릭은 시간에 따라 추적되지 않습니다. |
| 플랫폼 | 필드 감사 내역 | ⚡️ 표준 18개월 필드 내역은 규제 보존 요구 사항을 고려하지 않고 AI 결정 감사 추적에 사용됩니다. |
| 플랫폼 | 필드 감사 내역 | ⚡️ 동의 레코드, 재정의 결정 및 편차 보고서가 있는 개체에 필드 감사 내역이 활성화되지 않음 |
| 플랫폼 | 이벤트 모니터링 | ⚡️ 이벤트 모니터링 로그는 외부 SIEM이 없는 네이티브 보존 제한에 의존하여 변경 사항이 확인된 장기 저장소 |
| 플랫폼 | 이벤트 모니터링 | ⚡️ Agentforce 상호 작용 로그는 대용량의 편차 패턴을 분석하지 않습니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 거버넌스 | EU AI Act | ✅ 고위험 AI 시스템은 투명도 문서, 기술 문서, 인적 감독 기능, 정확도/공정성 메트릭으로 문서화되어 있습니다. |
| 거버넌스 | EU AI Act | ✅ Einstein Trust Layer 감사 트레일과 Discovery 모델 카드는 EU AI Act의 투명성 요구 사항을 기반으로 합니다. |
| 거버넌스 | EU AI Act | ✅ 모델 교육 데이터 인구 통계, 확인 접근 방식 및 알려진 제한 사항은 아키텍처 결정 레코드에 명시되어 있습니다. |
| 거버넌스 | GDPR | ✅ 시스템은 데이터 주체 액세스 요청 시간 범위 내에서 수요에 대한 내역 결정에 대한 일관된 설명을 생성합니다(권한에 따라 다르며 15일~45일). |
| 거버넌스 | GDPR | ✅ 수집된 예측 모델 결정 데이터와 Einstein Discovery 설명 요소는 충분한 보존으로 저장되어 GDPR 설명 권리를 위한 설명 재구성 가능 |
| 거버넌스 | 알고리즘 책임 | ✅ 대응형 응답이 아닌 사전 예방적 준수로 결과적 AI를 배포하기 전에 알고리즘 영향 평가가 수행됩니다. |
| 거버넌스 | 알고리즘 책임 | ✅ 수집된 예측 모델 결정 데이터 및 CRM Analytics 공정성 모니터링 대시보드는 알고리즘 책임 보고를 위한 데이터 파운데이션을 제공합니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 거버넌스 | EU AI Act | ⚡️ 고위험 AI 시스템은 투명도 문서, 인적 감독 기능 또는 공정성 메트릭 없이 배포됩니다. |
| 거버넌스 | EU AI Act | ⚡️ 모델 교육 데이터 인구 통계 및 알려진 제한 사항은 아키텍처 결정 레코드에 문서화되지 않음 |
| 거버넌스 | GDPR | ⚡️ 시스템은 GDPR 데이터 주체 액세스 요청 시간 범위 내 내 내역 결정에 대한 일관된 설명을 생성할 수 없습니다. |
| 거버넌스 | GDPR | ⚡️ 수집된 예측 모델 결정 데이터 보존이 과거 결정에 대한 설명 재구축을 지원하기에 충분하지 않음 |
| 거버넌스 | 알고리즘 책임 | ⚡️ 결과적 AI 배포 전에 알고리즘 영향 평가가 수행되지 않으며, 규제 조사가 끝난 후에는 규정 준수에 반응합니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 플랫폼 | OWD | ✅ 역할 계층 및 공유 규칙을 통해 부여된 액세스 권한이 있는 중요한 고객 데이터가 포함된 개체에 대해 비공개 조직 전체 기본값이 설정됩니다. |
| 플랫폼 | OWD | ✅ 명시적 공유 보조금이 있는 비공개 OWD는 비차별 준수를 지원하는 감사 가능한 액세스 패턴을 만듭니다. |
| 플랫폼 | 필드 수준 보안 | ✅ 보호된 특성(민족, 종교, 장애 상태)이 포함된 민감한 필드는 합법적인 비즈니스 요구가 없는 사용자에게 FLS를 통해 숨겨집니다. |
| 플랫폼 | 필드 수준 보안 | ✅ 대부분의 프로필에서 FLS를 통해 민감한 필드에 대한 읽기 액세스가 제거되며 문서화된 근거가 포함된 권한 집합을 통해 최소한의 액세스 권한이 부여됩니다. |
| 플랫폼 | 할당 및 라우팅 | ✅ 할당 규칙, 대기열, 옴니채널 라우팅은 목표 기준에 따라 영역, 팀, 서비스 에이전트 전체에서 작업을 균등하게 배포합니다. |
| 플랫폼 | 공유 규칙 | ✅ 자동 공유 규칙은 주관적인 관리자 재량이 아닌 목표 기준(산업, 지역, 제품 라인)을 기반으로 합니다. |
| 플랫폼 | 권한 집합 | ✅ 영구 프로필 수정이 아닌 문서화된 만료가 있는 권한 집합을 통해 민감한 데이터에 대한 임시 액세스 권한이 부여됩니다. |
| 플랫폼 | 권한 집합 | ✅ 예약된 플로는 특정 프로젝트에 대한 인구 통계 데이터에 대한 액세스가 필요한 정의된 기간 이후 권한 집합을 자동으로 취소합니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 플랫폼 | OWD | ⚡️ 공용 읽기/쓰기 OWD는 나중에 액세스 제한을 중단시킵니다(기본값을 좁히면 공유 재계산이 트리거됨). 감사 가능한 액세스 패턴은 존재하지 않습니다. |
| 플랫폼 | OWD | ⚡️ 계정 OWD는 주관적인 편향을 활성화하는 모든 사용자에게 표시되는 보호되지 않는 인구 통계 필드를 사용하여 공용 읽기/쓰기로 설정됨 |
| 플랫폼 | 필드 수준 보안 | ⚡️ 민감한 인구 통계 필드는 FLS 제한 없이 모든 프로필에 표시되며 차별적인 데이터 사용은 방지되지 않습니다. |
| 플랫폼 | 공유 규칙 | ⚡️ 수동 공유는 문서화된 비즈니스 근거 없이 특정 사용자 그룹과 중요한 기회를 집중 |
| 플랫폼 | 공유 규칙 | ⚡️ 편향을 활성화하는 목표 기준이 아닌 주관적인 관리자 재량에 의존하는 공유 규칙 |
| 플랫폼 | 권한 집합 | ⚡️ 권한 집합을 통해 임시 액세스 권한을 부여하는 대신 프로필이 모든 사용자에게 영구적으로 영향을 미치도록 수정됩니다. |
| 플랫폼 | 권한 집합 | ⚡️ 중요한 데이터 액세스 권한을 부여하는 권한 집합은 자동으로 만료되지 않으며, 프로젝트 완료 후에는 액세스가 무기한으로 유지됩니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Shield | 이벤트 모니터링 | ✅ Shield 이벤트 모니터링은 보호된 특성 또는 민감한 특성이 포함된 필드에 대한 액세스를 추적합니다. |
| Shield | 이벤트 모니터링 | ✅ 이벤트 모니터링 쿼리는 인구 통계 필드에 액세스하는 사람, 비정상적인 패턴을 감지하는 시기 및 컨텍스트를 추적합니다. |
| Shield | 이벤트 모니터링 | ✅ 비정상적인 액세스 패턴(정상적인 급증, 예기치 않은 사용자의 액세스)이 잠재적인 오용에 대한 조사를 트리거합니다. |
| 플랫폼 | 보고 | ✅ 보고서에서 공유 규칙이 사용자, 팀, 영역 전반에 레코드를 배포하는 방법을 분석하고 고객 인구 통계별로 배포 통계를 계산합니다. |
| 플랫폼 | 보고 | ✅ 보고서에서 특정 사용자 그룹이 문서화된 근거 없이 중요한 레코드에 비례하게 액세스하는 농도를 식별합니다. |
| 플랫폼 | 설정 감사 내역 | ✅ 설정 감사 내역이 OWD 설정, 공유 규칙, FLS 구성, 무단 변경 사항을 감지하는 권한 집합에 대한 변경 사항을 검토합니다. |
| 플랫폼 | 트랜잭션 보안 | ✅ 트랜잭션 보안 정책은 고위험 실시간 이벤트 모니터링 이벤트(비정상적인 API 활동, 의심스러운 로그인, 중요한 데이터의 대량 내보내기)에 적용됩니다. FLS 및 공유 변경 사항은 설정 감사 내역 및 문서화된 변경 관리 승인에 의존합니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Shield | 이벤트 모니터링 | ⚡️ 민감한 인구 통계 필드에 대한 액세스는 모니터링되지 않으며, 잠재적인 오용은 감지되지 않습니다. |
| Shield | 이벤트 모니터링 | ⚡️ 비정상적인 액세스 패턴(작음, 예기치 않은 사용자)은 추적 또는 조사되지 않음 |
| 플랫폼 | 보고 | ⚡️ 공유 규칙 배포는 분석되지 않으며, 중요한 레코드에 대한 비율적인 액세스는 계속해서 표시되지 않습니다. |
| 플랫폼 | 보고 | ⚡️ 특정 사용자 그룹이 있는 가치가 높은 계정의 집약은 문서화된 비즈니스 근거가 없습니다. |
| 플랫폼 | 설정 감사 내역 | ⚡️ 설정 감사 내역은 검토되지 않으며, 중요한 데이터 액세스를 활성화하는 데이터 액세스 제어에 대한 무단 변경 사항은 감지되지 않습니다. |
| 플랫폼 | 트랜잭션 보안 | ⚡️ 고위험 실시간 이벤트 모니터링 이벤트(비정상적인 API 활동, 중요한 데이터의 대량 내보내기)는 트랜잭션 보안 정책으로 조치되지 않습니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 플랫폼 | 사용자 정의 개체 | ✅ 사용자 정의 동의 개체 추적 목적, 기부 날짜/메서드, 철회 날짜, 관련 사용자/연락처 ID를 통해 AI 사용 사례당 세부적인 동의가 활성화됩니다. |
| 플랫폼 | 사용자 정의 개체 | ✅ 고객이 Einstein 제품 권장 사항에 동의하고 사용 사례별로 별도의 동의 레코드를 통해 AI 기반 신용 결정을 거부합니다. |
| 플랫폼 | 필드 감사 내역 | ✅ 장기 보존 규제 요구 사항을 충족하기 위해 동의 개체에 필드 감사 내역이 활성화됨 |
| Data 360 | 동의 | ✅ Data 360 동의 관리는 Einstein 개인 설정 기능에 사용되며, 개인정보 보호 데이터 모델에 매핑된 커넥터를 통해 동의 기본 설정을 수집 및 저장하고 세분화 및 활성화 시 필터 기준으로 사용합니다. |
| Data 360 | 동의 | ✅ 동의 범주가 특정 AI 사용 사례에 매핑되어 사용자가 핵심 서비스를 유지하면서 개인 설정을 거부할 수 있습니다. |
| Marketing Cloud | 동의 | ✅ Marketing Cloud 동의는 Einstein Messaging Insights 및 Agentforce 마케팅 에이전트와 구독 상태에 대한 통합 |
| Marketing Cloud | 동의 | ✅ 수신 거부한 사용자와 원치 않는 연락을 방지하기 위해 Agentforce 자동 지원을 시작하기 전에 Marketing Cloud 동의 상태가 쿼리됨 |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 플랫폼 | 사용자 정의 개체 | ⚡️ AI 동의가 스프레드시트에서 추적되거나 명시적 레코드 없이 암시적 일반 동의로 로그인에 의존 |
| 플랫폼 | 사용자 정의 개체 | ⚡️ 대형 AI 동의는 사용자별 세부적인 사례 동의 대신 사용됩니다. 사용자는 특정 AI 기능을 거부할 수 없습니다. |
| 플랫폼 | 필드 감사 내역 | ⚡️ 동의 개체에 필드 감사 내역이 활성화되어 있지 않으며 장기간 보존 규제 요구 사항을 준수하지 않음 |
| Data 360 | 동의 | ⚡️ Data 360 동의는 Einstein 개인 설정 사용되지 않으며, 동의 범주는 특정 사용 사례에 매핑되지 않습니다. |
| Marketing Cloud | 동의 | ⚡️ Marketing Cloud 동의는 Einstein 또는 Agentforce 통합되지 않으며 자동 지원 시 구독 상태가 적용되지 않습니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| Experience Cloud | 프로필 설정 | ✅ 사용자는 Experience Cloud 프로필 설정 또는 명확한 설명이 포함된 내 설정에서 액세스 가능한 기본 설정 컨트롤을 통해 Agentforce 상호 작용을 거부할 수 있습니다. |
| 플랫폼 | 사용자/연락처 레코드 | ✅ AI 기본 설정은 사용자 또는 연락처 레코드에 저장되어 플로 및 Agentforce 결정 논리에서 쿼리를 활성화합니다. |
| Agentforce | 옴니채널 | ✅ Agentforce 거부하는 사용자는 저하된 서비스를 받는 대신 옴니채널을 통해 인적 에이전트로 라우팅됩니다. |
| Agentforce | 플로 | ✅ 플로가 Agentforce 참여 전에 동의 및 기본 설정 필드를 확인합니다. 사용자가 수신 거부한 경우 작업 레코드가 생성되고 인간 대기열로 라우팅됩니다. |
| Agentforce | 옴니채널 | ✅ 옵트아웃한 사용자에게 자동화된 서비스와 비교할 수 있는 대기 시간을 제공하는 인력 대기열 |
| 플랫폼 | 사용자/연락처 레코드 | ✅ AI 기본 설정은 채널 전반에서 일관성을 보장하는 사용자 또는 연락처 레코드에 저장됩니다(웹, 모바일, 전화, 이메일). |
| 플랫폼 | 플로 | ✅ 기본 설정은 모든 상호 작용 플로에서 일관되게 쿼리되므로 사용자가 각 채널에서 기본 설정을 반복적으로 다시 어설션할 필요가 없습니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| Experience Cloud | 프로필 설정 | ⚡️ 수신 거부는 지원 팀에 이메일을 통해서만 사용할 수 있으며 액세스 가능한 기본 설정 제어가 없습니다. |
| 플랫폼 | 사용자/연락처 레코드 | ⚡️ AI 기본 설정은 사용자 또는 연락처 레코드에 저장되지 않으며 플로 또는 Agentforce 논리에서 기본 설정을 쿼리할 수 없습니다. |
| Agentforce | 옴니채널 | ⚡️ 수신 거부하는 사용자는 사람 에이전트에게 라우팅하는 대신 AI를 수락하기 위한 암시적 압박으로 저하된 서비스를 받습니다. |
| Agentforce | 플로 | ⚡️ Flow는 Agentforce 참여 전에 동의 또는 기본 설정 필드를 확인하지 않습니다. 수신 거부 기본 설정은 무시됩니다. |
| 플랫폼 | 사용자/연락처 레코드 | ⚡️ 기본 설정은 채널 전체에서 일관되지 않으며, 사용자는 웹, 모바일, 전화, 이메일에서 별도로 수신 거부를 다시 어설션해야 합니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 거버넌스 | 문서 | ✅ 모든 프로덕션 예측 모델은 교육 데이터 인구 통계, 공정성 메트릭, 의도한 사용 사례, 편차 완화 전략, 모니터링 접근 방식으로 문서화됩니다. |
| 거버넌스 | 문서 | ✅ 모델 문서에는 공정성 모니터링 접근 방식, 경고 임계값, 인적 감독 요구 사항, 검토 일정, 규제 고려 사항이 포함됩니다. |
| 플랫폼 | 사용자 정의 개체 | ✅ 모델 문서는 검색 가능성 및 버전 관리가 활성화된 프로젝트에 첨부된 사용자 정의 모델 개체 또는 Salesforce Files를 사용하여 Salesforce에 저장됩니다. |
| 거버넌스 | 배포 게이트 | ✅ 배포 전 공정성 게이트에는 프로덕션 전 교육 데이터 감사, 공정성 메트릭 계산, 영향 평가, 인적 감독 설계, 투명성 검토가 필요합니다. |
| 거버넌스 | 배포 게이트 | ✅ 교육 데이터 표현 차이는 필수 배포 게이트로 분석 및 문서화됩니다. |
| 거버넌스 | 배포 게이트 | ✅ 인구 통계 패리티, 동등 기회, 편파 효과는 필수 경로로 계산된 충족 임계값입니다. |
| 거버넌스 | 배포 게이트 | ✅ 영향 평가는 영향을 받는 모집단 전반에서 잠재적인 피해를 필수 대상으로 평가합니다. |
| 거버넌스 | 배포 게이트 | ✅ 에스컬레이션 패턴, 승인 워크플로, 재정의 메커니즘을 포함한 인적 감독 설계가 필수 게이트로 설계 및 테스트됩니다. |
| 거버넌스 | 배포 게이트 | ✅ 설명 기능이 모든 결정 유형에 대해 필수 게이트로 확인됨 |
| 거버넌스 | 배포 게이트 | ✅ 공정성 게이트는 게이트에 실패한 배포를 차단할 수 있는 권한이 있는 보안 게이트와 같은 엄격한 처리를 받습니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 거버넌스 | 문서 | Einstein 기능은 교육 데이터, 공정성 메트릭, 편향 완화 또는 모니터링 접근 방식을 문서화하지 않고 배포됩니다. |
| 거버넌스 | 문서 | ⚡️ 모델 문서에는 공정성 모니터링 접근 방식, 인적 감독 요구 사항 또는 규제 고려 사항이 포함되지 않습니다. |
| 플랫폼 | 사용자 정의 개체 | ⚡️ 모델 문서는 검색 가능성 또는 버전 관리 없이 스프레드시트 또는 Wiki에 저장됩니다. |
| 거버넌스 | 배포 게이트 | ⚡️ Einstein 기능은 공정성 게이트 없이 운영을 진행합니다. 배포는 전반적인 정확도 메트릭을 기반으로 합니다. |
| 거버넌스 | 배포 게이트 | ⚡️ 교육 데이터 감사, 공정성 메트릭 계산 또는 영향 평가는 프로덕션 배포 전에 건너뛰기 |
| 거버넌스 | 배포 게이트 | ⚡️ 프로덕션 전에 인사 감독 설계, 투명성 검토 또는 설명 검증이 수행되지 않음 |
| 거버넌스 | 배포 게이트 | ⚡️ 공정성 게이트는 배포를 차단할 권한이 없는 자문 전용이며, 공정성 기준이 실패해도 모델이 진행됩니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 거버넌스 | 검토 위원회 | ✅ 검토 위원회에는 기술 전문가(아키텍처, 데이터 과학자), 비즈니스 이해당사자, 법률 고문, 개인정보 보호 전문가, 영향을 받는 커뮤니티의 담당자가 포함됩니다. |
| 거버넌스 | 검토 위원회 | ✅ 다양한 관점이 윤리 검토 중에 유사한 그룹이 놓친 공정성 문제를 보여줍니다. |
| 거버넌스 | 트리거 검토 | ✅ 검토 트리거가 정의됨: 고용/신용/주택/헬스케어/법적 권리에 영향을 미치는 결정, 연간 10,000명 이상의 사용자에게 영향을 미치는 시스템, 새로운 사용 사례, 중대한 손상 위험 |
| 거버넌스 | 트리거 검토 | ✅ 중요한 개인 데이터(건강, 금융, 인구 통계)를 사용하는 AI 응용 프로그램은 배포 전에 윤리 검토가 필요합니다. |
| 거버넌스 | 검토 기관 | ✅ 윤리 검토 위원회에 변경을 요구하거나 모니터링 조건을 적용하거나 윤리 표준에 실패한 배포를 차단할 수 있는 권한이 있습니다. |
| 플랫폼 | 사용자 정의 개체 | ✅ 모든 검토는 Salesforce 사용자 정의 개체 추적 신청 이름, 검토 날짜, 제기된 우려 사항, 완화 요구 사항, 승인 조건에 문서화됩니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 거버넌스 | 검토 위원회 | ⚡️ 검토 위원회에 다양성이 부족합니다(기술 전문가만 해당), 유사한 그룹은 다양한 모집단에 영향을 미치는 공정성 문제를 놓치지 않습니다. |
| 거버넌스 | 검토 위원회 | ⚡️ 영향을 받는 커뮤니티의 담당자는 포함되지 않으며, 공정성 고려 사항으로 인해 눈부심이 발생합니다. |
| 거버넌스 | 트리거 검토 | ⚡️ 검토 트리거가 정의되지 않았으며, 배포 전에 윤리 검토 없이 고위험 AI 응용 프로그램이 진행됩니다. |
| 거버넌스 | 검토 기관 | ⚡️ 윤리 검토는 적용되지 않고 조언 전용이며, 윤리적 표준이 실패해도 배포가 진행됩니다(책임 시어터). |
| 플랫폼 | 사용자 정의 개체 | ⚡️ 검토는 체계적으로 문서화되지 않으며 내역 검토 결정, 우려 사항 및 경감 사항은 추적되지 않습니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| CRM Analytics | 모니터링 | ✅ CRM Analytics 대시보드는 예약된 케이던스의 캡처된 결정 데이터 및 Trust 계층 감사 데이터에서 Einstein 및 Agentforce 공정성 메트릭을 추적합니다. |
| CRM Analytics | 모니터링 | ✅ 인구 통계 패리티, 기회 평등, 편파 효과 비율, 서비스 품질 메트릭이 고객 세그먼트별로 모니터링됩니다. |
| CRM Analytics | 모니터링 | ✅ 공정성 메트릭이 조사가 필요한 정의된 임계값을 초과하는 경우 트리거되도록 CRM Analytics 경고가 구성됨 |
| CRM Analytics | 모니터링 | ✅ CRM Analytics 대시보드는 공정성 신호를 추적합니다. 결정 분포의 갑작스러운 변화, 편차 관련 사례의 급증, 특정 모집단의 성능 저하 |
| CRM Analytics | 모니터링 | ✅ 어느 세그먼트의 승인 비율이 주별로 15% 이상 하락하면 Einstein Opportunity Scoring에 대한 경고가 트리거됩니다. |
| 거버넌스 | 예약된 감사 | ✅ 높은 지분의 AI(신용, 고용, 헬스케어)에 대해 분기별로 종합적인 공정성 감사를 수행하거나, 낮은 지분의 시스템에 대해 반년마다 |
| 거버넌스 | 예약된 감사 | ✅ 감사는 현재 공정성 메트릭을 검사하고, 재정의 패턴을 검토하고, 사용자 피드백 및 편향 보고서를 분석하고, 거버넌스 제어의 유효성 검증을 유지합니다. |
| 거버넌스 | 사고 대응 | ✅ 편차 감지 시 응답을 위해 Salesforce Knowledge 명확한 사고 응답 프로세스가 문서화되어 있습니다. |
| 거버넌스 | 사고 대응 | ✅ CRM Analytics에서 예측 모델 결정 데이터를 쿼리하여 심각도 평가를 즉시 수행합니다. 심각한 편향으로 인해 조사 대기 중인 자동화된 의사 결정이 정지됩니다. |
| 거버넌스 | 사고 대응 | ✅ 임시 완화는 조정된 신뢰 임계값, 기능 비활성화 또는 에이전트의 전체 정지를 통해 인적 감독을 강화함 |
| 거버넌스 | 사고 대응 | ✅ 근본 원인 분석은 편차가 시작되거나 진화되는 방식을 식별하며, 필드 감사 내역을 통해 교육 데이터, 모델 버전 및 구성 변경 사항이 분석됩니다. |
| 거버넌스 | 사고 대응 | ✅ 영구 수정 - 영향받는 사용자와 적절한 커뮤니케이션을 통해 데이터 정정, 모델 재교육 또는 프로세스 변경을 구현합니다. |
| 거버넌스 | 사고 대응 | ✅ 편차 사고 반복을 방지하는 실행북에 예방 조치가 문서화되어 있습니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| CRM Analytics | 모니터링 | ⚡️ 정당성 메트릭은 수집된 결정 데이터 또는 Trust 계층 감사 데이터에서 예약된 케이던스에서 추적되지 않으며, 데이터 분포가 변경되면 편향 드리프트가 감지되지 않습니다. |
| CRM Analytics | 모니터링 | ⚡️ CRM Analytics 경고가 구성되지 않으며 조사가 필요한 공정성 메트릭 위반이 트리거되지 않습니다. |
| CRM Analytics | 모니터링 | ⚡️ 공정성 신호는 모니터링되지 않으며, 결정 분포의 갑작스러운 변경 사항은 감지되지 않습니다. |
| 거버넌스 | 예약된 감사 | ⚡️ 포괄적인 공정성 감사는 일정에 따라 수행되지 않으며, 거버넌스 제어가 드리프트되고 효율이 떨어집니다. |
| 거버넌스 | 예약된 감사 | ⚡️ 감사 동안 재정의 패턴, 사용자 의견, 편향 보고서가 체계적으로 분석되지 않음 |
| 거버넌스 | 사고 대응 | ⚡️ 명확한 사고 응답 프로세스는 문서화되지 않으며 편차 감지는 체계적인 접근 방식을 사용하지 않고 특별 응답으로 이어집니다. |
| 거버넌스 | 사고 대응 | ⚡️ 임시 경감 또는 영구적 조치가 체계적으로 구현되지 않으며 편차가 지속되어 사용자에게 영향을 미칩니다. |
| 거버넌스 | 사고 대응 | ⚡️ 근본 원인 분석이 수행되지 않으며 편차가 시작되거나 진화한 방식은 알 수 없음 |
| 거버넌스 | 사고 대응 | ⚡️ 예방 조치는 문서화되지 않으며 반복은 방지되지 않습니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 플랫폼 | 필수 필드 | ✅ 모든 필수 필드에는 데이터가 옵션이 아닌 필수인 이유에 대한 문서화된 비즈니스 근거가 포함되어 있으며, 프로세스에서 작동하지 않을 수 있는 필드는 누락된 값에 대한 다운스트림 처리를 통해 옵션으로 지정됩니다. |
| 플랫폼 | 필수 필드 | ✅ 이메일은 대체 커뮤니케이션 방법(SMS, 전화, 우편)과 함께 선택 사항이므로 신뢰할 수 있는 인터넷 또는 개인 이메일이 없는 사용자는 계정 생성에서 제외되지 않습니다. |
| 플랫폼 | 이름 필드 | ✅ 이름 아키텍처는 순서 또는 상속을 가정하지 않고 단일 전체 이름 필드 또는 유연한 다중 부분 구조를 사용하며, 이는 모노니엄, 파트너 이름 시스템, 여러 개의 주어진 이름 또는 성(姓)을 수용합니다. |
| 플랫폼 | 이름 필드 | ✅ 이름 필드는 다양한 국제 이름으로 테스트되며 단일 단어 이름, 긴 이름, 다이아크리틱, 아포스트로프, 하이픈, 비 라틴어 스크립트(아랍어, 중국어, 키릴어, 데바나가리)를 허용합니다. |
| 플랫폼 | 주소 확인 | ✅ 허용 주소 유효성 검사는 구조화된 유효성 검사가 실패할 경우 자유 형식 입력을 허용하고 잘못된 수정을 강제 적용하지 않고 사용자가 입력할 때 주소를 저장합니다. |
| 플랫폼 | 주소 확인 | ✅ 주소 확인은 데이터 수집 앞서 차단하는 대신 정확도가 중요한 처리 프로세스에 내장되어 있습니다. |
| 플랫폼 | 커뮤니케이션 기본 설정 | ✅ 기본 커뮤니케이션 방법은 연락처 레코드에 저장되며 모든 아웃바운드 시스템에서 일관되게 적용되므로 단일 채널 가정이 아닌 옴니채널 대안을 제공합니다. |
| 사용자 정의 개체 | 인구 통계 데이터 | ✅ 자발적 인구 통계 데이터는 “응답하지 않음” 옵션이 있는 별도의 설문 조사를 통해 수집되며, 비공개 OWD가 있는 사용자 정의 개체에 저장되며, FLS로 제한되며, 집계 공정성 분석에만 사용됩니다. |
| Shield | 이벤트 모니터링 | ✅ Shield 이벤트 모니터링은 인구 통계 데이터에 대한 액세스 이벤트(보고서 내보내기, API 개체 쿼리)를 로그하여 액세스 패턴을 감사합니다. |
| 플랫폼 | 타사 보강 | ✅ 구현 전에 타사 보강 공급업체가 공정성 테스트, 인구 통계 적용 범위 및 정확성, 추론 방법, 계약 데이터 사용 제한에 대해 감사됩니다. |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 플랫폼 | 필수 필드 | ⚡️ 대안이 없는 계정 생성에 이메일이 필요하며, 전화 또는 주소 유효성 검사는 데이터를 제공할 수 없는 사용자를 제외하고 미국 이외의 형식, PO 상자 및 현지 경로를 거부합니다. |
| 플랫폼 | 필수 필드 | ⚡️ 프로세스가 데이터 없이 작동할 수 있는지 여부를 문서화하지 않고 필드가 필수로 표시되어 거부된 불완전한 레코드에서 표시되지 않는 모집단을 만듭니다. |
| 플랫폼 | 이름 필드 | ⚡️ 이름 필드는 서부어스트리스트/마지막 규칙을 적용하고 동의어, 다이아크리틱 또는 비라틴어 스크립트를 거부하므로 사용자에게 문화적 정체성을 기반으로 시스템 거부가 적용됩니다. |
| 플랫폼 | 주소 확인 | ⚡️ 주소 확인에는 미국 우편 형식이 필요하며 국제 주소, PO 상자, 군사(APO/FPO) 또는 부족 지역 주소를 인식하지 못하므로 계정 생성 및 서비스 제공이 차단됩니다. |
| 플랫폼 | 커뮤니케이션 기본 설정 | ⚡️ 단일 통신 채널은 인터넷이 없거나 전화에 액세스할 수 없는 사용자 또는 청각 장애가 있는 사용자를 제외하고 범용(이메일 전용 또는 전화 전용)으로 간주됩니다. |
| 사용자 정의 개체 | 인구 통계 데이터 | ⚡️ 인구 통계 데이터는 사용자 Knowledge 없이 이름이나 위치에서 추론되고, 모든 사용자가 볼 수 있는 표준 연락처 필드에 저장되며, 공개 없이 리드 점수 매기기 또는 예측에 사용됩니다. |
| 플랫폼 | 타사 보강 | ⚡️ 공급업체 공정성 관행 또는 인구 통계 범위를 감사하지 않고 타사 데이터가 추가되어 공급업체가 도입한 편향을 조직 결정에 가져옵니다. |
패턴
| 찾을 위치 | 유사성 |
|---|---|
| 플랫폼 | 할당 및 라우팅 | ✅ 할당 및 라우팅 규칙은 목표 기준(제품 라인, SLA, 언어 요구 사항)을 사용하며, 고객 인구 통계에 따라 분기별로 계층화된 할당 배포를 감사하여 집중 패턴이 발생하지 않도록 합니다. |
| 플랫폼 | 옴니채널 | ✅ 라우팅 경로 전반에서 평균 처리 시간, 첫 번째 연락 해결, 고객 만족도가 모니터링되어 고객 세그먼트에서 체계적으로 경험이 낮은 에이전트를 수신하는지 여부를 감지합니다. |
| 플랫폼 | 플로 | ✅ 결과적 결정을 내리는 플로는 보호된 특성(계정 유지 기간, 채널 기본 설정, 구매 내역, 업무 시간)과 관련된 기준을 검토하며, 결정 논리는 아키텍처 결정 레코드에 문서화됩니다. |
| 플랫폼 | 플로 | 고용, 신용 또는 서비스 액세스에 영향을 미치는 플로는 AI 시스템과 동일한 윤리 검토 프로세스가 적용됩니다. |
| 플랫폼 | 확인 규칙 | ✅ 유효성 검사 규칙은 다양한 데이터(국제 주소, 비서양 이름, 대체 전화 형식)로 테스트되고 합법적인 데이터를 거부할 때마다 확장됩니다. 이름 필드는 유니코드 및 모든 스크립트를 허용합니다. |
| 플랫폼 | 영역 설계 | ✅ 설계가 완료되기 전에 제안된 영역 경계 전반에 걸쳐 고객 인구 통계가 매핑됩니다. 집약도가 나타나면 자원 할당이 자산의 자산을 평가하고 비즈니스 근거가 문서화되고 모니터링됩니다. |
| 플랫폼 | 감사 | ✅ 자동화 논리(비즈니스 규칙, 할당 기준, 플로 결정)는 Salesforce Knowledge 또는 ADR에 문서화되며 결과는 인구 통계별로 분류되어 분기별로 감사됩니다(할당 분포, 플로 승인 비율, 확인 거부 비율 및 영역 자원 할당). |
안티 패턴
| 찾을 위치 | 불만 사항 |
|---|---|
| 플랫폼 | 할당 및 라우팅 | ⚡️ 할당 규칙은 성공에 기술 또는 인구 통계적 이점이 반영되는지 여부를 검사하지 않고 과거 수주율을 기반으로 특정 우편 번호의 리드에 “상위 성과자”의 우선 순위를 지정합니다. |
| 플랫폼 | 옴니채널 | ⚡️ 라우팅 품질 메트릭은 고객 세그먼트 전반에서 모니터링되지 않으므로 에이전트 경험 또는 해결 방법의 차이가 감지되지 않습니다. |
| 플랫폼 | 플로 | ⚡️ 플로 결정 기준은 보호된 특성(소유 기간, 채널, 구매량, 시간대)과 연관되어 있으며 결정적 논리가 중립적으로 느껴지므로 목표로 취급됩니다. |
| 플랫폼 | 플로 | ⚡️ 중요한 플로는 윤리 검토, ADR 문서 또는 일반적인 고객 프로필 외부 사용자에 대한 처리를 제외하고 결과적 결정을 내립니다. |
| 플랫폼 | 확인 규칙 | ⚡️ 이름 유효성 검사는 A~Z로 제한되며, 대화형 또는 비라틴어 스크립트를 거부하며, 주소 유효성 검사는 미국 우편 형식이어야 합니다. 합법적인 데이터는 거부되고 사용자는 보고되지 않은 요청을 중단합니다. |
| 플랫폼 | 영역 설계 | ⚡️ 영역 경계는 인구 통계와 관련된 지역을 따르며, 영역 전반의 보상 또는 직원 배치가 다르며 인구 통계 집약도 분석하지 않습니다. |
| 플랫폼 | 감사 | ⚡️ 자동화 논리가 문서화되지 않고 결과가 감사되지 않으므로 할당, 승인, 확인 또는 영역 할당의 차별 패턴은 계속해서 표시되지 않습니다. |