Trust Agentic Enterprise - 패턴 | 패턴 |

Trust Agentic Enterprise - 패턴

Well-Architected Trust 에 대해 자세히 알아보기 → Agtic Enterprise Trust

패턴

찾을 위치	유사성
Agentforce \| 에이전트 구성	✅ 사례/제품에 대한 읽기, Knowledge 기사에 대한 액세스 및 사례 업데이트에 대해서만 특정 작업을 허용하는 권한 집합을 사용하여 통합 사용자를 만듭니다.
Agentforce \| 에이전트 구성	✅ 에이전트의 정의된 범위에 필요한 최소 권한으로 실제 사용자 구성
플랫폼 \| 권한 집합	✅ 에이전트 컨텍스트에 대한 목적에 따라 구축된 통합 사용자를 만들고 에이전트에게 필요한 사항을 정확하게 제공하는 권한 집합을 부여합니다.
플랫폼 \| 이벤트 모니터링	✅ 배포 후 이벤트 모니터링을 사용하여 런타임 시 사용되지 않은 권한을 식별하고 제거합니다. 설정 감사 내역은 실제로 사용되는 권한이 아닌 구성 변경 사항(보조금 및 해지)을 기록합니다.

안티 패턴

찾을 위치	불만 사항
Agentforce \| 에이전트 구성	⚡️ 시스템 관리자를 실제 사용자로 할당하십시오. 이는 “작동하기 전용”이며 테스트하는 동안 권한 오류를 방지합니다.
플랫폼 \| 조직	⚡️ 배포 후 검토 없이 에이전트가 개발 중에 부여된 광범위한 권한 집합을 유지하도록 허용

패턴

찾을 위치	유사성
Agentforce \| Agent Builder	✅ 에이전트 빌더에서 하위 에이전트 및 작업 구성을 라우팅뿐만 아니라 권한 경계로 처리합니다. 하위 에이전트에 작업이 할당되지 않은 경우 에이전트가 해당 작업을 호출할 수 없습니다.
Agentforce \| Agent Builder	✅ 에이전트에게 필요하지 않은 기능을 표시하는 하위 에이전트를 제거합니다(제품 질문에 답변하는 에이전트에게 레코드 수정, 이메일 보내기 또는 범위의 플로 호출이 없어야 함), 책임이 변경되면 하위 에이전트 범위를 검토합니다.
플랫폼 \| Apex	✅ 실행 중인 사용자가 보안 경계를 유지하도록 시스템 컨텍스트가 의도적이고 문서화된 경우를 제외하고 에이전트의 작업 집합에서 공유 또는 상속된 공유를 통해 사용하는 모든 Apex 작업을 확인합니다
Agentforce \| 작업	✅ 에이전트가 스키마를 처리하기 전에 스키마에 대한 출력을 확인하여 모든 툴 응답을 신뢰할 수 없는 입력으로 처리합니다.
Agentforce \| 작업	✅ 신뢰할 수 없는 데이터에 대한 에이전트의 추론이 결정하는 대신 허용 값 범위(예: 이메일 보내기 작업에서 수신자 도메인 유효성 검사)로 도구 매개 변수를 제약합니다.
Agentforce \| 작업	✅ 에이전트 구성뿐만 아니라 도구 구현 계층에서 도구 수준 권한 검사를 적용하여 기능이 실행하기 전에 호출 컨텍스트를 확인합니다.
Agentforce \| 작업	✅ 에이전트 작업의 모든 외부 콜아웃에 명명된 자격 증명 사용

안티 패턴

찾을 위치	불만 사항
Agentforce \| Agent Builder	⚡️ 제품 질문에 답변하기 전용으로 설계된 에이전트에 레코드 수정, 이메일 보내기 또는 플로 호출을 노출하는 하위 에이전트를 남깁니다.
Agentforce \| Agent Builder	⚡️ 에이전트가 사용하도록 설계되지 않은 기능을 사용하더라도 나열된 항목이 즉시 조작하여 액세스할 수 있음을 인식하지 않고 에이전트 구성을 라우팅 전용으로 처리합니다.
플랫폼 \| Apex	⚡️ 실행 중인 사용자의 필드 수준 보안 및 공유 규칙을 우회하는 시스템 모드에서 실행되는 사용자 정의 Apex 작업 추가(공유하지 않고)
Agentforce \| 작업	⚡️ 스키마 유효성 검사 없이 신뢰할 수 있는 입력으로 도구 응답을 처리하여 잘못된 형태 또는 삽입된 데이터가 에이전트 논리에 도달할 수 있습니다.

패턴

찾을 위치	유사성
Agentforce \| 에이전트 구성	✅ 문서 권한 체인: 주문 오케스트레이터(주문 읽기, 주문 작성 상태) → 재고 전문가(재고 읽기/쓰기) → 배송 전문가(배송 만들기) 사용자 컨텍스트가 모든 다운스트림 작업을 허용하는지 확인
Agentforce \| 에이전트 구성	✅ 배포 전에 전체 오케스트레이션 체인의 유효 권한 매핑
Agentforce \| 에이전트 구성	✅ 개별 에이전트뿐만 아니라 전체 워크플로에서 권한 경계 설계

안티 패턴

찾을 위치	불만 사항
Agentforce \| 에이전트 구성	⚡️ 권한이 제한된 오케스트레이터가 모든 데이터 수정을 사용하여 전문가를 호출하고 오케스트레이터의 제한을 무시하도록 허용
Agentforce \| 에이전트 구성	⚡️ 전체 오케스트레이션 체인의 유효 권한을 매핑하지 않고 개별 에이전트 권한 평가

패턴

찾을 위치	유사성
Agentforce \| 프롬프트 템플릿	✅ 아키텍처적으로 명령을 데이터와 분리합니다. 시스템 수준 명령은 문자열 연결을 통해 레코드 소스 콘텐츠, 사용자 제공 텍스트 또는 도구 응답과 혼합해서는 안 됩니다.
Agentforce \| 작업	✅ 사례 설명, 이메일 본문, 채팅 내용을 고위험 필드로 식별합니다. 에이전트 논리를 전달하기 전에 내용을 요약하는 사전 처리 레이어를 구현하고, 의미를 유지하면서 잠재적인 주입 지침을 제거합니다.
Agentforce \| 에이전트 구성	✅ 모든 에이전트 경계에서 입력 확인 계약을 정의하고 모든 외부 콘텐츠 소스를 신뢰할 수 없는 것으로 처리합니다.
Data 360 \| 기초 교육 소스	✅ Knowledge 기사, Data 360 인덱싱 문서 및 외부 검색 소스를 지속적인 검토가 필요한 영구적인 주입 표면으로 처리
Einstein \| Trust 계층	✅ Einstein Trust Layer 보안 컨트롤을 심층적이고 완전한 솔루션이 아닌 한 층으로 처리

안티 패턴

찾을 위치	불만 사항
Agentforce \| 프롬프트 템플릿	⚡️ 모델이 사례 내용을 공격 지침과 구분한다고 가정하여 원시 사례 설명을 시스템 지침과 함께 에이전트 프롬프트에 연결합니다.
Data 360 \| 기초 교육 소스	⚡️ Trust 기초 교육 소스는 상대적인 콘텐츠가 지속되고 직접 에이전트 액세스 없이 당사자가 시간이 지남에 따라 수정할 수 있음을 고려하지 않고
Einstein \| Trust 계층	⚡️ 신규 주입 기술에 대한 추가 아키텍처 방어 없이 Trust Layer 보안 제어에만 의존

패턴

찾을 위치	유사성
Einstein \| Trust 계층	✅ 사례 정보를 검색하는 에이전트는 모든 사례 필드가 아닌 논리에 필요한 필드(사례 번호, 제품, 상태, 우선 순위)만 쿼리합니다. 예기치 않은 PII가 나타날 경우 추가 보호 기능을 제공하는 PII 마스킹
Einstein \| Trust 계층	✅ Trust Layer를 적절하게 구성하고 Trust Layer 처리를 통해 데이터 흐름을 문서화합니다.
Einstein \| Trust 계층	✅ 규제 컨텍스트에 대해 LLM 추론을 입력할 수 있는 데이터 분류 결정
플랫폼 \| 이벤트 모니터링	✅ 이벤트 모니터링 데이터와 함께 Trust 계층 감사 이벤트를 SIEM으로 라우팅
플랫폼 \| 이벤트 모니터링	✅ 애플리케이션 수준 로깅을 구현하여 에이전트가 결정한 사항, 수행한 조치 및 Trust 계층 로그와 함께 결과가 달성된 비즈니스 결과를 수집합니다.
비즈니스 \| 문서	✅ Trust 계층 감사 유지가 규정 요구 사항을 충족함

안티 패턴

찾을 위치	불만 사항
Einstein \| Trust 계층	PII 마스킹을 사용하여 중요한 노트 및 결제 정보를 비롯한 모든 사례 필드를 쿼리하여 문제를 해결합니다.
Einstein \| Trust 계층	PII 마스킹이 모든 사항을 처리한다고 가정하여 LLM 추론에 전체 레코드 컨텍스트를 보내도록 에이전트를 설계합니다.
Einstein \| Trust 계층	Trust Layer PII 마스킹을 데이터 최소화 대신 심층적 방어로 대체합니다.

패턴

찾을 위치	유사성
Agentforce \| 에이전트 구성	✅ 주문 처리 전문가는 오케스트레이터가 제공한 주문 데이터의 유효성을 검사하여 필수 필드(주문 ID, 고객 ID, 제품 SKU), 값이 예상 범위 내에 있음(수량 > 0, 가격 > 0), 주문 상태가 실행 전에 처리를 허용합니다.
Agentforce \| 에이전트 구성	✅ 구조화된 범위가 지정된 확인된 데이터와 에이전트 간 커뮤니케이션을 위한 명시적 입력 인터페이스 계약 정의
Agentforce \| 에이전트 구성	✅ 발신자 ID에 관계없이 작업하기 전에 수신하는 컨텍스트를 확인하도록 다중 에이전트 워크플로의 각 에이전트를 설계합니다.
Agentforce \| 에이전트 구성	✅ 외부 사용자 입력과 동일한 검사를 거쳐 에이전트 간 메시지 콘텐츠를 처리합니다.
통합 \| 외부 서비스	✅ Salesforce 외부 AI 서비스 또는 타사 에이전트를 호출하는 에이전트의 경우 제로 트러스트 원칙을 적용하고 예상 구조 및 범위 내의 검증 응답을 적용합니다.

안티 패턴

찾을 위치	불만 사항
Agentforce \| 에이전트 구성	⚡️ 전문가는 요청 구조, 값 또는 권한 부여 컨텍스트를 확인하지 않고 오케스트레이터가 요청한 작업을 직접 실행합니다.
Agentforce \| 에이전트 구성	⚡️ 오케스트레이터가 전문가가 권한이 있는 지시문으로 취급하는 원시 지침 문자열을 전달합니다.
Agentforce \| 에이전트 구성	⚡️ 각 다운스트림 에이전트에 전체 실행 컨텍스트, 사용자 세션 데이터 또는 누적된 추적 전달
통합 \| 외부 서비스	⚡️ 오케스트레이터에게 거부 또는 에스컬레이션 없이 현재 과업 범위를 벗어나는 작업을 수행하도록 지시하는 외부 에이전트 응답에 대한 조치

패턴

찾을 위치	유사성
플랫폼 \| 플로	✅ 에이전트 신뢰 여부에 관계없이 $1,000를 초과하는 환불이 실행되기 전에 인적 승인이 필요한 플로 검사점으로 구성된 환불 에이전트 에이전트 추론 외부에 구현된 검사점
플랫폼 \| 플로	✅ 에이전트 명령이 아닌 아키텍처 제어로 설계된 에이전트 추론 루프 외부의 워크플로 게이트로 HITL 검사점을 구현합니다.
비즈니스 \| 문서	✅ 사람이 확인해야 하는 작업 범주를 정의합니다. 되돌릴 수 없는 작업, 재무 임계값을 초과하는 작업, 외부에서 통신하는 작업, 규제된 데이터와 관련된 작업, 오류가 관찰된 작업
Agentforce \| 에이전트 구성	✅ 제안된 작업, 제안에 도달하는 데 사용된 데이터 에이전트, 가능한 경우 추론 경로를 보여주는 설계 검토 인터페이스
플랫폼 \| 감사	✅ 에이전트 작업 레코드에 검토 결정 저장: 검토한 사람, 시기, 표시되는 정보, 결정한 사항

안티 패턴

찾을 위치	불만 사항
Agentforce \| 에이전트 구성	⚡️ 명령을 즉시 삽입하여 재정의할 수 없다고 가정해 에이전트를 구성하는 명령 “$1,000 초과 환불 전 승인을 요청”
Agentforce \| 에이전트 구성	⚡️ 논리 경로 외부의 워크플로 검사점이 아닌 해석하고 잠재적으로 무시할 수 있는 에이전트 지침으로 HITL을 구현합니다.
비즈니스 \| 프로세스	⚡️ 인적 검토자에게 제안된 작업, 사용된 데이터 또는 추론 경로에 대한 컨텍스트가 없는 승인 요청을 표시합니다.

패턴

찾을 위치	유사성
플랫폼 \| 이벤트 모니터링	✅ 중앙 집중식 보안 모니터링을 위해 SIEM에 이벤트 모니터링 및 Trust 계층 이벤트 라우팅
플랫폼 \| 트랜잭션 보안	✅ 차단 및 알림 기능을 포함하여 실시간 평가를 통해 트랜잭션 보안 정책 구성
Agentforce \| 에이전트 구성	✅ 사용자 정의 응용 프로그램 로깅 캡처 추론 요약, 도구 호출, 확인 실패 구현
플랫폼 \| 이벤트 모니터링	✅ 에이전트별 의심스러운 패턴을 감지하는 경고 규칙 설계: 예상 기간 이외의 대량 데이터 액세스, 목적과 일치하지 않는 작업 호출, 반복적인 확인 실패, 비정상적인 오케스트레이션 패턴
Agentforce \| 에이전트 구성	✅ 에이전트당 일반적인 작업 호출 패턴, 데이터 액세스 볼륨, 추론 호출 비율, 오류 비율, 실행 시간을 추적하여 동작 기준선을 설정합니다.
플랫폼 \| 이벤트 모니터링	✅ 에이전트별 보안 이벤트 정의: 권한 경계 위반, 반복 유효성 검사 실패, 오케스트레이션 변칙, 신뢰 임계값 위반, 대체 활성화 패턴

안티 패턴

찾을 위치	불만 사항
플랫폼 \| 이벤트 모니터링	⚡️ 에이전트별 동작 기준선을 설정하지 않고 에이전트에 인적 활동 모니터링 패턴 적용
플랫폼 \| 이벤트 모니터링	⚡️ 신규 공격을 감지할 수 있는 동작 모니터링 없이 서명 기반 감지만 사용
플랫폼 \| 이벤트 모니터링	⚡️ 고도 오류율, 반복 유효성 검사 실패 또는 비정상적인 오케스트레이션 패턴을 정상 에이전트 동작으로 무시

패턴

찾을 위치	유사성
플랫폼 \| 감사	✅ 각 중요 에이전트 작업의 경우: 에이전트 ID 및 실행 중인 사용자 컨텍스트, 트리거 이벤트, 기초 교육을 위해 검색된 데이터, 추론 요약, 특정 작업 및 결과, 신뢰 수준, 해당하는 경우 인적 검토 결정
플랫폼 \| 감사	✅ 플랫폼 로그(이벤트 모니터링, Trust 계층 이벤트)에 포함되지 않는 비즈니스 컨텍스트에 대한 응용 프로그램 수준 감사 로깅 구현
플랫폼 \| 감사	✅ 이벤트 모니터링 및 Trust 계층 이벤트를 네이티브 보존 기간 이후의 장기 저장소로 라우팅
Agentforce \| 에이전트 구성	✅ 오케스트레이션 체인을 통한 귀속을 위해 다중 에이전트 실행 추적의 각 단계에 에이전트 ID 기록
Agentforce \| 에이전트 구성	✅ 영향력이 큰 결정에 대한 에이전트의 권장 사항에 영향을 미치는 주요 요소를 식별하는 수집 및 표시 이유 요약
비즈니스 \| 문서	✅ 사용자가 영향을 미치는 결정에 대한 설명을 요청할 수 있도록 에이전트 워크플로 설계

안티 패턴

찾을 위치	불만 사항
플랫폼 \| 감사	⚡️ 에이전트가 레코드에서 발생한 부작용을 재구성하는 데 의존합니다. 감사 내역이 필요할 때까지 레코드가 변경될 수 있습니다.
플랫폼 \| 감사	⚡️ 체인에서 어떤 작업을 수행한 특정 에이전트를 식별하지 않고 다중 에이전트 워크플로 기록
비즈니스 \| 프로세스	⚡️ 추론 요약을 수집하거나 영향을 받는 사용자에게 설명 메커니즘을 제공하지 않고 중요한 결정을 내리는 에이전트를 배포합니다.

패턴

찾을 위치	유사성
Agentforce \| 에이전트 지침	✅ 결정 중 새 제약이 나타나면(기한, 예산, 직원 배치, 라이센스) 새 입력이 이전 결정을 자체적으로 취소하지 않고 모든 원래 요소에서 전체 제약을 다시 실행합니다.
Agentforce \| 에이전트 지침	✅ 목표에 대한 변경 사항을 명시적으로 표시합니다. 최적화 타겟이 “아키텍처적으로 견고하고 유지 관리 가능”에서 “제약 시 제공 가능”으로 전환될 때 표면화하면 인간이 현재 최적화되는 항목을 볼 수 있습니다.
비즈니스 \| 프로세스	✅ 아키텍처와 배달 간의 긴장을 사람이 소유한 상환으로 처리합니다. 지불한 값(총 소유 비용, 유지 관리 가능성, 잠금)에 대해 획득한 값(속도)을 표시하고 책임 있는 소유자에게 결정을 라우팅합니다.
Agentforce \| 에이전트 지침	✅ 아키텍처 적합성(설계가 요구 사항을 충족하는지) 및 배달 실현성(팀이 적시에 배송할 수 있음)을 단일 답변으로 축소하는 대신 별도의 표시 요소로 유지
플랫폼 \| 문서	✅ 문서화된 결정을 되돌릴 경우 원래의 근거에 대해 다시 가중치를 지정하고 재방문 트리거를 사용하여 투명하고 시간 제한된 거래로 거래를 기록합니다. 업데이트된 결정 레코드는 거래가 단순히 대체되지 않고 다시 가중치를 지정되었다는 의미입니다.

안티 패턴

찾을 위치	불만 사항
Agentforce \| 에이전트 지침	⚡️ 단일 새로운 제약(팀을 사용할 수 없음, 좁은 기한)으로 인해 원래 선택 항목을 유도한 비용 및 서비스 점검 요소를 자동으로 삭제하면서 기술적 결정을 되돌릴 수 있습니다.
Agentforce \| 에이전트 지침	⚡️ 목표 변경에 플래그를 지정하지 않고 최적화 목표를 “아키텍처적으로 건전하고 유지 관리 가능”에서 “제약 시 제공 가능”으로 전환
비즈니스 \| 프로세스	⚡️ 신규 제약에 따라 사운드 디자인에서 더 저렴하거나 더 편리한 옵션으로 전환하여 원래 선택을 유도한 장기적인 총 소유 비용, 유지 관리 가능성, 잠금을 다시 표시하지 않고
비즈니스 \| 프로세스	⚡️ 의식적이고 사람이 소유한 거래로 에스컬레이션하는 대신 에이전트의 추론 내에서 아키텍처 대 전달 충돌 해결
플랫폼 \| 문서	⚡️ 되돌리기를 기록하지만 원래의 근거에 대해 다시 가중치가 부여되지 않는 새 결정 레코드 생성 - 문자로 재방문 트리거를 존중하지만 내용은 존중하지 않음

패턴

찾을 위치	유사성
비즈니스 \| 문서	✅ 솔루션이 운영되는 관할 지역의 규제 개발을 추적하고 처음부터 에이전트 시스템에 규정 준수 설계
비즈니스 \| 문서	✅ 해당 프레임워크별 AI 시스템 위험 수준 평가(EU AI Act, 미국 AI 권리 보고서, 지역 프레임워크)
Agentforce \| 에이전트 구성	✅ 투명성 및 설명 가능성 메커니즘을 구현하고 위험 수준에 적합한 인적 감독 설계
비즈니스 \| 문서	✅ 특정 아키텍처 제어를 통해 각 산업별 요구 사항(HIPAA, DORA, SOX, GDPR, CCPA)이 충족되는 방식을 문서화합니다.
비즈니스 \| 문서	✅ 프로덕션 배포 전 규정 준수 확인

안티 패턴

찾을 위치	불만 사항
비즈니스 \| 프로세스	⚡️ 처음부터 구축하지 않고 배포 후 투명성, 설명 가능성, 인적 감독을 개선합니다.
비즈니스 \| 프로세스	HIPAA, DORA/SOX 또는 GDPR/CCPA 요구 사항을 충족하지 않고 PHI, 금융 데이터 또는 개인 데이터를 처리하는 에이전트를 배포합니다.
비즈니스 \| 프로세스	⚡️ 기존 Salesforce 자동화가 면제되지 않은 경우 새로운 AI 관련 규정(EU AI Act 위험 분류, 투명성 요구 사항)을 무시하고 에이전트 전용으로 취급

패턴

찾을 위치	유사성
플랫폼 \| AgentExchange	✅ 에이전트 사용을 위해 타사 작업을 활성화하기 전에 코드 및 데이터 플로 수준에서 수행하는 작업, 호출하는 외부 서비스, 전송하는 데이터를 검토하십시오.
플랫폼 \| AgentExchange	✅ 관리 패키지 업데이트 적용 시 타사 작업 구성 다시 확인
Agentforce \| 프롬프트 템플릿	✅ 팀 외부에서 소싱된 프롬프트 템플릿을 검토한 후 사용하고 조직의 데이터에 대한 액세스 권한이 있는 특권 추론 프로세스 내에서 실행되는 코드로 처리합니다.
Agentforce \| 프롬프트 템플릿	✅ 프로덕션 에이전트에서 사용되는 템플릿에 대한 검토 및 승인 프로세스 설정 및 템플릿 출처 레코드 유지
Agentforce \| 에이전트 구성	✅ 담당자 질문, 가장 적은 사례, 알려진 주입 시도를 포함하여 고객 서비스 에이전트 테스트 도구 모음을 유지합니다. 모델 업데이트 알림 후 Sandbox에서 제품군 실행, 프로덕션으로 승격하기 전에 응답 품질 및 안전 비교
Agentforce \| 에이전트 구성	✅ 모델 버전 변경 사항을 배포 이벤트로 처리하고 대표 입력, 가장자리 사례, 알려진 반대 패턴을 다루는 에이전트의 동작 테스트 도구 모음을 유지합니다.

안티 패턴

찾을 위치	불만 사항
플랫폼 \| AgentExchange	⚡️ 코드, 데이터 플로, 외부 서비스 호출을 검토하지 않고 에이전트가 사용할 수 있도록 타사 AgentExchange 작업 활성화
Agentforce \| 프롬프트 템플릿	⚡️ 에이전트 안전 동작을 수정하거나 사유 편향을 유도할 수 있는 내장형 지침을 검토하지 않고 외부 소스 또는 커뮤니티 예제의 프롬프트 템플릿을 사용합니다.
Agentforce \| 에이전트 구성	⚡️ 확인 없이 프로덕션 에이전트에 자동 모델 업데이트 허용, 사용자 컴플레인을 통해 동작 변경 사항 검색