에이전트 엔터프라이즈
에이전트 엔터프라이즈는 회사에서 AI를 사용하는 방식의 근본적인 변화입니다. 수동적인 도구에서 지속적인 인적 지침이 필요한 수동적인 도구에서 인간의 의도와 일치하는 동안 자체적으로 감지, 이유, 행동하는 자율적인 에이전트로 이동합니다. 이는 관리되는 비즈니스 시스템 내에서 사람, 에이전트, 플랫폼이 함께 작업하여 단독으로 달성할 수 없는 결과를 제공하는 조직입니다.
이 문서는 완벽하게 설계된 프레임워크의 동반자입니다. 이 프레임워크의 5가지 기둥인 Trust, Reliability, Operational Excellence, Resource and Cost Optimization, Fairness 는 모든 Salesforce 솔루션에 적용되는 기본 지침을 제공합니다. 이 개요에서는 솔루션이 에이전트적이 되면 변경되는 사항을 설명하고 기둥별 세부 사항을 안내합니다.
에이전트 시스템은 대규모 언어 모델, 검색 증가 생성, 함수 호출, 오케스트레이션 패턴을 결합하여 엄격한 프로그래밍 경로를 따르지 않고 컨텍스트에 적응하는 기능을 만듭니다. 에이전트는 확률적 추론(LLM 유추)과 결정적 실행(워크플로 및 오케스트레이션)을 결합하여 적응성과 거버넌스를 모두 활성화합니다.
설계자의 경우 이 동작은 모든 기둥에 대한 설계 고려 사항을 도입합니다. 에이전트는 추론 계층에서 결정적이지 않은 동작을 수행하므로 신뢰성, 모니터링, 제어에 대한 새로운 패턴이 필요합니다. 에이전트 자율성에는 향상된 보안 경계와 즉각적인 감독이 필요합니다. 다중 에이전트 조정은 의도한 오케스트레이션이 필요한 비상 복잡성을 만듭니다. 에이전트 엔터프라이즈는 단순히 기존 아키텍처에 AI 기능을 추가하는 것이 아니라 시스템이 설계, 배포, 관리되는 방식을 다시 생각합니다.
이 조합을 사용하면 실제 비즈니스 가치를 창출할 수 있습니다. 에이전트가 이전에는 사람이 개입해야 했던 복잡한 다단계 워크플로를 처리하고, 소스 전체에서 정보를 합성하고, 조직 전체에서 전문 지식을 확장합니다. 또한 의도한 설계가 필요한 과제를 도입합니다. 결정적이지 않은 동작은 테스트, 모니터링, 오류 처리를 복잡하게 만듭니다. 자동화는 제어, 책임, 안전에 대한 질문을 제기합니다. 비용 구조는 고정 인프라에서 변수 유추 소비로 전환됩니다. 설계자는 자율성과 위험, 혁신과 제어, 성능과 비용의 균형을 맞추어야 합니다.
에이전트가 인간을 지원하는지(copilot 패턴: 제안, 권장, 초안) 또는 자율적으로 작업하는지( 에이전트 패턴: 결정, 실행, 완료)를 기본적으로 구분하는 것은 에이전트의 아키텍처입니다. 상태 수정 작업에 대한 공동 파일럿 승인이 필요하며, 에이전트는 권한 범위 내에서 독립적으로 작업합니다. 이러한 차별화는 Trust 요구 사항, 관찰 가능성 요구 사항 및 감독 패턴을 결정합니다. 보조에서 작업으로 전환하는 것은 구성 변경이 아닌 아키텍처의 전환이며, 자동 작업 렌즈를 통해 모든 기둥을 다시 평가해야 합니다.
에이전트 엔터프라이즈는 관리되는 비즈니스 시스템 내에서 사람, 에이전트, 플랫폼이 함께 작업하여 단독으로 달성할 수 없는 결과를 제공하는 조직입니다. 이 3가지 모델은 모든 아키텍처 결정에 영향을 미칩니다.
- 사람은 에이전트의 역량이 부족하거나 인적 책임이 필요한 경우 감독, 판단 및 개입을 제공합니다. 에이전트가 정기 실행 및 정보 합성을 처리하는 동안 사람과 에이전트의 공동 작업을 통해 중요한 판단에 집중할 수 있습니다. 사람은 시스템 수준에서 제어를 유지합니다. 경계를 정의하고 에이전트가 경계 내에서 결정하고 조치를 취합니다.
- 에이전트는 지능형 자동화, 자연어 인터페이스, 적응형 의사 결정을 제공합니다. 에이전트는 독립형 기능이 아니라 비즈니스 워크플로의 통합 참가자입니다. 관리되는 데이터의 컨텍스트를 감지하고 확률적 및 결정적 기법을 사용하여 적절한 작업에 대한 이유를 설명하며 비즈니스 워크플로 및 외부 통합을 통해 작업을 수행합니다.
- 플랫폼은 누적된 비즈니스 논리, 통합 데이터, 오케스트레이션, 협업 인프라를 통해 에이전트 작업을 가능하게 하는 관리형 인프라를 제공합니다. 이 플랫폼은 관리되지 않는 AI 실험과 엔터프라이즈급 에이전트 시스템을 구분합니다. 권한을 적용하고 감사 추적을 유지하며 규정 준수 규칙을 적용하고 에이전트가 조직 관리 내에서 계속 작동합니다.
사람을 제거하면 책임이 손실되고 에이전트를 제거하면 인텔리전스가 손실되고 플랫폼을 제거하면 거버넌스가 손실됩니다. 에이전트 엔터프라이즈에는 세 가지가 모두 통합 시스템이어야 합니다.
모든 에이전트 아키텍처(기술 스택)는 공통 기능 집합을 제공해야 합니다. 에이전트에게는 신뢰할 수 있는 데이터가 필요하며, 안전하게 작업할 수 있는 비즈니스 논리, 자체 수명 주기 거버넌스, 데이터의 의미에 대한 공유 이해, 사람에게 에스컬레이션되는 경로가 필요합니다. 다음은 제품이 아닌 아키텍처 요구 사항입니다. Salesforce가 스택의 일부를 제공하는 경우 나머지 기능에 주의가 필요합니다.
Salesforce는 이러한 기능을 통합 집합으로 제공합니다. 시스템으로 취급하면 종속성이 명확해집니다. 종속성을 약화하고 에이전트가 예측 가능한 방식으로 제한됩니다. 이 섹션에서는 각 기능, 에이전트에게 중요한 이유, Salesforce에서 제공하는 방법에 대해 설명합니다.
에이전트는 효과적으로 설명하기 위해 관리되고 확인된 데이터가 필요합니다. AI 모델은 회사의 고객 레코드, 제품 카탈로그 또는 트랜잭션 내역이 아닌 교육 데이터에서 패턴을 알고 있습니다. 이 기능은 임의의 웹 콘텐츠 또는 확인되지 않은 소스가 아닌 정확하고 허가된 최신 및 추적 가능한 데이터에 에이전트를 기반으로 격차를 해소합니다.
- 현재 운영 데이터는 시간에 민감한 결정을 내릴 수 있습니다. 상거래 에이전트가 “내 주문 상태는 어떻습니까?”, 서비스 에이전트가 진행 중인 사례를 공개하거나 판매 에이전트가 이번 분기에 마감되는 기회를 정렬합니다.
- 내역 데이터(예: Data 360에 보관된 대규모 데이터 집합)는 추세 분석, 예측 및 과거 패턴에서 학습을 지원합니다.
- 연합 액세스를 통해 에이전트가 데이터가 어디에 있든 간에 이해할 수 있습니다. 연결된 소스의 중복을 줄이고 통합 보기를 제공합니다.
Salesforce는 Data 360 포트폴리오를 통해 이를 제공합니다.
아키텍처적 영향: 에이전트 품질은 데이터 품질에 따라 다릅니다. 데이터 거버넌스, 분류, 계보에 투자합니다. 잘못된 데이터를 표시하는 에이전트는 “내가 몰라요”라고 말하는 에이전트보다 신속하게 Trust 훼손합니다.
질문에만 답변할 수 있는 에이전트는 Copilot입니다. 레코드를 만들고, 기회를 업데이트하고, 커뮤니케이션을 보내고, 자동화를 트리거할 수 있는 에이전트는 자율적입니다. 이 독립성을 통해 에이전트가 단순히 지원하는 대신 조치를 취할 수 있습니다. 생성된 코드로 다시 구현하는 대신 테스트를 마친 기존 비즈니스 프로세스를 호출합니다.
- 에이전트는 사용자에게 코드를 작성하도록 요구하는 대신 자연어 의도를 표준 비즈니스 운영으로 번역합니다.
- 에이전트는 캡슐화된 다단계 프로세스(예: 신용 확인, 재고 업데이트, 알림을 처리하는 환불 플로)에 위임합니다.
- 비즈니스 규칙이 발전함에 따라 에이전트는 논리가 워크플로에 유지되고 에이전트 명령에 미러링되지 않는 한 변경 사항을 자동으로 상속합니다.
Salesforce는 Customer 360 비즈니스 논리 및 플랫폼 자동화를 통해 이 기능을 제공합니다.
아키텍처적 영향: 에이전트가 기존 워크플로를 대체하지 않고 호출하도록 설계합니다. 검증된 자동화를 호출하는 에이전트는 생성된 코드를 통해 비즈니스 논리를 다시 구현하는 에이전트보다 신뢰도가 높습니다.
에이전트는 개발에서 배포, 모니터링, 사용 중지에 이르는 거버넌스를 필요로 합니다. 관리되지 않는 에이전트 확산은 명확하지 않은 권한, 감사 내역 없음, 테스트되지 않은 동작, 알 수 없는 비용이 있는 에이전트와 같은 섀도우 AI를 만듭니다. 이 기능을 사용하면 에이전트가 가드 레일을 사용하여 구축되고, 승인 게이트를 통해 배포되고, 드리프트를 모니터링하고, 더 이상 필요하지 않은 경우 사용 중지됩니다.
- 개발 도구는 자연어 설명에서 초기 구성을 생성하고 설계 시 가드 레일(권한 검증, 하위 에이전트 범위)을 적용합니다.
- 런타임 오케스트레이션은 에이전트 호출, 권한 적용, 감사 로깅 및 장애 처리를 관리합니다.
- 재사용 가능한 기능을 사용하면 팀이 모든 에이전트를 처음부터 구축하는 대신 사전 구축된 에이전트와 작업을 채택할 수 있습니다.
- 세션 관찰 가능성은 분석, 디버깅 및 드리프트 감지를 위한 에이전트 상호 작용, 추론 단계 및 결과를 저장합니다.
Salesforce는 Agentforce Studio, Agent Fabric 및 AgentExchange를 통해 이 기능을 제공합니다.
아키텍처적 영향: 에이전트를 일회성 스크립트가 아닌 관리 자산으로 취급합니다. 시스템 수준의 거버넌스는 에이전트 확산을 방지합니다.
데이터를 쿼리하는 에이전트는 “매출”의 의미, “고객 이름”인 필드, 테이블이 연결되는 방식을 이해해야 합니다. 공유 시맨틱 정의가 없으면 에이전트가 잘못된 필드를 사용하거나 null을 잘못 해석하거나 비즈니스 규칙을 위반하는 쿼리를 생성합니다. 하나를 사용하면 모든 에이전트가 관리되는 정의를 쿼리하고 에이전트 프롬프트가 아닌 정의에 있는 회계-캘린더 및 매출 인식 논리를 사용하여 일관되고 올바른 결과를 반환합니다. 이 계층은 플랫폼의 기본 보안 모델 내에서 작동합니다. 액세스는 플랫폼의 자체 행 수준 및 필드 수준 제어에 의해 관리되며, 시맨틱 계층에서는 다시 구현되지 않습니다. 따라서 에이전트는 플랫폼에서 적용하는 동일한 데이터 권한에 따라 바인딩됩니다.
Tableau Next 및 Data 360과 통합된 관리되는 시맨틱 계층인 Tableau Semantics를 통해 Salesforce에서 이 기능을 제공합니다.
아키텍처적 영향: 분석 에이전트를 배포하기 전에 시맨틱 레이어를 정의합니다. 원시 테이블을 쿼리하는 에이전트는 거버넌스 공백과 일관되지 않은 결과를 만듭니다.
인적 감독이 없는 완전히 자율적인 에이전트는 규정 준수 위험, 책임 차이, 사용자 신뢰를 야기합니다. 이 기능은 에이전트가 불확실한 상황에서 에스컬레이션하고, 영향력이 큰 작업에 대한 승인을 요청하며, 논리에 대한 투명성을 유지하여 사람을 관리합니다.
- 승인 워크플로를 사용하면 에이전트가 후속 조치를 수행하기 전에 인적 사인오프를 요청할 수 있습니다(환불 발급, 기회 마감, 데이터 삭제).
- 지속적인 상호 작용 내역은 의도, 액세스된 데이터, 추론 단계 및 수행된 작업을 기록하므로 감사, 디버깅 및 지속적인 개선이 가능합니다.
- 에이전트가 자신감이 부족하거나 가장자리를 맞을 때 인간 전문가에게 완벽한 컨텍스트를 제공하는 에스컬레이션 패턴입니다.
Salesforce는 지속적이고 감사 가능한 상호 작용 내역을 통해 Human-in-the-Loop 승인 및 에스컬레이션 워크플로를 통해 이 기능을 제공합니다.
아키텍처적 영향: 먼저 명시적 에스컬레이션 규칙을 설계합니다. 재무 임계값, 되돌릴 수 없는 작업, 규제된 데이터 등 인증이 필요한 결정을 정의하고 자동 에이전트를 배포하기 전에 해당 워크플로를 구현합니다.
이러한 기능은 상호 종속적입니다. 에이전트는 신뢰할 수 있는 데이터를 기반으로 논리를 기반으로 하고, 비즈니스 논리를 통해 조치를 취하고, 수명 주기 관리 하에서 작업하고, 공유 시맨틱을 통해 쿼리하며, 필요한 경우 사람에게 에스컬레이션합니다. 신뢰할 수 있는 데이터를 제거하고 에이전트가 환각하는 경우 비즈니스 논리를 제거하고 비즈니스 논리를 제거하여 작업이 아닌 답변만 할 수 있습니다. 거버넌스를 제거하고 섀도드 AI로 확산합니다. 공유 시맨틱과 쿼리 드리프트를 제거하고 인적 에스컬레이션을 제거하고 감독 없이 조치를 취합니다. API 우선 사용 모델인 Salesforce Headless 360을 사용하면 에이전트가 별도의 시스템을 하나씩 통합하는 대신 일관된 프로그래밍 인터페이스(API, MCP, CLI)를 통해 이러한 기능에 도달할 수 있습니다.
잘 설계된 프레임워크 기둥은 에이전트 시스템의 기초를 유지합니다. 에이전트는 여전히 총괄자 제한 내에서 운영하고 적절한 액세스 제어가 필요하며 모니터링이 필요하며 자원을 소비하고 사용자에게 공정하게 서비스를 제공합니다. 핵심 기둥 지침에서부터 각 기둥의 동료가 추가하는 에이전트적 고려 사항을 적용합니다.
핵심 기둥 지침:
- Trust — 공유 책임 모델, 4층 액세스 제어(org/object/field/record), 암호화, OAuth 플로, 감사 추적, 규정 준수 프레임워크
- 신뢰성 — 권장 운영 버퍼를 사용하는 총괄자 제한(70% 제한은 널리 언급되는 커뮤니티 모범 사례이지만 공식 Salesforce 사양이 아닙니다), 비동기 처리, 회로 차단기, 용량 계획, 멀티 조직 패턴, 재해 복구
- 운영적 우수성 — 이벤트 모니터링, Proactive Monitoring, DevOps 관행(소스 중심 개발, CI/CD), 자동화, 사고 관리, DORA 메트릭
- 자원 및 비용 최적화 — SOQL 최적화, 데이터 스키우 방지, 코드 구성, 패키징 전략, 성능 모니터링, TCO 모델링, 구축 및 구매, 라이센스 최적화, 비용 모니터링
- 공정성 — 접근성(WCAG 2.2 AA), 비차별 패턴(공유 규칙, FLS), 개인정보 보호 아키텍처, AI 윤리 지배
핵심 Trust 패턴(공유 책임 모델, 최소 권한, 암호화, OAuth)은 기본 상태로 유지됩니다. 에이전트 시스템 추가:
- 에이전트 ID 및 인증 — 에이전트는 정적 API 키 대신 JWT 기반 인증을 사용할 수 있으므로 에이전트별 감사 추적 및 세부적인 권한 추적이 가능합니다.
- 사용자 ID 전파 — 에이전트가 사용자를 대신하여 외부 시스템을 호출할 때 다운스트림 시스템이 사용자 수준 권한 및 감사 추적을 적용하기 위해 사용자의 ID(에이전트의 ID 제외)를 전파합니다.
- 권한 범위 - 에이전트의 최소 권한, 실제 사용자로부터의 권한 상속, 명시적 에이전트 권한 및 위임 범위에서 확인
- 결과적 결정을 위한 일반적 인자 - 영향이 큰 또는 되돌릴 수 없는 조치 및 규제된 데이터에 대한 승인 워크플로
- 설명 가능성 - 에이전트가 그들의 이유를 설명하고, 사실적 주장에 대한 출처를 인용하고, 그들이 취한 데이터와 조치를 투명하게 만듭니다.
- 자율 시스템 준수 — EU AI Act의 위험 분류(제한된 배포와 고위험 배포의 차별화) 및 HIPAA 및 기능적인 금융 서비스 법과 같은 분야별 규정 준수; 에이전트 중심 처리에 대한 엄격한 동의 관리 유지
이것이 중요한 이유: 적절한 Trust 경계 없이 독립적으로 행동하는 에이전트는 보안 취약점, 규정 준수 위반 및 사용자 신뢰 불만을 유발합니다. 핵심 Trust 기둥은 공유 책임 모델과 4가지 계층의 액세스 제어 기능을 제공하며, 에이전트 변형은 JWT 기반 에이전트 인증, HITL 승인 게이트, 설명 가능성을 추가합니다.
자세한 정보: Agtic Enterprise Trust
핵심 신뢰도 패턴(관리자 제한, 비동기 처리, 회로 차단기, 수용력 계획)은 기본적으로 유지됩니다. 에이전트 시스템 추가:
- 결정적이지 않은 추론 처리 — 동일한 입력은 다른 결과를 얻을 수 있습니다. 신뢰도 점수 매기기, 검증 검사 및 대처 전략을 사용하여 편차에 대한 설계
- 선택적 저하 - 추론이 실패하거나 자신감이 낮은 경우 완전히 실패하지 않고 단순한 기능으로 저하
- 오케스트레이션 실패 처리 — 다중 에이전트 워크플로의 경우 실패 격리, 재시도 전략 및 부분 결과 처리가 필요하므로 실패한 한 전문 에이전트가 계단식이 아닌 격리된 상태로 유지됩니다.
- 모델 성능 SLO — 에이전트 서비스에 대해 허용되는 지연 시간, 정확도 및 가용성 목표를 정의합니다.
- 에이전트 조정용 차단기 — 한 에이전트가 오류 또는 과도한 지연 시간을 경험할 때 계단식 오류를 방지합니다.
이것이 중요한 이유: 확률적 에이전트 동작은 결정적 신뢰도 패턴이 충분하지 않음을 의미합니다. 핵심 신뢰도 기둥은 외부 통합을 위한 비동기 패턴 및 회로 차단기를 제공하며, 에이전트 변형은 추론 실패를 위한 우수한 성능 저하와 다중 에이전트 조정을 위한 오케스트레이션 실패 처리를 추가합니다.
자세한 정보: 에이전트 엔터프라이즈 신뢰성
핵심 운영 우수성 패턴(이벤트 모니터링, DevOps, 자동화, 사고 관리)은 기본적으로 유지됩니다. 에이전트 시스템 추가:
- 에이전트 개발 수명 주기(ADLC) — 설계 및 테스트에서 배포, 모니터링 및 튜닝에 이르기까지 전체 수명주기에 걸쳐 에이전트를 관리합니다.
- 확률적 시스템 관찰 — 추론 단계, 신뢰도 점수, 액세스된 데이터 소스 및 의사 결정 근거를 캡처합니다.
- 드리프트 감지 — 데이터 배포 교대 근무, 비즈니스 규칙 변경 또는 동작 기준선에 대한 업스트림 모델 업데이트로 인한 성능 저하를 모니터링합니다.
- 에이전트 버전 관리 및 배포 — 프롬프트 및 구성에 대한 점진적인 롤아웃, A/B 테스트, 롤백 및 버전 관리
- 에이전트 장애에 대한 사고 응답 — 표적화된 수정을 위해 모델 장애, 오케스트레이션 장애 및 데이터 장애 구분
이것이 중요한 이유: 결정적이지 않은 동작은 관찰이 어려워집니다. 핵심 운영 우수성 기둥은 이벤트 모니터링 및 DevOps 관행을 제공하며, 에이전트 변형은 ADLC, 드리프트 감지, 에이전트별 관찰 가능성을 추가합니다.
자세한 정보: Agtic Enterprise 운영 우수성
핵심 자원 및 비용 최적화 패턴(SOQL 최적화, 총괄자 제한, 코드 구성, 성능 모니터링, TCO 모델링, 구축 및 구매, 라이센스 최적화, 비용 모니터링)은 기본적으로 유지됩니다. 에이전트 시스템 추가:
- 결과 대기 시간 최적화 — 스트리밍 응답, 병렬 실행, 캐싱 및 프롬프트 최적화
- 토큰 경제 — 호출, 검색 및 추론 단계마다 토큰이 사용됩니다. 제한된 컨텍스트 창에 대한 컨텍스트 관리 전략(요약, 선택적 검색) 설계
- 메모리 검색 최적화 — 효율적인 벡터 검색 및 시맨틱 검색으로 RAG 패턴이 지연 병목을 만들지 않습니다.
- 다중 에이전트 지연 관리 — 순차적 에이전트 체인에서 지연이 누적되지 않도록 병렬 전문가 실행, 비동기 위임 및 시간 초과 예산
- 에이전트 모듈화 — 단독 에이전트를 재사용, 독립적 확장 및 표적 최적화를 위한 전문 에이전트로 분해
- 소비 기반 가격 책정 — 사용자별 라이센스와 달리 에이전트 비용은 사용량에 따라 증가하므로 다른 예산 및 예측이 필요합니다.
- 에이전트 작업 단위(AWU) — 에이전트가 완료한 작업을 기준으로 지출을 측정하고 원시 토큰 소비만 제외하고 소비를 제공된 가치에 맞춥니다.
- 에이전트적 기능 구축 대 구매 — 구축 차별화된 기능을 도입하는 대로 평가
- 에이전트 ROI 측정 — 에이전트 운영 비용 대비 비즈니스 결과 추적
이것이 중요한 이유: 토큰 소비 및 유추 대기 시간은 새로운 자원 제약이며, 에이전트 비용 모델은 인프라 비용과 근본적으로 다릅니다. 핵심 기둥은 총괄자 제한 지침, SOQL 최적화, TCO 프레임워크를 제공하며, 에이전트 변형은 토큰 경제, 추론 대기 시간 최적화, 소비 기반 가격 책정 관리, 에이전트가 완료한 작업 대비 비용을 측정할 수 있는 에이전트 작업 단위를 추가합니다.
자세한 정보: 에이전트 엔터프라이즈 리소스 및 비용 최적화
핵심 공정성 패턴(액세스 가능성, 차별 제외, 개인 정보 보호, AI 윤리 거버넌스)은 기본적인 상태로 유지됩니다. 에이전트 시스템 추가:
- 설명 가능성 - 에이전트가 결정한 이유, 사용한 데이터, 고려한 대안을 설명합니다. (Trust 기둥은 감사 및 투명도 제어로 설명 가능성을 다루며, 공정성은 사용자에게 영향을 미치는 결정을 이해할 수 있는 사용자의 권리를 다룹니다.)
- Contestability — 사용자가 에이전트의 결정에 도전하고, 인적 검토를 요청하고, 이의 프로세스를 이해할 수 있습니다.
- ** 편향 감지 및 완화** — 다양한 입력 항목을 사용하여 테스트하고 인구 통계 그룹 간의 결과가 서로 다른지 모니터링
- 영향에 비례하는 인적 감독 — 높은 지분의 결정은 순서대로 인간을 필요로 하고, 낮은 지분의 결정은 독립적으로 작동할 수 있습니다.
- 공정한 에이전트 기반 경험 — 언어 숙련도, 기술 전문성 또는 접근성 요구에 관계없이 모든 사용자에게 효과적으로 서비스를 제공합니다.
이것이 중요한 이유: 사람에게 영향을 미치는 결정을 내리는 자율적인 에이전트는 공정성에 대한 이점을 올립니다. 핵심 공정성 기둥은 접근성 표준 및 차별 방지 패턴을 제공하며, 에이전트형 변형은 설명 가능성, 논쟁 가능성, 비례적인 인적 감독을 추가합니다.
자세한 정보: Agtic Enterprise Fairness
에이전트 솔루션을 아키텍팅할 경우:
- 개념 모델을 위해 여기부터 시작하십시오. 에이전트가 요구하는 기능과 기둥이 에이전트에 적용되는 방식
- 모든 Salesforce 솔루션에 적용되는 기본 접근 방식을 보려면 핵심 기둥 가이드를 읽으십시오.
- 에이전트에만 해당하는 디자인 세부 사항을 보려면 에이전트 기둥 동료를 읽어보십시오.
입증된 플랫폼 패턴을 기반으로 구축한 다음, 에이전트가 제공하는 고려 사항을 해결합니다. 핵심 기둥은 기초를 제공하고 에이전트 동료는 세부 사항을 제공하며, 이 개요는 이를 함께 연결합니다.
위 기능 및 기초에 에이전트 시스템을 구성하는 방법이 설명되어 있습니다. 해당 시스템을 프로덕션에 배치하려면 CoE(Center of Excellence)라는 정규 거버넌스 구조가 필요합니다. 인간, 에이전트, 플랫폼의 통합 시스템에서 CoE는 사람에게 제어 권한을 부여합니다. CoE는 에이전트의 경계를 정의하고, 무엇이 생산에 도달하는지 결정하고, 에이전트의 업무를 비즈니스 의도 및 규제 요구 사항에 맞춥니다. CoE는 명확하지 않은 권한, 감사 내역 없음, 알 수 없는 비용이 있는 에이전트와 같이 섀도 AI로 드리프트되는 관리되지 않는 실험과 관리되는 에이전트 시스템 간의 차이입니다.
자율성은 모든 거버넌스 결정을 결과적으로 만듭니다. CoE는 팀이 한 번에 한 팀에서 해결하는 대신 의도적으로 해당 결정을 내리고 일관적으로 적용할 수 있도록 지원합니다.
CoE는 비즈니스, IT, 규정 준수를 공유 백로그와 공유된 준비 정의 주위에 결합합니다. 해당 멤버십은 에이전트의 결정에 영향을 미치는 관점에 포함됩니다.
- 기본 후원자는 예산 권한을 보유하고 조직 차단자를 제거합니다.
- 비즈니스 리드는 전략을 우선 순위로 변환하고 백로그를 소유합니다.
- 프로그램 사무실 및 데이터 관리자는 에이전트 작업을 더 광범위한 이니셔티브와 연결하고 데이터 무결성 및 보안을 평가합니다.
- 데이터 모델, 통합 패턴 및 배달 케이던스를 소유한 아키텍트, 관리자 및 개발자는 작업을 시작하기 전에 기술적 제약 사항을 파악합니다.
에이전트가 기존 소프트웨어보다 더 빠르게 배송, 변경 및 드리프트합니다. 관리를 배달에 맞게 유지하기 위해 CoE는 가속화된 비동기식 우선 검토 케이던스를 실행합니다. 기존 CoE와 비교하여 리듬이 좁아지고 비동기식 검토가 기본 작업 모드가 됩니다.
- 연속 비동기식 검토는 기본 모드입니다. 구성원은 예약된 회의뿐만 아니라 변경 사항이 발생할 때 공유 채널에서 정렬 상태를 유지합니다.
- 주간 운영 검토 결과는 비행 중 변경 사항이 활성 에이전트 및 통합과 호환되는지 확인합니다. 이는 월별 또는 분기별 검토 결과보다 더 빠른 속도입니다.
- 매월 전략적 검토는 백그라운드를 비즈니스 우선 순위와 비교하고 현재 데이터 품질 기준을 기준으로 준비 상태를 평가합니다.
CoE는 에이전트가 의존하는 개체, 필드, 자동화에 대한 변경 사항을 승인하는 사람, 요청 경쟁 시 우선 순위를 소유하는 사람, 기술 부채 사용 중지 시기, 성공을 정의하는 비즈니스 메트릭에 대한 명시적인 결정을 내립니다.
에이전트가 준비된 CoE는 각 기둥을 관리합니다. 핵심 기둥 가이드는 기본 제어를 제공합니다. COE는 강제 적용되고 관찰 가능한 관행이 됩니다.
- Trust — 개체, 필드 및 레코드 수준 보안은 에이전트가 사용하는 데이터를 관리합니다. 에이전트 수준 액세스 제어는 각 에이전트가 액세스할 수 있는 데이터 및 작업을 제한합니다. ID, 최소 권한, 위협 모델링은 에이전트의 디자인에 포함되어 있습니다. Trust 및 Agtic Enterprise Trust를 참조하십시오.
- 운영적 우수성 — 추적 및 감사 로그는 에이전트의 결정, 작업 및 결과를 수집합니다. 모니터링 대시보드는 에이전트 개발 수명 주기 전반의 목표에 대한 성능 및 정렬을 검토합니다. Operational Excellence 및 Agtic Enterprise Operational Excellence를 참조하십시오.
- 신뢰성 및 자원 및 비용 최적화 — 사양, 테스트 생성, 피드백 루프, 사용 중지 사항이 전체 에이전트 수명 주기를 관리합니다. 요율 제한, 자원 제어, 수정 전략에는 에이전트 오류의 영향이 포함되어 있습니다. 신뢰성 및 자원 및 비용 최적화를 참조하십시오.
- 공정성 — 인간의 순환 체크포인트를 통해 사람들은 결과 행동을 가로채거나 검토할 수 있습니다. 에스컬레이션 경로 및 직원 교육을 통해 에이전트 워크플로를 검토하고 재정의할 수 있습니다. 공정성 및 에이전트 엔터프라이즈 공정성을 참조하십시오.
CoE는 다음 조건이 유지되면 에이전트 작업 부하를 관리할 준비가 되었습니다.
- 정책 — 에이전트에 대한 액세스 및 조치 정책이 정의되고 적용되고 감사할 수 있습니다.
- 관찰 가능성 — 모니터링 및 감사 도구는 에이전트 행동에 대한 실시간 및 소급 검토를 지원합니다.
- 설계된 보안 — 보안, 개인 정보 보호 및 규정 준수는 처음부터 에이전트 워크플로에 내장되어 있습니다.
- 수명 주기 — 구조화된 프로세스에서 온보딩, 업데이트 및 은퇴 에이전트를 관리합니다.
- 인적 감독 — 검토자는 예외를 처리하고 사용자 의견을 사용하여 에이전트 워크플로를 개선합니다.
첫 번째 프로덕션 에이전트를 배포하기 전에 다음 네 가지 기본 사항을 확인하십시오.
- 정기적으로 검토되는 문서화된 데이터 품질 기준
- 명명된 소유자와 기록된 사인오프가 있는 일반적인 스키마 변경 승인 프로세스입니다.
- 전략적 케이던스에서 검토된 보관된 기술적 부채 기록
- 데이터 액세스, 에이전트 범위 및 감사 요구 사항을 다루는 AI 거버넌스 정책입니다.
아키텍처적 영향: 독립 에이전트를 배포하기 전에 CoE를 설정하고 이러한 기초를 확인하십시오. 에이전트 채택과 함께 시작 규모부터 내장된 거버넌스입니다. 나중에 세분화된 거버넌스는 방지하려는 확산과 경쟁합니다.
참조: Agenttic Enterprise Operational Excellence 가이드의 배포 승인 프로세스 — 이 섹션의 조직 수준 준비 상태 보기를 보완하는 에이전트별, 이동/실행 안 함 체크리스트입니다.
에이전트 여정을 시작하는 조직은 다음을 수행해야 합니다.
- 가치가 높은 사용 사례로 시작하십시오. 초기 에이전트가 명확한 ROI가 있는 워크플로에 초점을 맞추고 성공은 동력을 구축합니다.
- 기본 역량 구축 — 데이터 거버넌스, Knowledge 기반, 통합 패턴 구축
- 에이전트 전문 지식 개발 — 빠른 엔지니어링 및 에이전트 아키텍처에 대한 기술을 구축하고, 로우코드 및 자연어 도구가 진입 장벽을 줄이면서도
- 운영 에이전트를 배포하기 전에 승인 프로세스, 안전 테스트 및 모니터링을 담당하는 거버넌스 기관을 확인하여 상위 센터를 구축합니다(조직 준비: 위의 탁월한 센터).
- 반복 — 완벽한 초기 배포가 아닌 지속적인 개선을 계획합니다.
- 측정 가치 — 비즈니스 결과, 비용 절감 및 사용자 만족도를 추적하여 투자 정보를 제공합니다.
에이전트 엔터프라이즈는 AI 기반 워크플로를 채택할 준비가 된 조직을 위한 변화 기회입니다. 의도적인 아키텍처 설계를 통해 위험 및 복잡성을 관리하면서 실현할 수 있습니다.