이 문서에서는 에이전트 직원의 가치를 완전히 포착하기 위해 앞으로 3~5년 동안 엔터프라이즈가 필요로 하는 IT 아키텍처를 설명하는 관점을 제공하며, AI 에이전트의 대규모 배포를 지원하는 데 필요한 IT 전환을 간략하게 설명합니다. 목표는 CIO, CDO, IT 리더가 에이전트 엔터프라이즈로의 여정을 계획할 수 있도록 전략 가이드 및 참조 아키텍처를 제공하는 것입니다.

강력한 AI 모델을 사용하면 환경을 감지하고, 데이터에 대해 추론하고, 자율적인 결정을 내리고, 과업을 수행하고, 인적 작업자와 효과적으로 공동 작업할 수 있는 에이전트 직원을 만들 수 있습니다. 이 새로운 직원은 혁신, 생산성, 민첩성의 단계별 변화로 주주 및 고객을 위한 가치를 창출합니다. 이 비전을 실현하려면 조직이 비즈니스 및 IT 변환을 거쳐 에이전트 엔터프라이즈가 되어야 합니다.

오늘날 기존 엔터프라이즈는 정보 사일로, 수동 작업에 묻혀 있는 직원, 조직 구조의 잘못 조정된 인센티브, 전략 및 결과 간의 분리된 사용자 의견 루프로 인한 운영 효율성 부족에 직면하고 있습니다. 이러한 문제로 인해 최적화되지 않은 고객 경험, 비효율적인 프로세스, 성장에 대한 누락된 기회가 발생합니다.

에이전트 엔터프라이즈는 인텔리전트 AI 에이전트의 디지털 직원과 인적 작업자를 통합하여 이러한 제한을 극복합니다. 이 새로운 AI 증가 인력으로 조직은 성장을 위한 혁신을 촉진하고, 운영 우수성을 촉진하고, 여러 유형의 새로운 비즈니스 기능으로 엔터프라이즈 복원 능력을 구축할 수 있습니다.

혁신을 촉진하는 새로운 비즈니스 역량:

• 인적 생산성 향상: AI 에이전트의 속도, 규모, 항상 활성화된 특성을 통해 기업은 반복적인 작업을 자동화하고 인적 작업자가 더 중요한 창의적인 과업에 집중할 수 있습니다.
• 적응성 향상: AI 에이전트의 이유를 관찰할 수 있으므로 새 기술을 동적으로 학습하고 배포할 수 있으므로 엔터프라이즈가 비즈니스 목표를 달성하기 위해 성과를 지속적으로 향상하고 신속하게 새로운 시장 기회에 적응할 수 있습니다.

작업의 예 — 금융 서비스의 고객 경험 혁신: 자산 관리 회사는 AI 에이전트를 사용하여 클라이언트 참여 모델을 재개발할 수 있습니다. 에이전트는 자율적으로 포트폴리오를 모니터링하고, 클라이언트 검토를 위한 주요 순간을 식별하고, 상담원에 대한 사전 통화 계획을 준비하며, 뉴스가 나타날 때 계획을 조정합니다. 이렇게 하면 담당자가 대규모로 사전 예방적이고 맞춤형 고객 경험을 제공하고 관계를 강화하고 새로운 기회를 발견할 수 있습니다.

조직의 복원 능력을 보호하고 보장하기 위한 새로운 비즈니스 역량:

• 탄력적인 직원 수용력: 엔터프라이즈는 완전히 인적 인 직원 증가로 인한 비용과 지연 없이 변화하는 비즈니스 환경으로 인한 작업량의 급증을 충족하는 능력을 빠르게 확장할 수 있습니다.
• 예측 운영 복원: 24시간 연중무휴 AI 에이전트의 특성은 운영, 규정 준수, 보안 위험을 실시간으로 자동으로 예측, 모델링, 완화하여 기업이 고객 및 이해당사자의 Trust 유지할 수 있도록 지원합니다.

작업의 예 — 고객 데이터 보호: 대기업은 AI 데이터 거버넌스 에이전트를 배포하여 데이터 프라이버시 법의 변경 사항에 대한 규제 환경을 스캔하고, 엔터프라이즈 데이터 집합에서 중요한 정보를 검색 및 분류한 다음, 적절한 거버넌스 정책을 적용할 수 있습니다. 에이전트는 데이터 액세스 요청을 검토하고 검토를 위해 예외를 분석가에게 라우팅하여 데이터를 신뢰할 수 있는 방식으로 사용할 수 있는 동시에 규정 준수 위험을 줄일 수 있습니다.

운영 우수성을 최적화하는 새로운 비즈니스 기능:

• 자율 프로세스 실행: 디지털 직원은 기계 속도와 함께 복잡한 다단계 과업을 연중무휴 연중무휴로 실행하여 비용을 절감하고 효율적으로 프로세스를 확장할 수 있습니다.
• 교차 경계 오케스트레이션: AI 에이전트는 일반적으로 인공 작업자를 제약하는 정보 및 인센티브 사일로에서 작업하여 교차 기능 프로세스에 대한 민첩성을 조성할 수 있습니다.

작업의 예 — 소매 분야의 마케팅 퓨널 최적화: 리테일 마케팅 팀은 AI 에이전트를 배포하여 새로운 소비자 추세에 대응하여 캠페인 프로세스를 가속화할 수 있습니다. 에이전트는 마케팅 계획을 생성하고, 검토를 위해 마케팅, 제품, 세일즈 팀과 공동 작업을 수행한 다음, 디지털 자산을 자동 생성하고 여러 채널에서 실시간 피드백을 기반으로 캠페인을 동적으로 조정할 수 있습니다.

레이어 구조를 사용하여 엔터프라이즈의 IT 아키텍처를 설명할 수 있습니다. 레이어는 논리적으로 관련 기술 기능을 그룹화하고 구조화된 추론을 용이하게 하지만 특정 구현이나 레이어가 단독으로 또는 더 이기종 방식으로 설계되어야 하는 정도를 의미하지는 않습니다. 이 레이어 보기(그림 1)에서 기존의 IT 아키텍처는 5가지 주요 레이어로 구성됩니다. 인프라, 데이터, 통합, 응용 프로그램, 환경 두 가지 교차 계층인 보안 및 IT 운영은 이러한 계층에 걸쳐 관리, 모니터링, 보호를 보장합니다.

기존의 IT 아키텍처는 데이터에 액세스하고 비즈니스 논리를 적용하고 공동 작업을 촉진하며 워크플로를 실행하기 위해 응용 프로그램에서 조치를 취하는 인텔리전스가 인간 작업자와 상주하는 패러다임을 위해 고안되었습니다. AI 에이전트가 AI 에이전트를 감독하고 더 창의적이고 모호한 과업에 집중하는 동안 이전에 사람이 수행했거나 전혀 수행하지 않은 특정 사용 사례에 대해 고려하고 조치를 취할 수 있는 패러다임을 위해 고안되지는 않았습니다.

기존 아키텍처는 현재 AI 에이전트의 하위 규모 배포를 지원하지만 위에 설명된 에이전트 엔터프라이즈의 비즈니스 성능을 완전히 제공할 수 없습니다. 이러한 기능을 구현하려면 좁은 사용 사례를 대상으로 하는 제한된 배포로 제한되지 않고 광범위한 사용 사례를 해결할 수 있는 강력한 AI 에이전트의 광범위한 배포를 위해 고안된 IT 아키텍처가 필요합니다.

AI 에이전트는 향후 5년 동안 계속해서 개선될 예정이며, 향후의 검증을 위해 더 강력하고 지능적인 AI 에이전트의 가치를 실현하기 위해 IT 아키텍처가 발전해야 합니다. 먼저 기본 AI 모델(예: 다중 모달 LLM) 및 에이전트의 인지 아키텍처(예: 다단계 계획, 과업 세분화 등)가 발전함에 따라 에이전트가 더 지능적이 됩니다. 두 번째로, AI 에이전트는 메모리 향상, 자가 반영 기능, 사용자 의견에서 학습 능력을 통해 학습 및 적응 능력을 향상할 것입니다. 세 번째로, AI 에이전트는 개방형 기술 표준의 빠르게 발전하는 생태계(예: 모델 컨텍스트 프로토콜, Agent2Agent 등)에 의해 증명된 바와 같이 다른 에이전트, 도구, 데이터와 상호 작용할 수 있는 능력이 향상됩니다. 이러한 세 가지 기술 추세는 AI 에이전트가 더 추상적이고 복잡한 과업을 실행할 때 더욱 강력한 기능을 제공하지만 오늘날의 IT 아키텍처에도 많은 문제를 야기합니다.

먼저 AI 에이전트는 내부적으로 개발되고 외부에서 소싱되는 AI 모델에 근본적으로 의존하며, 이는 빠르게 발전하고 정교하고 공유되고 표준화된 AI/ML 모델 관리를 요구합니다. 오늘날 AI 모델은 교육, 배포, 거버넌스, 위험 관리에 대한 공통 도구와 함께 재사용할 수 있는 공유 기능이 아닌 응용 프로그램의 특정 사용 사례에 적용됩니다. 앞으로에는 에이전트가 비즈니스 컨텍스트를 기반으로 기본 모델(예: 기본 모델 및 도메인별 작은 모델)을 교체할 수 있는 도구가 필요한 다양한 에이전트 사용 사례에 다양한 AI 모델을 사용할 수 있어야 합니다. 따라서 일관성, 재사용 가능성, 확장성, 효율성을 보장하기 위해 내부적으로 개발되거나 호스팅되는 AI 모델을 통합 수명 주기 도구로 관리해야 합니다. 마찬가지로 외부에서 호스팅되는 AI 모델에 액세스하려면 최적의 성능, 보안, 규정 준수, 가용성, 신뢰성을 보장하기 위한 엔터프라이즈 전체 제어 프레임워크가 필요합니다.

두 번째로, AI 에이전트에는 호스팅, 개발, 추론, 학습, 메모리 관리, 운영과 같은 고유한 확장 패턴 및 운영 요구 사항이 있으므로 에이전트에게 별도의 전용 아키텍처 경계가 필요합니다. 이 기능을 오늘날의 정적 및 결정적 애플리케이션 아키텍처에 직접 포함하면 불필요한 아키텍처 복잡성과 위험이 발생합니다. 또한 AI 에이전트는 실시간 상호 작용을 위해 표준화된 인터페이스 또는 Messaging 시스템을 통해 기존 응용 프로그램과 상호 작용해야 합니다.

세 번째로, AI 에이전트는 서로 다른 데이터 집합을 고려하고 서로 공동 작업할 수 있어야 하며, 종종 사일로 애플리케이션 스택을 통해 작업할 수 있지만, 오늘날의 아키텍처에서는 이러한 에이전트가 서로 다른 데이터 집합을 고려할 수 있도록 공유 이해를 제공하는 공통 시맨틱 기능이 없습니다. 따라서 단일 용도 에이전트를 성공적으로 배포할 수 있지만 복잡한 교차 실로 과업에 대해 대량으로 작업하도록 확장하는 것은 어렵고 위험합니다.

마지막으로, 현재의 엔터프라이즈 IT 아키텍처는 더 강력한 에이전트가 수행하는 동적 워크플로를 포함하는 종단간 비즈니스 프로세스를 오케스트레이션, 최적화, 관리할 수 있는 효과적인 방법이 부족하며, 경우에 따라 해당 프로세스에서 인적 작업자가 수행하는 역할을 대체합니다. 현재 자동화 도구는 일반적으로 사전 정의된 순서에 따라, 프로세스별 언어로 문서화되고, 거의 변경되지 않는 정적 논리에 의존하는 선형 결정적 워크플로를 관리하기 위해 활용됩니다. AI 기술은 이러한 선형 프로세스 중 일부를 향상할 수 있습니다(예: 하드 코딩된 비즈니스 규칙 대신 ML 모델을 사용하여 대출 승인 임계값을 계산하는 등). 그러나 대부분의 중요한 비즈니스 프로세스의 전략 및 실행 측면은 본질적으로 동적이고 유연하게 유지됩니다. 마케팅 전략 개발, 복잡한 고객 문제 해결 또는 클라이언트 예상과 같은 과업에는 명확한 목표(고객 만족도, 사례 해결 속도 등)가 있지만, 사전 정의된 고정 실행 순서에 따르지 않습니다.

현재 기존 엔터프라이즈는 복잡한 비즈니스 프로세스(예: 전략 설정 및 복잡한 프로그램 관리)를 조정하고 수행하기 위해 주로 사람을 사용합니다. 향후 3~5년 동안 AI 에이전트가 계속해서 발전할수록(인텔리전스, 학습, 상호 작용 역량 향상) 이러한 동적 프로세스를 자동으로 실행할 수 있는 능력이 크게 확대되어 기존 통합 및 자동화 도구의 성능을 훨씬 뛰어넘는 복잡성과 통합 문제를 도입할 수 있습니다. AI 에이전트의 적응적이고 동적 특성은 특히 AI 에이전트, 인사, 자동화 도구 및 기타 결정적 시스템을 포함하는 복잡하고 길고 여러 단계의 워크플로를 관리하는 경우 엔터프라이즈 수준의 제어, 포괄적인 가시성, 엔터프라이즈 전체 전략 목표에 일관된 조율을 보장하기 위해 신규 오케스트레이션 기능을 필요로 합니다.

에이전트 엔터프라이즈의 IT 아키텍처는 인공 작업자, AI 에이전트, 결정적 시스템을 원활하게 통합하여 지능형 작업을 위한 플랫폼을 구축합니다. 이 아키텍처를 사용하면 인적 및 AI 에이전트가 다양한 데이터 소스에서 통합 엔터프라이즈 Knowledge 동적으로 액세스하고 활용할 수 있으며, 시맨틱 컨텍스트로 보강되어 복잡한 워크플로와 프로세스를 전략적 비즈니스 목표에 맞춰 효율적으로 실행할 수 있습니다. 사일로 플랫폼 및 포인트 솔루션 집합의 기존 IT 아키텍처는 새로운 지능형 비즈니스 프로세스 오케스트레이션 도구로 감독 및 관리되는 AI 에이전트의 구성 가능한 응용 프로그램 서비스, 시맨틱 및 데이터 도구, 네트워크 집합으로 발전합니다.

이 아키텍처를 사용하면 에이전트가 각 범위 내에서 이해, 이유, 조치를 취하고 비즈니스 도메인 내부 및 전반에서 작업하고 지속적으로 학습, 개선, 조정할 수 있습니다. 따라서 데이터 및 Knowledge 액세스하기 위한 강력한 메커니즘(시맨틱한 이해), 유연하고 표준화된 커뮤니케이션 프로토콜 및 인터페이스(예: 에이전트 간 커뮤니케이션, 결정적 시스템에 대한 에이전트, 사람에 대한 에이전트)에 초점을 맞춘 설계와 에이전트, 사람, 자동화 도구 및 결정적 시스템 간의 워크플로 및 프로세스를 중요한 방식으로 오케스트레이션해야 합니다.

지능형 작업을 위한 플랫폼의 아키텍처 비전을 실현하기 위해 다음 설계 원칙을 모범 사례로 사용하는 것이 좋습니다.

• 구성 및 모듈화: 표준화된 인터페이스를 사용하여 아키텍처 요소를 모듈식 구성 요소로 설계하여 에이전트 성능, 워크플로, 사람 접면 표면을 빠르고 동적으로 조립할 수 있습니다. 명확한 인터페이스 계약 및 추상화의 우선 순위를 지정하여 AI 에이전트가 워크플로를 가장 유연하게 작성할 수 있도록 합니다.
• Data and semantic first: 에이전트가 사일로 시스템 전반에서 효과적으로 설명할 수 있는 공유 시맨틱 이해를 통해 데이터에 포괄적이고 정확하고 빠르고 안전하며 비용 효율적으로 액세스할 수 있습니다. 이를 위해 데이터(및 메타데이터)를 제품으로 처리해야 하며, 품질, 계보, 거버넌스, 액세스를 보장하는 도구와 에이전트와 사람 간에 공유되는 의미 있는 이해를 제공하는 방법을 사용해야 합니다.
• IT 및 비즈니스 관찰성 내장: 전체 아키텍처 내에 종단간 모니터링, 추적, 평가, 설명 가능성 기능을 포함하여 에이전트의 사유, 동작, 시스템 상호 작용, 비즈니스 KPI에 미치는 영향에 대한 인사이트를 확보하여 에이전트의 성과를 지속적으로 최적화할 수 있습니다. 여기에는 비용 최적화(FinOps), 지속 가능성 메트릭 및 운영 텔레메트리가 포함되며 Trust, 규정 준수 및 책임 있는 리소스 소비를 유지합니다. AI 에이전트는 본질적으로 결정적이지 않으므로 관찰성이 AI 에이전트가 인적 감독을 통해 신뢰할 수 있고 규정을 준수하며 감사할 수 있는 방식으로 작업할 수 있도록 하는 것이 중요합니다.
• Trust 전체: 에이전트의 과업 의도(데이터 액세스, 작업 등)를 기반으로 동적이고 세분화된 권한을 적용하고 빨간색 팀 구성, 자동화된 CVE 스캔, 취약성 감지, 위험 기반 확인 제어 등 포괄적인 보안 관행을 구현합니다. 기계 속도에서 작업할 수 있는 능력으로 인해 에이전트가 계단식으로 위험을 야기할 수 있으므로 더욱 세부적이고 동적 조치가 필요합니다. 사용 또는 배달 전에 모든 AI 생성 출력(에이전트 또는 모델에서)이 정의된 규정 준수, 안전, 독성, 편향에 대해 엄격하게 검증되었는지 확인하십시오. 따라서 AI 결정, 작업, 콘텐츠, 예측에 대해 확인 가능한 감사 추적과 함께 로깅 및 설명 가능성 메커니즘이 필요합니다.
• 인간 감독이 있는 에이전트 우선: AI 에이전트가 비즈니스 사용 사례를 해결하는 기본 도구가 되도록 하려면 비용, 기술적 적합성 등 기타 고려 사항을 제외하고 에이전트 워크플로에 액세스할 수 있도록 IT 시스템을 설계합니다. 여기에는 에이전트 프로세스의 모든 단계를 모니터링, 중재, 재정의할 수 있는 사람의 기능이 포함됩니다. 의사 결정에 대한 자신감이 사전 프로그래밍된 임계값 미만이면 에이전트에게 사전에 인적 지침을 요청하는 자체 반영 기능이 필요합니다.
• 대응형 및 멀티모델 상호 작용: 에이전트 간 프로토콜, 사람 다중 모달 입력(음성, 텍스트, 시각), 비즈니스 이벤트, 시스템 신호, 스트리밍 데이터 등 모든 상호 작용 유형에 걸쳐 포괄적인 에이전트 호출 및 응답 메커니즘을 지원하도록 아키텍처를 활성화합니다. 이벤트 중심 및 실시간 처리 기능을 모두 활성화하여 에이전트가 모든 소스 또는 형식의 시기 적절한 신호에 반응할 수 있도록 합니다.
• AI 지원 인프라: 인프라는 변동하는 AI 워크로드를 처리하기 위해 내장된 중복성을 사용하여 유연하게 확장할 수 있으며, 데이터 보존 요구 사항을 준수하면서 ML/LLM 파이프라인을 데이터 및 응용 프로그램 아키텍처에 통합합니다.
• 개방된 생태계: 개방형 표준, 프로토콜 및 잘 정의된 인터페이스(API, 이벤트)를 선호하여 상호 운용성에 우선 순위를 두고 기술 잠금을 피합니다.

에이전트 변환을 성공적으로 활성화하고 확장하려면 엔터프라이즈는 단순히 현재 레이어를 향상하는 것 이상을 거쳐야 하며, 특히 AI 에이전트의 요구를 충족하도록 설계된 4개의 추가 아키텍처 레이어(그림 2)를 명시적으로 도입하는 것을 고려해야 합니다.

에이전트 계층은 계획, 추론, 메모리, 도구 활용, 상태 관리 및 수명 주기 제어와 같은 인지 기능을 포함하는 AI 에이전트의 개발 및 관리에 전념합니다. 이 계층은 AI 에이전트의 고유한 기술 및 운영 요구 사항을 해결하고 표준화된 프로토콜을 통해 응용 프로그램 및 데이터 저장소 간 상호 운용성을 보장하며 에이전트 간 공동 작업을 촉진합니다. 기존 응용 프로그램 계층은 에이전트 워크플로에 대해 동적으로 구성할 응용 프로그램 서비스로 발전합니다.

원시 엔터프라이즈 데이터와 AI 에이전트가 필요로 하는 시맨틱 이해 간의 연결 끊김을 해결하기 위해 세맨틱 레이어가 도입되었습니다. 비즈니스 엔티티, 개념, 정의, 상호 관계를 명시적으로 인코딩하고 관리하여 엔터프라이즈 엔터프라이즈 엔터프라이즈 엔터프라이즈 및 비즈니스 Knowledge 표현을 만들어 보다 복잡한 다중 에이전트 워크플로를 강화하는 공유 시맨틱 이해를 활성화합니다. 데이터 카탈로그 외에도 시맨틱 레이어는 자연어 쿼리를 특정 데이터 저장소에 대한 정밀한 쿼리로 변환하고 결과를 조화롭게 조정하고 에이전트에게 상황에 맞는 더 풍부한 답변을 반환합니다. 기존 데이터 레이어는 중앙 집중식 레이크하우스 채택을 통해 통합되고 AI 지원 데이터 패브릭을 통해 데이터 액세스를 확장하여 데이터 메쉬 운영 모델 원칙을 지원합니다.

AI/ML 계층은 대규모 언어 모델, 대규모 작업 모델 및 도메인별 ML 모델을 비롯한 엔터프라이즈 AI 기능의 관리를 중앙 집중화하여 수명 주기 동안 내부적으로 개발된 AI 모델과 외부 AI 서비스에 대한 제어된 액세스/사용을 모두 처리합니다. 응용 프로그램 내에 AI 모델이 포함된 기존 아키텍처와 달리 이 레이어는 AI 모델을 엔터프라이즈의 최상위 구성 요소 및 공유 서비스로 설정합니다. 외부 공급업체에서 제공하는 AI 기능이 아닌 엔터프라이즈 제어형 AI 기능에 초점을 맞춥니다. 이 계층은 Trust, 안전, 규정 준수 및 배포를 위한 표준화된 메커니즘을 통해 기업의 다양한 에이전트 및 기타 AI 워크로드에 대한 인텔리전스를 제공합니다.

엔터프라이즈 오케스트레이션 계층은 AI 에이전트, 사람, 자동화 도구, 결정적 시스템을 포함하는 복잡한 다단계 워크플로 및 비즈니스 프로세스를 조정, 관리 및 최적화하기 위한 기능적 추상화입니다. 이 계층은 MCP 및 A2A와 같은 개방형 프로토콜을 사용하여 개별 에이전트와 시스템이 전체 프로세스의 중앙 집중식 감독 및 조율을 제공하는 동시에 로컬로 구성된 과업을 자동으로 처리할 수 있는 블렌딩된 오케스트레이션 모델을 활용합니다. 블렌딩된 오케스트레이션 모델을 구현하기 위해 이 계층은 비즈니스 프로세스의 결정적 단계(설계 시간 동안 모델링)와 동적 단계(런타임 동안 에이전트가 결정)를 모두 정의하는 기계에서 읽을 수 있는 풍부한 의미 형식으로 중요한 비즈니스 프로세스를 나타내며, 이를 통해 관리 및 최적화를 위한 프로세스 모델 기반을 만듭니다.

일반적으로 사람 중심 비즈니스 프로세스의 상당 부분은 문서화되지 않거나 기계에서 읽을 수 있는 형태로 액세스할 수 없습니다. 그러나 과업 및 작업에 대한 풍부한 데이터 및 메타데이터를 포함하여 AI 에이전트의 활동을 자세히 관찰할 수 있으므로 동적, 이전에 구조화되지 않은 작업을 결정적 선형 워크플로와 수집, 문서화, 통합하여 포괄적인 프로세스 모델을 만들 수 있습니다. 자세한 프로세스 문서는 이전에 보이지 못했던 과업 상호 종속성 및 실행 경로를 포착하여 엔터프라이즈에서 운영 효율성을 지속적으로 최적화하고, 병목 지체를 효과적으로 해결하고, 에이전트가 식별한 모범 사례를 재사용 가능한 엔터프라이즈 전체 플레이북으로 체계적으로 코딩할 수 있습니다. 이렇게 하면 개별 프로세스 및 확장 시 전체 엔터프라이즈의 전체 디지털 쌍둥이가 생성됩니다.

예를 들어, 포괄적인 세일즈 전략 실행 또는 새 직원 온보딩과 같은 복잡한 프로세스에는 오케스트레이션 계층이 적절한 수준의 인적 참여(예: 예외 처리), AI 에이전트의 제한된 자율성, 규정 준수 적용을 보장할 수 있는 여러 상호 의존적인 단계가 포함됩니다. 해당 프로세스 전반에서 맨 아래 오케스트레이션 계층은 예측 가능성 및 거버넌스를 추가하고, 핵심 성과 지표(KPI)를 지속적으로 추적 및 평가하며, 워크플로 및 롤백 논리의 트랜잭션 무결성을 보장하고, 워크플로의 모든 스테이지에 대한 가시성을 유지하여 전체 비즈니스 목표에 부합합니다. 이 기능을 구현하기 위해 이 계층은 시맨틱 계층에 저장된 보안 및 거버넌스 계층( 정책-as-코드를 통해)의 정책, 규칙, 가드 레일과 비즈니스 목표, KPI를 사용합니다. AI 중심 상호 작용의 자율적이고 빠른 특성에 따라 분산된 연도에만 의존하면 특히 장기 실행 중인 다단계 워크플로에서 전략적 잘못 정렬 또는 규정 준수 위반이 발생할 수 있습니다. 블렌딩된 오케스트레이션 접근 방식은 복잡한 워크플로에 엔터프라이즈 전체 비즈니스 규칙, 규정 준수 확인, 정책 집행을 직접 포함하여 이러한 위험을 완화하고 중요한 상황에서 인적 감독을 통합합니다.

이러한 11개 레이어를 각각 사용하면 안전하고 신뢰할 수 있고 효과적인 방식으로 대규모로 AI 에이전트를 배포하는 데 특정 기능을 제공하여 에이전트 AI의 전체 잠재력을 확보하여 엔터프라이즈에서 작업을 수행하는 방식을 전환할 수 있습니다. 아래 섹션에서는 레이어의 기능, AI 에이전트 증가로 인한 새로운 변경 사항, 주요 기술 기능을 간략하게 설명합니다.

기능: 익스피리언스 레이어는 사용자의 기본 인터페이스로 사용되며, 입력(텍스트, 음성, 시각)을 수집하고 여러 장치에서 상황에 맞는 응답을 전달하여 다중 모달 상호 작용을 지원합니다. 작업을 위해 에이전트 계층에 사용자 의도를 원활하게 전달하고 에이전트 워크플로 내에서 에이전트 에스컬레이션 및 승인을 수행하는 동적 UI 및 시각화를 제공합니다.

오늘과 다른 점: AI는 자연어 처리, 상황에 대한 인지도, 사전 예방적 의사 결정 지원을 통해 기존 GUI 기반 인터페이스를 강화합니다. AI 에이전트는 사전에 상호 작용을 시작하여 모든 채널 및 모달에서 맞춤형 실시간 권장 사항을 전달할 수 있습니다.

핵심 기술 기능:

• 대화형 AI 및 디지털 도우미: 기본적으로 UX를 활성화하여 AI 지원을 사용하여 사용자를 지원합니다.
• 속성 및 투명도 UI: 따옴표 표시, 파일/시스템의 소스, 결정에 대한 접근 방식/논리와 같은 사용자 인터페이스에서 답변을 설명 가능한 상태로 만듭니다.
• Proactive & Ambient 알림 서비스: 에이전트가 사용자의 현재 컨텍스트를 기반으로 가장 적절한 채널 및 양식 요소에서 사용자에게 인사이트 또는 경고를 사전에 푸시할 수 있습니다.
• 옴니채널 환경: 여정 연속성을 통해 모든 채널에서 원활하고 일관되고 통합된 환경을 제공합니다. 여기서 대화 및 과업은 앱이 아닌 사람을 따릅니다.
• 다중 모달 기능: 에이전트가 가장 효율적인 모달로 정보를 이해하고 제시할 수 있도록 텍스트, 음성, 이미지, 터치, 비디오, AR/VR을 통해 에이전트 및 응용 프로그램과 상호 작용할 수 있습니다.
• 컨텍스트 인식 개인 설정 및 동적 UI: 상황에 따라 인식되는 실시간(시간, 위치, 사용자 작업) 사용자 환경을 활성화하여 즉시 UI 생성을 비롯한 개인 설정을 활성화합니다.

기능: 에이전트 계층은 AI 에이전트가 익스피리언스 계층에서 과업을 분해하고 응용 프로그램 및 앱 서비스 계층 및 데이터 계층의 도구를 사용하여 워크플로를 동적으로 어셈블하여 과업을 실행하는 엔터프라이즈에서 작업을 수행하는 기본 런타임 환경 역할을 합니다. AI 에이전트의 구성 상태는 이 레이어에 저장 및 관리됩니다. 특정 과업에 대한 에이전트가 인스턴스화되고 나중에 특정 에이전트 인스턴스가 폐기됩니다. 이 구현을 통해 에이전트는 항상 오프라인 최적화(AI/ML의 기능, 관찰 가능성 및 오케스트레이션 계층 사용)를 기반으로 최신 구성 상태에서 호출할 수 있습니다. 이 계층은 AI 에이전트의 포괄적인 수명 주기 관리, 조정, 거버넌스를 책임집니다.

오늘과 다른 점: 이 계층은 현재의 편파된 파일럿 및 제한된 에이전트 배포 집합으로 나타납니다. 규칙 기반 Bot이 있지만 대규모로 배포된 적응형, 결정적이지 않은, 목표 지향 소프트웨어 프로그램은 거의 없습니다.

핵심 기술 기능:

• 에이전트 런타임 환경: AI 에이전트의 수명 주기, 실행, 자원 할당을 관리합니다.
• 에이전트 수명 주기 관리 제품군: 에이전트 활동 및 버전 관리에 대한 개발 프레임워크, 개발 및 테스트 도구, 관리 시스템이 포함됩니다.
• 에이전트 논리 엔진: 에이전트가 복잡한 문제를 해결하기 위해 사용할 도구를 세분화하고 계획하고 결정할 수 있는 인지 프레임워크입니다.
• 에이전트 메모리 및 컨텍스트 저장소: 에이전트 인스턴스가 이전 상호 작용에 대한 컨텍스트를 회수하고 유지하여 일관성과 개인 설정을 보장할 수 있습니다.
• 에이전트 상호 운용성 프로토콜: 에이전트 간 커뮤니케이션(A2A) 및 외부 시스템과 인터페이스를 수행하는 에이전트(예: 모델 컨텍스트 프로토콜을 통해)를 위한 표준화된 인터페이스입니다.
• 도구 등록: 특정 과업을 수행하기 위해 에이전트가 호출할 수 있는 선별된 내부 및 외부 지원 도구 집합입니다.
• 에이전트 등록: 검색 및 성능 일치를 지원하는 사전 구축된 AI 솔루션 및 에이전트의 선별된 에코시스템입니다.
• 분산된 에이전트 정책 적용: 에이전트가 조치를 취하기 전에 규정 준수를 직접 확인할 수 있도록 허용하여 엔터프라이즈 전체의 거버넌스를 활성화합니다.
• 에이전트 자기 반영 및 적응 프레임워크: 에이전트가 자체 성과를 분석하고 사람의 승인을 받아 개선 사항을 트리거하거나 수정 사항을 제안할 수 있는 메커니즘을 제공합니다.

기능: 이 계층은 중앙 집중식 인텔리전스 허브 역할을 하며, 에이전트 계층(및 응용 프로그램)에서 소비할 공유 서비스 집합으로 AI 모델을 제공하여 안전 프레임워크 및 모니터링 내장형으로 사유 및 의사 결정 기능을 강화합니다.

오늘과 다른 점: 기존에는 특정 응용 프로그램 내에 AI 모델이 포함되었습니다. 에이전트 엔터프라이즈의 IT 아키텍처에서 AI/ML 계층은 1차급 중앙 집중식 서비스 집합으로서, 개발에서 대규모 실시간 서비스에 이르는 전체 모델 수명 주기를 지원합니다.

핵심 기술 기능:

• 사전 구축된 기본 모델: 광범위한 데이터 스펙트럼에 대해 교육된 대규모 ML 모델은 다양한 일반 과업을 수행할 수 있습니다.
• Retryval-Augmented Generation(RAG): 정확성을 향상하고 환각을 줄이기 위해 엔터프라이즈별 데이터에서 기본 모델을 기반으로 하는 AI 중심 파이프라인입니다.
• AI Trust, Safety, & Governance Hub: 편향 감지, 설명 가능성, 안전 모니터링과 같은 책임 있는 AI 원칙을 적용하기 위해 모델 수명 주기에 통합된 도구 제품군입니다.
• 모델 게이트웨이: 모든 모델 추론 요청에 대한 단일 진입점 역할을 하는 라우팅 엔진으로, 다양한 내부 및 외부 모델에 대한 호출을 관리하여 비용, 성능, 규정 준수에 최적화합니다.
• 모델 개발 워크벤치: 데이터 사전 처리, 모델 교육, 실험을 위한 도구가 포함된 데이터 과학자를 위한 통합 개발 환경입니다.
• MLOps 및 Lifecycle Automation 파이프라인: 기계 학습용 CI/CD 엔진으로, 교육에서 배포 및 사용 중지까지 모델의 수명 주기 전체를 자동화합니다.
• 모델 서비스 및 추론 런타임: 실시간 사용을 위해 교육된 모델을 보안 API 끝점으로 배포하기 위한 확장 가능한 저지연 환경입니다.
• 모델 & 자산 등록: 모델, 데이터 집합, 소스 코드를 포함하여 모든 AI/ML 자산에 대한 중앙 집중식 버전 관리 리포지토리로서 재현 가능성 및 감사 가능성을 보장합니다.
• 합성 데이터 생성 및 관리: 중요한 정보를 노출하지 않고 실제 데이터의 통계 속성을 유지하는 합성 데이터를 생성 및 관리하는 도구입니다.

기능: 엔터프라이즈 오케스트레이션 계층은 에이전트 엔터프라이즈에서 종단간 작업을 위한 제어 플레인입니다. 에이전트 워크플로 및 상호 작용이 엔터프라이즈 목표 및 거버넌스 정책을 준수하도록 합니다. 다른 계층의 관찰 가능성 텔레매터리를 사용하여 포괄적인 비즈니스 프로세스 모델을 구축하여 시맨틱 계층에서 가져온 KPI에 대해 최적화할 수 있습니다. 이 레이어는 중요 워크플로를 위해 AI 에이전트의 각 새 인스턴스에 공유 컨텍스트 및 장기 실행 메모리를 제공합니다.

오늘과 다른 점: 이 레이어는 구조화된 결정적 단계와 사람과 에이전트가 수행하는 비정형 동적 작업을 모두 캡처하는 기계에서 읽을 수 있는 모델을 만들어 비즈니스 프로세스에 대한 통합 가시성을 제공합니다. 비즈니스 목표 및 규정 준수 규칙을 에이전트 직원을 관리하기 위한 에이전트 워크플로의 제약으로 프로그래밍 방식으로 인코딩하여 오늘날의 사람 중심 공동 작업 및 거버넌스 모델을 넘어갑니다.

핵심 기술 기능:

• 하이브리드 워크플로 실행 엔진: "블렌딩된 오케스트레이션 모델"을 실행하는 핵심 런타임으로 로컬 에이전트 연계를 허용하면서 중앙 집중식 감독을 제공합니다.
• 프로세스 거버넌스 및 제약 엔진: 선언적 비즈니스 규칙, 정책 및 제약을 사용하여 모든 비행 중 프로세스에 적용하는 실시간 거버넌스 서비스입니다.
• 공유 메모리 및 컨텍스트 관리: 여러 단계에서 연속성과 일관성을 유지하기 위해 워크플로의 모든 작업자가 액세스할 수 있는 공유 메모리 레이어입니다.
• 프로세스 모델링 스튜디오: 결정적 단계와 동적 목표 지향 단계를 모두 정의하는 기계에서 읽을 수 있는 시맨틱한 프로세스 모델을 만들고 관리하는 설계 시간 환경입니다.
• 프로세스 최적화 및 시뮬레이션: 고급 분석, What-if 시뮬레이션, 예측 최적화를 위한 비즈니스 프로세스의 디지털 시뮬레이션을 구성하는 기능입니다.
• 프로세스 검색 및 상태 모니터링: 프로세스 모델 및 실시간 데이터를 수집하여 프로세스 건전성의 비즈니스 메트릭에 대해 보고합니다.
• 디지털 트윈 프로세스 모델링: 프로덕션에 영향을 미치지 않고 테스트, 변경 시뮬레이션, 최적화를 위한 실시간 실시간 워크플로의 미러입니다.

기능: 이 레이어는 에이전트가 사용할 수 있는 구성 가능한 모듈식 도구 및 서비스로 기존 비즈니스 응용 프로그램 기능을 노출합니다. 또한 사용자 환경에 에이전트 기능을 포함하기 위한 프레젠테이션 런타임 역할을 합니다. 응용 프로그램은 계속해서 레코드 시스템이지만 에이전트의 "헤드리스" 기능으로 재설계됩니다.

오늘과 다른 점: 응용 프로그램은 모노리틱 UI에서 에이전트가 API 및 이벤트를 통해 동적으로 호출할 수 있는 "백엔드 서비스"로 발전합니다. 이 계층은 AI 에이전트 및 모델과 기본적으로 통합되며, 코드 생성 LLM의 확산으로 인해 에이전트가 구축한 사용자 정의 마이크로 응용 프로그램 수가 증가합니다.

핵심 기술 기능:

• 모듈식 애플리케이션 서비스: 통화할 에이전트에 대해 기계 읽기 작업으로 게시된 기존 응용 프로그램에서 분해된 비즈니스 논리입니다.
• 에이전트 내장 SDK: 개발자가 에이전트를 응용 프로그램 UI에 직접 안전하게 포함할 수 있는 툴킷 및 라이브러리입니다.
• 동적 UI 생성 서비스: AI 에이전트가 사용자 컨텍스트를 기반으로 UI 구성 요소를 실시간으로 생성 또는 수정할 수 있는 서비스입니다.
• AI 기본 UI 프레임워크: 확률적 데이터 관리 및 스트리밍 텍스트 응답 등 AI 기반 UI를 처리하기 위한 내장 지원을 통해 설계된 프런트 엔드 프레임워크입니다.
• Agent-Infused Systems of Engagement: 시각적 구성 요소를 통해 AI 에이전트 기능을 통합하는 엔터프라이즈 생산성 및 공동 작업 응용 프로그램입니다.
• AI 향상된 로우 코드/노코드 애플리케이션 개발: 사용자 및 에이전트가 자연어 및 프롬프트를 사용하여 사용자 정의 앱 및 서비스를 만들 수 있는 도구입니다.
• 에이전트용 앱 가드 레일 사용: 속도 제한, 범위 지정 권한, 텔레메트리 등 에이전트 사용에 대한 응용 프로그램 측 제어

기능: 시맨틱 레이어는 엔터프라이즈 전반에 걸쳐 데이터 및 Knowledge 대한 통합적인 이해를 제공하므로 사람과 AI 에이전트가 정보를 일관되게 해석하고 조치를 취할 수 있습니다. 그것은 본문학 및 Knowledge 그래프와 같은 Knowledge 표현 도구를 사용하여 자연어 쿼리를 정확하고 컨텍스트 인식 데이터 쿼리로 번역합니다.

오늘과 다른 점: 오늘날의 기업에는 서로 다른 메타데이터 저장소가 있지만, 에이전트 엔터프라이즈의 IT 아키텍처는 명시적으로 정의된 시맨틱 관계로 도메인 간 데이터를 연결하는 중앙 집중식 엔터프라이즈 Knowledge 그래프(EKG)를 필요로 합니다. 이는 AI 에이전트가 복잡한 추론을 수행할 수 있는 풍부한 컨텍스트를 제공하며, 여러 기능 영역에 걸쳐 Knowledge 그래프를 강화할 수 있는 기술 기능의 집합에 대한 요구 사항을 만듭니다.

핵심 기술 기능:

• 메타데이터 서비스: 데이터 계보, 소유권, 분류를 비롯한 설명 메타데이터를 제공합니다.
• 비즈니스 용어집 및 분류 관리: 비즈니스 사용자가 표준 비즈니스 용어를 정의하고 동의할 수 있는 도구입니다.
• 세맨틱 모델 관리: Knowledge 엔지니어가 시맨틱한 모델과 본문을 만들고 관리하고 관리할 수 있는 워크벤치입니다.
• Enterprise Knowledge 그래프(EKG): 비즈니스 엔티티 간 관계를 저장하고 매핑하는 엔터프라이즈 본문학의 런타임 인스턴스입니다.
• 메타데이터 수집 및 조합 엔진: 다양한 소스 시스템에서 엔터프라이즈 Knowledge 그래프를 채우고 유지 관리하는 자동 파이프라인입니다.
• 시맨틱 쿼리 엔진: 자연어 쿼리를 해석하고 다양한 소스에서 데이터를 검색하기 위해 EKG를 기반으로 구조화된 쿼리를 구성합니다.
• Semantic Reasoning Engine: ECG에서 암시적 Knowledge 및 숨겨진 관계를 분석하고 파생합니다.

기능: 데이터 레이어는 시맨틱 레이어가 해석할 수 있는 모든 엔터프라이즈 데이터, 교육에 사용할 수 있는 AI/ML 레이어, 트랜잭션에 사용할 수 있는 응용 프로그램, 추론을 위한 에이전트에 대해 안전하고 관리되는 액세스를 관리하고 제공하는 신뢰할 수 있는 기본 소스입니다.

오늘과 다른 점: 데이터 레이어는 더욱 통합적이고 실시간이며 거버넌스에 초점을 맞추며 클라우드 규모 데이터 레이크하우스에 중심을 두는 경우가 많습니다. 반응형 에이전트를 지원하기 위해 더 많은 용량과 다양한 데이터를 처리하고 배치 지향 처리를 실시간 스트리밍으로 전환해야 합니다. 데이터 거버넌스 및 품질은 결함이 있는 데이터가 결함이 있는 AI 출력을 생성하지 못하도록 방지하기 위해 더욱 중요합니다.

핵심 기술 기능:

• VectorDB: RAG에 매우 중요한 고차원 벡터 임베딩을 저장하고 쿼리하기 위해 최적화된 전문 데이터베이스입니다.
• 인텔리전트 분석 데이터 파이프라인: 데이터 계층에 데이터 수집, 변환, 로드(ETL/ELT)를 위한 자동화된 메타데이터 중심 서비스입니다.
• Enterprise Data Lakehouse: 분석 및 AI 워크로드 모두에 최적화된 구조화된, 반정형, 비정형 데이터의 중앙 리포지토리입니다.
• 제로 카피 데이터 연합 및 검색: 물리적 데이터 이동 없이 여러 매장의 데이터에 액세스, 쿼리, 검색을 위한 기술입니다.
• Natural Language to SQL: 자연어 쿼리를 SQL로 변환하는 기법입니다.
• 엔터프라이즈 데이터 카탈로그 및 검색 서비스: 엔터프라이즈 전반에 걸친 모든 데이터 자산의 중앙 집중식 검색 가능 재고입니다.
• 마스터 & 참조 데이터 관리 (MDM): 고객 및 제품과 같은 중요 비즈니스 엔티티에 대한 "골든 레코드"를 관리합니다.
• 적응형 데이터 품질 서비스: AI를 사용하여 실시간으로 데이터 품질 문제 자동으로 감지하고 수정하는 연속 모니터링 서비스입니다.
• 데이터 계약: 데이터 교환의 스키마, 의미론, SLA를 지정하는 데이터 프로듀서와 소비자 간의 기계 판독 가능한 협약입니다.
• AI 전문 데이터 저장소: 시계열 또는 그래프 데이터베이스와 같은 특정 AI 사용 사례에 맞게 설계된 데이터베이스입니다.
• AI-Ready Data Fabric: 서로 다른 물리적 시스템 전반에서 데이터의 통합 가상화를 제공하는 논리적 데이터 추상 레이어입니다.
• 실시간 데이터 처리: 시스템 속도에서 지속적으로 다중 모달 데이터 스트림을 처리하고 분석하는 기능입니다.

기능: 인프라 계층은 다른 모든 계층을 기반으로 하며, 복원 가능하고 비용 효율적인 방식으로 AI 및 에이전트 워크로드를 대규모로 실행하는 데 필요한 계산, 저장소, 네트워크, 클라우드 기능을 제공합니다.

오늘과 다른 점: AI 워크로드는 에이전트 시스템의 확률적 특성을 처리하기 위해 더 높은 확장성과 탄력을 필요로 합니다. 인프라스트럭처는 신속한 프로비저닝, GPU와 같은 특수 하드웨어, 대기 시간이 낮은 고처리량 네트워크 트래픽을 지원하여 에이전트 간 통신을 수행해야 합니다.

핵심 기술 기능:

• Code인 인프라: CI/CD 배포 파이프라인을 사용하여 인프라를 자동으로 프로비저닝하고 관리합니다.
• 하이브리드 및 멀티 클라우드 AI 인프라: 생성형 AI 워크로드를 위한 퍼블릭 클라우드 탄력성 및 전문 인프라를 활용합니다.
• AI 최적화 컴퓨팅, 스토리지 및 네트워크: AI 워크로드의 변수 수요를 기반으로 인프라 자원을 동적으로 할당하고 규모를 조정합니다.
• Edge AI 인프라: 고유한 대기 시간 또는 개인 정보 보호 요구 사항이 있는 사용 사례에 대해 네트워크 가장자리에 AI 모델 및 에이전트를 배포할 수 있습니다.
• 자기 치료 인프라: AI를 사용하여 수동 입력 없이 시스템 복구를 관리하여 고가용성을 보장합니다.
• 지속적인 AI 컴퓨팅: 에너지 효율적인 접근 방식으로 AI 워크로드의 환경 영향을 완화합니다.
• 비용 및 탄소 인식 자동 확장: FinOps 및 지속 가능성 신호를 사용하여 수용력 확장 및 배치를 촉진합니다.

기능: 통합 계층은 API, 이벤트, 프로토콜, 미들웨어를 통해 모든 시스템(레거시 및 신규)의 범용 커뮤니케이션 패브릭 역할을 하여 에이전트가 서비스, 데이터, 도구를 원활하게 검색하고 상호 작용할 수 있도록 합니다.

오늘과 다른 점: AI 에이전트의 동적 다대다 커뮤니케이션 패턴을 지원하도록 통합을 발전시켜야 하며, 몇몇 알려진 시스템 간의 사전 결정된 정적 상호 작용을 처리하지 않아야 합니다. 실시간 데이터 처리가 필요하며 에이전트 간의 특별 검색 및 공동 작업을 수용해야 합니다.

핵심 기술 기능:

• 운영 데이터 연결 파이프라인: API 기반, 이벤트 기반, 역 ETL 기능을 비롯한 자동 스키마 매핑, 데이터 변환, 워크플로 생성을 위한 AI 지원 도구입니다.
• Adaptive API Management 및 Service Mesh: 에이전트에 대한 적응형 정책을 적용하여 서비스를 동적으로 등록, 검색, 관리할 수 있는 API 게이트웨이 및 서비스 메쉬 기술입니다.
• Semantic Knowledge 어댑터: 일관된 데이터 해석을 위해 에이전트 및 응용 프로그램 전체에서 공유된 용어와 데이터 모델을 제공하는 통합 구성 요소입니다.
• 이벤트 구동 통합 패브릭: 분리된 비동기식 커뮤니케이션을 지원하는 대기 시간이 낮은 고처리용 Messaging 및 스트리밍 백본입니다.
• 에이전트 프로토콜 게이트웨이: 에이전트가 도구를 안전하게 검색하고 작업을 트리거하여 MCP를 내부 API 및 이벤트에 연결할 수 있는 MCP 서비스의 게이트웨이입니다.
• Composable Capability 카탈로그 및 마켓플레이스: API, 서비스, 에이전트 기술, 모델, 데이터 집합 등 모든 엔터프라이즈 기능에 대한 중앙 집중식 관리 카탈로그, 주문형 구성용 시맨틱 메타데이터에 주석이 지정되어 있습니다.

기능: 이 계층은 에이전트 및 전체 시스템의 상태 및 운영 성과(관찰 가능 내장형 원칙)를 모니터링 및 관리하며, 인사이트를 생성하여 엔터프라이즈의 에이전트 직원에 대한 감사, 디버깅, 설명 가능성, 비용, 자원 최적화를 활성화하여 투명성과 제어를 제공합니다.

오늘과 다른 점: AI 에이전트가 기계 속도에서 오류를 일으킬 위험에 따라 이 계층이 더욱 중요해집니다. 자율 에이전트의 예측할 수 없는 동작을 포함하도록 인프라 모니터링을 넘어 확장해야 하며, 이는 새로운 유형의 텔레메트리와 기술 성능뿐만 아니라 시맨틱 정확성을 이해할 수 있는 기능을 요구합니다.

핵심 기술 기능:

• 실시간 모니터링 및 관찰 플랫폼: ML 메트릭 및 에이전트 동작에 대한 확장과 함께 전체 IT 환경 전반에서 로그, 메트릭, 추적을 지속적으로 수집합니다.
• FinOps 및 클라우드 비용 관리: AI 및 에이전트 작업 부하와 관련된 인프라 비용을 모니터링, 분석, 최적화할 책임이 있습니다.
• 에이전트 및 ML별 모니터링: 변경할 수 없는 감사 추적에 에이전트 실행의 각 단계를 기록하고 에이전트 동작을 지속적으로 프로파일링하여 설정된 표준과의 편차를 감지합니다.
• AIOps, 사고 및 변경 관리: AI/ML을 사용하여 잠재적인 IT 문제를 예측하고, 근본 원인을 식별하고, 수정 워크플로를 만듭니다.
• 마감된 학습 피드백 루프: 에이전트의 관찰 가능성 Telemetry를 MLOps 파이프라인으로 다시 통합하여 자동 모델 재교육 또는 프롬프트 조정을 활성화합니다.
• Semantic Observability Engine: 관찰 가능성을 컨텍스트화용 시맨틱 레이어와 통합하여 에이전트 동작에서 시맨틱 변칙을 감지할 수 있습니다.

목적: 이 계층은 위협으로부터 엔터프라이즈 자산을 보호하고 위험을 관리하며 규제 요구 사항을 준수하여 아키텍처 전반에 걸쳐 Trust 안전을 포함합니다. ID 관리, 위협 감지, GRC, AI별 보안 조치가 포함됩니다.

오늘과 다른 점: 보안 계층은 신속한 주사 및 모델 중독과 같이 AI 모델 및 에이전트가 제공하는 새로운 공격 영역을 해결하려면 발전해야 합니다. ID 및 액세스 관리는 정적 역할 기반 컨트롤에서 적시에 부여되고 사용 후 즉시 해지되는 동적 의도 기반 권한으로 전환해야 합니다.

핵심 기술 기능:

• LLM 입력/출력 보안 및 가드레일: 안전하지 않은 콘텐츠, PII 누출, 실수 방지를 차단하기 위해 프롬프트 및 응답 시간에 엔터프라이즈 가드 레일이 적용됩니다.
• AI 검증을 통한 Zero Trust 아키텍처: AI 기반 동작 분석으로 향상된 연속 인증으로 특정 과업을 기반으로 에이전트에게 세분화된 적시 액세스 권한을 제공합니다.
• 에이전트 보안 프레임워크: 에이전트 활동을 안전하게 중단할 수 있는 정밀 세분화된 권한 모델, 유해한 동작 모니터링, 제어 메커니즘
• AI 모델 보안: 모델 수명 주기의 각 스테이지에 대한 제어 기능이 포함된 심층적인 방어 전략으로, 독성, 추출, 대립 공격으로부터 보호합니다.
• 개인 정보 보호 AI: 민감한 데이터를 보호하기 위해 연합 학습 및 차별 개인 정보 보호와 같은 기술을 사용합니다.
• AI 향상 GRC: AI 에이전트를 사용하여 IT 아키텍처의 컨트롤 준수를 지속적으로 모니터링합니다.
• Policy-as-Code Engine: 에이전트 행동에 대한 가드 레일을 설정하기 위해 선언적이고 기계에서 읽을 수 있는 형식으로 비즈니스 규칙 및 규정 준수 제약을 정의하기 위한 신뢰할 수 있는 단일 소스입니다.
• Continuous Red-Teaming: AI 모델 및 에이전트의 자동화된 지속적인 대립 테스트를 통해 공격자가 취약점을 활용하기 전에 취약점을 식별합니다.

에이전트 엔터프라이즈로 전환하려면 기술 기반을 설정하고 실질적인 비즈니스 가치를 만드는 여러 단계의 여정을 수행해야 합니다(아래 그림 3 참조). 정확한 로드맵은 엔터프라이즈의 전략, 문화, AI 거버넌스 모델 및 IT 아키텍처 시작 지점에 따라 다르지만 대부분의 조직은 지속적인 IT 투자로 범위, 복잡성, 가치 창출이 증가함에 따라 단계별 접근 방식을 채택해야 합니다. Salesforce의 에이전트 성숙도 모델은 기업이 변환을 전략화할 수 있는 성숙도 수준의 유용한 프레임워크를 제공하며, 에이전트 기능이 기본 정보 검색(레벨 1)에서 더욱 복잡한 다중 도메인(레벨 2 및 3) 및 다중 에이전트 워크플로(레벨 4)에 이르기까지 어떻게 증가할 수 있는지 간략하게 설명합니다. 이러한 단계를 성공적으로 진행하려면 AI 에이전트의 보다 복잡하고 가치가 높은 배포의 요구를 충족하기 위해 각 단계에서 서로 다른 계층의 아키텍처에 대한 대상 투자와 함께 IT 아키텍처가 조율된 방식으로 발전해야 합니다. 각 성숙도 수준에 대해 11개의 아키텍처 계층에서 필요한 특정 기술 기능이 투자 이유와 함께 식별됩니다.

성숙도 레벨 1: 정보 검색 에이전트

비즈니스 목표 및 가치: 기업 Knowledge를 쿼리할 수 있는 신뢰할 수 있는 대화형 인터페이스를 제공하여 인적 작업자의 생산성을 높입니다. 기본값은 사람의 성능을 대체하는 것이 아니라 향상시키는 것입니다. 해당 에이전트는 정보를 검색하고 조치를 권장하여 사람을 지원합니다.

아키텍처 초점: 안전하고 신뢰할 수 있는 데이터 파운데이션과 정보 검색에 필요한 기본 AI 구성 요소를 구축하는 데 중점을 두고 있습니다. 사용자 Trust 구축하고 비용을 관리하기 위해서는 처음부터 거버넌스 및 관찰 가능성이 중요합니다.

핵심 기술 투자(그림 4):

이 단계에서 IT 부서는 신뢰할 수 있는 데이터-에이전트 파이프라인 및 기타 기초 기능을 만드는 데 집중해야 합니다. 벡터DB와 같은 데이터 레이어의 기술은 정보 검색 에이전트를 구동하는 검색 증강 생성(RAG) 기술을 활성화하는 데 필수적입니다. 이 기능은 기본 모델에 대한 보안 및 비용 관리 액세스를 위한 모델 게이트웨이와 안전하지 않은 출력을 모니터링하고 규정 준수를 보장하는 AI Trust, Safety & Governance Hub를 포함하는 중앙 집중식 AI/ML 레이어와 함께 제공됩니다. Semantic Layer의 마스터 데이터 관리 및 비즈니스 용어집은 에이전트가 정확한 정보를 가져오는 데 매우 중요합니다. 이 단계에서 구축된 에이전트를 향후 사용 사례에 맞게 수정하고 확장할 수 있도록 에이전트 런타임 및 수명 주기 기능이 필요합니다. 가치를 제공하고 사용자의 신뢰를 구축하려면 익스피리언스 레이어에 속성 및 투명성 UI가 포함되어 있어야 하며, 에이전트의 응답은 인용과 해당 정보의 출처를 표시하여 설명할 수 있습니다. 기본 관찰 가능성 및 보안 투자(예: 제로 트러스트)는 미래의 에이전트 배포를 위한 기초를 마련하기 위해 구현을 시작해야 합니다.

성숙도 레벨 2: 단순 오케스트레이션, 단일 도메인 에이전트

비즈니스 목표 및 가치: 일상적인 작업을 자동화하고 단일 비즈니스 도메인 내에서 복잡도가 낮은 워크플로를 오케스트레이션합니다. 이렇게 하면 운영 효율성이 향상되고 수동 작업이 줄어들어 더 중요한 활동에 집중할 수 있습니다.

아키텍처 초점: 주요 아키텍처 변화는 읽기 전용 데이터 검색에서 작업 실행으로 이동합니다. 이를 위해 에이전트가 액세스할 수 있도록 응용 프로그램 기능(주로 API로 노출됨)을 모듈화하고, 에이전트 작업에 강력한 보안을 구현하고, 시맨틱 및 AI 개발 기능을 구축하여 AI 에이전트의 인텔리전스를 향상해야 합니다.

핵심 기술 투자(그림 5):

투자는 주제적으로 AI 에이전트가 적절한 거버넌스를 통해 조치를 취할 수 있도록 합니다. 응용 프로그램 및 앱 서비스 계층은 단일 비즈니스 논리가 에이전트가 호출할 수 있는 모듈식 응용 프로그램 서비스(API)로 분해되므로 중요한 변화를 겪고 있습니다. 이들은 관찰 가능성 도구에 통합되어 에이전트가 시스템을 압도하는 것을 방지하기 위해 App Guardrails로 보호됩니다. 이러한 에이전트를 강화하려면 에이전트 논리, 도구 프로토콜(MCP 등) 및 등록에 투자해야 합니다. 따라서 새로운 위험이 발생하므로 전용 에이전트 보안 프레임워크 및 AI 모델과 에이전트 모니터링 기능이 관리 및 보안에 필수적입니다. 마지막으로, 엔터프라이즈는 사용자 정의 모델에 대한 AI/ML 기능을 확장하여 해당 에이전트가 도메인별 과업을 처리할 수 있도록 지원할 수 있습니다.

성숙도 레벨 3: 다중 도메인 오케스트레이션 에이전트

비즈니스 목표 및 가치: 조직적 및 기능적 경계를 넘는 복잡한 엔드 투 엔드 비즈니스 프로세스를 자동화합니다(예: "금액 견적서", "주문 견적서"). 중요한 것은 사일로를 파악하고 프로세스 주기 시간을 가속화하거나 비즈니스 내 전체 가치 사슬을 최적화하는 것입니다. 조직의 장벽이 끊어지기 시작하고 인력이 AI 에이전트 감독에 더 집중하기 시작하면 인적 작업자 생산성에 더 많은 단계의 변화가 발생할 수 있습니다.

아키텍처 초점: 이제 아키텍처가 교차 분야 기술 문제를 지원해야 합니다. 엔터프라이즈 전반의 공유 시맨틱 이해, 관리용 중앙 집중식 오케스트레이션 엔진, 분리된 이벤트 중심 통합 패브릭이 중요한 활성화 요소가 됩니다.

핵심 기술 투자(그림 6):

기술 투자는 사람, 에이전트, 결정적 시스템 전반에서 엔터프라이즈 규모의 프로세스를 오케스트레이션하는 데 테마적으로 초점을 맞춥니다. 엔터프라이즈 오케스트레이션 계층은 투자의 초점이 되고, 작업을 조정할 수 있는 하이브리드 워크플로 실행 엔진과 비즈니스 규칙 및 규정 준수 정책을 실행할 수 있는 프로세스 거버넌스 및 제약 엔진이 필요합니다. 에이전트가 도메인 간에 작업하기 때문에 비즈니스 규칙과 규정 준수 정책이 적용됩니다. 이 도메인 간 조정은 **엔터프라이즈 Knowledge 그래프(EKG)**가 포함된 성숙한 세맨틱 레이어를 통해서만 가능하며, 이는 비즈니스 엔티티가 도메인 간에 어떻게 관계를 맺는지에 대한 공유적인 이해를 창출합니다. 통합 계층은 스트리밍 척추를 사용하여 시스템을 분리하고 장기 실행 엔터프라이즈 프로세스의 일반적인 탄력적이고 비동기식 통신을 가능하게 하는 이벤트 기반 통합 패브릭을 포함하도록 진화해야 합니다. 이러한 워크플로의 가치와 관련된 위험을 고려하여 보안 및 모니터링에 대한 추가 투자가 중요합니다(예: AIOps, policy-as-code). 마지막으로 애플리케이션 및 서비스 계층(예: AI 지원 LCNC, 더 역동적이고 다중 모달 사용자 환경)에 대한 추가 투자는 인간 사용자가 더 능숙한 AI 에이전트와 모니터링하고 협력하기 시작함에 따라 이루어져야 합니다.

성숙도 레벨 4: 멀티 에이전트, 멀티 도메인 오케스트레이션

비즈니스 목표 및 가치: 도메인 간의 비즈니스 운영을 재설계하고 최적화하여 생산성과 효율성의 단계별 변화를 유도합니다. 이 단계에서는 주요 비즈니스 프로세스 및 워크플로 전반에서 지속적인 개선과 전략 계획을 수립하기 위해 엔터프라이즈에 대한 전체적인 디지털 시뮬레이션(디지털 쌍둥이)을 만듭니다.

아키텍처 초점: 최종 스테이지는 에이전트 간의 동적 및 비상 공동 작업 활성화에 중점을 둡니다. 이를 위해서는 고급 에이전트 간 커뮤니케이션 프로토콜(A2A), 에이전트 자가 학습 기능, 오케스트레이션, 데이터, 시맨틱 계층의 성숙에 대한 추가 투자, 엔터프라이즈 전반에 걸쳐 확장되는 동적 AI 워크로드의 증가하는 요구를 지원하는 완전 동적 및 자가 치료 인프라가 필요합니다.

핵심 기술 투자(그림 7):

테마 투자는 자체 개선을 위한 자율 시스템을 만드는 데 중점을 둡니다. 에이전트 계층에서 에이전트 자가 반영 및 조정 프레임워크는 에이전트가 자체 성능 로그를 분석하고 개선 사항을 트리거할 수 있는 메커니즘을 제공합니다. 이 학습은 IT 운영 및 관찰 가능성 계층을 통해 지원되며, 이 계층은 Closed Learning Feedback Loop을 구현하여 모델 재교육을 위해 관찰 가능성 데이터를 MLOps 파이프라인으로 자동으로 다시 공급합니다. 이 계층은 또한 합성 데이터 생성을 활용하여 모델 성능을 더욱 최적화할 수 있습니다. 부서 간 에이전트 네트워크가 구축되고 애플리케이션 모듈화 작업이 진행되고 있으므로 에이전트가 역동적으로 기능을 구성하여 더 추상적이고 가치가 높은 작업을 해결할 수 있도록 보안 및 특히 구성 가능한 기능 카탈로그에 대한 추가 투자가 필요합니다. 이러한 프로세스는 모두 새로운 디지털 트윈 프로세스 모델링 기능을 통해 오케스트레이션 및 최적화되며, 이 기능은 실시간 데이터를 사용하여 "what-if" 분석 및 예측 최적화를 위한 시뮬레이션을 생성하므로 엔터프라이즈에서 새로운 에이전트 배포를 안전하게 테스트하고 배포할 수 있습니다.

결과

에이전트 엔터프라이즈에 대한 로드맵은 IT 아키텍처의 발전을 통해 실행됩니다. 엔터프라이즈 아키텍처는 이 변환의 핵심 동인이며, 조직이 에이전트 엔터프라이즈의 새로운 비즈니스 기능에서 가치를 실현하는 데 필요한 비즈니스 및 IT의 다른 파트너와 함께 중요한 투자 결정을 이끌어낼 것입니다.