本文档描述了企业在未来 3-5 年内需要 IT 架构来充分获取客服人员的价值的观点；它概述了支持大规模部署 AI 客服人员所需的 IT 转型。目标是提供战略指南和参考架构，以帮助 CIO、CDO 和 IT 领导规划他们成为代理企业的旅程。

强大的 AI 模型支持创建客服人员团队，能够感知环境、推理数据、自主决策、执行任务，并与人类员工有效协作。这支新员工队伍有望在创新、生产力和灵活性方面实现飞跃式变革，为股东和客户创造价值。为实现这一愿景，组织必须进行业务和 IT 转型，才能成为代理企业。

如今，传统企业面临着由信息孤岛、员工沉浸在手动工作中、组织结构中的激励措施不一致以及战略和结果之间的反馈回路不连贯而造成的运营效率低下。这些问题会导致客户体验不佳、流程效率低下，并错失增长机会。

Agentic Enterprise 通过将智能 AI 客服人员的数字员工与人类员工集成，克服了这些限制。通过这种新的 AI 增强的员工队伍，组织可以通过多种类型的新业务能力来促进增长、提高运营卓越性并建立企业复原力。

促进创新的新业务功能：

• 提高人的工作效率：AI 客服人员的速度、规模和始终在线的特性允许企业自动化重复工作，并将人工员工解放出来，专注于更高价值和更富创造性的任务。
• 自适应功能改进：因为可以观察 AI 客服人员的推理，所以他们可以动态地学习和部署新技能，使企业能够不断提高绩效，以满足业务目标并快速适应新的市场机会。

_实践示例 — 在金融服务中创新客户体验：_财富管理公司可以使用 AI 客服人员来重塑其客户参与模式。客服人员可以自主监控产品组合，确定客户审查的关键时刻，并为顾问准备通话前计划，并在出现新闻时调整计划。这允许人工顾问大规模提供主动的个性化客户体验，加强关系并发现新业务机会。

保护和确保组织弹性的新业务功能：

• 弹性劳动力容量：企业可以快速扩展其能力，以满足不断变化的业务条件所带来的工作量激增，而无需增加完全由人工组成的员工的成本和延迟。
• 预测性运营弹性：AI 客服人员的全天候特性使他们能够实时自主预测、建模和缓解运营、合规和安全风险，确保企业保持客户和利益相关者的 Trust。

_示例 — 保护客户数据：_大型企业可以部署 AI 数据治理代理来扫描监管环境中的数据隐私法的变化，发现和分类企业数据集中的敏感信息，然后应用适当的治理策略。客服人员可以查看数据访问请求，并将异常路由到人工分析师进行审核，从而降低合规风险，同时使数据能够以可信方式使用。

优化卓越运营的新业务功能：

• 自主进程执行：数字化员工能够以机器速度全天候执行复杂的多步骤任务（人工在工作循环中），从而降低成本并高效地扩展流程。
• 跨界编排：AI 客服人员可以跨通常约束人类员工的信息和激励竖井工作，从而提高跨职能流程的灵活性。

_操作示例 — 优化零售中的营销漏斗：_零售营销团队可以部署 AI 客服人员，以加快市场活动流程，从而应对新的消费者趋势。客服人员可以生成市场营销计划，与市场营销、产品和销售团队协作进行审查，然后自动创建数字抵押品并在多个渠道中执行，并根据实时反馈动态调整市场活动。

企业的 IT 架构可以使用层结构来描述。这些层在逻辑上分组相关的技术功能，并促进结构化推理，但不一定意味着具体的实施，或者层应该以单一或更异构的方式设计的程度。在此层视图中（图 1），传统 IT 架构由五个主要层组成：基础设施、数据、集成、应用程序和体验。安全和 IT 运营这两个跨层跨越这些层，以确保治理、监控和保护。

传统的 IT 架构专为这样一种模式而设计，在这种模式中，企业的智能由人工员工来承担，他们在应用程序中采取操作来访问数据、应用业务逻辑、促进协作和执行工作流。它不是为这样一种模式设计的，在这种模式中，AI 客服人员可以对人类之前完成的某些用例（或根本没有完成）进行推理和采取行动，而人类却监督 AI 客服人员并专注于更具创造性和更模糊的任务。

虽然传统架构现在可能支持 AI 客服人员的小规模部署，但它不能完全提供上述 Agentic Enterprise 的业务功能。实现这些功能需要一种专为广泛部署强大的 AI 客服人员而设计的 IT 架构，它可以解决广泛的用例，而不是局限于针对狭窄用例的有限部署。

AI 客服人员将在未来 5 年内继续改进，IT 架构需要发展，以实现功能更强大、更智能的 AI 客服人员的价值，并成为未来证明。首先，随着基础 AI 模型（例如多模态 LLM）和客服人员认知架构的发展（例如，多步骤计划、任务分解等），客服人员将变得更加智能。第二，AI 客服人员将具有更好的学习和适应能力，包括记忆改善、自我反思能力和从反馈中学习的能力。第三，AI 客服人员将拥有与其他客服人员、工具和数据进行交互的更大能力，开放技术标准（例如模型上下文协议、Agent2Agent 等）的快速发展生态系统就是明证。虽然这三种技术趋势将使 AI 客服人员在执行更抽象和复杂的任务时变得更加强大，但它也将为今天的 IT 架构带来许多挑战。

首先，AI 客服人员从根本上依赖于内部开发和外部来源的 AI 模型，这些模型快速发展，需要复杂、共享和标准化的 AI/ML 模型管理。如今，AI 模型是为应用程序中的特定用例而构建的，而不是作为共享功能与用于培训、部署、治理和风险管理的通用工具一起重用。今后，企业将需要能够为各种客服人员用例使用不同的 AI 模型，这需要工具，使客服人员能够根据业务上下文交换基础模型（例如，基础模型与特定于领域的更小模型）。这需要使用统一的生命周期工具管理内部开发或托管的 AI 模型，以确保一致性、可重用性、可扩展性和效率。同样，访问外部托管的 AI 模型需要企业范围的控制框架，以确保最佳性能、安全性、合规性、可用性和可靠性。

第二，AI 客服人员具有不同的扩展模式和运营要求，例如托管、开发、推理、学习、内存管理和运营，这需要为客服人员提供单独的专用架构边界。将此功能直接嵌入当今静态和确定性应用程序架构将引入不必要的架构复杂性和风险。此外，AI 客服人员应通过标准化界面或消息传递系统与现有应用程序交互，以实现实时交互。

第三，AI 客服人员需要能够对不同的数据集进行推理，并经常在孤立的应用程序堆栈之间相互协作，但在今天的架构中，没有共同的语义功能来为这些客服人员提供对不同数据集进行推理的共同理解。因此，虽然可以成功部署单用途客服人员，但将其扩展到大量执行复杂的跨筒仓任务仍然很困难和风险。

最后，当前的企业 IT 架构缺乏一种有效的方式来编排、优化和管理端到端的业务流程，其中包括由更强大的客服人员执行的动态工作流，这将增加并在某些情况下取代人工员工在该流程中完成的角色。今天，自动化工具被用来管理线性的、确定性的工作流，这些工作流通常遵循预定义的顺序，用特定于流程的语言记录，并依赖于很少改变的静态逻辑。AI 技术可以增强其中一些线性流程（例如，使用 ML 模型而不是硬编码的业务规则来计算贷款批准阈值），但大多数关键业务流程的战略和执行方面本质上仍然是动态和灵活的。制定营销策略、解决复杂的客户问题或潜在客户等任务有明确的目标（客户满意度、个案解决速度等），但没有遵循固定的预定义执行顺序。

目前，传统企业主要依靠人工来协调和执行这些复杂的业务流程（例如制定策略和管理复杂的项目）。随着 AI 客服人员在未来 3-5 年不断发展（智能、学习和交互能力更强），他们自主执行此类动态流程的能力将显著扩展，带来的复杂性和集成挑战将远远超过现有集成和自动化工具的能力。AI 客服人员的自适应和动态性质强烈需要新颖的编排功能，以确保企业级控制、全面可见性，并与企业范围的战略目标保持一致，特别是在管理包含 AI 客服人员、人员、自动化工具和其他确定性系统的复杂、漫长和多步骤工作流方面。

Agentic Enterprise 的 IT 架构通过无缝集成人工、AI 客服人员和确定性系统来建立智能操作的平台。该架构使人类和 AI 客服人员能够动态访问和利用来自不同数据源的统一 Enterprise Knowledge，并丰富语义上下文，以高效执行与战略业务目标一致的复杂工作流和流程。一组孤立平台和点解决方案的现有 IT 架构将朝着一组可组合应用服务、语义和数据工具以及 AI 客服人员网络的方向发展，这些网络由新的智能业务流程编排工具监督和控制。

此架构使客服人员能够感知、推理并在各自的范围内采取行动，在业务域内和跨业务域工作，并不断学习、改进和适应。这要求设计侧重于访问数据和 Knowledge 的强大机制（语义理解）、灵活和标准化的通信协议和接口（例如客服人员到客服人员、客服人员到确定性系统和客服人员到人类），以及跨客服人员、人类和自动化工具和确定性系统编排工作流和流程。

为了实现智能操作平台的架构愿景，这些设计原则被推荐为最佳实践：

• **可组合性和模块化：**将架构元素设计为具有标准化界面的模块化组件，以实现客服人员功能、工作流和面向人的表面的快速动态组装。优先考虑清晰的界面合同和抽象，以使 AI 客服人员在撰写工作流时拥有最大的灵活性。
• **数据和语义优先：**确保全面、准确、快速、安全和经济高效地访问数据，共享语义理解，以便客服人员在孤立的系统中有效推理。这需要将数据（和元数据）视为产品，使用工具确保质量、谱系、治理和访问权限，以及提供客服人员和人员之间共享的语义理解。
• **IT 和业务可观察性嵌入：**在整个架构中嵌入端到端的监控、跟踪、评估和可解释性功能，深入了解客服人员的推理、行为、系统交互以及对业务 KPI 的影响，以实现客服人员绩效的持续优化。这包括成本优化 (FinOps)、可持续性度量和运营遥测，同时保持 Trust、合规性和负责任的资源消耗。由于 AI 客服人员本质上是非确定性的，因此可观察性对于确保 AI 客服人员在人工监督下以可信、合规和可审计的方式运行至关重要。
• **Trust-throughout:**根据客服人员的任务意图（数据访问、操作等）强制执行动态、精细的权限，并实施全面的安全实践，包括红色分组、自动 CVE 扫描、漏洞检测和基于风险的验证控制。鉴于客服人员能够以机器速度工作，因此存在导致级联风险的风险，因此需要更精细和更动态的控制。确保在使用或交付之前，根据定义的合规、安全、毒性和偏见策略，严格验证所有 AI 生成的输出（来自客服人员或模型），这需要具有 AI 决策、操作、内容和预测的可验证审计跟踪的日志记录和可解释性机制。
• **客服人员优先，人工监管：**使 AI 客服人员成为默认工具，以解决业务用例，排除其他注意事项（例如成本、技术适应性），并将 IT 系统设计为客服人员工作流可访问。这包括人类监控、干预和覆盖客服人员流程任何步骤的能力。如果客服人员对决策的信心低于预先编程的阈值，他们需要自我反省的能力来主动寻求人工指导。
• **反应性和多模态交互：**启用架构，以支持所有交互类型的综合客服人员调用和响应机制，包括客服人员到客服人员协议、人工多模式输入（语音、文本、可视）、业务事件、系统信号和流数据。启用事件驱动和实时处理能力，以确保客服人员可以对来自任何来源或格式的任何及时信号做出反应。
• **AI 就绪基础设施：**确保基础设施可以通过内置的冗余来弹性扩展，以处理波动的 AI 工作负载，并将 ML/LLM 漏斗集成到数据和应用程序架构中，同时保持对数据驻留要求的合规性。
• **开放生态系统：**通过支持开放标准、协议和定义明确的接口（API、事件），优先考虑互操作性并避免技术锁定，以从技术生态系统中受益。

要成功启用并扩展客服人员转换，企业必须超越仅增强当前层；他们需要考虑明确引入四个额外的架构层（图 2），这些架构层是专为满足 AI 客服人员的需求而设计的。

Agent 层致力于 AI 客服人员的开发和管理，包括规划、推理、记忆、工具使用、状态管理和生命周期控制等认知功能。该层满足 AI 客服人员独特的技术和运营要求，通过标准化协议确保应用程序和数据存储之间的互操作性，并促进客服人员之间的协作。现有的应用程序层将发展为应用程序服务，以便为代理工作流动态组合。

引入语义层来解决原始企业数据和 AI 客服人员需要的语义理解之间的脱节问题。它明确编码和管理业务实体、概念、定义和相互关系，创建企业本体和业务 Knowledge 的表示，以实现共享语义理解，从而支持执行更高级别任务的更复杂的多客服人员工作流。除了数据目录之外，语义层将自然语言查询转化为对特定数据存储的精确查询，协调结果，并为客服人员返回上下文中更丰富的答案。同时，现有的数据层通过采用集中的湖库来统一，同时通过 AI 就绪的数据结构来扩展数据访问，以支持数据网格操作模型原则。

AI/ML 层集中管理企业 AI 功能，包括大型语言模型、大型操作模型和特定于领域的 ML 模型，在内部开发的 AI 模型和外部 AI 服务的受控访问/使用中处理。与 AI 模型嵌入应用程序的传统架构不同，该层将 AI 模型建立为企业中的一流组件和共享服务。它侧重于企业控制的 AI 功能（不是外部供应商提供的 AI 功能）。该层通过 Trust、安全、合规和部署的标准化机制，为企业中的各种客服人员和其他 AI 工作负载提供智能。

企业编排层是用于协调、管理和优化跨 AI 客服人员、人员、自动化工具和确定性系统的复杂、多步骤工作流和业务流程的功能抽象。该层利用混合编排模型，允许单个客服人员和系统使用开放协议（例如 MCP 和 A2A）自主处理本地编排的任务，同时对整个流程进行集中的端到端监督和协调。为实施混合编排模型，该层以机器可读的语义丰富的格式表示关键业务流程，这些格式定义了业务流程的确定性步骤（在设计期间建模）和动态步骤（在运行时由客服人员决定），为治理和优化创建了流程模型基础。

传统上，人类驱动的业务流程的很大一部分仍然以机器可读的形式记录或无法访问。但是，AI 客服人员活动的详细可观察性，包括关于其任务和操作的丰富数据和元数据，支持捕获、记录并将以前未结构化的动态工作与确定性线性工作流集成在一起，以创建全面的流程模型。详细的流程文档捕获了以前不可见的任务相互依赖性和执行路径，使企业能够不断优化运营效率，有效解决瓶颈问题，并将客服人员识别的最佳实践系统地编纂成可重用的企业范围行动手册。这就产生了单个流程的整体数字孪生模型，当扩展时，就是整个企业。

例如，复杂的流程，例如执行全面的销售策略，或培训新员工，涉及许多相互依赖的步骤，其中编排层可以确保适当的人员参与水平（例如异常处理），AI 客服人员的有限自主权，并强制合规。在这些流程中，自上而下的编排层增加了可预测性和治理能力，不断跟踪和评估关键绩效指标 (KPI)，确保工作流和回滚逻辑的事务完整性，并保持工作流每个阶段的可见性，以确保与总体业务目标保持一致。为了实施此功能，该层使用来自安全和治理层（通过策略即代码）的策略、规则和防护以及存储在语义层中的业务目标和 KPI。鉴于 AI 驱动的交互的自主性和快速性，仅依赖分散的编排存在战略失准或合规违规的风险，特别是在长时间运行的多步骤工作流中。混合编排方法通过将企业范围的业务规则、合规性检查和政策执行直接嵌入复杂的工作流中，并整合了关键节点上的人工监督，从而降低了这些风险。

这 11 层中的每一层都贡献了特定的功能，以安全、可信和有效的方式大规模部署 AI 客服人员，从而释放客服人员 AI 的全部潜力，以改变企业中的工作方式。以下部分概述了图层的功能、AI 客服人员兴起带来的新变化及其关键技术功能。

**函数：**体验层作为人类用户的主要界面，通过捕获输入（文本、语音、视觉）并在多个设备之间提供上下文相关的响应来实现多模态交互。它无缝地将用户意图移交给客服人员层进行操作，同时还提供动态 UI 和可视化，便于客服人员工作流中的人工升级和批准。

**与今天相比有什么不同：**AI 将通过自然语言处理、上下文感知和主动决策支持来增强传统的基于 GUI 的界面。AI 客服人员将能够主动发起交互，跨所有渠道和模式提供个性化的实时推荐。

关键技术功能：

• **对话式 AI 和数字助手：**默认情况下，启用 UX，以使用 AI 帮助来支持人类用户。
• **属性和透明度 UI：**使响应在用户界面中可解释，例如显示引用、文件/系统的来源以及决策的方法/理由。
• **主动和环境通知服务：**使客服人员能够根据用户的当前上下文，在最合适的渠道和外形规格上主动向用户推送见解或提醒。
• **全方位体验：**通过旅程连续性，在所有渠道中提供无缝、一致和统一的体验，对话和任务遵循人员，而不是应用程序。
• **多模式功能：**允许用户通过文本、语音、图像、触摸、视频和 AR/VR 与客服人员和应用程序交互，以便客服人员能够以最有效的方式理解和显示信息。
• **上下文感知个性化和动态 UI：**支持上下文感知的实时（时间、位置、用户操作）用户体验，以实现个性化，包括随时生成 UI。

**函数：**客服人员层充当在企业中工作的默认运行时环境，其中 AI 客服人员使用应用程序和应用程序服务层以及数据层的工具动态组装工作流，从而从体验层分解任务并执行任务。AI 客服人员的配置状态在此层中存储和管理。为特定任务实例化客服人员，之后停用特定客服人员实例。此实施使客服人员始终能够从基于离线优化的最新配置状态调用（使用 AI/ML、可观察性和编排层的功能）。该层负责 AI 客服人员的全面生命周期管理、协调和治理。

**与今天相比有什么不同：**这一层将出现今天完全不同的试点和有限的客服人员部署。虽然存在基于规则的机器人，但很少大规模部署适应性、非确定性和面向目标的软件程序。

关键技术功能：

• **客服人员运行时环境：**管理 AI 客服人员的生命周期、执行和资源分配。
• **客服人员生命周期管理套件：**包括开发框架、开发和测试工具以及客服人员活动和版本控制的管理系统。
• **客服人员原因引擎：**客服人员分解目标、计划和决定使用什么工具解决复杂问题的认知框架。
• **客服人员记忆和上下文存储：**允许客服人员实例回顾和维护有关之前交互的上下文，确保一致性和个性化。
• **客服人员交互性协议：**客服人员对客服人员通信 (A2A) 和客服人员与外部系统接口（例如通过模型上下文协议）的标准化接口。
• **工具注册表：**一组精心策划的内部和外部支持的工具，供客服人员调用来完成特定的任务。
• **客服人员注册表：**预构建的 AI 解决方案和客服人员的精心策划的生态系统，支持发现和功能匹配。
• **分布式客服人员策略实施：**通过允许客服人员在采取行动之前自检合规性，启用企业范围的治理。
• **客服人员自我反思和适应框架：**为客服人员提供分析自身性能的机制，并在人工批准的情况下触发改进或建议修改。

**函数：**该层充当集中智能中心，将 AI 模型作为一组共享服务提供，由客服人员层（和应用程序）使用，以通过内置的安全框架和监控来支持其推理和决策功能。

**与今天相比有什么不同：**传统上，AI 模型嵌入到特定的应用程序中。在 Agent Enterprise 的 IT 架构中，AI/ML 层将是一组一流的集中服务，为许多应用程序和客服人员提供支持，支持从开发到大规模实时服务的整个生命周期。

关键技术功能：

• **预构建基础模型：**基于广泛数据训练的大型 ML 模型，能够执行各种一般任务。
• **检索扩充生成 (RAG)：**一种以 AI 为中心的漏斗，将基础模型作为企业特定数据的基础，以提高准确性并减少幻觉。
• **AI Trust、安全和治理中心:**集成到模型生命周期中的一套工具，用于强制执行负责任的 AI 原则，例如偏见检测、可解释性和安全监控。
• **模型网关：**一个路由引擎，充当所有模型推理请求的单一入口点，管理对各种内部和外部模型的调用，以优化成本、性能和合规性。
• **模型开发工作台：**数据科学家的集成开发环境，包含数据预处理、模型训练和实验工具。
• **MLOps 和生命周期自动化漏斗：**用于机器学习的 CI/CD 引擎，自动化了模型从训练到部署和停用的端到端生命周期。
• **模型服务和推理运行时：**一个可扩展的低延迟环境，用于将经过训练的模型部署为实时使用的安全 API 端点。
• **模型和资产注册：**所有 AI/ML 资产的集中版本控制存储库，包括模型、数据集和源代码，确保可再现性和可审计性。
• **合成数据生成和管理：**生成和管理合成数据的工具，可维护真实数据的统计属性，而不会暴露敏感信息。

**函数：**企业编排层是代理企业中端到端工作的控制平面。它确保客服人员工作流和交互遵守企业目标和治理策略。它使用来自其他层的可观察性遥测来构建全面的业务流程模型，从而能够针对从语义层中提取的 KPI 进行优化。该层为关键工作流的 AI 客服人员的每个新实例提供共享上下文和长时间运行的内存。

**与今天相比有什么不同：**该层通过创建机器可读的模型来提供对业务流程的统一可见性，该模型捕获结构化的确定性步骤，以及人类和客服人员执行的非结构化的动态工作。通过将业务目标和合规规则作为约束以编程方式编码到客服人员工作流中来治理客服人员，它超越了当今以人为本的协作和治理模式。

关键技术功能：

• **混合工作流执行引擎：**执行“混合编排模型”的核心运行时，提供集中监督，同时允许本地客服人员编排。
• **流程治理和约束引擎：**一种实时治理服务，它使用声明性业务规则、策略和约束并将其应用于所有正在进行的流程。
• **共享内存和上下文管理：**工作流中的所有参与者都可以访问的共享内存层，以保持多个步骤之间的连续性和一致性。
• **Process Modeling Studio：**一种设计时环境，用于创建和管理机器可读、语义丰富的流程模型，该模型定义了确定性和动态的、面向目标的步骤。
• **流程优化和仿真：**一种构建业务流程数字仿真的功能，用于高级分析、假设仿真和预测优化。
• **进程发现和健康监控：**引入流程模型和实时数据，以报告流程运行状况的业务度量。
• **数字孪生过程建模：**实时工作流的实时镜像，用于在不影响生产的情况下进行测试、模拟更改和优化。

**函数：**此层将现有业务应用程序功能公开为可组合和模块化的工具和服务，供客服人员使用。它还作为演示运行时，用于将客服人员功能嵌入用户体验。应用程序仍然是记录系统，但经过重新设计，客服人员可以使用“无头”功能。

**与今天相比有什么不同：**应用程序将从整体式 UI 发展到客服人员可以通过 API 和事件动态调用的“后端服务”。这一层将与 AI 客服人员和模型本地集成，代码生成 LLM 的扩散将导致自定义客服人员构建的微型应用程序数量增加。

关键技术功能：

• **模块化应用服务：**从传统应用程序中分解的业务逻辑，发布为供客服人员调用的机器可读操作。
• **客服人员嵌入 SDK：**工具包和库，使开发人员能够安全地将客服人员直接嵌入应用程序 UI。
• **动态 UI 生成服务：**允许 AI 客服人员根据用户上下文实时生成或修改 UI 组件的服务。
• **AI 本地 UI 框架：**前端框架内置支持，用于处理 AI 驱动的 UI，例如管理概率数据和流文本响应。
• **客服人员注入的参与系统：**通过可视组件整合 AI 客服人员功能的企业级生产力和协作应用程序。
• **AI 增强的低代码/无代码应用程序开发：**使用户和客服人员能够使用自然语言和提示创建自定义应用程序和服务的工具。
• **适用于客服人员使用的应用程序护栏：**客服人员使用的应用程序侧控制，例如速率限制、范围权限和遥测。

**函数：**语义层提供了整个企业对数据和 Knowledge 的统一理解，使人类和 AI 客服人员能够一致地解释信息并对其采取行动。它使用 Knowledge 表示工具，例如本体论和 Knowledge 图，将自然语言查询转化为精确的上下文感知数据查询。

**与今天相比有什么不同：**虽然今天的企业拥有不同的元数据存储，但 Agentic Enterprise 的 IT 架构需要一个集中的 Enterprise Knowledge 图 (EKG)，该图通过明确定义的语义关系跨域链接数据。这为 AI 客服人员执行复杂推理提供了丰富的上下文，并为一组支持跨多个功能域的 Knowledge 图表的技术能力创造了要求。

关键技术功能：

• **元数据服务：**提供描述性元数据，包括数据谱系、所有权和分类。
• **业务词汇和分类管理：**业务用户定义和商定标准业务条款的工具。
• **语义模型管理：**Knowledge 工程师创建、管理和治理语义模型和本体的工作台。
• **Enterprise Knowledge Graph(EKG):**企业本体的运行时实例化，存储和映射业务实体之间的关系。
• **元数据接收和协调引擎:**一种自动漏斗，从各种源系统填充和维护 Enterprise Knowledge 图。
• 语义查询引擎:解释自然语言查询，并构建基于 EKG 的结构化查询，以从不同来源检索数据。
• **语义推理引擎：**从 EKG 中分析和导出隐式 Knowledge 和隐藏关系。

**函数：**数据层是真相的基础来源，它管理所有企业数据并提供对其进行安全、受控的访问，以便语义层进行解释，AI/ML 层用于训练，应用程序用于事务，客服人员用于推理。

**与今天相比有什么不同：**数据层发展为更加统一、实时和注重治理，通常以云规模的数据湖库为中心。它必须处理更多和更多的数据，并从面向批处理转向实时流，以支持反应性客服人员。数据治理和质量对于防止不良数据产生有缺陷的 AI 输出更为重要。

关键技术功能：

• **VectorDB：**专为存储和查询高维向量嵌入优化的专用数据库，对 RAG 至关重要。
• **智能分析数据漏斗：**一种元数据驱动的自动化服务，用于数据接收、转换和加载 (ETL/ELT) 到数据层。
• **Enterprise Data Lakehouse：**结构化、半结构化和非结构化数据的中央存储库，专为分析和 AI 工作负载优化。
• **零复制数据联合和搜索：**无需物理数据移动即可跨多个商店访问、查询和搜索数据的技术。
• **自然语言到 SQL：**一种将自然语言查询转换为 SQL 的技术。
• **企业数据目录和发现服务：**企业中所有数据资产的集中、可搜索的清单。
• **主和参考数据管理 (MDM)：**管理客户和产品等关键业务实体的“黄金记录”。
• **自适应数据质量服务：**一种持续监控服务，使用 AI 实时自动检测和补救数据质量问题。
• **数据合同：**数据生产者和消费者之间的机器可读协议，指定了数据交换的模式、语义和 SLA。
• **AI 专用数据存储：**为特定 AI 用例设计的数据库，例如时间序列或图表数据库。
• **AI 就绪数据结构：**逻辑数据抽象层，跨不同的物理系统提供统一的虚拟化数据视图。
• **实时数据处理：**以机器速度连续处理和分析多模态数据流的功能。

**函数：**基础设施层支撑所有其他层，提供以灵活且经济高效的方式大规模运行 AI 和客服人员工作负载所需的计算、存储、网络和云功能。

**与今天相比有什么不同：**AI 工作负载需要更大的可扩展性和灵活性来处理客服人员系统的概率性质。基础设施必须支持快速配置、GPU 等专用硬件以及客服人员间通信的低延迟、高吞吐量网络流量。

关键技术功能：

• **基础设施作为代码：**使用 CI/CD 部署漏斗自动配置和管理基础设施。
• **混合和多云 AI 基础设施：**为生成式 AI 工作负载利用公共云弹性和专用基础设施。
• **AI 优化的计算、存储和网络：**根据 AI 工作负载的可变需求，动态分配和扩展基础设施资源。
• **边缘 AI 基础设施：**支持将 AI 模型和客服人员部署到网络边缘，以满足具有唯一延迟或隐私要求的用例。
• **自愈基础设施：**使用 AI 管理系统恢复，无需手动输入，确保高可用性。
• **可持续 AI 计算：**缓解 AI 工作负载环境影响的节能方法。
• **成本和碳感知自动缩放：**使用 FinOps 和可持续性信号来推动容量的扩展和放置。

**函数：**集成层通过 API、事件、协议和中间件充当所有系统（原有和新系统）的通用通信结构，以确保客服人员可以无缝发现服务、数据和工具并与之交互。

**与今天相比有什么不同：**集成必须发展为支持 AI 客服人员的动态多对多通信模式，而不仅仅是处理几个已知系统之间的预定静态交互。它需要实时数据处理，并且必须适应客服人员之间的临时发现和协作。

关键技术功能：

• **操作数据连接漏斗：**AI 辅助工具，用于自动模式映射、数据转换和工作流生成，包括 API 引导、事件驱动和反向 ETL 功能。
• **自适应 API 管理和服务网格：**API 网关和服务网格技术，可通过客服人员的自适应策略实施动态注册、发现和治理服务。
• **语义 Knowledge 适配器：**一个集成组件，跨客服人员和应用程序提供共享词汇和数据模型，以实现一致的数据解释。
• **事件驱动的集成结构：**一种高吞吐量、低延迟的消息传递和流主干，支持分离的异步通信。
• **客服人员协议网关：**MCP 服务的网关，允许客服人员安全地发现工具和触发操作，将 MCP 连接到内部 API 和事件。
• **可组合功能目录和市场：**所有企业功能的集中受管目录（API、服务、客服人员技能、模型和数据集），并使用语义元数据进行注释，以便按需组合。

**函数：**该层监控和管理客服人员和整个系统的健康和运营绩效（可观察性嵌入原则），通过生成见解来提供透明度和控制，从而实现企业客服人员队伍的审计、调试、可解释性、成本和资源优化。

与今天有什么不同:鉴于 AI 客服人员以机器速度创建错误的风险，这一层变得更加重要。它必须扩展到基础设施监控之外，以包括自治代理的不可预测的行为，这需要新型遥测和理解语义正确性的能力，而不仅仅是技术性能。

关键技术功能：

• **实时监控和观察平台：**通过扩展 ML 度量和客服人员行为，在整个 IT 环境中持续收集日志、度量和跟踪。
• **FinOps 和云成本管理：**负责监控、分析和优化与 AI 和客服人员工作负载相关的基础设施成本。
• **客服人员和特定于 ML 的监控：**在不可变的审计跟踪中记录客服人员运行的每一步，并持续分析客服人员的行为，以检测对既定规范的偏离。
• **AIOps、事件和变更管理：**使用 AI/ML 预测潜在的 IT 问题，确定根本原因，并创建补救工作流。
• **已关闭学习反馈循环：**将客服人员的可观测性遥测集成回 MLOps 漏斗，支持自动模型重新训练或快速调整。
• **语义可观察性引擎：**将可观察性与语义层集成，以实现上下文化，从而支持检测客服人员行为中的语义异常。

**目的：**该层通过保护企业资产免受威胁、管理风险并确保符合监管要求，在整个架构中嵌入 Trust 和安全性。它包括身份管理、威胁检测、GRC 和特定于 AI 的安全措施。

**与今天相比有什么不同：**安全层必须发展，以解决 AI 模型和客服人员呈现的新攻击表面，例如及时注入和模型中毒。身份和访问权限管理必须从静态的、基于角色的控制转移到动态的、基于意图的权限，这些权限可以及时授予，并在使用后立即撤销。

关键技术功能：

• **LLM 输入/输出安全和防护栏：**企业防护系统在及时和响应时间应用，以阻止不安全内容、PII 泄漏和越狱。
• **具有 AI 验证的 Zero Trust 架构：**通过基于 AI 的行为分析增强的持续身份验证，客服人员可以根据特定任务进行精细、及时的访问。
• **客服人员安全框架：**细粒度的权限模型、有害行为的监控以及安全中断客服人员活动的包含机制。
• **AI 模型安全性：**一种深度防御策略，在模型生命周期的每个阶段进行控制，以防止中毒、提取和对抗性攻击。
• **隐私保护 AI：**聚合学习和差别隐私等技术来保护敏感数据。
• **AI 增强的 GRC：**使用 AI 客服人员，以持续监控 IT 架构对控制的合规性。
• **策略即代码引擎：**单一的真实来源，用于以声明性、机器可读的格式定义业务规则和合规约束，为客服人员行为设置防护。
• **连续红队：**对 AI 模型和客服人员进行自动、持续的对抗性测试，以在攻击者利用漏洞之前识别漏洞。

转型为 Agent Enterprise 需要通过奠定技术基础同时创造有形的业务价值来经历一个多阶段的过程（请参见下面的图 3）。虽然精确的路线图取决于企业的战略、文化、AI 治理模型和 IT 架构起点，但大多数组织应该采用分阶段的方法，因为持续的 IT 投资推动了范围、复杂性和价值创造的增长。Salesforce 的客服人员成熟度模型为企业制定转型策略提供了有用的成熟度框架，概述了客服人员功能如何从基本信息检索（级别 1）发展到编排更复杂的多域（级别 2 和 3）和多客服人员工作流（级别 4）。要成功推进这些阶段，IT 架构必须协调一致地发展，在每个阶段对架构的不同层进行有针对性的投资，以满足 AI 客服人员更复杂、更高价值部署的需求。对于每个成熟度级别，11 个架构层所需的特定技术功能由投资理由确定。

成熟级别 1：信息检索客服人员

**业务目标和价值：通过提供可信的对话界面来查询 Enterprise Knowledge，从而提高人类工作人员的生产力。**主要价值在于增强人的能力，而不是取代人的能力。这些客服人员通过检索信息和推荐操作来协助人员。

**架构重点：**重点是建立安全可靠的数据基础和信息检索所需的基本 AI 组件。治理和可观察性对于建立用户 Trust 和控制成本至关重要。

关键技术投资（图 4）：

在此阶段，IT 应专注于创建可信的数据到客服人员漏斗和其他基础功能。数据层中的技术(例如 VectorDB)对于支持信息检索代理的检索扩充生成 (RAG) 技术至关重要。此外,还有一个集中的AI/ML层,包括一个模型网关,用于对基础模型进行安全和成本可控的访问,还有一个AI Trust、安全和治理中心,用于监测不安全的输出和确保合规。语义****层中的主数据管理和业务词汇表是客服人员检索准确信息的基础。需要客服人员运行时和生命周期功能，以确保在此阶段构建的客服人员可以修改和扩展，以用于未来的用例。为了传递价值和建立用户信心,体验层必须包含属性和透明度 UI,这可以通过显示引用及其信息来源来解释客服人员的回复。基本的可观察性和安全性投资(例如零 Trust)必须开始实施,以便为未来的客服人员部署做好准备。

成熟级别 2：简单编排，单域客服人员

**业务目标和价值：在单个业务域中自动化日常任务并编排低复杂性工作流。**这提高了运营效率并减少了手动工作，使人工员工能够专注于更高价值的活动。

**架构重点：**关键的体系结构转变是从只读数据检索到执行操作。这需要开始更长的旅程，将应用程序功能模块化（通常公开为 API），供客服人员访问，为客服人员操作实施强大的安全性，并构建语义和 AI 开发功能，以提高 AI 客服人员的智能。

关键技术投资（图 5）：

主题投资侧重于使 AI 客服人员在适当治理的情况下采取行动。应用程序服务层发生重要变化,因为整体业务逻辑被分解为模块化应用服务 (API) 供客服人员调用。通过集成到可观察性工具中，这些受应用程序防护栏保护，以防止客服人员使系统不堪重负。为了支持这些客服人员，需要在客服人员推理、工具协议(例如 MCP)和注册表方面进行投资。这带来了新的风险,使得专用的客服人员安全框架、AI 模型和客服人员监控功能对于治理和安全至关重要。最后，企业可以开始扩展自定义模型的 AI/ML 功能，以帮助这些客服人员处理特定于域的任务。

成熟度级别 3：多域编排客服人员

**业务目标和价值：**自动化跨越组织和功能边界的复杂端到端业务流程 （例如“报价到现金”、“潜在客户到订单”）。其价值在于打破孤岛，加快流程周期，并优化业务中的整个价值链。随着组织壁垒开始打破，人类开始更加关注对 AI 客服人员的监督，人类工作人员的工作效率可能会发生更高的变化。

**架构重点：**该架构现在必须支持交叉技术问题。跨企业的共享语义理解、用于治理的集中编排引擎以及分离的、事件驱动的集成结构成为关键的推动因素。

关键技术投资（图 6）：

技术投资的主题重点是在企业范围内跨人员、客服人员和确定性系统编排流程。企业编排层成为投资的重点,需要混合工作流执行引擎来协调活动,需要流程治理和约束引擎来在动态流程上强制执行业务规则和合规策略,因为客服人员跨域工作,通常具有不同的策略和语义定义。这种跨域协调只有在具有Enterprise Knowledge Graph(EKG)的成熟语义层下才有可能,这种语义层对业务实体如何跨域关联产生了共同的理解。集成层必须发展到包括事件驱动集成结构,该结构使用流主干来解耦系统，并实现长时间运行的业务流程典型的弹性异步通信。鉴于这些工作流的价值和相关风险较高,因此在安全和监控方面增加投资至关重要(例如 AIOps、策略即代码)。最后,随着人类用户开始监控和与更强大的 AI 客服人员协作,必须对应用和服务层进行进一步投资(例如支持 AI 的 LCNC、更具动态性和多模态的用户体验 ) 。

成熟级别 4：多客服人员、多域编排

**业务目标和价值：跨域重新设计和优化业务运营，推动生产力和效率的步伐变化。**此阶段将转向创建企业的整体数字模拟 (数字孪生模型)，以便在主要业务流程和工作流中进行持续改进和战略规划。

**架构重点：**最后一个阶段侧重于在客服人员之间实现动态的紧急协作。这需要高级客服人员到客服人员 (A2A) 通信协议、客服人员自学习功能、进一步投资成熟编排、数据和语义层，以及完全动态和自我修复的基础架构，以支持客服人员在整个企业范围内扩展时不断增长的动态 AI 工作负载需求。

关键技术投资（图 7）：

主题投资侧重于创建一个自我改进的自主系统。在客服人员层中，客服人员自检和适应框架为客服人员分析自己的性能日志和触发改进提供了机制。IT 操作和观察性层支持这种学习，它实施封闭学习反馈循环，将观察性数据自动反馈回 MLOps 漏斗进行模型重新训练，这也可以利用合成数据生成来进一步优化模型性能。随着客服人员网络在各部门的部署以及持续的应用程序模块化工作,客服人员有必要在安全性和可组合功能目录方面进一步投资,以动态组合功能，从而解决更抽象和更有价值的任务。这些流程都通过新的数字孪生流程建模功能进行编排和优化,该功能使用实时数据为“假设”分析和预测优化创建模拟，允许企业安全地测试和部署新的客服人员部署。

结论

客服人员企业的路线图贯穿于 IT 架构的演变。企业架构师将是这一转型的关键驱动因素，与业务和 IT 领域的其他合作伙伴一起推动关键的投资决策，这对组织实现 Agent Enterprise 新业务功能的价值至关重要。