智能体系统架构设计指南：从原理到工程实现-CSDN博客

本文链接：https://blog.csdn.net/yihanss/article/details/149726974

本文将深入解析当前主流的企业级AI应用架构设计。以下绘制的系统架构示意图，可供参考：

在探讨企业AI应用架构之前，需要明确两个关键概念：广义的AI应用范畴包含传统意义上的智能体系统。当前企业开发AI解决方案通常面临三类典型场景：

1）对现有业务系统进行AI能力增强
2）集成第三方AI服务或工具
3）基于业务数据从零构建AI应用

本文将展示的架构设计完整覆盖了上述所有应用场景，接下来将进行详细技术解析。

架构详解：

1、应用网关，主要负责处理用户发过来的请求，流量进入API应用网关之后，网关除了会进行一些传统的鉴权、安全、限流等处理之外，更重要的是要将用户请求，路由到对应的Agent业务。

而现在编写AI Agent可以有多种方式，主流是纯编码或低代码、或二者混合的方式。如果你的业务逻辑简单，包装Dify这种低代码平台进行创建Agent即可；如果想进行精准控制，灵活性和可控性强，一定是编码方式自己写（例如使用LangChain这种框架）。现在大多数场景下，企业用的是低代码平台+编码方式这两种混合的方式，不同业务、不同类型的Agent，选取合适的构建方式。

2、无论用哪种方式实现，AI Agent接收到请求后，发送给MCP网关，目的是先要获取可用的MCP Server信息和MCP Tool的信息。

3、可选操作，因为MCP网关可能维护了很多MCP信息，可以借助于LLM缩小MCP范围，减少Token消耗，所以可以向LLM网关发请求和LLM交互。

4、MCP网关将确定好范围的MCP Server及MCP Tool的信息列表返回给AI Agent。

5、AI Agent将用户的请求信息和从MCP网关处拿到的所有MCP信息通过LLM网关发送给大模型。

6、大模型经过推理后，将根据用户传入的请求信息，返回相关的解决问题的MCP Server和MCP Tool信息。

7、AI Agent拿到了确定的MCP Server和MCP Tool信息后，通过MCP网关对该MCP Tool做请求，返回需要的数据。

**实际使用整体的流程上，会重复2～7间的步骤，多次循环。**全景图如下：

后续还有一些流程没有讲到，例如通过上面第7步通过多次循环调用获取到各业务数据之后，最后再次通过LLM网关调用大模型，由大模型将信息统一进行处理后返回给终端。通过MCP调用服务获取数据时，这里特别说明一下，如果是微服务架构，需要将MCP Server注册到注册中心才可以，否则无法发现后面的各业务微服务。聊了这么久，可能有的小伙伴还不知道MCP是什么，简单补充下知识点：MCP（Model Context Protocol），就是一个开源协议，可以方便大模型用标准化的方式连接到各种外部数据源和工具，否则之前，主要是API访问的方式为主。至于MCP最后会不会一统天下，成为一个国际的标准现在还不好说，但是现在在业界的认可程度很高，很多厂商纷纷接入。除此之外，还有最近新提出的A2A（Agent to Agent）和AG-UI（Agent to UI）协议。整体来说在AI发展的过程中还是比较混乱的，各种新概念和协议层出不穷，有的只是一时的，有的或许最后就成为一种标准了，但这都不好说，所以为了稳妥起见，再给大家提供下面最传统的不依赖于MCP通信的架构。这个架构就没什么过多解释的了，也画的比较简单，AI Agent可以直接连接数据源获取数据，也可以通过API的方式获取数据（访问其他服务）。----最后总结一下，无论哪种架构（区别在于是不是用MCP方式去访问），都覆盖了企业常用的几种场景，AI应用在获取数据时，可直接连接数据源获取数据，AI应用接入企业内部各系统获取数据（图中举例的现有业务微服务方式和其他方式）和接入第三方服务。仅供大家可以参考。

随着大模型的持续火爆，各行各业纷纷开始探索和搭建属于自己的私有化大模型，这无疑将催生大量对大模型人才的需求，也带来了前所未有的就业机遇。**正如雷军所说：“站在风口，猪都能飞起来。”**如今，大模型正成为科技领域的核心风口，是一个极具潜力的发展机会。能否抓住这个风口，将决定你是否能在未来竞争中占据先机。