本地大模型结合mcp调用工具

于 2025-06-09 15:12:21 发布
阅读量804 收藏 9
点赞数 17
CC 4.0 BY-SA版权
文章标签： java 算法 前端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yuanhou110/article/details/148535401 
# math_server.py
from mcp.server.fastmcp import FastMCP

mcp = FastMCP("Math")

@mcp.tool()
def add(a: int, b: int) -> int:
    """两个数相加"""
    return a + b

@mcp.tool()
def multiply(a: int, b: int) -> int:
    """两个数相乘"""
    return a * b

@mcp.tool()
def get_weather(city: str) -> str:
    """获取指定城市的天气信息"""
    return f"{city}天气：晴，25℃"

if __name__ == "__main__":
    mcp.run(transport="stdio")

上面是工具tool_server.py

from mcp import ClientSession, StdioServerParameters
from mcp.client.stdio import stdio_client
from langchain_mcp_adapters.tools import load_mcp_tools
from langgraph.prebuilt import create_react_agent
from langchain_openai import ChatOpenAI
import asyncio

# model = ChatOpenAI(
#     model="qwen-plus",
#     api_key="sk-b770a417906a46ea99508a5f1ef030bc",
#     base_url="https://dashscope.aliyuncs.com/compatible-mode/v1"
# )

# model = ChatOpenAI(
#     model="qianwen3",
#     api_key="sk-xxx",
#     base_url="http://localhost:9001/v1/",
#     # system_message="你是一个AI助手，需要借助工具回答用户问题"  # 部分LLM支持该参数
# )

model = ChatOpenAI(
    model="qwen3:0.6b",
    api_key="sk-xxx",
    base_url="http://127.0.0.1:11434/v1",
    extra_body={"enable_thinking": True}
)

# model = OpenAI(
#     api_key="sk-xxx",
#     base_url="http://localhost:9001/v1/"
# )

server_params = StdioServerParameters(
    command="python",
    args=["math_server.py"]
)

# server_params = StdioServerParameters(
#     command="python",
#     args=["weather_server.py"]
# )


async def main():
    async with stdio_client(server_params) as (read, write):
        async with ClientSession(read, write) as session:
            await session.initialize()

            tools = await load_mcp_tools(session)
            print(tools)
            print("---" * 20)

            agent = create_react_agent(model, tools)
            # print(agent)
            agent_response = await agent.ainvoke({"messages": "石家庄天气？"})
            print(agent_response)

            print("---" * 20)

            for message in agent_response['messages']:
                print("--1-" * 20)
                print(message.type + ":" + message.content)


if __name__ == "__main__":
    asyncio.run(main())

第二个py是client.py,运行结果

C:\Users\41684\AppData\Local\Programs\Python\Python313\python.exe C:\Users\41684\Desktop\work\study\pythonProject1\client.py 
[06/09/25 15:10:27] INFO     Processing request of type           server.py:556
                             ListToolsRequest                                  
[StructuredTool(name='add', description='两个数相加', args_schema={'properties': {'a': {'title': 'A', 'type': 'integer'}, 'b': {'title': 'B', 'type': 'integer'}}, 'required': ['a', 'b'], 'title': 'addArguments', 'type': 'object'}, response_format='content_and_artifact', coroutine=<function convert_mcp_tool_to_langchain_tool.<locals>.call_tool at 0x000001BFD9F3FCE0>), StructuredTool(name='multiply', description='两个数相乘', args_schema={'properties': {'a': {'title': 'A', 'type': 'integer'}, 'b': {'title': 'B', 'type': 'integer'}}, 'required': ['a', 'b'], 'title': 'multiplyArguments', 'type': 'object'}, response_format='content_and_artifact', coroutine=<function convert_mcp_tool_to_langchain_tool.<locals>.call_tool at 0x000001BFD9FA9BC0>), StructuredTool(name='get_weather', description='获取指定城市的天气信息', args_schema={'properties': {'city': {'title': 'City', 'type': 'string'}}, 'required': ['city'], 'title': 'get_weatherArguments', 'type': 'object'}, response_format='content_and_artifact', coroutine=<function convert_mcp_tool_to_langchain_tool.<locals>.call_tool at 0x000001BFD9FA9C60>)]
------------------------------------------------------------
[06/09/25 15:10:33] INFO     Processing request of type           server.py:556
                             CallToolRequest                                   
{'messages': [HumanMessage(content='石家庄天气？', additional_kwargs={}, response_metadata={}, id='fc32465d-6442-462e-86f2-a33fbdff2abb'), AIMessage(content='<think>\n好的，用户问的是“石家庄天气？”，我需要用提供的工具来获取天气信息。首先，检查可用的工具，发现有一个get_weather功能，需要参数是城市名。用户没有给出具体城市，所以可能需要询问或者假设城市是石家庄。不过根据指示，如果用户的问题中已经明确提到城市，可以直接使用。但这里用户直接提问，所以应该直接调用该工具，参数为city:石家庄。确认无误后，生成相应的调用JSON。\n</think>\n\n', additional_kwargs={'tool_calls': [{'id': 'call_fh08hvc4', 'function': {'arguments': '{"city":"石家庄"}', 'name': 'get_weather'}, 'type': 'function', 'index': 0}], 'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 125, 'prompt_tokens': 249, 'total_tokens': 374, 'completion_tokens_details': None, 'prompt_tokens_details': None}, 'model_name': 'qwen3:0.6b', 'system_fingerprint': 'fp_ollama', 'finish_reason': 'tool_calls', 'logprobs': None}, id='run--ace228fc-2264-45e2-9f98-72f69f623b07-0', tool_calls=[{'name': 'get_weather', 'args': {'city': '石家庄'}, 'id': 'call_fh08hvc4', 'type': 'tool_call'}], usage_metadata={'input_tokens': 249, 'output_tokens': 125, 'total_tokens': 374, 'input_token_details': {}, 'output_token_details': {}}), ToolMessage(content='石家庄天气：晴，25℃', name='get_weather', id='ed05c6a1-064c-47b9-a70c-fe7ed2fe50b0', tool_call_id='call_fh08hvc4'), AIMessage(content='<think>\n好的，用户之前询问了石家庄的天气情况，我调用了get_weather工具，并返回了天气信息。现在用户可能希望进一步了解或有其他问题需要帮助。需要确认用户是否有其他请求，或者是否需要更多的信息。如果用户没有进一步提问，应该总结之前的回答，并保持开放的态度，以便提供更好的帮助。\n</think>\n\n石家庄当前天气：晴，温度25℃。需要我为您整理一下近期天气数据吗？或者您还有其他问题想询问？', additional_kwargs={'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 103, 'prompt_tokens': 376, 'total_tokens': 479, 'completion_tokens_details': None, 'prompt_tokens_details': None}, 'model_name': 'qwen3:0.6b', 'system_fingerprint': 'fp_ollama', 'finish_reason': 'stop', 'logprobs': None}, id='run--2eb9186e-ec8c-47b7-a595-d721605ccce2-0', usage_metadata={'input_tokens': 376, 'output_tokens': 103, 'total_tokens': 479, 'input_token_details': {}, 'output_token_details': {}})]}
------------------------------------------------------------
--1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1-
human:石家庄天气？
--1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1-
ai:<think>
好的，用户问的是“石家庄天气？”，我需要用提供的工具来获取天气信息。首先，检查可用的工具，发现有一个get_weather功能，需要参数是城市名。用户没有给出具体城市，所以可能需要询问或者假设城市是石家庄。不过根据指示，如果用户的问题中已经明确提到城市，可以直接使用。但这里用户直接提问，所以应该直接调用该工具，参数为city:石家庄。确认无误后，生成相应的调用JSON。
</think>


--1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1-
tool:石家庄天气：晴，25℃
--1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1---1-
ai:<think>
好的，用户之前询问了石家庄的天气情况，我调用了get_weather工具，并返回了天气信息。现在用户可能希望进一步了解或有其他问题需要帮助。需要确认用户是否有其他请求，或者是否需要更多的信息。如果用户没有进一步提问，应该总结之前的回答，并保持开放的态度，以便提供更好的帮助。
</think>

石家庄当前天气：晴，温度25℃。需要我为您整理一下近期天气数据吗？或者您还有其他问题想询问？

Process finished with exit code 0
 

我们可以看到调用了tool_server.py中的 get_weather的方法

编程老怪
关注
大模型企业落地应用方法对比：微调、RAG与MCP工具调用
JarvisGreat的博客
04-10 334
每种方法都有其独特优势和适用场景，企业应根据自身业务需求、技术能力和资源条件，选择最合适的实施路径，也可以考虑这些方法的组合使用，以最大化大模型的应用价值。：微调+RAG的组合，兼顾专业性和知识更新。：MCP为核心，根据需要结合RAG。：优先考虑RAG，投入产出比高。
基于Cline和OpenRouter模型进行MCP实战
热门推荐
herosunly的博客
04-13 12万+
本文主要介绍了基于Cline和OpenRouter模型进行MCP实战，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. MCP实战 2.1 模型选型 2.2 安装环境 2.3 安装MCP服务 2.4 MCP实战 3. Bug解决方案
【翻译、转载】MCP 工具 (Tools)
计算机视觉之光
05-04 1258
MCP 中的工具允许服务器暴露可执行的函数，客户端可以调用这些函数，LLM 可以使用它们来执行操作。发现 (Discovery)：客户端可以通过tools/list端点列出可用的工具。调用 (Invocation)：使用tools/call端点调用工具，服务器执行请求的操作并返回结果。灵活性 (Flexibility)：工具的范围可以从简单的计算到复杂的 API 交互。与资源 (resources)类似，工具由唯一的名称标识，并可以包含描述以指导其使用。
MCP入门指南：大模型时代的USB接口
分享平时的学习心得和笔记
05-02 572
MCP（Model Context Protocol）是Anthropic公司推出的标准协议，被誉为AI领域的“USB接口”。它解决了传统AI开发中“每调用一个工具需单独写代码”的痛点，通过统一接口让大模型（如Claude、GPT-4）直接访问本地文件、数据库、API等资源，实现“即插即用”能力。MCP不仅是技术协议，更是AI生态的“连接器”。让AI从“文本生成器”进化为“现实世界的操作者”。五、动手实践：用MCP打造你的第一个工具。六、结语：为什么你要关注MCP？四、MCP的未来：从工具到生态。
【动手学MCP从0到1】2.2 MCP中的Tool（获取天气信息实战操作步骤详解）
lys_828的博客
06-05 1258
本文介绍了如何使用MCP服务中的Tool功能实现天气预报查询。文章包含完整的代码示例，包括API调用、参数传递和数据处理等关键步骤，为开发者提供了完整的工具开发流程参考。
【Cherry Studio配置MCP服务全流程解析：让AI自动调用工具处理任务】
CSDN站内信: https://i.csdn.net/#/msg/chat/qyj19920704
03-27 3万+
最近 AI 领域真是隔几天就有一个新热度，随着越来越多的使用 MCP 制作的 Agent 产品出现，MCP 这个新名词也频繁刷屏，有着大火的趋势，那么什么是 MCP 呢？MCP 是一种接口协议，由 AI 大模型公司 Anthropic 在 2024 年 11 月推出，它的全称是 Model Context Protocol，即模型上下文协议！它是连接 API 和大模型的桥梁，通过 MCP，我们可以让 AI 模型能够用一种通用的语言和各种不同的工具与服务进行交流，比如浏览器，Excel 表格，网页截图等等。
MCP深度分析：大模型工具调用的新解耦方式
2401_84204207的博客
04-08 1268
MCP不是什么惊天动地的新技术，但它绝对是个重要的标准化工具。它的价值在哪？统一标准：终于有个统一的方式定义工具、资源和提示词了！减少重复劳动：社区越大，可复用的组件就越多降低入门门槛：不用再为工具调用写一堆复杂代码但记住啊，MCP只解决了工具调用这一块。Agent的核心功能如任务规划、上下文管理，你还得自己动手。我的建议？手撸工作流+MCP是比较合适的方案。
mcp调用tool基本代码
njsgcs的博客
03-29 307
【代码】mcp调用tool基本代码。
MCP实战-基于Ollama+qwen2.5以stdio方式实现MCP协议工具调用
AI agent
03-25 5391
基于Ollama+qwen2.5已stdio方式实现MCP协议工具调用
如何在Cursor中调用MCP工具？
bgeyq的博客
03-12 4416
整体的思路是使用Cursor作为客户端，通过MCP协议，访问MCP服务端，调用MCP服务端暴露的两个工具 get-alerts 和 get-forecast，这两个工具会联网获取天气预警和天气预报。后来发现是版本的原因，在新版本中，Composer被藏到了聊天框的左下角，并改名为“Edit”。至此，我们已经完整体验了从搭建MCP服务，到在Cursor中通过MCP客户端调用MCP服务来使用工具的完整过程。下一篇，让我们来玩一些更实用的MCP工具，探索利用Cursor和MCP开发的最佳实践。
大模型——Cherry Studio配置MCP服务全流程解析：让AI自动调用工具处理任务
03-30 1414
最近 AI 领域真是隔几天就有一个新热度，随着越来越多的使用 MCP 制作的 Agent 产品出现，MCP 这个新名词也频繁刷屏，有着大火的趋势，那么什么是 MCP 呢？MCP 是一种接口协议，由 AI 大模型公司 Anthropic 在 2024 年 11 月推出，它的全称是 Model Context Protocol，即模型上下文协议！它是连接 API 和大模型的桥梁，通过 MCP，我们可以让 AI 模型能够用一种通用的语言和各种不同的工具与服务进行交流，比如浏览器，Excel 表格，网页截图等等。
大模型外挂MCP教程(2):一图看懂MCP工作流程 小白教程
2401_84380512的博客
04-26 666
一张图让大家看懂模型上下文协议 MCP 的调用和工作流程。在大模型与数据交互日益复杂的需求面前，模型上下文协议（Model Context Protocol，MCP）成为打通模型与各类资源高效协作的 “数字桥梁”。通过拆解 MCP 的工作流程图，我们可以从模块功能和运行逻辑两大维度，深入理解其运作机制。
自己开发MCP服务器，本地大模型调用MCP
qq_18402417的博客
05-30 472
【代码】自己开发MCP服务器，本地大模型调用MCP。
MCP实战篇-构建一个MCP服务
2301_81940605的博客
04-10 2409
前篇已经介绍了MCP+n8n构建工作流，在里面可以体现出MCP服务的重要性，以及能看到MCP的可能性，在我们真正的实战过程中可能会有各种各样的需求，开放的MCP服务有极大可能实现不了我们的需求，这个时候如果你懂如何开发一个自己的MCP服务，如虎添翼，助力业务。
【LLM】MCP(Python)：实现 stdio 通信的Client与Server
2303_80346267的博客
04-05 2795
本文将详细介绍如何使用 Model Context Protocol (MCP) 在 Python 中实现基于 STDIO 通信的 Client 与 Server。MCP 是一个开放协议，它使 LLM 应用与外部数据源和工具之间的无缝集成成为可能。无论你是构建 AI 驱动的 IDE、改善 chat 交互，还是构建自定义的 AI 工作流，MCP 提供了一种标准化的方式，将 LLM 与它们所需的上下文连接起来。
【MCP实践】Python构建MCP应用全攻略：从入门到实战
Arbboter的专栏
06-06 2986
本文详解基于Python的FastMCP服务开发框架，其通过工具(Tool)、提示(Prompt)、资源(Resource)三大核心组件构建智能应用生态。工具模块通过@mcp.tool()装饰器注册业务逻辑单元，实现API对接与数据处理；提示模块借助@mcp.prompt()创建结构化指令模板，精准引导大语言模型输出；资源模块利用@mcp.resource()整合静态配置与动态数据流。三者在Cherry Studio开发环境中无缝协同：资源提供数据支撑，提示生成AI指令，工具执行具体操作
MCP Server简单开发
weixin_43839095的博客
03-23 1306
官网：https://modelcontextprotocol.io/introductionMCP采用的client-server架构，mcp server是对应的工具实现，用于实际与外部世界交互。mcp client需要对应的大模型进行开发适配。mcp client和mcp server通过mcp protocol交互，类似http协议。与web开发一样，重点是在实现各种mcp server。
MCP客户端Client开发
haoswich的专栏
03-31 1582
打开client.py文件编写代码，可以用记事本、notepad++等，不过建议用一款编程软件，这样可以提升代码编写效率，作者采用vscode。创建项目和创建虚拟环境，已经在上篇中介绍过了，这里不做详细介绍，仅仅列出相关命令。组合上述代码，运行结果如下，这样一个简单的连接AI客户端就实现好了 ^_^将上述代码组合，一个简单的客户端就开发好了！注：MODEL可以更换为DeepSeek模型或者其他或者本地模型。至此客户端和服务端实现完成，是不是不是很难 ^_^执行上述命令创建好了项目并且激活了虚拟环境。
from fastmcp import FastMCP mcp = FastMCP(name="SimpleServer") @mcp.tool() def hello(name: str) -> str: return f"你好，{name}！" if __name__ == "__main__": # 使用默认设置运行服务器 # mcp.run() mcp.run_streamable_http_async() llm\test.py:14: RuntimeWarning: coroutine 'FastMCP.run_streamable_http_async' was never awaited mcp.run_streamable_http_async() RuntimeWarning: Enable tracemalloc to get the object allocation traceback
最新发布
07-23
<think>我们正在解决一个关于FastMCP框架中异步HTTP服务运行时出现'coroutine was never awaited'警告的问题。用户提到了使用`run_streamable_http_async`方法，并希望避免这个警告。 根据问题描述，警告通常发生在异步协程没有被正确等待的情况下。在FastMCP中，`run_streamable_http_async`是一个异步方法，因此我们需要确保在调用它时使用`await`，或者在异步环境中正确运行它。 回顾用户提供的引用[1]，其中提到了FastCGI进程池的概念，但这个问题更直接地与异步编程模型相关。 解决方案步骤： 1. 确保在异步上下文中调用`run_streamable_http_async`，并使用`await`。 2. 如果是在顶级代码中运行，需要使用`asyncio.run()`来启动异步主函数。 下面是一个修正后的示例： ### 修正后的服务端代码（使用异步HTTP服务） ```python from fastmcp import FastMCP, Tool, Resource import asyncio app = FastMCP() # 定义资源 @app.resource async def database_connection(): # 模拟异步数据库连接 return {"db": "connected", "pool_size": 10} # 定义工具 @app.tool async def calculate_sum(a: int, b: int) -> int: return a + b @app.tool async def generate_greeting(name: str, db: Resource) -> dict: if db["db"] == "connected": return {"message": f"Hello, {name}! DB connection active."} return {"message": f"Hello, {name}!"} # 异步主函数 async def main(): # 使用run_streamable_http_async方法启动异步HTTP服务 await app.run_streamable_http_async(host="0.0.0.0", port=8000) if __name__ == "__main__": # 通过asyncio.run运行异步主函数 asyncio.run(main()) ``` ### 关键修改说明： 1. **异步资源与工具**：将资源函数和工具函数都改为异步函数（使用`async def`），因为`run_streamable_http_async`要求整个应用在异步环境中运行。 2. **异步主函数**：定义了一个`main`异步函数，在其中使用`await app.run_streamable_http_async(...)`来启动服务。 3. **事件循环启动**：使用`asyncio.run(main())`来启动整个异步应用，这确保了事件循环的正确创建和运行。 这样修改后，`run_streamable_http_async`方法会在异步上下文中被正确等待，从而避免了'coroutine was never awaited'的警告。 ### 注意事项： - 如果资源初始化（如数据库连接）是异步的，那么资源函数必须使用`async def`，并在其中使用`await`进行异步操作。 - 工具函数如果是异步的，也需要使用`async def`，并在其中使用`await`调用其他异步操作。 ### 运行效果： 启动服务端后，客户端可以像之前一样调用工具。服务端现在以异步方式运行，能够处理并发请求。 ### 引用说明： 在FastMCP框架中，异步服务的正确运行依赖于事件循环的启动方式[^1]。上述修改遵循了Python异步编程的最佳实践，确保所有协程都被正确调度和等待。 §§相关问题§§ 1. 如何在FastMCP中处理异步数据库连接？ 2. FastMCP的异步工具与同步工具有什么性能差异？ 3. 如何测试FastMCP的异步服务？</think>### 解决 FastMCP 中 'coroutine was never awaited' 警告的方法 在使用 FastMCP 的 `run_streamable_http_async` 方法时出现 'coroutine was never awaited' 警告，通常是因为异步协程没有被正确启动或等待。以下是完整解决方案： #### 正确使用异步服务的示例代码 ```python from fastmcp import FastMCP, Tool import asyncio app = FastMCP() # 定义异步工具 @app.tool async def async_operation(data: str) -> str: """模拟异步操作""" await asyncio.sleep(0.5) # 模拟IO操作 return f"Processed: {data.upper()}" # 正确启动异步服务的方法 async def main(): # 使用 run_streamable_http_async 启动服务 await app.run_streamable_http_async( host="0.0.0.0", port=8000, worker_count=4, # 设置工作进程数 max_requests=100 # 设置最大并发请求 ) if __name__ == "__main__": # 通过 asyncio.run 确保协程被正确执行 asyncio.run(main()) ``` #### 关键修改点说明 1. **使用异步主函数**： ```python async def main(): await app.run_streamable_http_async(...) ``` 将启动逻辑封装在异步函数中，确保协程上下文 2. **通过 asyncio.run 启动**： ```python asyncio.run(main()) ``` 这是 Python 3.7+ 推荐的异步入口点，确保事件循环正确管理协程[^1] 3. **配置工作进程**： ```python worker_count=4, # 根据CPU核心数设置 max_requests=100 # 防止资源耗尽 ``` 参考引用[1]中 FastCGI 进程池思想，通过工作进程池处理并发 #### 问题原因分析 警告产生的原因是： 1. 直接调用异步方法而未使用 `await` 2. 在非异步上下文中启动协程 3. 缺少事件循环管理（如未使用 `asyncio.run`） #### 完整工作流程 ```mermaid graph TD A[客户端请求] --> B[FastMCP主进程] B --> C[任务分发] C --> D[工作进程1] C --> E[工作进程2] C --> F[工作进程N] D --> G[异步处理] E --> G F --> G G --> H[结果返回] ``` #### 最佳实践建议 1. **资源管理**： ```python @app.resource async def db_pool(): return await create_async_db_pool(size=10) ``` 异步资源初始化确保连接池就绪 2. **错误处理**： ```python try: asyncio.run(main()) except KeyboardInterrupt: print("Service stopped") ``` 捕获中断信号实现优雅关闭 3. **性能监控**： ```python app.add_middleware(MonitoringMiddleware) ``` 添加中间件监控协程执行时间
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值