首页fastapi调用本地ollama的deepseek的API

fastapi调用本地ollama的deepseek的API

时间: 2025-03-03 07:36:15 浏览: 87

### 使用 FastAPI 调用本地 Ollama DeepSeek API 为了实现这一目标，可以创建一个基于 FastAPI 的应用程序来作为服务器端接口，并通过 HTTP 请求与本地运行的 Ollama DeepSeek 进行交互。下面是一个简单的例子展示如何设置这样的环境。首先，在 Python 中安装必要的库： ```bash pip install fastapi uvicorn requests ``` 接着定义 FastAPI 应用程序并编写用于调用 DeepSeek API 的函数： ```python from fastapi import FastAPI, Request import requests app = FastAPI() DEEPEEK_URL = "http://localhost:8001/deepseek" # 假设这是 DeepSeek 服务地址 @app.post("/query_deepseek/") async def query_deepseek(request: Request): body = await request.json() try: response = requests.post(DEEPEEK_URL, json=body) result = response.json() if response.status_code == 200: return {"status": "success", "data": result} else: return {"status": "error", "message": f"Error from deepseek {response.text}"} except Exception as e: return {"status": "error", "message": str(e)} ``` 这段代码展示了怎样构建一个 POST 接口 `/query_deepseek/` 来接收来自客户端的数据请求并将这些数据转发给本地部署的 Ollama DeepSeek 实例[^1]。这里假设 `DEEPEEK_URL` 是指向本地 DeepSeek 服务的有效 URL；实际环境中应当替换为具体的 IP 地址或域名以及相应的端口号。当接收到外部请求时，该接口会解析传入 JSON 数据并通过 `requests` 库向指定的 DeepSeek 终结点发送相同格式的信息。如果成功，则返回处理后的响应内容；若有任何异常发生，则捕获错误并向调用者报告失败原因。

阅读全文