通义千问本地部署windows的命令
时间: 2025-07-05 11:14:21 浏览: 6
### Windows 上本地部署通义千问的命令
要在 Windows 系统上完成通义千问 (Qwen) 的本地化部署,可以借助 Ollama 工具来实现。以下是具体的命令及相关操作说明:
#### 安装 Ollama
首先需要安装 Ollama 工具,可以通过以下命令完成安装:
```bash
winget install ollama
```
此命令适用于已配置好 Winget 包管理器的 Windows 环境[^1]。
#### 下载 Qwen 模型
安装完成后,通过以下命令下载通义千问模型到本地环境:
```bash
ollama pull qwen
```
这条命令会从远程仓库拉取最新的 Qwen 模型版本并存储至本地环境中。
#### 启动服务端口
为了能够调用 API 或者进行交互测试,启动 Ollama 服务是非常重要的一步。运行如下命令即可开启服务监听模式:
```bash
ollama serve
```
该命令默认会在 `localhost` 地址下开放指定的服务端口号用于接收请求访问。
#### 调用方式示例
对于非流式的简单文本生成任务,可直接利用 curl 发送 POST 请求给服务器接口地址;而对于更复杂的场景比如对话历史记录维护,则可能需要用到 WebSocket 协议支持下的流式传输功能。
##### 非流式调用 Demo
下面展示了一个基本的例子,演示如何向已经启动好的 Ollama/Qwen 实例发送一段输入字符串以获取响应结果:
```bash
curl -X POST http://127.0.0.1:11434/generate \
--silent \
--header 'Content-Type: application/json' \
--data '{"model":"qwen","prompt":"你好"}'
```
##### 流式调用 Demo
如果希望实现实时更新效果(即逐词显示输出),则推荐采用基于 WebSocket 的方法来进行通信连接建立与数据交换过程处理[^1]:
```javascript
const WebSocket = require('ws');
let wsUrl = "ws://127.0.0.1:11434/stream?model=qwen&prompt=你好";
let socket = new WebSocket(wsUrl);
socket.onopen = function(event){
console.log("Connection opened.");
};
socket.onmessage = function(event){
let messageJson = JSON.parse(event.data);
process.stdout.write(messageJson.response);
};
```
以上就是在 Windows 平台上针对通义千问的大规模语言模型执行本地化部署过程中涉及到的主要命令集合及其应用场景介绍。
阅读全文
相关推荐


















