首页windows vllm安装

windows vllm安装

时间: 2025-04-22 15:59:58 浏览: 98

### 安装 VLLM 的前提条件为了能够在 Windows 上成功安装并配置 VLLM，在本地环境中需先启用 WSL (Windows Subsystem for Linux)，这可以通过 PowerShell 命令来实现[^1]。 ```powershell Enable-WindowsOptionalFeature -Online -FeatureName $("Microsoft-Windows-Subsystem-Linux", "VirtualMachinePlatform") ``` 此命令会激活必要的功能组件以便后续操作能够顺利进行。完成上述设置之后，建议重启计算机使更改生效。 ### 安装 WSL 发行版接着需要选择一个合适的 Linux 发行版本作为工作环境的一部分。可以从 Microsoft Store 中挑选任意一款支持的发行版，比如 Ubuntu 或者其他社区维护良好的选项。安装完成后首次启动时按照提示创建用户账号即可。 ### 配置 Docker 环境考虑到 VLLM 是基于容器化技术构建的服务端应用，因此还需要准备 Docker 运行时环境。对于已经启用了 WSL2 的系统来说，可以直接通过官方渠道下载适用于 Windows 平台的 Docker Desktop 应用程序，并依照向导指引完成整个部署流程[^2]。 ### 获取 VLLM 项目源码前往指定仓库地址获取最新发布的 VLLM 版本： ```bash git clone https://gitcode.com/gh_mirrors/vl/vllm.git cd vllm ``` 这里使用 Git 工具克隆远程存储库到本地文件夹内，方便后续开发调试以及自定义修改需求。 ### 构建与运行服务实例进入项目的根目录后执行如下指令编译镜像并启动容器： ```bash docker build -t my-vllm . docker run --name=vllm-instance -d -p 8080:8080 my-vllm ``` 以上步骤将依据 `Dockerfile` 文件中的说明自动处理依赖项安装等问题，最终提供可访问的服务接口供外部调用测试。

阅读全文