windows编译llama.cpp GPU版本

### 安装CMake 为了能够在Windows系统上成功编译`llama.cpp`，首先需要确保已正确安装CMake。可以通过访问官方文档获取详细的安装指南[^1]。 ```powershell # 打开PowerShell并执行以下命令来验证是否已经安装了CMake cmake --version ``` 如果未检测到CMake，则应当前往官方网站下载适合操作系统的版本进行安装，并按照提示完成配置环境变量的操作以便可以在任何地方调用此工具。 ### 获取llama.cpp源码 接下来是从GitHub仓库克隆最新的`llama.cpp`项目副本： ```bash git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp ``` 这一步骤会创建一个名为`llama.cpp`的新文件夹并将所有必要的资源复制进去。 ### 编译过程 对于Windows用户来说，在拥有适当开发环境的前提下（比如Visual Studio），可以利用CMake生成对应的解决方案文件(.sln)，之后再通过IDE来进行实际的构建工作。 ```batch mkdir build && cd build cmake .. msbuild /p:Configuration=Release llama.sln ``` 上述指令序列先建立了用于存放编译产物的子目录(build),切换至其中；接着调用了CMake准备适用于当前平台的目标工程描述；最后借助MSBuild完成了最终链接阶段的任务，从而得到可执行程序。 ### 使用说明 一旦顺利完成编译流程后就可以尝试运行测试样例了解基本功能特性: ```batch .\main.exe -m path\to\model.bin -t 8 -c 1024 -ngl 1 ``` 这条语句中的参数分别指定了加载哪个预训练权重集(-m)、线程数(-t)、上下文窗口大小(-c)以及GPU加速等级(-ngl)[^4]。