开源模型应用落地-模型量化-Qwen1.5-7B-Chat-AWQ（二）

### 如何下载 DeepSeek-R1-Distill-Qwen-1.5B 模型 为了获取 `DeepSeek-R1-Distill-Qwen-1.5B` 版本的模型文件，可以访问指定链接并遵循标准流程完成下载操作。具体来说： ModelScope 提供了一个托管平台用于发布和共享各种预训练模型，其中包括所需的 `DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf` 文件[^3]。 #### 下载方法 通过浏览器直接打开提供的 URL 地址即可进入 ModelScope 页面，在该页面上找到对应的资源项后点击下载按钮来保存目标文件至本地计算机环境之中。 对于命令行爱好者而言，也可以利用 wget 或 curl 工具实现自动化脚本化处理过程如下所示： ```bash wget https://modelscope.cn/models/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF/resolve/master/DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf -O DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf ``` 上述指令会将远程服务器上的 `.gguf` 格式的模型参数数据拉取下来，并命名为 `DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf` 存储于当前目录下以便后续加载调用。