Hey小伙伴们👋,今天给大家带来一个超实用的教程,教你如何本地部署通义Qwen2大模型,打造专属于你的行业大模型!🌟
🔧【配置】:首先,你需要准备好硬件和软件环境。别担心,教程里都有详细说明,即使是小白也能轻松上手。
🎯【微调】:接下来,就是微调环节。通过微调,你的模型能更好地理解特定行业的数据和需求。这可是提升模型性能的关键步骤哦!
🚀【部署】:最后,将训练好的模型部署到你的系统中。这样,你就可以随时随地使用自己的行业大模型了!
🌈 已经有很多小伙伴成功解决了“天坑”问题,你也一定可以!跟着教程走,你将拥有一个能听懂你、理解你、服务于你的智能大模型。
一篇文章学会大模型【魔搭社区教程】【程序员猫爪】【本地部署通义Qwen2大模型:配置+微调+部署,带你训练自己的行业大模型!】【已经解决天坑】,下面是目录
一、去魔搭领取免费Linux服务器【程序员猫爪】
二、下载代码【程序员猫爪】
https://github.com/QwenLM/Qwen.git
git clone https://github.com/QwenLM/Qwen.git
三、安装环境【程序员猫爪】
1、安装anaconda
wget -c https://repo.anaconda.com/archive/Anaconda3-2023.03-1-Linux-x86_64.sh
bash Anaconda3-2023.03-1-Linux-x86_64.sh
看一下安装的位置
vim /etc/profile
export PATH=/root/anaconda3/bin:$PATH
vim ~/.bashrc
export PATH=/root/anaconda3/bin:$PATH
source /etc/profile
source ~/.bashrc
2、镜像源配置
conda配置
vim ~/.condarc
channels:
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/
show_channel_urls: true
ssl_verify: true
allow_conda_downgrades: true
3、pip配置
mkdir ~/.pip
cd ~/.pip/
vim pip.conf