Ubuntu服务器部署大模型
1. Ubun安装图像化界面
- 安装图形化界面:
sudo apt-get update
sudo apt-get install ubuntu-desktop #安装乌班图桌面托管器
sudo apt-get install unity
sudo apt-get install lightdm
- 进入一个界面选择,选择lightdm或者gdm3,都可以,这里选择gdm3。
再执行:
sudo service gdm3 start
- 更改一下默认开启方式
sudo systemctl set-default graphical.target
- 之后重启。
2.部署ollama
(1)确认python版本3.8以上,安装python命令:
sudo apt update
sudo apt install python3 python3-pip
(2)安装 Python 包管理器 pip
sudo apt install python3-pip -y
pip --version
(3)安装 Git 用于克隆存储库
sudo apt install git -y
git --version
2.1 在线安装Ollama
- 使用以下 curl 命令安装(这个安装后会直接判断GPU然后安装nvidia驱动)
curl -fsSL https://ollama.com/install.sh