Anythingllm-docker
时间: 2025-04-19 19:52:54 浏览: 34
### 关于 LLMDocker 的使用指南
#### 安装 Docker 并设置为开机自启
为了确保 Docker 正常运行,在开始之前需确认 Docker 已安装并配置好。可以通过以下命令来启动 Docker 服务,并将其设置为随系统启动自动开启[^2]:
```bash
sudo systemctl start docker
sudo systemctl enable docker
```
#### 准备工作:构建镜像
对于基于 `llm` 的应用来说,创建一个合适的 Docker 镜像是非常重要的一步。假设有一个名为 `ipex-llm` 的项目,其启动文件位于 `python/llm/` 目录下,则可以编写如下简单的 `Dockerfile` 来定义如何打包此应用程序:
```dockerfile
FROM python:3.9-slim-buster
WORKDIR /app
COPY requirements.txt ./
RUN pip install --no-cache-dir -r requirements.txt
COPY ./python/llm /app/
CMD ["python", "./main.py"]
```
这里假定存在依赖项列表 `requirements.txt` 和 Python 脚本所在的路径 `/python/llm/`.
#### 构建与运行容器
完成上述准备工作之后,就可以通过下面的指令来构建 Docker 镜像以及启动相应的容器了。
构建镜像:
```bash
docker build -t my-llm-app .
```
运行容器:
```bash
docker run --gpus all -itd --name=my-running-app my-llm-app
```
注意这里的 `--gpus all` 参数是为了让容器能够访问所有的 GPU 设备;如果是在 CPU 上执行则不需要该参数[^1]。
#### 访问日志和服务端口映射
当容器正在运行时,可能会想要查看它的输出信息或者将内部的服务暴露给外部网络。这可以通过附加到容器的日志流或指定端口转发规则实现:
显示实时日志:
```bash
docker logs -f my-running-app
```
发布主机上的特定端口至容器内服务(例如8080->5000):
```bash
docker run -p 8080:5000 ...
```
#### 停止和删除容器
最后,当不再需要某个容器实例的时候,记得停止它并将之移除以释放资源:
停止容器:
```bash
docker stop my-running-app
```
删除已停止的容器:
```bash
docker rm my-running-app
```
阅读全文
相关推荐


















