llamafactory-cli webui启动后如何关闭

### LLaMA-Factory CLI 使用指南 #### 安装 LLaMA-Factory 为了顺利安装 LLaMA-Factory，在 Ubuntu 上的操作相对简单。推荐使用最新版本的 Ubuntu 来确保兼容性和安全性[^1]。 ```bash sudo apt update && sudo apt upgrade -y ``` 接着，按照官方文档中的说明来设置环境并下载项目源码： ```bash git clone https://github.com/your-repo/llama-factory.git cd llama-factory pip install -r requirements.txt ``` 完成上述操作之后，即完成了 LLaMA-Factory 的基本安装过程。 #### 配置防火墙以支持微调功能 对于希望利用图形界面来进行模型微调的情况，需特别注意开放特定端口用于外部访问。具体来说，7860 端口被指定给 LLaMA Board GUI 使用，因此应当通过如下命令调整防火墙设置[^2]: ```bash sudo ufw allow 7860/tcp sudo ufw reload ``` 这一步骤确保了即使在有防火墙保护的情况下也能正常启动和连接到 Web UI 接口。 #### 使用 `llamafactory-cli` 工具 一旦成功设置了 LLaMA-Factory 及其依赖项，则可以通过命令行工具 `llamafactory-cli` 开始探索更多高级特性。以下是几个常用的子命令及其作用: - **webui**: 启动基于浏览器的应用程序接口，方便用户直观地管理训练任务。 ```bash llamafactory-cli webui ``` - **train**: 执行自定义数据集上的预训练或继续已有检查点的学习进程 ```bash llamafactory-cli train --config ./path/to/config.yaml ``` - **evaluate**: 对已保存下来的模型快照执行评估测试 ```bash llamafactory-cli evaluate --model-path /path/to/model/checkpoint/ ``` 以上就是关于如何安装、配置以及运用 `llamafactory-cli` 进行日常工作的简要介绍。当然还有许多其他参数可供进一步定制化需求，建议查阅官方手册获取最详尽的帮助信息。

### 如何使用 `llamafactory-cli` 进行模型微调 #### 工具概述 `llamafactory-cli` 是用于管理 Llama 模型及其变体的一个命令行工具，支持多种功能，包括但不限于模型微调、推理以及 WebUI 启动等功能[^1]。 --- #### 环境准备 为了成功运行 `llamafactory-cli` 并完成模型微调操作，需先按照以下步骤设置环境： 1. **克隆仓库** 需要从 GitHub 上获取 LLaMA-Factory 的源码并安装依赖项： ```bash git clone https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory ``` 2. **创建虚拟环境** 推荐通过 Conda 创建独立的 Python 虚拟环境以避免版本冲突： ```bash conda create -n llama_factory python=3.10 conda activate llama_factory ``` 3. **安装依赖包** 安装项目所需的依赖库。如果遇到依赖冲突问题，则可以尝试忽略默认依赖重新安装： ```bash pip install -e '.[torch,metrics]' ``` 或者强制不加载任何预设依赖关系来解决可能存在的兼容性问题： ```bash pip install --no-deps -e . ``` 以上过程确保开发环境中具备必要的软件组件和支持框架[^2]。 --- #### 微调参数配置指南 当一切就绪之后，可以通过指定不同的选项来自定义训练流程中的行为模式。以下是几个常用的可调整参数说明： | 参数名称 | 描述 | |-------------------------|------------------------------------------------------------------------------------------| | `-m`, `--model_path` | 设置基础大语言模型路径或者权重文件夹位置 | | `-d`, `--data_file` | 输入数据集所在地址 | | `--output_dir` | 存储最终结果的位置 | | `--num_train_epochs` | 训练轮次总数 | | `--per_device_train_batch_size` | 单设备上每批次处理样本数量 | 实际应用时可以根据具体需求组合这些标志位形成完整的指令字符串。例如下面展示了一个典型的例子用来演示如何基于给定语料对现有模型实施进一步优化的过程[^3]: ```bash CUDA_VISIBLE_DEVICES=0 GRADIO_SHARE=0 GRADIO_SERVER_PORT=8080 \ llamafactory-cli finetune \ -m /path/to/base/model \ -d /path/to/training/data.jsonl \ --output_dir ./finetuned_results \ --num_train_epochs 3 \ --per_device_train_batch_size 4 ``` 上述脚本片段中包含了硬件资源分配声明(`CUDA_VISIBLE_DEVICES`)以及其他高级特性开关设定等内容以便于更灵活地控制整个实验周期内的各项活动细节。 --- #### 常见错误排查建议 尽管遵循官方文档指导能够极大程度减少失败几率但仍有可能遭遇某些特殊情况下的异常状况比如网络连接超时无法拉取远程镜像等问题此时应该仔细阅读终端打印出来的日志信息定位确切原因再采取相应措施加以修正。 另外值得注意的是对于大规模分布式计算场景下还需要额外考虑节点间通信效率等因素的影响因此务必参照相关资料合理规划拓扑结构设计从而达到最佳性能表现水平。 ---