linux部署bge-m3 llinux

### 如何在Linux系统中部署和配置bge-m3 #### 准备环境 为了成功安装并运行bge-m3，在Linux环境中需要先准备好必要的依赖包以及Python开发环境。通常情况下，建议使用虚拟环境来管理项目所需的特定版本的库文件。 ```bash sudo apt-get update && sudo apt-get install -y python3-pip build-essential libssl-dev libffi-dev python3-dev pip3 install --upgrade pip virtualenv virtualenv venv_bgem3 source venv_bgem3/bin/activate ``` #### 安装依赖库 进入创建好的虚拟环境下，通过`requirements.txt`文件或者直接利用命令行工具安装所需软件包。对于bge-m3来说，主要依赖于PyTorch框架及其扩展组件transformers[^1]。 ```bash pip install torch torchvision torchaudio transformers sentence-transformers ``` #### 下载预训练模型 可以从Hugging Face Model Hub下载官方发布的bge-m3权重参数，并将其保存至本地路径以便后续加载使用。这里推荐采用`sentence-transformers`这个第三方库来进行简化操作[^3]。 ```python from sentence_transformers import SentenceTransformer, util model_name = 'BAAI/bge-large-zh' model_save_path = './models/' + model_name.replace("/", "_") # 如果不存在则自动下载 model = SentenceTransformer(model_name_or_path=model_name, device='cuda' if torch.cuda.is_available() else 'cpu') model.save(path=model_save_path) ``` #### 加载与测试模型 完成上述准备工作之后，便可以编写简单的脚本来验证整个流程是否正常工作。下面给出了一段用于计算两个句子之间相似度得分的例子代码片段： ```python import torch from sentence_transformers import SentenceTransformer, util def calculate_similarity(sentence1: str, sentence2: str): sentences = [sentence1, sentence2] embeddings = model.encode(sentences) cosine_scores = util.pytorch_cos_sim(embeddings[0], embeddings[1]) return float(cosine_scores.cpu().detach()) if __name__ == "__main__": test_sentence_1 = "你好世界" test_sentence_2 = "大家好" similarity_score = calculate_similarity(test_sentence_1,test_sentence_2 ) print(f"Cosine Similarity Score between '{test_sentence_1}' and '{test_sentence_2}': {similarity_score:.4f}") ```