AI克隆语音(基于GPT-SoVITS)

概述

使用GPT-SoVITS训练声音模型,实现文本转语音功能。可以模拟出语气,语速。如果数据质量足够高,可以达到非常相似的结果。相比于So-VITS-SVC需要的显卡配置更低,数据集更小(我的笔记本NVIDIA GeForce RTX 4050 Laptop GPU跑起来毫无压力。)

使用

GPT-SoVITS项目地址(https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI
项目集成了干声提取工具,声音剪切工具,语音文本校对工具等工具,你只需要一段高质量的语音即可在本地克隆声音。

下载项目

下载项目到本地,解压并打开,双击go-webui.bat,会打开控制台,稍等片刻会打开浏览器
image.png

image.png
有两个标签页(前两个,第三个还没做好),一个是数据处理,得到干声数据集和语音文本。
一个是模型训练和推理。
数据处理所有参数都默认,只需要选择对应的数据文件路径即可。

数据处理

输入文件路径为绝对路径,输出的文件路径默认在该项目文件夹目录下。数据处理目标是得到一个语音文本文件和一个声音数据集。

分离干声

image.png
这一步用于分离干声,选中该选项稍等一会会打开一个网页用于分离干声,输出格式选择wav。选择输入输出目录点击转换即可。

image.png

音频切分

image.png

语音降噪

如果是自己的录音可能会有噪音需要降噪处理,如果是网上下载的歌曲干声不用进行该操作。
image.png

语音文本识别

识别处理好的声音数据,并得到对应的文本文件。
image.png

语音文本校对

注意输入路径是文件的路径,不是文件夹的路径。选中后会打开一个页面用于校对语音文本。
image.png

image.png
有些识别的字可能有问题,需要手动去修改一下,以及一些停顿处需要增加或删除标点符号。修改后需要点击Submit Text保存。

训练和推理

训练集格式化

填写三个打星号的文本框即可,其他不用管。然后点击最下方的开启一键三连,等待完成之后就可以进行训练。
image.png
image.png

模型训练

image.png
batch_size:计算一次更新梯度的样本数量,影响训练速度。
total_epoch:训练轮次,影响模型质量,理论上来说越大越好。
GPT模型对结果影响不大,训练个10-15轮即可。SoVITS可以多训练一些。
其他保持默认即可。

推理

image.png
刷新一下模型路径,选择训练好的模型。选择数字最大的即可。选中开启TTS推理页面。
image.png
刷新模型路径,选择匹配的GPT和SoVITS模型。
image.png
需要上传说话者一段3-10秒内的声音片段。这个声音片段会影响生成结果的语速和情绪(这个声音片段对结果影响很大)。
image.png
上传的音频文本和语言类型。

需要生成的语音文本

标点符号会影响生成结果的停顿。把文本粘贴进去,选择语言和文本切割方式,参数默认,点击合成语音等待生成结果。即使训练的数据没有英文和日文,也可以生成英文和日文音频。
image.png

文本切割工具

和上面的文本切割功能一样。将大段文字切割。
image.png

注意

模型训练过程中GPU会发热,请在有人监控的情况下进行,温度过高及时停止(在控制台输入CTRL+C)以防发生意外。

### SovitsGpt-Sovits的技术背景及语音合成应用 #### Sovits 技术背景与原理 Sovits(Soft Voice Isolation and Timbre Synthesis)是一种基于深度学习的语音合成模型,专注于高质量的音色建模和声纹特征提取。其核心技术基础是神经网络中的变分自编码器(VAE),通过将输入语音信号分解为内容特征与风格特征(如说话人音色、情感等),实现对语音的高精度重建与转换。这种分离能力使得Sovits语音克隆任务中表现出色,仅需少量目标说话人的语音样本即可生成逼真的语音[^2]。 #### Gpt-Sovits 技术背景与原理 Gpt-Sovits 是在Sovits基础上进一步融合了自然语言处理能力的扩展框架。它结合了GPT(Generative Pre-trained Transformer)的语言理解能力和Sovits的声纹建模技术,实现了从文本到语音的端到端生成。具体来说,GPT模块负责将输入文本转化为语义丰富的语言表示,而Sovits模块则将其映射为具有特定音色、韵律和情感表达的语音波形。这一多模态融合机制显著提升了生成语音的自然度和表现力[^2]。 #### 在语音合成中的应用场景 Gpt-SovitsSovits 的核心优势使其广泛应用于多个语音合成场景: - **AI语音克隆**:通过少量样本快速生成个性化语音,适用于虚拟助手、有声书制作等。 - **短视频创作**:提供高质量的语音合成服务,满足视频配音需求。 - **智能客服系统**:支持实时语音响应,提升用户体验。 - **无障碍阅读**:帮助视障用户通过AI听书获取信息[^1] #### 示例代码 以下是一个简化版的文本转语音流程示例,假设使用Gpt-Sovits进行推理: ```python import gpt_sovits # 初始化模型 model = gpt_sovits.load_model("gpt_sovits_config.yaml") # 输入文本与声纹信息 text_input = "你好,这是一个语音合成测试" speaker_embedding = model.get_speaker_embedding("sample_audio.wav") # 提取声纹特征 # 生成语音 audio_output = model.synthesize(text_input, speaker_embedding) # 保存结果 gpt_sovits.save_audio(audio_output, "output.wav") ``` 该代码展示了如何利用Gpt-Sovits进行语音合成的基本步骤,包括模型加载、文本与声纹输入、语音生成及输出保存。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值