大家好，今天介绍一下一款很强大的AI人声克隆（TTS）工具，GPT-sovits！

GPT-sovits

简介

  • 零样本文本到语音（TTS）： 输入 5 秒的声音样本，即刻体验文本到语音转换。

  • 少样本 TTS： 仅需 1 分钟的训练数据即可微调模型，提升声音相似度和真实感。

  • 跨语言支持： 支持与训练数据集不同语言的推理，目前支持英语、日语和中文。

  • WebUI 工具： 集成工具包括声音伴奏分离、自动训练集分割、中文自动语音识别(ASR)和文本标注，协助初学者创建训练数据集和 GPT/SoVITS 模型。

    下载

  • 下载地址：GPT-SoVITS
  • 仓库：GPT-SoVITS

    安装

  • 中国地区用户可点击此处使用 AutoDL 云端镜像进行体验。

  • 测试通过的环境
    Python 3.9，PyTorch 2.0.1，CUDA 11
    Python 3.10.13，PyTorch 2.1.2，CUDA 12.3
    Python 3.9，Pytorch 2.2.2，macOS 14.4.1（Apple 芯片）
    Python 3.9，PyTorch 2.2.2，CPU 设备
    注: numba==0.56.4 需要 python<3.11

Windows

  • 如果你是 Windows 用户（已在 win>=10 上测试），可以下载0206fix3 整合包或0217fix2 整合包，解压后双击 go-webui.bat 即可启动 GPT-SoVITS-WebUI。

  • 中国地区用户可以通过点击链接并选择“下载副本”来下载0206fix3 整合包或0217fix2 整合包。(如果下载时遇到错误，请退出登录)
    注：0206版本的推理速度更快，0217新版的推理效果更好，可按需选择

    Linux

    1
    2
    3
    conda create -n GPTSoVits python=3.9
    conda activate GPTSoVits
    bash install.sh

    macOS

    注：在 Mac 上使用 GPU 训练的模型效果显著低于其他设备训练的模型，所以我们暂时使用CPU进行训练。

  • 运行 xcode-select --install 安装 Xcode command-line tools。
    运行 brew install ffmpeg 或 conda install ffmpeg 安装 FFmpeg。
    完成上述步骤后，运行以下的命令来安装本项目：

    1
    2
    3
    4
    conda create -n GPTSoVits python=3.9
    conda activate GPTSoVits

    pip install -r requirements.txt

    手动安装

    安装依赖

    1
    pip install -r requirements.txt

    安装ffmpg

    conda使用者
    1
    conda install ffmpeg
    Ubuntu/Debian 使用者
    1
    2
    3
    sudo apt install ffmpeg
    sudo apt install libsox-dev
    conda install -c conda-forge 'ffmpeg<7'
    Windows使用者
  • 下载并将 ffmpeg.exe 和 ffprobe.exe 放置在 GPT-SoVITS 根目录下。

    Docker中使用

    docker-compose.yaml 设置

  • image 的标签：由于代码库更新很快，镜像的打包和测试又很慢，所以请自行在 Docker Hub 查看当前打包好的最新的镜像并根据自己的情况选用，或者在本地根据您自己的需求通过 Dockerfile 进行构建。 环境变量：
  • is_half: 半精度/双精度控制。在进行 “SSL extracting” 步骤时如果无法正确生成 4-cnhubert/5-wav32k 目录下的内容时，一般都是它引起的，可以根据实际情况来调整为 True 或者 False。
  • Volume 设置，容器内的应用根目录设置为 /workspace。 默认的 docker-compose.yaml 中列出了一些实际的例子，便于上传/下载内容。
  • shm_size：Windows 下的 Docker Desktop 默认可用内存过小，会导致运行异常，根据自己情况酌情设置。
  • deploy 小节下的 gpu 相关内容，请根据您的系统和实际情况酌情设置。

    通过 docker compose 运行

    1
    docker compose -f "docker-compose.yaml" up -d

    通过 docker 命令运行

    1
    docker run --rm -it --gpus=all --env=is_half=False --volume=G:\GPT-SoVITS-DockerTest\output:/workspace/output --volume=G:\GPT-SoVITS-DockerTest\logs:/workspace/logs --volume=G:\GPT-SoVITS-DockerTest\SoVITS_weights:/workspace/SoVITS_weights --workdir=/workspace -p 9880:9880 -p 9871:9871 -p 9872:9872 -p 9873:9873 -p 9874:9874 --shm-size="16G" -d breakstring/gpt-sovits:xxxxx

    预训练模型

    从 GPT-SoVITS Models 下载预训练模型，并将它们放置在 GPT_SoVITS\pretrained_models 中。

对于 UVR5（人声/伴奏分离和混响移除，附加），从 UVR5 Weights 下载模型，并将它们放置在 tools/uvr5/uvr5_weights 中。

中国地区用户可以进入以下链接并点击“下载副本”下载以上两个模型：

对于中文自动语音识别（附加），从 Damo ASR Model, Damo VAD Model, 和 Damo Punc Model 下载模型，并将它们放置在 tools/asr/models 中。

对于英语与日语自动语音识别（附加）,从 Faster Whisper Large V3 下载模型，并将它们放置在tools/asr/models 中。 此外，其他模型可能具有类似效果，但占用更小的磁盘空间。

中国地区用户可以通过以下链接下载：

  • Faster Whisper Large V3 (点击“下载副本”)

  • Faster Whisper Large V3 (Hugging Face镜像站)

    数据集格式

  • 文本到语音（TTS）注释 .list 文件格式：
    1
    vocal_path|speaker_name|language|text

    语言字典：

  • ‘zh’: Chinese
  • ‘ja’: Japanese
  • ‘en’: English
    示例：
    1
    D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.

    （附加）命令行运行方式

  • 使用命令行打开UVR5的WebUI
    1
    python tools/uvr5/webui.py "<infer_device>" <is_half> <webui_port_uvr5>
  • 如果打不开浏览器，请按照下面的格式进行UVR处理，这是使用mdxnet进行音频处理的方式
    1
    python mdxnet.py --model --input_root --output_vocal --output_ins --agg_level --format --device --is_half_precision
  • 这是使用命令行完成数据集的音频切分的方式
    1
    2
    3
    4
    5
    6
    7
    python audio_slicer.py \
        --input_path "<path_to_original_audio_file_or_directory>" \
        --output_root "<directory_where_subdivided_audio_clips_will_be_saved>" \
        --threshold <volume_threshold> \
        --min_length <minimum_duration_of_each_subclip> \
        --min_interval <shortest_time_gap_between_adjacent_subclips> 
        --hop_size <step_size_for_computing_volume_curve>
  • 这是使用命令行完成数据集ASR处理的方式（仅限中文）
    1
    python tools/asr/funasr_asr.py -i <input> -o <output>
  • 通过Faster_Whisper进行ASR处理（除中文之外的ASR标记）
    （没有进度条，GPU性能可能会导致时间延迟）
    1
    python ./tools/asr/fasterwhisper_asr.py -i <input> -o <output> -l <language>
    启用自定义列表保存路径

    致谢

  • 致谢

    WebUI使用教程

  • 【你的声音，现在是我的了！- 手把手教你用 GPT-SoVITS 克隆声音！】
    WebUI使用教程