生成速度还能如何在提升

[ColeSu-n]

我测试了下目前克隆音色的生成速度有点慢（不包含加载模型）

[a710128]

你可以试下 nano-vllm-voxcpm 或者 vllm-omni 部署

[ColeSu-n]

你可以试下 nano-vllm-voxcpm 或者 vllm-omni 部署

Nano-vLLM-VoxCPM我用nanovllm-voxcpm方式部署后，看了下源码好像不能在text 中在文本前面加”（开心的语气）“ 这样来使生成的语音有情感

[0xShug0]

@ColeSu-n You may want to try https://github.com/0xShug0/audio.cpp. C++/GGML based on VoxCPM optimized for CUDA. On RTX 5090 VoxCPM2 produced 315.8s audio in 72.70s (RTF = 0.230 or 4.34x faster than real time).