语音合成服务的算力需求

语音合成的算力账，要按同时有几路在说话来算，而不是按每天生成多少条来算。这两个口径差出去的成本，可能是十倍。 并发路数是核心指标 一段 10 秒的语音，GPU 推理通常一两秒能出，CPU 推理可能要十几秒到一分钟，取决于模型大小。以常见的神经语音模型为例，中等规模模型在单张显卡上单路合成延迟能压到 300 毫秒以内，换到 CPU 上同一模型可能要 5 到 10 秒。客服播报这类非实时场景，慢一点无所谓；语音助手这类对话场景，合成延迟必须压到一秒以内，否则用户会觉得对方卡住了。先确认自己的场景属于哪一类，再谈配置。 GPU 路线的账 GPU 推理的优势在并发：单张消费级显卡跑中小模型，同时服务十几路请求并不吃力，显存占用一般在 2G 到 6G 之间。用显卡型云主机起步，例如顺云面向图形与视频场景的云电脑 G2，先把服务跑起来验证并发模型；请求量稳定增长后，再评估独立推理集群。 CPU 路线的取舍 小模型加 CPU 推理并非不能用，适合两类场景：一是每日生成量不大、可接受队列等待的通知类语音；二是预算敏感的内部工具。CPU 推理要重点看单核性能，合成的多个环节难以并行，主频高的机器往往比核数多的更快出结果。 部署上的两个细节 合成结果按文本哈希缓存，重复播报的内容直接返回音频文件，能省下大量重复计算；音频文件和模型文件分盘存放，模型放系统盘 SSD，生成的音频写数据盘并按保留期定期清理，这类文件增长很快，又不值得长期保存。 先测清楚单路延迟和目标并发，再决定 GPU 还是 CPU，配置就不难定。