我们如何实现快速的首次响应

快速的首次响应并非魔法,而是一系列工程决策的总和。来看看背后的机制:短文本几乎立刻开始播放,长文本则在后台处理。
分块流式传输
我们不会等整个文件生成完毕:在模型计算其余部分的同时,第一段声音就已送达用户。即使是长文本,开头也能带来即时响应的感觉(完整合成会在后台进行,并显示进度条)。
流式输出应与普通的 WAV 导出分开测试。
缓存与预热
常用短语和预先预热的模型消除了冷启动。二者结合,无论负载如何,都能保证稳定、快速的启动。
自己试试 — 免费入门字符包,注册后可用。


