在大规模生成多个文件时,推理速度变慢
作者: jcvasquezc创建于 2025年11月12日更新于 2026年8月27日
目前我正在使用多语言模型进行大规模音频生成。 我观察到连续调用 model.generate(...) 时时间增加是线性的。 我认为这个错误与 T3 和 alignmet_stream 中的缓存累积有关,但无法解决。 有人知道此问题的可能原因以及如何解决吗?
内容来源: resemble-ai/chatterbox
目前我正在使用多语言模型进行大规模音频生成。 我观察到连续调用 model.generate(...) 时时间增加是线性的。 我认为这个错误与 T3 和 alignmet_stream 中的缓存累积有关,但无法解决。 有人知道此问题的可能原因以及如何解决吗?
内容来源: resemble-ai/chatterbox