在客户端中途断开连接后,`serve` 继续生成
作者: bfulton创建于 2026年8月16日更新于 2026年8月16日
当 `/tts` 端点的客户端在流中断时,响应生成器会关闭,但 `generate_data_with_state` 中的工作线程会继续生成和解码剩余的文本。这会浪费计算资源,并且如果另一个请求在被放弃的生成完成之前开始,则可能会导致 `tts_model` 实例同时被使用。文档中指出, "服务器模式不支持并发请求。"
内容来源: kyutai-labs/pocket-tts