本地 SRT/LLM/TTS 语音聊天
一个快速、完全本地的 AI 语音聊天,使用 WebSockets
在 7900 级 AMD RDNA3 显卡上,语音到语音延迟在 1 秒范围内: - distil-whisper/distil-large-v2 - bartowski/Meta-LLaMA-3.1-8B-Instruct-GGUF (Q4_K_M) - tts_models/en/vctk/vits (Coqui TTS 默认 VITS 模型)
当然,您可以运行任何模型或更换任何 SRT、LLM 或 TTS 组件。例如,您可以运行 whisper.cpp 用于 SRT,或者我们在测试文件夹中提供了 StyleTTS2 服务器,用于替代 TTS。有关此项目的更多信息,请参阅我的 Hackster.io 文章。
暂无开放 Issues,或尚未同步最近议题。