一个简单的玩具演示,展示了带有低语和 大语言模型 的本地语音助理。
此项目是一个单脚本项目,main.py 包含所有程序逻辑。models/ 文件夹存储模型文件。prompts/ 包含提示词。recordings/ 存储临时录音。tools/list_microphones.py 是一个用于查看麦克风列表的简单脚本,在 main.py 中用于指定麦克风编号。whisper/ 来自 Apple MLX 示例仓库,用于识别用户的语音输入。
本项目基于 Python 编程语言,用于程序运行的 Python 版本为 3.11.5。建议使用 Anaconda 配置 Python 环境。以下设置过程已在 macOS 系统上进行测试并通过。Windows 和 Linux 可以使用 speech_recognition 和 pyttsx3 来替换下面提到的 whisper 和 say 命令。以下是控制台/终端/命令行命令。
models/ 文件夹中，并在脚本中通过 MODEL_PATH 变量进行指定。建议从 TheBloke 和 XeIaso 下载 gguf 格式的模型，其中 6B 模型占用内存较小：暂无开放 Issues，或尚未同步最近议题。