替换 Copilot 本地 AI
LLaMA 编辑器是一个更好且自主托管的 GitHub Copilot 替代品,适用于 VS Code。LLaMA 编辑器使用 Ollama 和 codellama,在硬件上提供自动完成功能。在 Mac M1/M2/M3 或 RTX 4090 上运行效果最佳。
最低要求的 RAM: 16GB 是最低要求, 更多 RAM 会更好, 因为即使是最小的模型也需要 5GB RAM。 最佳方式: 配备 RTX 4090 的专用机器。 在此机器上安装 Ollama, 并在扩展设置中配置端点以将工作负载转移到此机器。 第二佳方式: 在具有足够 RAM 的 MacBook M1/M2/M3 上运行。
在专用机器上安装 Ollama 并在扩展设置中将终点配置为它。 Ollama 通常使用端口 11434,并绑定到 127.0.0.1。若要更改,您应将 OLLAMA_HOST 设置为 0.0.0.0。
| 名称 | RAM/VRAM | 备注 |
|---|---|---|
| stable-code:3b-code-q4_0 | 3GB | |
| codellama:7b-code-q4_K_M | 5GB | |
| codellama:7b-code-q6_ |
暂无开放 Issues,或尚未同步最近议题。