Mac 设备的微调方法

感谢作者提供的思路，以及群里不厌其烦的回复。本人是初学者，机器为mac mini m4 32g。目前微调方法如下：1️⃣ 将微信记录导出；2️⃣ 利用 weclone-cli make-dataset 对记录进行转换；3️⃣ 利用 vscode 和 wps 对记录进行内容删减和格式调整，符合 mlx_lm.lora 所要求的数据集格式（chat 格式，多一个空格逗号都会报错）；4️⃣ 下载 Qwen2.5-1.5B-Instruct（不是什么模型都可以微调，在这上面走了一段弯路）；5️⃣ 微调模型 mlx_lm.lora --model workspace/models/Qwen2.5-1.5B-Instruct --train --data ./data --batch-size 3（模型路径自行修改；如果 size 选 4，可能会内存溢出）；6️⃣ 微调时间 20-30 分钟，CPU 温度最高 90；7️⃣ 微调后合并模型 mlx_lm.fuse，并使用 mlx_lm.generate 提问；8️⃣ 在微调模型的基础上，继续使用新的记录微调，经过 10 次微调，只能说偶尔回答会让人有点惊喜。