[DOTry 直接使用 lora_finetune.py 却出现错误 /bin/bash: 第 1 行: export: `=/usr/bin/supervisord': 不是有效标识符
作者: tanghl01创建于 2025年3月2日更新于 2026年9月1日
标签documentation
colossalai run --nproc_per_node 1 lora_finetune.py --pretrained "/root/autodl-tmp/DeepSeek-R1-7B" --dataset "/root/converted_data.json" --quant 4 --lora_rank 32 --lora_alpha 64 --batch_size 8 --gradient_accumulation 2 --max_length 1024 --lr 1.5e-4 --warmup_steps 50 --num_epochs 3 --save_dir "/root/autodl-tmp/DeepSeeK_lora" --grad_ckpt --dtype bf16
内容来源: hpcaitech/ColossalAI