[错误]
作者: stcnjtech创建于 2025年4月3日更新于 2025年4月7日
标签pending
描述错误 bash vllm_inference.sh --model_name_or_path ./LLaMA-2-7b-hf --dataset_path data/alpaca/test_conversation --output_dir data/inference_results [2025-04-03 14:16:08,168] [INFO] [real_accelerator.py:239:get_accelerator] 设置 ds_accelerator 为 cuda (自动检测)
内容来源: OptimalScale/LMFlow