分割模型名称时出错

作者: neomi-tenenbaum-huawei创建于 2024年3月26日更新于 2024年3月26日

在文件 flexgen/opt_config.py 中的 get_opt_config 函数(第 54 行): name = name.split("/")[1] 如果模型名称为 "foder_name/folder_name1/opt-125m",则代码将返回 "folder_name1"。您必须将代码更改为: name = name.split("/")[-1]

内容来源: FMInference/FlexLLMGen