在部署 SageMaker 端点时,对于通过 SageMaker 训练的 Qwen 2.5 7B 出现"sharded 不支持 AutoModel"错误

作者: jjbuck创建于 2024年11月26日更新于 2025年9月23日

from sagemaker.huggingface import HuggingFaceModel from sagemaker.huggingface import

内容来源: huggingface/text-generation-inference