#5537·DeepSpeed

[BUG] FlopsProfiler 上采样 flops 计算出现错误

作者: xgbj创建于 2024年5月15日更新于 2026年9月17日
标签bugtraining

**描述错误** upsample flops 计算代码: `def _upsample_flops_compute(*args, **kwargs):` ` scale_factor = kwargs.get('scale_factor', None) if scale_factor is None and len(args) > 2: scale_factor = args[2] assert scale_factor is not None, "either size or scale_factor should be defined" flops = input.numel() if isinstance(scale_factor, tuple) and len(scale_factor) == len(input): flops *= int(_prod(scale_factor)) else: flops *= scale_factor ** len(input) return flops, 0`

内容来源: deepspeedai/DeepSpeed