#1030·ai-toolkit

错误报告: 在 Transformer 解量化期间,Ideogram 4 训练失败

作者: Arnold2006创建于 2026年9月5日更新于 2026年9月15日

硬件 处理器: Intel i9 内存: 64 GB GPU: NVIDIA GeForce RTX 4070 Ti SUPER VRAM: 16 GB GDDR6X 操作系统: Windows 11 CUDA: 13 NVIDIA 驱动: 616 问题 我已经安装了 AI 工具包的新版本,并为 Ideogram 4 创建了一个新的训练作业。我使用了默认的训练设置,仅做了以下更改: 缓存文本嵌入: 启用 低 VRAM: 启用 训练在 Transformer 加载/解量化阶段期间失败。尝试解量化 Transformer 权重时出现错误: 解量化 Transformer 权重 211 fp8 -> torch.bfloat16 训练没有超出此点。 重要的对比 同一台 PC 和 GPU 可以在 ComfyUI 中成功生成 Ideogram 4 图像,没有任何问题。因此,GPU 能够成功运行 Ideogram 4 推理。问题特别出现在 AI 工具包尝试加载/解量化 Transformer 进行训练时。 预期行为 AI 工具包应成功加载 Ideogram 4 Transformer 并使用低 VRAM 配置开始训练过程。 实际行为 AI 工具包在将 Transformer 权重从 FP8 转换为 torch.bfloat16 进行解量化时失败: 解量化 Transformer 权重 211 fp8 - torch.bfloat16 训练从未开始。 可重现步骤 安装新/当前版本的 AI 工具包。 为 Ideogram 4 创建一个新的训练作业。 将训练配置保留在默认设置中。 启用缓存文本嵌入。 启用低 VRAM。 启动训练。 AI 工具包开始加载 Transformer。 训练在 FP8 → BF16 解量化期间失败。 补充信息 这似乎不是一般的 GPU 性能或 VRAM 问题,因为同一款 NVIDIA RTX 4070 Ti SUPER (16 GB VRAM) 可以在 ComfyUI 中成功生成 Ideogram 4 图像。 失败似乎与 AI 工具包在训练期间处理 FP8 Transformer 权重以及将其转换/解量化为 torch.bfloat16 相关。 我会很感激您确认 RTX 4070 Ti SUPER/16 GB VRAM 是否支持 Ideogram 4 训练,以及是否存在已知的 FP8 Transformer 解量化问题。

内容来源: ostris/ai-toolkit