在非 CUDA 设备上,使得取消为 Moondream 3 设置 use_flex_decoding 更加容易
作者: copumpkin创建于 2025年12月3日更新于 2026年5月7日
我正在尝试使用 moondream3-preview,由于它使用了 flex 解码,所以只能在 CUDA 设备上运行。我使用的是 MacBook Pro,只支持 MPS。代码中似乎有一个名为 `use_flex_decoding` 的标志,但不知何故,我无法在代码中有意义地设置它,例如:
内容来源: m87-labs/moondream