新的 API 始终使用 GPU

在 inference.py 第 193 行,模型类 (新的 API) 调用了较旧的 predict 方法,但跳过了传入设备。因此,默认情况下总是使用 cuda 设备,尽管 model.device 可能是 cpu。