模型推理部署
Author: xh19980728-creatorCreated Aug 10, 2026Updated Aug 10, 2026
我的cuda版本是12.8，使用sglang部署时，安装指定的wheel包时，会发生依赖冲突，请问一下是否支持cuda 12.8及以下版本进行模型部署
Source: baidu/Unlimited-OCR
我的cuda版本是12.8，使用sglang部署时，安装指定的wheel包时，会发生依赖冲突，请问一下是否支持cuda 12.8及以下版本进行模型部署
Source: baidu/Unlimited-OCR