#12071 Docs: gfx1151 env 变量被记录为"在 ROCm/hipblas 镜像中自动设置",但镜像没有设置任何变量

** 当地AI版本:** 地方/地方:latest-gpu-hipblas'-v4.9.0 (f7ad3f70eb5d8a0ddf80e08557f0d7df28cf032e')

** 环境、CPU架构、操作系统和版本:** AMD Ryzen AI MAX+ 395 / Radeon 8060S (gfx1151, Strix Halo),128GB,Linux 7.0.0-31,Docker

-- -- . . .

** 描述错误**

[GPU加速 AMD Strix Halo / gfx1151] (https://localai.io/docs/features/gpu-acceleration/#amd-strix-halo-gfx1151-rdna-35)部分介绍了其环境可变表:

** gfx1151所需的环境变量**(自动设置在ROCm/hibblas图像中)

所发表的图像的括号并非真实的. 图像“ENV”或“入口”。 4个都装好了

这很重要,因为表格称它们为需要,所以信任括号的读者会省略出全部四个——而失败模式并不是一个错误. 模型加载和答案,只是配置错误.

** 废除**

控制台 Docker 运行 -rm - 入口 sh localai/localai:latest-gpu-hiplas -c
'env | grep -iE "HSA |ROCBLAS |GGML|HIP " ||回声"(没有设定)". (无)

$ Docker 运行 -rm - 入口 sh localai/localai:latest-gpu-hiplas -c
'grep-cE"HSA""ROCBLAS""NACK""SDMA""GFX""入场点.sh" 0 个


进入点 sh'是35行:它处理‘EXTRA BACKENDS',打印CPU旗,以及‘exec./local-ai""$@". 没有别的事了

反之,图像 * does * ship这些,所以这个机制正在被使用——ROCm的只是没有它的一部分:

BUILD TYPE=hiblas (中文(简体) ). NVIDIA VISIBLE DEVICES = 所有 NVIDIA DRIVER CAPABILITIES=计算、功用


** 预期行为**

要么图像设置四个变量( 匹配 docs) , 要么文件放下括号, 让读者知道通过它们 。 两者都很好;今天,两者意见不一,文件对两者更为乐观。

** 其他情况**

通过所有四个明确作品——gfx1151得到真正的支持,一个8.2GB IQ2 XS GGUF运行于iGPU上以22.25 tok/s的速度运行,GTT在请求中上升了10.13 GiB:

{\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}你觉得呢?
环境:
- HSA Override GFX VERSION=11.5.1 互联网档案馆的存檔,存档日期2013-12-20.
- ROCBLAS USE HIPBLASLT=1 (英语:
- HSA=NACK=1 (英语).
- HSA enable SDMA=0 (韩语)

所以这纯粹是Docs-vs-image不匹配,而不是支持差距.

两个小东西在同一节, 而有人在那里:

NVIDIA VISIBLE DEVICES=所有 " 在河马形象中。在同时带有AMD APU和离散的NVIDIA卡的主机上,这意味着ROCm图像愿意在nvidia运行时间一出就声称NVIDIA GPU. 将一个实例固定在 iGPU 上需要“ NVIDIA VISIBLE DEVICES=void” , 并附带显示的编曲片段。在例子中值得一行,因为"运行 ROCm on the iGPU"就是该节的全部要点.
ROCm版本。 ** 该节称gfx1151需要 "ROCm 7.11.0+",并报告测试时间为 7.11.0,但"最新-克普-hiplas"目前为**7.2.1:

控制台 Docker 跑 --rm -- 入口点猫 localai/localai:latest-gpu-hiplas /opt/rocm/.info/version 7.2.1 国家


它的工作原理是“rocminfo”和“rocm agent 计算器”。
. . . . . . .