AMD 的 AI 代理技能目录。利用 AMD 优化的软件堆栈为您的 AI 代理提供支持。
AMD Skills
使用 npx 安装 AMD 技能 skills CLI。不需要克隆或手动复制。
| 技能 | 其作用 | 来源 |
|---|---|---|
local-ai-use |
通过本地 AI 服务器路由图像生成、文本到语音和语音到文本,以降低令牌成本。 | in-repo |
local-ai-app-integration |
将本地 AI 集成到云端 LLM 应用中,以实现离线支持、更好的隐私保护和更低的 API 成本。 | in-repo |
| 跨堆栈 |
| 技能 | 其作用 | 来源 |
|---|---|---|
rocm-doctor |
根据已知的错误配置列表，对 AMD GPU 上的 ROCm / PyTorch / LLaMA.cpp 进行诊断。 | planned |
hyperloom-workload-optimizer |
自动优化 AMD GPU 上的 LLM 推理。 | planned |
lemonade-router-builder |
设置 Lemonade 模型路由器，根据内容、敏感性或所需功能处理请求。 | in-repo |
hrr-replay-analysis |
使用 HIP 记录和回放存档，在 AMD Instinct、Radeon 和 Ryzen 硬件上记录、回放和分析 ROCm 上的 GPU 工作负载行为。 | planned |
| 服务器原生 |
| 技能 | 其作用 | 来源 |
|---|---|---|
serving-llms-on-instinct |
在 AMD Instinct GPU 上端到端部署 LLM 推理: 检测硬件(或通过 AMD 开发者云进行内置),验证模型适配性,应用正确的 vLLM 配方,并启动经过基准测试的端点。后期阶段将选择 SGLang 和引擎/后端。 | in-repo |
serving-llms-on-epyc |
使用 vLLM + zentorch 在容器(Docker/Podman)或 conda 中在 AMD EPYC CPU 上服务 LLMs。处理 CPU 检测、运行时/环境验证、vLLM 模型支持和 RAM 适配性检查、硬件大小的线程/KV、启动和健康验证。单实例;在失败时报告并停止。 | in-repo |
magpie-kernel-evaluator |
评估 GPU 内核的正确性和性能,比较内核实现,并使用分析、TraceLens 和 torch-trace 缺口分析对 vLLM/SGLang 推理进行基准测试。 | Magpie |
tracelens-analysis-orchestrator |
使用 TraceLens 协调模块化 PyTorch 分析器的跟踪分析: 生成性能报告,并行运行系统级和计算内核子代理,并编写优先级高的利益相关者报告。 | TraceLens |
为 Quark 技能添加逐步指导
在 Quark CI 上添加技能范围检查
联邦项目的拉取请求因其检查需要手动批准而停滞
修复 Magpie 行为评估失败问题
将 `local-ai-use` 技能迁移到 `lemonade-sdk/lemonade` 产品仓库
将 `local-ai-app-integration` 技能迁移到 `lemonade-sdk/lemonade` 产品仓库
将 `lemonade-router-builder` 技能迁移到 `lemonade-sdk/lemonade` 产品仓库
将 `magpie-kernel-evaluator` 技能迁移到 `AMD-AGI/Magpie` 产品仓库
将 `tracelens-analysis-orchestrator` 技能迁移到 `AMD-AGI/TraceLens` 产品仓库
将 `serving-llms-on-epyc` 技能迁移到 `amd/ZenDNN-pytorch-plugin` 产品仓库