uTensor - 测试版本
它是什么? uTensor 是一个基于 Tensorflow 并针对 Arm 目标进行优化的极其轻量级的 机器学习 推理框架。它包括一个运行时库和一个离线工具，负责处理大部分模型转换工作。此仓库包含核心运行时以及一些运算器、内存管理器/调度器等示例实现，核心运行时的大小仅为 ~2KB！
| 模块 |
.text |
.data |
.bss |
| uTensor/src/uTensor/core |
1275(+1275) |
4(+4) |
28(+28) |
| uTensor/src/uTensor/tensors |
791(+791) |
0(+0) |
0(+0) |
uTensor 工作流程如何运作?
在 Tensorflow 中构建和训练模型。uTensor 会生成 .cpp 和 .hpp 文件。这些文件包含用于推理所需的生成的 C++11 代码。在嵌入式端使用 uTensor 就像复制粘贴一样简单。
uTensor 运行时如何工作?
发布说明 重构主要围绕几个关键思想展开,代码库和构建工具的结构也自然遵循了这些思想。 旧的关键点: - 张量描述了数据如何被访问以及从哪里获取 - 运算的性能取决于使用了哪些张量 - 运算器对张量是无知的 - 高性能的运算可以一次性获取大量数据 - 致力于在执行过程中降低总功耗 - L
Check out the detailed description here