概述
-
信息汇总
-
使用体验
-
1. MNN VS NCNN
-
2.TNN
-
3.Paddle-Lite
-
4.OpenVino
-
5.TensorRT
-
社区支持
-
发展趋势
-
其他
工作中涉及到在各种各样的硬件上做神经网络的推理,对使用到的一些框架做一个梳理汇总。
信息汇总
<框架 | 项目地址 | 所属公司 | 特点 |
---|---|---|---|
NCNN | https://github.com/Tencent/ncnn | 腾讯 | 开放时间比较早,资源较多 |
TNN | https://github.com/Tencent/TNN | 腾讯 | 与其他框架相比,支持跨模型的内存复用,对于内存比较吃紧的情况有用 |
MNN | https://github.com/alibaba/MNN | 阿里 | 支持的设备类型多,优化较好 |
Paddle-Lite | https://github.com/PaddlePaddle/Paddle-Lite | 百度 | 有配套训练框架,方便做量化重训练 |
OpenVino | https://docs.openvino.ai/latest/index.html | Intel | Intel CPU官方框架 |
最后
以上就是沉默钢笔为你收集整理的推理框架概览的全部内容,希望文章能够帮你解决推理框架概览所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复