深度学习算法优化系列十七 | TensorRT介绍,安装及如何使用?1. 前言2. 介绍3. TensorRT支持的Layer4. 为什么TensorRT能让模型跑的快?5. TensorRT的安装6. TensorRT使用流程7. 使用了TensorRT的优化方式效果8. 总结9. 参考
1. 前言由于前期OpenVINO的分享已经基本做完了,笔者也可以成功的在CPU和Intel神经棒上完整的部署一些工作了,因此开始来学习TensorRT啦。先声明一下我使用的TensorRT版本是TensorRT-6.0.1.5 。2. 介绍TensorRT是NVIDIA推出的一个高性能的深度学习推理框架,可以让深度学习模型在NVIDIA GPU上实现低延迟,高吞吐量的部署。TensorRT...