使用tensorrt自带的trtexec将onnx模型转换为trt模型

71 阅读 0 评论 47 点赞

我是靠谱客的博主丰富麦片，最近开发中收集的这篇文章主要介绍使用tensorrt自带的trtexec将onnx模型转换为trt模型，觉得挺不错的，现在分享给大家，希望可以做个参考。

1.在官网下载好tensorrt，进入bin目录。（注意：在ubuntu上需要加上sudo,使用管理员权限。）

运行如下模型转换命令：

sudo ./trtexec --onnx=model_res512672_best.onnx --saveEngine=model_res512672_best.trt --workspace=1024 --iterations=1 --verbose

--workspace = 1024 以兆字节为单位设置工作区大小（默认 = 16）

--iterations = 1 运行至少 N 次推理迭代（默认 = 10）

--verbose 使用详细日志记录 (默认 = false)

（注意：设置--workspace时需要先查看系统可用的内存。）

结果1：如果报错。需要尝试在/tensorrt/bin 目录下添加几个动态链接库。

例如在windows上：

加上：myelin64_1.dll；nvinfer.dll；nvinfer_plugin.dll；nvonnxparser.dll；nvparsers.dll。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。