tensorRT模型推理时动态shape
和之前全连接的代码唯一的区别就是两个点,一个是网络结构的定义换成了CNN,另一个是动态shape的配置createOptimizationProfile。OptimizationProfile是一个优化配置文件,用来指定输入的shape可以变换的范围的,不要被优化两个字蒙蔽了双眼,其实就是为了告诉tensorRT我的shape是什么范围!在全卷积网络中我们通常就是有这个诉求的,推理时的shape是可以动态改变的,不一定要限制死,这个动态shape不一定只宽高,还指batchsize也是动态的。