计算机视觉+人工智能面试笔试总结——TensorRT
TensorRT` 是 NVIDIA 官方推出的基于 `CUDA` 和 `cudnn` 的高性能深度学习推理加速引擎,能够使深度学习模型在 `GPU` 上进行低延迟、高吞吐量的部署。采用 `C++` 开发,并提供了 `C++` 和 `Python` 的 API 接口,支持 TensorFlow、Pytorch、Caffe、Mxnet 等深度学习框架,其中 `Mxnet`、`Pytorch` 的支持需要先转换为中间模型 `ONNX` 格式。...