返回首页

NVIDIA TensorRT

付费
编程开发
4(940 评价)

NVIDIA推出的高性能深度学习推理优化引擎,通过量化(INT8/FP16)、层融合、内核自动调优等技术,将模型推理速度提升数倍,支持ONNX/TensorFlow/PyTorch模型转换

推理优化模型加速NVIDIA量化

NVIDIA推出的高性能深度学习推理优化引擎,通过量化(INT8/FP16)、层融合、内核自动调优等技术,将模型推理速度提升数倍,支持ONNX/TensorFlow/PyTorch模型转换。

核心功能

  • 推理优化
  • 模型加速
  • NVIDIA
  • 量化
  • 深度学习
数据来源:全网采集 | 查看来源

相关工具