-
TensorRT与ONNX Runtime在Jetson Orin上的推理延迟对比：YOLOv8s INT8量化评估
在Jetson Orin这类边缘AI平台上部署YOLOv8s模型时，推理框架的选择直接决定了实时性能否达标。TensorRT作为NVIDIA官方推理引擎，与ONNX Runtime在这一硬件上的表现差异，并非简单的“谁更快”，而是涉及GPU/CPU架构隔离、量化策略和系统负载的多层次问题。
-
微软在中国全力推广ONNX， 欲将Azure打造成最佳人工智能云平台
消息，由微软共同发起的开源项目ONNX合作伙伴研讨会首次登陆中国，微软项目总经理Venky Veeraraghavan和微软人工智能平台团队首席项目经理Prasanth Pulavarthi于微软大厦
