边缘视觉工程实录

TensorRT

标签下共 4 篇

边缘计算TensorRTINT8

先摸个底:这块 Orin Nano 到底能跑多快

新板到手别急着上项目。五个检测模型、十个 TensorRT 引擎、同一把尺:INT8 后 85~166 FPS 一张表,附功耗温度和值不值的判断。

边缘计算TensorRTINT8

十引擎同板对垒:y26n 双冠的赢法是砍 NMS

五模型十引擎同一条流水线:y26n INT8 165.7 FPS 双冠,但推理段并不最快——赢在把 NMS 从 2.3ms 砍到 0.45ms。附三反直觉和选型卡。

边缘计算姿态估计TensorRT

框是对的,骨架是错的:一个金标测不出的 bug

姿态模型 91.9 FPS 达标,但压测前埋着一个 bug:NMS 下标用错,框对骨架错,三级金标全过也测不出。人眼看一眼才抓到。

边缘计算TensorRT零拷贝

从 43 到 165 FPS:钱都花在哪

同一块板同一段视频,43.5→143.9→165.3 FPS。拆账:换引擎只值 ×1.15,大头是零拷贝取流和双线程解耦。附单帧账单和三个坑。