你有没有在树莓派上跑过轻量AI视觉模型？卡到半天才出一帧、占满CPU还发热降频的体验，我猜不少折腾边缘AI的人都碰过。我上周在树莓派4B（4G版，无外置加速棒）上跑同个1.8M的YOLOv5n人脸检测模型，把三种最常用的本地部署方案全测了一遍，数据摆出来你就知道怎么选。
实测性能数据对比
- OpenCV DNN：基于pip安装的opencv-python 4.8版本，未开额外优化，单帧推理耗时1270ms，CPU占用稳定92%，无需额外转换模型，直接读取onnx文件即可运行。
- NCNN：使用ncnn-python预编译包，开启ARM NEON优化，单帧推理耗时214ms，CPU占用78%，需要提前将onnx模型转换为ncnn专属的param/bin格式，转换时需手动适配不支持的算子。
- TFLite：基于官方tflite-runtime包，开启XNNPACK加速，单帧推理耗时189ms，CPU占用65%，模型转换可通过官方命令行完成，算子兼容度高于NCNN。
不同场景的选型取舍
别上来就冲着“最高性能”的方案选，大部分场景根本没必要。
赶时间搭验证demo的话，直接选OpenCV DNN。pip装完就能用，不需要转模型，直接读onnx文件就能写推理逻辑，调通整个流程不到10分钟。哪怕单帧推理1.2秒，做个“有人靠近就亮灯”的小装置完全够用。
要做长期运行的固定项目，比如门口的人脸触发门禁，优先选TFLite。开启XNNPACK加速后单帧推理不到190ms，CPU占用比另外两个方案低15%以上，连续跑一周也不会因为过热降频。模型转换也不麻烦，官方命令行一行搞定：
tflite_convert --onnx_input_model face_det.onnx --output_file face_det.tflite想榨干硬件性能、愿意花时间调优的玩家可以选NCNN。开启ARM NEON优化后帧率和TFLite接近，但支持自定义算子修改，能针对特定模型再抠10%左右的性能，适合做多任务关键点检测这类负载更高的需求。
端侧部署从来没有“绝对最优解”，要开发效率还是运行效率，要快速验证还是长期稳定，匹配自己的需求比追“性能天花板”实在得多。
评论一下？