CNET,为IOT的DNN而生


cnet

CNET

CNET 是一个C99开发的的面向iot设备设计的深度学习推理库,实现深度学习算法在iot设备上的快速部署。

1 使命

CNET 为IOT 的DNN而生,是业界首个面向IoT完善的dnn框架

2 主要特点

  • C语言开发, 极高的性能和兼容性
  • 极简设计,高效的内存管理,清晰的架构设计
  • 易于扩展,模块话设计,轻松完成裁剪和扩展
  • 轻便, 完整的二进制库不到300kb
  • 可靠,完善的内存监测测试, 保证无内存泄露
  • 完善,提供高达60种操作实现,支持现有的大量模型
  • 高效,汇编优化,KPU支持

3 支持情况

  • 完全兼容ncnn二进制模型, 支持导入Caffe/Pytorch/Omnx/Mxnet/Tensorflow/MNN模型;
  • 全面量化支持,支持后量化训练, 支持所有操作量化, 支持FP32及INT8/UINT8推理混合
  • 支持K210,ESP32 等主流芯片,理论上完全兼容支持c99的所有模块
  • 支持ARM A系列性能CPU及Intel系列高性能CPU加速, 加速30-100倍
  • 支持分类, 目标检测, 目标分割, 人脸识别, 车牌识别等主流算法

3.1 车应用相关

  1. 车辆检测
  • mobilenet ssd, 支持FP32和INT8
  • 将支持更多模型 movilenetv3-yolo/ssd/other
  1. 车型识别
  • cnn, mobilnetv1, 可以替换基础网络, 如: mobilenetv2/v3
  1. 车牌检测
  • mobilenet ssd, 支持FP32和INT8
  • mtcnn, 支持FP32和INT8
  • 将支持更多模型 movilenetv3-yolo/ssd/other
  1. 车牌矫正
  • 传统图像处理 + 仿射变换
  • CNN关键点检测 + 仿射变换
  1. 车牌识别,车牌+颜色
  • OCR, CNN, 支持FP32和INT8
  1. 车道检测,行车线检测
  • CNN + GAN, ADAS基础功能

3.2 人脸识别

  1. 人脸检测
  • mobilenet ssd/yolo, 支持FP32和INT8
  • mtcnn, 支持FP32和INT8
  • 将支持更多模型 movilenetv3-yolo/ssd/other
  1. 人脸关键点检测
  • MTCNN 5个关键点, 支持FP32和INT8
  • Landmark 106关键点
  1. 人脸矫正
  • 关键点+仿射变换
  1. 人脸验证
  • CNN + VECTOR, mbilenet-face, mobilenetv1/v2/v3
  1. 人脸姿势检测
  • 关键点分析
  1. 美颜及增强
  • 传统图像处理
  1. 活体检测
  • landmarks + 配合
  1. 人脸属性检测,性别,年龄,表情
  • CNN推理
  1. 人脸跟踪
  • 人脸检测 + ONET + Filter

3.3 客流统计

  • 目标检测, 支持YOLO/SSD/MTCNN, 支持前段mobilev1/v2/v3
  • 目标跟踪, ONET + Filter

3.4 人体姿势预估

  • Openpose 系列, 人体关键点, 头部检测, 手势检测
  • 基于人体关键点的行为分析,举手、抱头,摔倒,攀爬等

4 性能评估(时间单位,ms)

  1. RK3399 A53 x4 1.4G, A72 x2 1.8G
bench
  1. Intel(R) Core(TM) i7-5500U x4 2.4G
bench

示例

  • 人脸检测
人脸识别
  • 车牌检测
车牌检测


转载请注明:Damone 的博客,飞飞 » CNET,为IOT的DNN而生

分享到:
主题颜色面板