整体架构
1. 支持模型编排、算法级联;
2. 搭积木式使用,内置业务中常用模块:
拉流 - 解码 - 推理 - 绘图 - 编码 - 推流;
3. 充分利用NPU、GPU进行加速;
4. 支持多输入共用Pipeline,降低程序复杂度;
5. 支持多Pipeline共用算法,减少设备内存消耗;
同等算力,驱动更多算法,负载更多路输入!
1、支持多模型:
检测:Yolo系列,SSD等;
分类:EfficientNet系列,ShuffleNet系列;
追踪:DeepSort,PP-Tracking等;
特征: EfficientNet,ResNet系列;
分割:HRNet, PPLiteSeg,STDC系列;
2、支持多芯片:
ARM: 瑞芯微,寒武纪,比特大陆(持续扩充中)
GPU: NVIDIA
CPU: INTEL
3、支持 多模型实例 并发推理;
4、支持 模型实例 在算法间复用;
市面上绝大多数模型,均已支持!
1、低代码:借助BEE-AIBox Admin 在线编排模型 组织算法;
2、简洁易用的Python接口,助力算法快速落地;