NVIDIA JETSON AGX ORIN
作为边缘计算的硬件支撑平台，边缘盒子的使用更加贴近用户，能够为用户提供极快及时的响应，为客户提供在边缘端解决问题的能力，已广泛应用在各行各业，为检测、分类、分割和特征提取等视觉算法提供算力平台。另外在数据源头对视频进行结构化，避免视频在公网传输，既满足了用户对视频数据脱敏的需求，又显著降低了监控端到云端的网络带宽。
在搞清楚边缘盒子到底是什么之前，首先要理解边缘计算这个概念。
边缘计算，是指在靠近物或数据源头的一侧，采用网络、计算、存储、应用核心能力为一体的开放平台，就近提供最近端服务。
直白点说，边缘计算就是靠近数据源头侧进行的计算，是相较于云这种中心计算的相对概念。如果说，支撑云计算的基础平台是云基础设施，主要就是各种配置的服务器，那么支撑边缘计算的基础设施硬件平台就称为边缘计算设备。
边缘计算设备并不是一个横空出世的新产品，现广为人知的边缘计算设备就是各种嵌入式设备比如工控机。但传统工控机在面临AI算法的高算力需求时，其计算（推理）能力远不能满足，尤其是对实时性要求高的如追踪等算法需求。
NVIDIA JETSON AGX ORIN
随着英伟达推出jetson设备开始，搭载各种AI算力芯片的边缘设备在近2~3年问世。因其外观形似盒子，具备算法推理能力，为区分一般传统工控机，行业内就多以边缘盒子，AIBox，算法盒子等名称代之。
人工智能 = 算法+算力+数据，边缘盒子即为算法+算力的集合体，部署在用户侧，为用户提供及时响应，本地决策能力。
随着算法的丰富和多样，边缘盒子已广泛应用于连锁门店，加油站、化工厂、工地、厂区、电力系统、电信机房、智能安防、智慧社区、校园、景区、园区等场景，快速实现对检测、分类、分割和特征提取等视觉算法的支持。
算法推动 边缘盒子广泛应用
以下是 背剑学少年 使用边缘盒子为某连锁便利店（2万多家门店）改造视频分析系统的应用案例：
改造之前，其视频分析系统架构，粗略表示如下：
改造 前
已采用优化手段：
1）使用GPU硬解码；
2）控制抽帧逻辑比例：1/25，即每秒1帧；
3）离线分析，即分析过去24小时视频并于24小时候后给出分析结果。
已部署服务规模：
1）网络带宽：约50Gbps（按单路视频2Mbps带宽计算，其门店视频接入数尚不足全部的1/10）;
2）分析服务器：57台（双路e5）；
该架构方案，缺点明显：
- 昂贵（57台服务器+50Gbps带宽，视频接入不足全部1/10）；
- 延迟极大，体验极差（24小时后才能给出分析结果）。
少年 作为AI架构师，向老板推荐引入边缘盒子，来解决以上两个突出问题，架构大致如下：
改造 后
即在每个门店部署边缘计算盒子对视频做初次分析，分析结果以结构化数据上传至云端，云端分析服务仅需为对结构化数据的做二次分析和加工。
应用此架构后，视频仅在门店内网传输，显著降低公网流量。云端算法分析服务器无需对视频解码，仅做二次分析和加工，原本需要57台服务器，现如今仅需2台即可，其中1台还主要做灾备用，降本增效非常明显。
以上，就是少年对边缘盒子的整体介绍，相信读者看完后应该会有个整体认识了。如果有任何不明白的，可以通过下面的联系方式联系我。
成都风潮互动科技有限公司
© Copyright 2021 成都风潮互动科技有限公司 - All Rights Reserved
蜀ICP备2021013360