%0 Journal Article %A 陈昕 %A 樊琦 %A 李卓 %T 基于边缘计算的分支神经网络模型推断延迟优化 %D 2020 %R 10.11772/j.issn.1001-9081.2019081406 %J 计算机应用 %P 342-346 %V 40 %N 2 %X

针对云服务器上深度神经网络(DNN)模型推断任务延迟过高的问题,提出基于边缘计算的分支神经网络部署模型。分析了边缘计算场景中深度神经网络的分布式部署问题,证明该问题是NP-难的。设计了一种基于分支定界思想的部署算法(DBB),选择合适的边缘计算节点部署模型以减少推断任务的延迟。设计并实现了选择节点退出(SNE)算法,为不同任务选择合适的边缘计算节点来退出推断任务。仿真实验结果表明,与在云端部署神经网络模型的方法相比,基于边缘计算的分支神经网络模型的推断延迟平均降低了36%。

%U http://www.joca.cn/CN/10.11772/j.issn.1001-9081.2019081406