-
题名嵌入式异构智能计算系统并行多流水线设计
- 1
-
-
作者
赵二虎
吴济文
肖思莹
晋振杰
徐勇军
-
机构
中国科学院计算技术研究所专项技术研究中心
中国科学院大学
-
出处
《电子学报》
EI
CAS
CSCD
北大核心
2023年第11期3354-3364,共11页
-
基金
中国科学院技术支撑人才项目
北航杭州创新研究院钱江实验室开放基金(No.2020-Y8-A-023)。
-
文摘
嵌入式智能计算系统因其功耗受限和多传感器实时智能处理需要,对硬件平台的智能算力能效比和智能计算业务并行度提出了严峻挑战.传统嵌入式计算系统常采用的DSP+FPGA数字信号处理架构,无法适用于多个神经网络模型加速场景.本文基于ARM+DLP+SRIO嵌入式异构智能计算架构,利用智能处理器多片多核多内存通道特性,提出了并行多流水线设计方法.该方法充分考虑智能计算业务中数据传输、拷贝、推理、结果反馈等环节时间开销,为不同的神经网络模型合理分配智能算力资源,以达到最大的端到端智能计算业务吞吐率.实验结果表明,采用并行多流水线设计方法的深度学习处理器利用率较单流水线平均提高约25.2%,较无流水线平均提高约30.7%,满足可见光、红外、SAR等多模图像实时智能处理需求,具有实际应用价值.
-
关键词
嵌入式智能计算系统
异构计算架构
神经网络模型
并行多流水线
深度学习处理器
-
Keywords
embedded AI computing systems
heterogeneous computing architecture
neural network model
parallel multi pipeline
deep learning processor(DLP)
-
分类号
TP389.1
[自动化与计算机技术—计算机系统结构]
-
