机器之心 原创
2018/07/13 PM 5:34
DAC 2018 低功耗目标检测系统设计挑战赛落幕,中科院、清华分别获GPU与FPGA组冠军
2018年6月28日,由电子自动化设计顶级会议DAC’2018主办的“低功耗目标检测系统设计挑战赛”于加州旧金山于落下帷幕。来自中科院计算所的ICT-CAS团队和来自清华大学的TGIIF团队在全球114支参赛队伍中脱颖而出,分获GPU组和FPGA组的冠军。本届比赛旨在为无人机设计高精度且高能效的物体检测系统,以满足实际复杂场景的需要。比赛任务极具挑战性,参赛设计需要考虑小物体及被遮蔽物体检测,需要区分同场景多个相似目标,也需要考虑检测速度及功耗等多方面因素。参赛队伍来自清华大学、北京大学、中科院、UIUC、CMU、IBM、Cadence 等全球多个优秀科研机构。
无人机在工业、农业、军事及消费级市场均有如土地测绘、巡检监测、物资配送、灾后救援等重要作用。其中,实现高精度且高能效物体检测是开展所有无人机任务的基本要素,也是本领域急需提高的方向。由于航拍数据集(无人机视角)的缺失,进一步提升无人机物体检测系统变得更加困难。
在这样的背景下,圣母大学的史弋宇教授,匹斯堡大学的胡京通教授,香港城市大学的余备教授和Cognite Ventures公司的CEO Christopher Rowen发起“低功耗目标检测系统设计挑战赛”,并在DAC‘2018成功举办。该比赛由Nvidia、Xilinx和DJI大疆创新赞助,由圣母大学博士后徐小维和匹斯堡大学博士生张鑫燚进行评测。Nvidia和Xilinx分别为GPU和FPGA组的参赛队伍提供免费的嵌入式计算设备TX2 GPU和PYNQ Z-1 FPGA。大疆创新为比赛提供了高达150k份由无人机在实际环境中采集的数据并提供了准确标注。
比赛中使用到的两种硬件平台: TX2 GPU (左)和PYNQ Z-1 FPGA(右)
比赛从2017年10月16日正式开始,于2018年5月28日结束,共吸引114支来自全球多个科研机构的队伍参加。其中,53支队伍参与GPU组比赛,61支队伍参与FPGA组比赛。最终,两个组别前三名的队伍将被邀请至旧金山,在DAC’2018上接受颁奖。同时,获奖队伍将能在大会上分享他们的设计并进行现场展示。
挑战 1: 小物体及遮蔽物检测
由于所有图片均在无人机视角下拍摄,大量图片中的待检测物体都非常小,且有很大的概率被树木和建筑物遮挡。这些物体本身的特征在如此小的尺度下会大大提升检测的难度。
小物体检测:绿色框对应行驶中的汽车为检测目标
挑战 2: 同一物体检测
与传统的物体检测不一样,本次比赛需要参赛队伍检测同一个物体。在无人机跟随应用中,无人机需要准确地检测出指定物体(如无人机操控者、车辆、动物等)并进行跟随飞行。当场景出现多个相似物体时,无人机也不能跟丢或跟错对象。此应用给物体检测带来了新的挑战。
特定行人检测:绿色框对应的是正确的检测目标,蓝色和红色狂均对应错误的行人。
挑战 3 :高精度 vs 低功耗
比赛采用的评价指标是精度,速度和能耗的结合(评分细则详见1)。考虑到GPU组及FPGA组使用了不同的计算能力硬件设备,比赛对检测速度提出了不同的要求。其中GPU设计需运行至20 FPS,FPGA设计需达到5 FPS。
GPU组前三强
GPU组的前三名分别是中科院计算所的ICT-CAS团队,浙江大学的DeepZ团队和山东大学的SDU-Legend团队。三个队伍均采用了深度学习完成比赛,也都采用Yolo神经网络作为他们的基础设计。
GPU 组第一名: ICT-CAS
ICT-CAS团队使用了feature extractor, tucker decomposition and precision scaling相关技术。在每一种具体的方案中尝试了多种技术记忆组合以减少计算和内存消耗。在计算中采用了半精度(16bits)进行计算并使用TensorRT来提高计算速度。
GPU 组第二名: DeepZ
DeepZ团队使用Yolo-v2作为骨干网络进行特征提取和检测。为了应对较小物体检测的问题,该团队使用了Feature Pyramid Network来获得上下文相关的特征。同时,focal loss function的引入来缓解单一物体检测与多个候选框的不平衡问题。该团队 对Yolo-v2网络进行了一定的改进,改进后的网络结构如下图所示。
GPU 组第三名: SDU-Legend
SDU-Legend团队基于Yolo v-2进行优化。首先,该团队将Yolo v-2网络由32层删减为27层。其次,为了满足检测小目标的要求,该团队降低了下采样率。在体系层次,该团队也做了一些优化:将网络最后两层的计算放在CPU上进行。该团队实现了16bits的半精度计算来进一步提升计算速度。
FPGA组前三强
FPGA组的冠军是来自清华大学的TGIIF团队,亚军是苏黎世联邦理工大学的SystemsETHZ,季军来自UIUC的iSmart2团队。这三支参赛队伍分别在FPGA上部署了SSD,SqueezeNet和MobileNet神经网络,完成了比赛要求的物体检测任务。
FPGA 组第一名: TGIIF
TGIIF团队在采用了深鉴科技的硬件加速器架构DPU、全栈式 工具 链DNNDK和深度压缩技术的基础上,从算法、软件和硬件对整个目标检测系统进行了全栈式的协同优化。通过采用硬件友好的SSD网络和多线程优化技术,结合深度压缩和定点训练,在保证识别精度的前提下,满足了低功耗和实时性的要求。
FPGA 组第二名: SystemsETHZ
SystemsETHZ团队使用低量化网络进行物体检测。特别的该团队采用squeezenet为基础进行设计,并将网络层数修改为18层。在具体的实现中,该团队采用了folded computing的方式来配置多路复用器和多路输出选择器进而实现神经网络不同阶段的计算。该团队使用一个DMA引擎实现CPU和FPGA间的数据传输。
FPGA 组第三名: iSmart2
iSmart2组采用以Mobilenet为基础的轻量化网络设计,共12层。网络包含depth-wise 3x3卷积层,传统1x1卷积层和max pooling层,并采用简化的Yolo后端进行物体检测。在硬件实现上,该团队采用基于模块(IP)复用的结构,让相同种类的网络层复用同一个模块以节约硬件资源。此外,该团队将每层特征图分割成大小相同的数据块,以数据块为单位进行计算,实现了数据块之间的细粒度流水线结构,以缩短图片的处理延时。
1. http://www.cse.cuhk.edu.hk/~byu/2018-DAC-HDC/
相关数据
Neural Network
(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。
来源:机器之心
Drones
无人机(Uncrewed vehicle、Unmanned vehicle、Drone)或称无人载具是一种无搭载人员的载具。通常使用遥控、导引或自动驾驶来控制。可在科学研究、军事、休闲娱乐用途上使用。
来源: 维基百科
Deep learning
深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法。观测值(例如一幅图像)可以使用多种方式来表示,如每个像素强度值的向量,或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务(例如,人脸识别或面部表情识别)。 近年来监督式深度学习方法(以反馈算法训练CNN、LSTM等)获得了空前的成功,而基于半监督或非监督式的方法(如DBM、DBN、stacked autoencoder)虽然在深度学习兴起阶段起到了重要的启蒙作用,但仍处在研究阶段并已获得不错的进展。在未来,非监督式学习将是深度学习的重要研究方向,因为人和动物的学习大多是非监督式的,我们通过观察来发现世界的构造,而不是被提前告知所有物体的名字。 至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。
来源: LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. nature, 521(7553), 436.
Tensor
张量是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数,这些线性关系的基本例子有内积、外积、线性映射以及笛卡儿积。其坐标在 维空间内,有 个分量的一种量,其中每个分量都是坐标的函数,而在坐标变换时,这些分量也依照某些规则作线性变换。称为该张量的秩或阶(与矩阵的秩和阶均无关系)。 在数学里,张量是一种几何实体,或者说广义上的“数量”。张量概念包括标量、矢量和线性算子。张量可以用坐标系统来表达,记作标量的数组,但它是定义为“不依赖于参照系的选择的”。张量在物理和工程学中很重要。例如在扩散张量成像中,表达器官对于水的在各个方向的微分透性的张量可以用来产生大脑的扫描图。工程上最重要的例子可能就是应力张量和应变张量了,它们都是二阶张量,对于一般线性材料他们之间的关系由一个四阶弹性张量来决定。
来源: 维基百科
机器之心是国内领先的前沿科技媒体和产业服务平台,关注人工智能、机器人和神经认知科学,坚持为从业者提供高质量内容和多项产业服务。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:- DAC 2019低功耗目标检测系统设计挑战赛:GPU、FPGA组双冠军方案解读
- 如何使用机器学习创建恶意软件检测系统
- 论文分享 | 经典图模型欺诈检测系统BotGraph
- 基于机器学习的分布式webshell检测系统
- SAQL:基于流查询的实时异常行为检测系统
- 基于形变分析模型的异常检测系统建设与实践
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。