趋势分析之神经网络

AMiner全新功能技术趋势分析Trend analysis（http://trend.aminer.cn）基于AMiner 2亿篇论文数据进行深入挖掘，包括对技术来源、热度、发展趋势进行研究，进而预测未来的技术前景。技术趋势分析描述了技术的出现、变迁和消亡的全过程，可以帮助研究人员理解领域的研究历史和现状，快速识别研究的前沿热点问题。

我们目前已发布了10期分析内容，具体如下：

• 趋势分析之人工智能

• 趋势分析之自动驾驶技术

• 趋势分析之大数据

• 趋势分析系列之区块链

• 趋势分析之计算机视觉

• 趋势分析之数据挖掘

• 趋势分析之深度学习

• 趋势分析之数据建模

• 趋势分析之图数据库

• 趋势分析之网络

神经网络（Neural Network）起源于 WarrenMcCulloch 和 Walter Pitts 于 1943 年首次建立的神经网络模型，他们在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。神经网络可以指向两种，一种是生物神经网络，一种是人工神经网络。

下面我们将用Trend analysis分析神经网络领域内的研究热点。

下图是当前该领域的热点技术趋势分析，通过Trend analysis分析挖掘可以发现当前该领域的热点研究话题Top10有：

• neural network

• recurrent neural network

• control systems

• lyapunov function

• quadratic programming

• neural nets

• artificial neural networks

• linear matrix inequality

• mathematical model

• adaptive control

根据Trend analysis的分析我们可以发现，recurrent neural network是该领域内的热门话题之一。循环神经网络是一类以序列数据为输入，在序列的演进方向进行递归且所有节点（循环单元）按链式连接形成闭合回路的递归神经网络。对循环神经网络的研究始于二十世纪80-90年代，并在二十一世纪初发展为重要的深度学习算法。

Geoffrey Hinton是神经网络领域的代表学者。Geoffrey Hinton，被称为“神经网络之父”、“深度学习鼻祖”，他曾获得爱丁堡大学人工智能的博士学位，并且为多伦多大学的特聘教授。

在2012年，Hinton还获得了加拿大基廉奖(Killam Prizes，有“加拿大诺贝尔奖”之称的国家最高科学奖)。

2013年，Hinton 加入谷歌并带领一个AI团队，他将神经网络带入到研究与应用的热潮，将“深度学习”从边缘课题变成了谷歌等互联网巨头仰赖的核心技术，并将HintonBack Propagation(反向传播)算法应用到神经网络与深度学习。

在Hinton高中时，就有一个朋友告诉他，人脑的工作原理就像全息图一样。创建一个3D全息图，需要大量的记录入射光被物体多次反射的结果，然后将这些信息存储进一个庞大的数据库中。大脑储存信息的方式居然与全息图如此类似，大脑并非将记忆储存在一个特定的地方，而是在整个神经网络里传播。

Hinton为此深深的着迷。对Hinton来说，这是他人生的关键，也是他成功的起点。

目前神经网络已经被广泛应用到医疗、金融等领域，具体包括：疾病识别、人脸识别、股票和有价证券的预测分析、风险管理、信用评估等。