AI端的未来在云端？不，是边缘端

选自：Silicon ANGLE 

原作者：Robert Hof 

编译：网易智能 

参与：毅立

一直以来，人工智能的应用存在着一个巨大的障碍：运行人工智能应用程序的算法十分冗杂，且过于依赖云计算和数据中心的高算力计算机，这使得它在智能手机和其他的“边缘”设备上的应用并不实用。

然而现在，归功于近几个月来在软件、硬件和能源技术上的一系列突破，这种担忧正在迅速消散，新的技术正在快速地进入市场。

这些新的技术可能会帮助人工智能驱动的产品和服务进一步摆脱对强大云计算服务的依赖，使它们能够进入我们生活的方方面面，乃至成为我们的身体的一小部分。反过来说，随着人工智能服务变得无处不在，德勤(Deloitte)咨询公司去年底所说的“普适智能”可能将很快实现，它会在未来几年内撼动整个行业。

市场研究机构Gartner Inc.的数据显示，截至到2022年，80%的新发货智能手机将具备独立的人工智能运算功能，这一比例高于2017年的10%。ABI Research的数据显示，预计到2023年，将有约12亿部具有人工智能运算功能的智能手机发货，这一数字远高于2017年的7900万部。

对此，众多初创企业及其支持者都嗅到了巨大的商机。上周，嵌入式视觉联盟（Embedded Vision Alliance）在硅谷召开了一次会议。据该联盟创始人Jeff Bier称，过去三年里，投资者们向新成立的人工智能芯片初创企业一共投入了约15亿美元，规模空前。市场研究机构Yole Developpment预测，到2023年，人工智能应用处理器的复合年增长率将从目前的不足20%升至46%，届时几乎所有智能手机都将配备人工智能处理器。

不仅初创企业，老牌巨头们也在加入竞赛的队伍。

就在今天，英特尔展示了它即将推出的冰湖（Ice Lake）芯片，其中囊括了“深度学习支持”(Deep Learning Boost)软件和图形处理单元上的其他新人工智能指令。周一早间，Arm也推出了一系列针对人工智能应用的处理器，其中包括智能手机和其他高端设备的处理器。在那几个小时后，英伟达公司公布了其首个用于人工智能设备的平台。

IHS Markit首席分析师Tom Hackett表示:“在未来两年内，几乎每家处理器厂商都将为人工智能提供某种具备竞争力的平台。我们现在看到的是全新的机遇。”

这些芯片正在向智能手机以外的更多领域进军。它们还被用于数以百万计的“物联网”设备，如机器人、无人机、汽车、相机和可穿戴设备。约75家开发机器学习芯片的公司中，以以色列的Hailo公司为例，该公司在今年1月进行了一轮2100万美元的融资。5月中旬，该公司发布了一款专为深度学习设计的处理器。深度学习是机器学习的一个分支，最近在语音和图像识别方面取得了突破。

新的研究表明，神经网络的规模可以被缩小10倍，同时，它仍能取得类似的结果。由此可见，更为紧凑和强大的软件将会为边缘端的人工智能铺平道路。现在，一些公司已经在设法压缩人工智能所需的软件规模。

例如，谷歌于2017年底推出了面向移动设备的TensorFlow Lite机器学习库，这使得智能相机能够在没有互联网连接的情况下识别野生动物，或是帮助离线成像设备进行医学诊断。谷歌员工研究工程师Pete Warden在嵌入式视觉峰会上的主题演讲中说，目前大约有20亿部移动设备安装了该机械学习库。

今年3月，谷歌推出了一款语音识别器，来为谷歌虚拟键盘应用程序Gboard的语音输入功能提供支持。这个语音识别转录算法只有不到80兆字节，因此它完全可以在Arm 的A系列芯片上离线运行，且不会有网络延迟。

与此同时，对云端的隐私的担忧在迅速上升，这意味着监管部门有理由避免敏感设备间的数据交流过于频繁。

“几乎所有的机器学习运算都将在设备端完成，”Bier介绍道。Bier也是伯克利设计技术公司的联合创始人和总裁，该公司为嵌入式数字信号处理技术提供分析服务。这些设备的数目是巨大的。Warden指出，当今世界上约有2500亿个活跃的嵌入式设备，并且这个数字还在以每年20%的速度增长。

但在这样的设备上进行人工智能运算并非易事，这不仅取决于机器学习算法的大小，算法所需要的电量也格外重要。尤其是对于像智能手机、摄像头和传感器等物联网设备来说。它们不能过于依赖插座甚至电池供电。

云端收发数据的通讯过程能耗巨大，因此通过蜂窝网络或其他连接进行通信对许多小型廉价设备来说都是一个致命的障碍。Yole development的技术和市场分析师Yohann Tschudi表示:“我们需要一个专门的架构来完成低能耗的通讯。”

为此，还需要开发出一种实际能耗小于1毫瓦的设备，而这大约是智能手机用电量的千分之一。好消息是，越来越多的传感器甚至微处理器有望做到这一点。

例如，美国能源部与Molex 公司、SkyCentrics建筑公司合作，开发了用于建筑能源管理的低成本无线传感器。这个还在实验中的新型图像传感器可以利用环境光为自身供电。

而且，即使是计算的主力军——微处理器，也可以是非常低功耗的。 Warden说:“理论上讲，我们没有理由不能在微瓦或比毫瓦小一千倍的能耗下进行计算。”这在一定程度上是因为，它们可以被编程，例如，只有当一些特定的事情发生时，比如液体溅到地板上，它们才会唤醒与云端的数据交流。

所有这些都表明，机器学习在智能手机、智能相机和工厂监控传感器等领域有着广泛的新应用。Warden说道:“确实，我们收到了很多在嵌入式设备上运行机器学习的产品请求。”

这些应用包括:

使用加速度计预测维修，以确定机器是否震动太多或发出噪音。

街灯对行人的自动检测，只有当有人在附近时，街灯才会打开。

利用分散在农田中的视觉传感器或微型摄像机进行农业害虫识别。

使用安装在树上的老式太阳能安卓手机检测链锯的声音，以防治非法伐木。

Warden甚至预言传感器可以相互通信，比如在智能家居中，烟雾报警器探测到潜在的火灾时，烤面包机回答说：不，那只是烧焦的烤面包。这些只是暂时的猜测，但是谷歌已经在不使用集中训练数据前提下，研究“联合学习（federated learning）”来训练机器学习模型（如下）。

云端将会在机器学习中继续扮演重要角色。但目前很明显的是，人工智能的未来与其说是在云端，不如说是在边缘。

往期精选