GTI首席科学家杨林：AI产业化需要标准

Alex: 大家好，我是Alex Ren，是BoomingStar Ventures的管理合伙人，也是Robin.ly的创始人。今天是我们的Robin.ly第四讲，主题是关于AI芯片的创业和技术发展。今天我们的嘉宾是GTI的联合创始人杨林教授。杨教授有丰富的业内经历，他曾经就读于复旦，清华和UC Berkeley，获得了UC Berkeley的博士学位。同时也是北邮，清华和复旦的教授。他曾经在VLSI (Technology, Inc.)，Redwood Design，Cadence 做高级设计经理。1999年创立了一家半导体公司，Legend Silicon（凌讯科技），专注数字电视方面的芯片。 2017年，杨教授和OmniVision 的founding member董琪一起创立了一家公司GTI，Gyrfalcon Technology，专门从事AI芯片这方面的工作。杨教授在学术上成果斐然，1988年就已经发表了一篇名为CellularNeural Networks Theory and Application的文章，获得了IEEE的电路与系统最佳论文奖。自此之后，CNN，也就是CellularNeural Networks就成为了一个热点的研究领域。感觉GTI创业以来发展得很快，想问问当初创业的初衷是什么？

杨林：创立这个公司的初衷，就是感觉到现在，PC，电脑都已经放到手机上了，通讯都已经做到第五代通讯了，而且目标就是IoT，Internet of Things，物联网。那么下一步的发展方向必然是人工智能。为什么叫Internet of Things呢？原来就叫internet，相对来讲就应该叫Internet of People，对不对？那people只要连起来，大家就可以交流。因为有这个语言文化，互相都懂。那你说，thing，这个东西连在一起，那很难交流。所以这个时候就需要赋予物体一定的感觉的能力，和判断的能力。这也就是所谓的人工智能要解决的问题。

Alex: 所以您实际上是为了解决IoT的deployment问题？

杨林：对。主要是为了解决IoT下面的连接问题。IoT已经发展了很多年，但主要就是为了连接。连接由于5G开发了以后，现在正在实施。现在急需产业化，这就不再是科研项目了。那么在这个时候，人工智能就起到了非常关键的作用。这是第一。第二，人工智能，或者叫神经网络，前一段时间，虽然产业化没有发展，但是在研发方面还是有人持续在做。研发方面在做也是受益于现在的计算机能力，那么就开发了这种深度学习的概念。深度学习，它的技术方面的定义是叫多层卷积神经网络的机器学习，所以大概有这么三个意思。第一是卷积神经网络，第二是多层，第三个是用机器学习，不用人，不用编程。那么实际它本身的电路结构和算法很早以前就有了，至于为什么能够现在流行起来，一是现在有这个需求，其次就是现在的算力，就是计算机仿真的能力很强。这个我下面可能在谈到其他问题的时候会再展开讲。

Alex: 您的公司创立一年，出片的芯片现在做到了什么样的性能？

GTI 第一款AISC芯片 ‘The LightSpur 2801S’

杨林：我们这个芯片当时瞄准的是低成本，低功耗，高性能。首先高性能是必须的。因为要赋予智能，让它能够自己去学习的话，就需要算力，所以必须得是高性能才能保障算力。那么在高性能的情况下，怎么能够降低成本，降低功耗，这个是我们主要的一个工作。那么得益于原来我做的这个analog电路，它就是个device。它从架构来讲，和计算机是不一样的。所以从这里边进行借鉴，我们就达到了预期的目标。

Alex:这是个ASIC是吧？

杨林：只要是application  specific就叫ASIC，我们也是其中一个。我会叫它卷积神经网络加速器，它不是一个SoC (System on a Chip)，我们也觉得这个是当前急需的。因为现在市场还没有起来，如果将来市场起来了，根据真正的应用，我们会做不同的电路。但是现在呢，还是属于一个平台，就是我们叫做卷积神经网络加速器。 

Alex: 那主要性能是手机上吗，在什么终端上面？

杨林教授介绍GTI产品

杨林：手机只是一个应用。提到手机，我就顺便把我们最近做的这个东西拿出来看看。这是我们给电脑，laptop做的。它是个USB dango，我们这个芯片就在这里，它就是个加速器。现在的PC里边基本什么都有了，即使你没有GPU，反正只要有CPU，做训练都没问题，但是它速度慢。所以加了这个以后你就加速了。另外一个，就是用我们的芯片做的一个WiFi的小盒子。这个就跟手机一样，跟手机配合。像现在华为和苹果都做了SoC，就是single chip solution。但由于卷积神经网络的运算量是需要很大的，那么我们的就是专门做了这么一个，配合现有的手机，就直接把这个手机升级为AI手机了。 

展开一下就是，为什么我们做这件事，因为我看到了这个机遇。我就是做电路的，这是个device。现在 叫CNN，ConvolutionalNeural Network，我们原来叫CellularNeural Network。CellularNeural Network是一个电路。它其中有convolution作为一个算子，就像里边有乘法。但是它那里边就是convolution，所以我们在那个里边就有这个convolution，不光有convolution，我们还有feedback，就所谓现在的RNN。我们现在的重点主要是做CNN，因为这个feedback还有一些其他的问题。所以现在RNN只用在一维的信号处理方面，还没有真正用到图像。但是将来我认为是会把应用放到图像层面。

人工智能本身，现在每个人都有自己的定义。有的人觉得这个东西很可怕，将来就是超人。这个和我30年前描述计算机时候一样，那时候普遍认为计算机要毁灭人类。但实际上，经过这么多年的发展，我们觉得计算机让人类社会受益良多。30年前在我上学的时候，那真就是做计算机的人用计算机，用计算机的人做计算机，其他人对计算机没什么接触，就像现在人工智能高发展的时期一样。但是现在不都是人手一份手机，人工智能的普及速度应该会更快。

Alex: 我们现在讲民主化。人工智能民主化。就是您说的，普及化实际上最终是ASIC。ASIC本身需要考虑经济效益，考虑成本。那现在您现在在GTI做的工作和您以前发明的CNN有什么关系吗？

杨林：这个就牵扯到刚才我说的，电路，神经网络和计算机的区分是什么。大家现在有个常用词叫异构。异构的意思就是我和计算机不一样，但是怎么个不一样法，第一，神经网络因为是一个电路，尤其是当时我们做的，它是记忆元器件。记忆的和运算的是一体的。那么现在标准的计算机的架构，就是处理器，存储器，中间还有个I/O，叫接口，有这三个；我们现在做的这个东西是都放在一起的。正是因为这样，我们才降低了功耗。这样就可以把里边的处理器，包括你的存储器，都用最新的，比如说是，7纳米，10纳米的来实现。但是你中间连接接口的那个pad，就是我们叫芯片的管脚，不变，而那个东西就是大量的传输高速，功耗都在那儿。所以这是一个。

另外就是人也是因素之一，人的智能实际上是记忆和处理在一起的。不是说你想干什么，到哪儿去，充一下电，然后再去存取——它是一体的，这个也是不同。但是作为computer simulation来讲，原来架构就是这样，你何苦去改呢。所以我们认为将来的发展，实际上就是这种专用的结构。另外一个，因为计算机对芯片也有要求，大家现在也在比，说是看谁做得最好。我看现在好多startup在做的芯片都在比。那么还是计算机的概念。计算机有几个特点，第一，一定要有指令集，就是说我这个东西是专用指令集，指令集简化，没必要，因为这个东西不需要指令。因为顾名思义，深度学习，机器学习嘛，机器学习就是不用人来编程序，不用人来编程序，还要什么指令集呀，对不对？实际上我们真正用数据来训练里边的参数，训练完了以后，人工智能和人类智能相比的好处就是它可以copy，训练完了可以移植；不像人，我们学完了以后，我们的下一辈还得重学。

Alex: 您讲的这个指令集的变化，非常好。作为一位非常有经验的半导体行业专家，在AI时代到来之后，您觉得对整个半导体产业带来些什么样的变革。我们能不能说芯片行业迎来了第二春？

杨林：这是很大的一个变化，但是我认为这个是时代的发展造成的。刚才你提到这个第二春，对我来讲，这就是三十年河东，三十年河西。我当年在Berkeley读书的时候，Berkeley EE和Computer Science在一起的叫EECS，对不对？当时CS的人都是hardware的。我去年回去，结果发现EE根本没有人学了。你只要做出个AtoD (Analog to Digital)，剩下的就是digital的事儿了。所以说hardward design的人一点都没有了，基本连学校都不train了，都没有人去学。所以针对刚才你说的，这就是为什么我说是三十年河东，三十年河西。下面三十年呢，实际上又给hardware的人新的机会，就是我们还要着重去做hardware。原因我刚才也提到了，它不是一个计算机，它是一个device。它不一定去竞争，就像苹果手机似的。苹果今年出了手机，我就换个新的，去年的虽然打电话还可以用，但是大家就都换，为什么呢？因为它是通用的东西，通用的东西大家都去比较，谁的最好，因为可比。那以后的人工智能的应用很广泛，有的东西不需要一年一换。比如说你们家的garage door opener，那个东西你老换它干什么呢，没必要换。包括智能锁等等。

Alex: 您也是长期在中国和美国的半导体行业工作，中国的半导体行业最近也是个热点话题。我们应该怎么做，去把两国的行业差距缩小？

杨林：大的方面刚才我已经说了，本身硬件由于EDA这个tool，由于每个applicaiton是有一定限度的，后来都被general processor给替代，所以这个需求就很少，这是第一。第二呢，我感觉过去的这30年，实际上中国还是处于一个学习和跟踪阶段。尤其做企业的人，我听了好几个比较有名的老板说不要吃第一个螃蟹。那不要吃第一个螃蟹, 你怎么创新呢？但这是适合当时中国国情的，因为你没有那个财力，也没有那个需求，你犯不上去做这些事儿。那么比较稳的就是先把现在这个基本的事情做好。但是现在不一样了，现在中国能做的也都做了，跟别人都已经差不多一样，你要想抄别人的，或者说学习别人的，还没出来呢，那就干脆自己去做这个事儿。 

Alex: 您之前创立了Legend Silicon，现在又创立了GTI，结合您以前的经验，可以怎么把GTI做得更好呢？

杨林：上次创业有几点。第一，就是数字电视进入了产业化阶段，因为数字电视一开始也是科研项目，最早是在日本。那么没有标准化是不可能产业化的。现在AI也就是这个问题——没有标准化，大家都想标新立异，每个人想说我明天能不能再研究出来一个不同的，就是为了不同而去做事儿。那这个就不是产业化了，产业化是说尽量相同。而且也不一定说我做完这个事儿，就永远不再做了，已经全解决完了。通讯行业就告诉你了这个标准——第一代通讯，就是模拟电话；然后有2G，第二代，就是GSM（Global System for Mobile communications），CDMA（Code-Division Multiple Access）；3G，然后4G，5G。实际上在做第二代第三代的时候，5G的技术也存在了，研发上也有人讨论。但是大家说没必要了。标准化，它可以给你定义一个，大家都follow同样的东西，而且做现在最急需的东西。现在我认为大家还是在科研的这种状态。

Alex: GTI作为一家初创公司，现在还算是处于一个早期阶段。您认为如何和 Intel，Nvidia, Qualcomm这些芯片行业的大公司竞争呢？

杨林：我们为什么有这个信心呢？因为首先我没有抄别人的，这就是我30年前自己搞的。但是因为30年前在Berkeley申请了CNN细胞神经网络专利，而且我们在2012年专利过期以后又继续申请了专利，第一，你首先要说你不是抄别人的，因为有人跟你打官司啊，你得能证明这是我的。第二呢，你还得有一定的特点，才能保护住。所以在GTI，我们现在已经有5个核心基本专利，很快的。申请专利的时候击败了Intel的团队，获得了专利。所以呢，做芯片必须得有专利。没有专利趁早别做。

Alex: 作为一个初创公司，做芯片本身就不容易。面临这么多竞争，即使我们有基础，接下来我们在商业发展上会采取什么样的路径？

杨林：所以我们第一件事就是做一个平台，做一个非常低成本，低功耗，但是还有AI性能的平台。让每一个人都先能玩起来。大家都能玩，人才的问题就解决了。就像现在大家都玩计算机，那你不愁找懂计算机编程的。都玩手机，你不愁找手机app的developer。我们的做法就是这个，产业化。现在的计算机和30年前的计算机完全不一样，现在的手机和以前的大哥大也完全不一样。它不是一个办公用品，它也不是一个business的用品，它就是一个家用（电子设备）。所以我们现在——你看这个东西做的就像让大家玩一样。我也不想拿你去开发什么自动驾驶，智能医疗，不用。你就能用这个识别出来一些很简单的东西，猫，狗等等。

Alex: 所以GTI策略是说，我们做一个普及化的平台，让开发人员更容易掌握这些工具，针对他所关心的一些问题做出些解决方案？

杨林：就是这个意思。我今年四月说过，要把AI玩起来。我们这个东西上面写的叫“plai”，音译好像就是玩嘛（play）。但是它的直接意思就是People Learn AI，就是玩的意思。一旦大家都了解了，都玩起来了，你人才也不会缺了，行行业业都是专家。因为AI并不是要解决一个高大上的事儿，AI是要方方面面的解决很简单的事儿。我们最近也在跟一家做baby monitor的公司合作。小孩儿一哭或者他刚要哭的时候，你马上把当妈的这个声音录在那儿了，起码给他distract一下，就不哭了。这就是很简单的一个事儿，也不需要什么云，可以你自己训练。

杨林老师接受Robin.ly采访 Alex为左 杨教授为右

Alex: 您看到这里有两个以前可能相对来讲隔离比较深的领域，一个是AI领域，一个是芯片领域。现在有很多AI工程师，也有很多芯片工程师。这两个领域随着商业化会越来越merge，您对这两个领域的工程师，对他们的职业发展有什么建议？

杨林：现在是个拐点，拐点变化很快，当前的需要就是产业化的问题。刚才我说了产业化，标准化，让大家都能够用起来。等AI基本上普及以后——就像手机这种，我觉得搞软件的人已经没用了。你要让一个农民说哪个苹果长虫子了，哪个没长虫子。那他只能告诉你，你拿这个东西照个相，然后告诉我，什么是有虫子的，什么是没虫子的。比如说你们家扫地机，现在都是瞎眼的。只是它很尽力去天天给你扫，现在所谓的智能就是没电了知道走回去充个电。但是真正的人工智能扫地机呢，是干净的地方就不扫了，就不擦，脏了再擦。有根头发捡起来，有了可乐渍喷点东西，这才是智能。基本上将来大家训练AI，就需要各种级别的导师，而且越低级别的老师需求越多。就像人的学习需要时间，所以才有一个小学毕业到教授，越学历高的人学的时间越长。学的时间越长，就是成本越高，但是大部分的人，对我们真正需要的来说并不需要那么高级别。

Alex: 就好像我们以前教计算机去做事儿，现在转变成去教AI去做事儿。

杨林：对。教计算机做事儿呢，你得自己学本领。

Alex: 你要会它的语言，对吧？

杨林：对。机器学习是你只要整理数据就行。中国，美国，欧洲的大学都是100-400年的历史，是由于工业革命才诞生。实际上大学就是为了让人去操纵机器，需要一些专业知识，以后不是，以后学校就是培养老师，把机器变成机器人，不是把人变成机器了。教育是要很大的改变的，教育一改变了，人就可以学别的。

Alex: 这个非常有道理啊！那您说现在做硬件的工程师，他们应该做什么呢？

杨林：最近这几年——将来我说的那个时候就没有软件硬件这个概念了，我觉得硬件工程师做这个系统，不是做一样的，不只是CPU，GPU，应该会有很多startup。这些startup不是在竞争。就像开饭馆似的，每个人有自己的风味，每个人都有自己的特点，只要你自己能够想一个你做的东西有需求，就有business。这是做硬件的。那做软件的人呢，因为有硬件配套么，那就是生态系统，可能是要做这个。

Alex: 您觉得未来几年比如3到5年，您自己的目标是什么。还有就是您觉得GTI未来3到5年的发展会是什么样子？

杨林：我们最近的这两三年，就是要做一个普及的平台。我们认为是个平台效应，是horizontal的，你放在PC上可以自己去开发自己的应用。可能三五年以后，行业应用的人越来越清楚自己要干什么了，因为他先是拿这个平台。虽然物美价廉，但是不够专用，那进一步优化就是要做ASIC，做专用电路。然后我们再开始做vertical的。针对某一个，比如说安防，那以后安防标准化了，大家都做一样的了。再扩展到，方方面面，包括汽车，包括智能医疗，比如家里边有一个personal doctor，早上起来，看你一照镜子发现今天没睡醒，提醒你一下。如果类似产品有量，我们的hardware engineer，或者是做芯片的，就会根据这个量进行开发。

我的个人目标现在实际上在填补空白。因为现在没有hardware design engineer了，所以我干脆先启动一下。然后在这个时候由于我们的公司增长也很快，以后就要招很多人嘛，培养一些新的人，把这些事儿慢慢做起来以后呢，我也就退休了。

Alex: 所以您是还在提携后辈，提携很多新的工程师。今天真是受益匪浅，杨老师讲了很多他对于整个30年来，包括从上一次的人工智能浪潮开始，通讯，半导体，计算机，以及现在人工智能各个方面的洞见。通过以前计算机通讯方面的发展，看到现在AI普及化所面临的一些机遇和挑战。杨老师创立的GTI也是为了抓住这个基于而来。同时，杨老师也希望利用积累的经验，用新的架构，新的方法去为AI普及化做出努力。再次感谢杨老师的分享，我个人受益良多。今天就是我们Robin.ly的第四期节目，谢谢大家。