内容简介:Time-aware Large Kernel ConvolutionsVasileios Lioutas, Yuhong Guo
论文标题:
Time-aware Large Kernel Convolutions
论文作者:
Vasileios Lioutas, Yuhong Guo
论文链接:
https://arxiv.org/pdf/2002.03184v1.pdf
在本文,我们介绍一篇非常有趣的工作: 使用“时间自适应”的卷积去替换Transformer中的自注意力 , 从而将时间复杂度从 降低到O(n) , 极大加快了文本生成的速度,同时还得到了非常好的效果。
在数据集WMT En-De, En-Fr和IWSLT De-En上取得了和当前最优相同的结果。
Transformer的时间复杂度
作为大家熟悉的老朋友,Transformer在各种NLP模型、任务上已经被反复提及了。
Transformer使用了自注意力(Self-attention)去建模每个字符和所有字符的关系,从而,它的时间复杂度是 的。
显然,这在模型运行的过程中是一笔不可忽略的开销,尤其当句子长度 很大的时候,运行Transformer的时间开销是非常大的。
那么,有没有什么方法既能实现Transformer的效果,又能加快速度吗?
动态卷积给出了一个比较好的答案:使用卷积网络建模语义关系,从而将复杂度降低到 O(kn) ,这里k 是卷积核大小。
那么,有没有进一步减小时间开销呢?为此,本文继续从卷积网络出发,提出一种时间自适应的卷积:对每个时间步(即每个位置的字符),动态地预测得到它的卷积核大小,进而利用现有的“并行点缀和”技术降低时间复杂度,使其达到最理想的 O(n) 。
在降低时间开销的同时,本方法还能达到和当前最优相同的结果,既高效又强大。
总的来说,本文贡献如下:
-
提出时间自适应卷积,对每个字符得到其不同的卷积核大小;
-
极大降低自注意力的时间开销,将复杂度降低到了 O(n) ,同时还有更少的内存开销;
-
在WMT En-De, En-Fr和IWSLT De-En和WikiText-103上实现了和当前最优十分相近的结果。
在阅读完本文后,读者可以思考一个简单的问题: 为什么说这种方法可以实现线性复杂度 O(n) ?
时间自适应卷积
设输入是长度为 n 的文本 ,每个 都是 d 维向量, 就是所谓的时间步。
为此降低编码时间开销,我们首先直接考虑把第 i 个时间步周围的向量相加(相当于一个窗口):
其中 是窗口的两端。
当然,如果对每个时间步 i 都单独相加,这就非常低效,因为有很多项被重复相加。为此,我们直接考虑 前缀和 :
那么,现在 就可以写成:
我们现在想要对每个时间步 i ,它的窗口大小是不同的,所以需要为每个 计算它的窗口 。 由于直接计算窗口大小的绝对值不方便,我们转而计算其相对值:
其中, 是相对大小, 是最大允许的窗口大小。
由于计算得到的 实值,我们需要把它转化为整数。 下面,我们就从这实值附近采样整数:
这里 。 上述操作都是可微的。
然而,这种方法的问题是,随着模型层数的增加,向量的和会越来越大,导致模型无法收敛。所以,我们还需要对得到的结果归一化:
此外,对得到的 加以Dropout也有助于过拟合。
类似Transformer,该方法也可以应用到多头机制上。这只需要把原始的输入 分成若干组,然后对所有组并行操作即可,下图是一个示例:
图中有两个头,分别是绿色和蓝色,各自的绝对窗口大小分别在左右。
在解码的时候,只需要令 即可。
实验
本文在机器翻译数据集WMT English to German (En-De), WMT English to French (En-Fr) and IWSLT German to English (De-En)和语言模型数据集WikiText-103上实验。具体实验细节详见论文。
下面是在WMT上的实验结果。可以看到,在参数量几乎相同的情况下,本方法(TaLK)实现了几乎和当前最优结果相同的结果(实际上还要更快)。
而在IWSLT De-En上,本方法达到了35.5的BLEU值,比之前最好的35.2更高。
而在语言模型上,在相同的参数量下,本方法取得了最好的结果,为20.3的PPL,如下表所示:
下面我们重点比较各方法的编码时间和内存上的开销,结果如下表所示。
首先看内存开销,随着句子长度 的增加,本方法相比自注意力就更加有优势,并且比动态卷积还要略好。
再看每秒迭代次数,在 n=10,100 的时候,本方法每秒迭代次数大概是自注意力和动态卷积的两倍。
在 n=1000 的时候,是自注意力的四倍,是动态迭代的两倍;而在 n=10000 时,自注意力直接OUt of Memory,而本方法依旧坚挺。
最后我们来看看本方法各组成的作用,如下表所示。显然,没有归一化,模型原地狗带,无法收敛。增大窗口最终效果所有帮助,其他方面的技巧似乎帮助不太大。
小结及思考题
本文提出一种时间自适应的卷积,在每一个时间步,都动态地得到当前的卷积大小,并使用前缀和实现了 O(n) 的复杂度。在机器翻译和语言模型的实验上表明了该方法又快又好,还能节省内存开销。
至于为什么说这种方法只有线性复杂度:首先,我们需要对每个时间步 操作,而对它而言,我们只需要计算一个前缀和的差即可,而前缀和是预先计算得到的,所以可以看作是一个常量。从而总的来说,编码的复杂度就是 O(n ) 。
:mag:
现在,在 「知乎」 也能找到我们了
进入知乎首页搜索 「PaperWeekly」
点击 「关注」 订阅我们的专栏吧
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击 「交流群」 ,小助手将把你带入 PaperWeekly 的交流群里。
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网
猜你喜欢:- 可视化探索卷积神经网络提取特征
- 卷积有多少种?一文读懂深度学习中的各种卷积
- ChannelNets: 省力又讨好的channel-wise卷积,在channel维度进行卷积滑动 | NIPS 2018
- 卷积神经网络介绍
- 卷积神经网络随记
- 数学小记之卷积
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
CSS权威指南(第三版)
[美] Eric A.Meyer / 侯妍、尹志忠 / 中国电力出版社 / 2007-10 / 58.00
你是否既想获得丰富复杂的网页样式,同时又想节省时间和精力?本书为你展示了如何遵循CSS最新规范(CSS2和CSS2.1)将层叠样式表的方方面面应用于实践。 通过本书提供的诸多示例,你将了解如何做到仅在一处建立样式表就能创建或修改整个网站的外观,以及如何得到HTML力不能及的更丰富的表现效果。 资深CSS专家Eric A.Meyer。利用他独有的睿智和丰富的经验对属性、标记、标记属性和实......一起来看看 《CSS权威指南(第三版)》 这本书的介绍吧!