内容简介:Time-aware Large Kernel ConvolutionsVasileios Lioutas, Yuhong Guo
论文标题:
Time-aware Large Kernel Convolutions
论文作者:
Vasileios Lioutas, Yuhong Guo
论文链接:
https://arxiv.org/pdf/2002.03184v1.pdf
在本文,我们介绍一篇非常有趣的工作: 使用“时间自适应”的卷积去替换Transformer中的自注意力 , 从而将时间复杂度从 降低到O(n) , 极大加快了文本生成的速度,同时还得到了非常好的效果。
在数据集WMT En-De, En-Fr和IWSLT De-En上取得了和当前最优相同的结果。
Transformer的时间复杂度
作为大家熟悉的老朋友,Transformer在各种NLP模型、任务上已经被反复提及了。
Transformer使用了自注意力(Self-attention)去建模每个字符和所有字符的关系,从而,它的时间复杂度是 的。
显然,这在模型运行的过程中是一笔不可忽略的开销,尤其当句子长度 很大的时候,运行Transformer的时间开销是非常大的。
那么,有没有什么方法既能实现Transformer的效果,又能加快速度吗?
动态卷积给出了一个比较好的答案:使用卷积网络建模语义关系,从而将复杂度降低到 O(kn) ,这里k 是卷积核大小。
那么,有没有进一步减小时间开销呢?为此,本文继续从卷积网络出发,提出一种时间自适应的卷积:对每个时间步(即每个位置的字符),动态地预测得到它的卷积核大小,进而利用现有的“并行点缀和”技术降低时间复杂度,使其达到最理想的 O(n) 。
在降低时间开销的同时,本方法还能达到和当前最优相同的结果,既高效又强大。
总的来说,本文贡献如下:
-
提出时间自适应卷积,对每个字符得到其不同的卷积核大小;
-
极大降低自注意力的时间开销,将复杂度降低到了 O(n) ,同时还有更少的内存开销;
-
在WMT En-De, En-Fr和IWSLT De-En和WikiText-103上实现了和当前最优十分相近的结果。
在阅读完本文后,读者可以思考一个简单的问题: 为什么说这种方法可以实现线性复杂度 O(n) ?
时间自适应卷积
设输入是长度为 n 的文本 ,每个 都是 d 维向量, 就是所谓的时间步。
为此降低编码时间开销,我们首先直接考虑把第 i 个时间步周围的向量相加(相当于一个窗口):
其中 是窗口的两端。
当然,如果对每个时间步 i 都单独相加,这就非常低效,因为有很多项被重复相加。为此,我们直接考虑 前缀和 :
那么,现在 就可以写成:
我们现在想要对每个时间步 i ,它的窗口大小是不同的,所以需要为每个 计算它的窗口 。 由于直接计算窗口大小的绝对值不方便,我们转而计算其相对值:
其中, 是相对大小, 是最大允许的窗口大小。
由于计算得到的 实值,我们需要把它转化为整数。 下面,我们就从这实值附近采样整数:
这里 。 上述操作都是可微的。
然而,这种方法的问题是,随着模型层数的增加,向量的和会越来越大,导致模型无法收敛。所以,我们还需要对得到的结果归一化:
此外,对得到的 加以Dropout也有助于过拟合。
类似Transformer,该方法也可以应用到多头机制上。这只需要把原始的输入 分成若干组,然后对所有组并行操作即可,下图是一个示例:
图中有两个头,分别是绿色和蓝色,各自的绝对窗口大小分别在左右。
在解码的时候,只需要令 即可。
实验
本文在机器翻译数据集WMT English to German (En-De), WMT English to French (En-Fr) and IWSLT German to English (De-En)和语言模型数据集WikiText-103上实验。具体实验细节详见论文。
下面是在WMT上的实验结果。可以看到,在参数量几乎相同的情况下,本方法(TaLK)实现了几乎和当前最优结果相同的结果(实际上还要更快)。
而在IWSLT De-En上,本方法达到了35.5的BLEU值,比之前最好的35.2更高。
而在语言模型上,在相同的参数量下,本方法取得了最好的结果,为20.3的PPL,如下表所示:
下面我们重点比较各方法的编码时间和内存上的开销,结果如下表所示。
首先看内存开销,随着句子长度 的增加,本方法相比自注意力就更加有优势,并且比动态卷积还要略好。
再看每秒迭代次数,在 n=10,100 的时候,本方法每秒迭代次数大概是自注意力和动态卷积的两倍。
在 n=1000 的时候,是自注意力的四倍,是动态迭代的两倍;而在 n=10000 时,自注意力直接OUt of Memory,而本方法依旧坚挺。
最后我们来看看本方法各组成的作用,如下表所示。显然,没有归一化,模型原地狗带,无法收敛。增大窗口最终效果所有帮助,其他方面的技巧似乎帮助不太大。
小结及思考题
本文提出一种时间自适应的卷积,在每一个时间步,都动态地得到当前的卷积大小,并使用前缀和实现了 O(n) 的复杂度。在机器翻译和语言模型的实验上表明了该方法又快又好,还能节省内存开销。
至于为什么说这种方法只有线性复杂度:首先,我们需要对每个时间步 操作,而对它而言,我们只需要计算一个前缀和的差即可,而前缀和是预先计算得到的,所以可以看作是一个常量。从而总的来说,编码的复杂度就是 O(n ) 。
:mag:
现在,在 「知乎」 也能找到我们了
进入知乎首页搜索 「PaperWeekly」
点击 「关注」 订阅我们的专栏吧
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击 「交流群」 ,小助手将把你带入 PaperWeekly 的交流群里。
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网
猜你喜欢:- 可视化探索卷积神经网络提取特征
- 卷积有多少种?一文读懂深度学习中的各种卷积
- ChannelNets: 省力又讨好的channel-wise卷积,在channel维度进行卷积滑动 | NIPS 2018
- 卷积神经网络介绍
- 卷积神经网络随记
- 数学小记之卷积
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
Reality Is Broken
Jane McGonigal / Penguin Press HC, The / 2011-1-20 / USD 26.95
Visionary game designer Jane McGonigal reveals how we can harness the power of games to solve real-world problems and boost global happiness. More than 174 million Americans are gamers, and......一起来看看 《Reality Is Broken》 这本书的介绍吧!