时间自适应卷积:比自注意力更快的特征提取器

栏目: IT技术 · 发布时间: 4年前

内容简介:Time-aware Large Kernel ConvolutionsVasileios Lioutas, Yuhong Guo

时间自适应卷积:比自注意力更快的特征提取器

论文标题:

Time-aware Large Kernel Convolutions

论文作者:

Vasileios Lioutas, Yuhong Guo

论文链接:

https://arxiv.org/pdf/2002.03184v1.pdf

在本文,我们介绍一篇非常有趣的工作: 使用“时间自适应”的卷积去替换Transformer中的自注意力 从而将时间复杂度从 降低到O(n) 极大加快了文本生成的速度,同时还得到了非常好的效果。

在数据集WMT En-De, En-Fr和IWSLT De-En上取得了和当前最优相同的结果。

Transformer的时间复杂度

作为大家熟悉的老朋友,Transformer在各种NLP模型、任务上已经被反复提及了。

Transformer使用了自注意力(Self-attention)去建模每个字符和所有字符的关系,从而,它的时间复杂度是 的。

显然,这在模型运行的过程中是一笔不可忽略的开销,尤其当句子长度 很大的时候,运行Transformer的时间开销是非常大的。

那么,有没有什么方法既能实现Transformer的效果,又能加快速度吗?

动态卷积给出了一个比较好的答案:使用卷积网络建模语义关系,从而将复杂度降低到 O(kn) ,这里k 是卷积核大小。

那么,有没有进一步减小时间开销呢?为此,本文继续从卷积网络出发,提出一种时间自适应的卷积:对每个时间步(即每个位置的字符),动态地预测得到它的卷积核大小,进而利用现有的“并行点缀和”技术降低时间复杂度,使其达到最理想的 O(n)

在降低时间开销的同时,本方法还能达到和当前最优相同的结果,既高效又强大。

总的来说,本文贡献如下:

  • 提出时间自适应卷积,对每个字符得到其不同的卷积核大小;

  • 极大降低自注意力的时间开销,将复杂度降低到了 O(n) ,同时还有更少的内存开销;

  • 在WMT En-De, En-Fr和IWSLT De-En和WikiText-103上实现了和当前最优十分相近的结果。

在阅读完本文后,读者可以思考一个简单的问题: 为什么说这种方法可以实现线性复杂度 O(n)

时间自适应卷积

设输入是长度为 n  的文本 时间自适应卷积:比自注意力更快的特征提取器 ,每个 都是 d  维向量, 就是所谓的时间步。

为此降低编码时间开销,我们首先直接考虑把第 i  个时间步周围的向量相加(相当于一个窗口):

时间自适应卷积:比自注意力更快的特征提取器

其中 时间自适应卷积:比自注意力更快的特征提取器 是窗口的两端。

当然,如果对每个时间步 i  都单独相加,这就非常低效,因为有很多项被重复相加。为此,我们直接考虑 前缀和

时间自适应卷积:比自注意力更快的特征提取器

那么,现在 就可以写成:

时间自适应卷积:比自注意力更快的特征提取器

我们现在想要对每个时间步 i ,它的窗口大小是不同的,所以需要为每个 计算它的窗口 由于直接计算窗口大小的绝对值不方便,我们转而计算其相对值:

其中, 时间自适应卷积:比自注意力更快的特征提取器 是相对大小, 时间自适应卷积:比自注意力更快的特征提取器 是最大允许的窗口大小。

由于计算得到的 实值,我们需要把它转化为整数。 下面,我们就从这实值附近采样整数:

时间自适应卷积:比自注意力更快的特征提取器

这里 时间自适应卷积:比自注意力更快的特征提取器 上述操作都是可微的。

然而,这种方法的问题是,随着模型层数的增加,向量的和会越来越大,导致模型无法收敛。所以,我们还需要对得到的结果归一化:

时间自适应卷积:比自注意力更快的特征提取器

此外,对得到的 加以Dropout也有助于过拟合。

类似Transformer,该方法也可以应用到多头机制上。这只需要把原始的输入 分成若干组,然后对所有组并行操作即可,下图是一个示例:

时间自适应卷积:比自注意力更快的特征提取器

图中有两个头,分别是绿色和蓝色,各自的绝对窗口大小分别在左右。

在解码的时候,只需要令 时间自适应卷积:比自注意力更快的特征提取器 即可。

实验

本文在机器翻译数据集WMT English to German (En-De), WMT English to French (En-Fr) and IWSLT German to English (De-En)和语言模型数据集WikiText-103上实验。具体实验细节详见论文。

下面是在WMT上的实验结果。可以看到,在参数量几乎相同的情况下,本方法(TaLK)实现了几乎和当前最优结果相同的结果(实际上还要更快)。

时间自适应卷积:比自注意力更快的特征提取器

而在IWSLT De-En上,本方法达到了35.5的BLEU值,比之前最好的35.2更高。

而在语言模型上,在相同的参数量下,本方法取得了最好的结果,为20.3的PPL,如下表所示:

时间自适应卷积:比自注意力更快的特征提取器

下面我们重点比较各方法的编码时间和内存上的开销,结果如下表所示。

首先看内存开销,随着句子长度 的增加,本方法相比自注意力就更加有优势,并且比动态卷积还要略好。

再看每秒迭代次数,在 n=10,100 的时候,本方法每秒迭代次数大概是自注意力和动态卷积的两倍。

n=1000  的时候,是自注意力的四倍,是动态迭代的两倍;而在 n=10000  时,自注意力直接OUt of Memory,而本方法依旧坚挺。

时间自适应卷积:比自注意力更快的特征提取器

最后我们来看看本方法各组成的作用,如下表所示。显然,没有归一化,模型原地狗带,无法收敛。增大窗口最终效果所有帮助,其他方面的技巧似乎帮助不太大。

时间自适应卷积:比自注意力更快的特征提取器

小结及思考题

本文提出一种时间自适应的卷积,在每一个时间步,都动态地得到当前的卷积大小,并使用前缀和实现了 O(n)  的复杂度。在机器翻译和语言模型的实验上表明了该方法又快又好,还能节省内存开销。

至于为什么说这种方法只有线性复杂度:首先,我们需要对每个时间步 操作,而对它而言,我们只需要计算一个前缀和的差即可,而前缀和是预先计算得到的,所以可以看作是一个常量。从而总的来说,编码的复杂度就是  O(n )

:mag:

现在,在 「知乎」 也能找到我们了

进入知乎首页搜索 「PaperWeekly」

点击 「关注」 订阅我们的专栏吧

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击 「交流群」 ,小助手将把你带入 PaperWeekly 的交流群里。

时间自适应卷积:比自注意力更快的特征提取器

时间自适应卷积:比自注意力更快的特征提取器


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Reality Is Broken

Reality Is Broken

Jane McGonigal / Penguin Press HC, The / 2011-1-20 / USD 26.95

Visionary game designer Jane McGonigal reveals how we can harness the power of games to solve real-world problems and boost global happiness. More than 174 million Americans are gamers, and......一起来看看 《Reality Is Broken》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

在线进制转换器
在线进制转换器

各进制数互转换器

URL 编码/解码
URL 编码/解码

URL 编码/解码