TTE:别再用平均池化层了!Meta AI把注意力塞到池化层,性能提升0.3_PAT

编辑:LRS

注意力机制这么好用,怎么不把它塞到卷积网络里?最近MetaAI的研究人员提出了一个基于注意力的池化层,仅仅把平均池化层替换掉,就能获得+0.3%的性能提升!

VisualTransformer作为计算机视觉领域的新兴霸主,已经在各个研究任务中逐渐替换掉了卷积神经网络CNN。

ViT与CNN之间存在着许多不同点,例如ViT的输入是imagepatch,而非像素;分类任务中,ViT是通过对类标记进行决策等等。

classtoken实际上是ViT论文原作者提出,用于整合模型输入信息的token。classtoken与每个patch进行信息交互后,模型就能了解到具体的分类信息。

并且在自注意力机制中,最后一层中的softmax可以作为注意力图,根据classtoken和不同patch之间的交互程度,就能够了解哪些patch对最终分类结果有影响及具体程度,也增加了模型可解释性。

但这种可解释性目前仍然是很弱的,因为patch和最后一层的softmax之间还隔着很多层和很多个header,信息之间的不断融合后,很难搞清楚最后一层softmax是否真的可以解释分类。

X平台(原Twitter)为付费用户推出隐藏他们的点赞功能:金色财经报道,X平台(原Twitter)现在正在为付费用户推出一项功能,让他们隐藏自己的点赞。在此之前,竞争对手社交网络Threads和Bluesky推出了让用户查看自己喜欢内容的功能。[2023/8/31 13:08:56]

所以如果ViT和CNN一样有视觉属性就好了!

最近MetaAI就提出了一个新模型,用attentionmap来增强卷积神经网络,说简单点,其实就是用了一个基于注意力的层来取代常用的平均池化层。

仔细一想,池化层和attention好像确实很配啊,都是对输入信息的加权平均进行整合。加入了注意力机制以后的池化层,可以明确地显示出不同patch所占的权重。

并且与经典ViT相比,每个patch都会获得一个单一的权重,无需考虑多层和多头的影响,这样就可以用一个简单的方法达到对注意力可视化的目的了。

马斯克入主Twitter后 已有500多家广告商逃离Twitter:金色财经报道,据The Information报道,知情人士今日称,Twitter经理西达斯·拉奥(Siddharth Rao)日前在一次内部会议上透露,自特斯拉CEO埃隆·马斯克(Elon Musk)于去年10月接管Twitter以来,已有500多家广告商逃离Twitter。此外,拉奥还表示,Twitter当地时间1月17日的营收(日营收)较去年同期下降了40%,突显出Twitter核心的广告业务所面临的危机。[2023/1/18 11:19:10]

在分类任务中更神奇,如果对每个类别使用不同颜色进行单独标记的话,就会发现分类任务也能识别出图片中的不同物体。

Twitter用户爆料:NFT交易市场Rarible或存在授权合约风险:11月30日消息,据Twitter用户爆料,NFT交易市场Rarible可能存在授权合约风险,在2019年底-2020年授权过Kyber Network 1155 Wrapper合约的用户需尽快解除授权,以免发生风险事件。[2022/11/30 21:12:15]

基于Attention的池化层

文章中新提出的模型叫做PatchConvNet,核心组件就是可学习的、基于attention的池化层。

模型架构的主干是一个卷积网络,相当于是一个轻量级的预处理操作,它的作用就是把图像像素进行分割,并映射为一组向量,和ViT中patchextraction操作对应。

越南风投公司NextTech推出5000万美元区块链基金:11月16日消息,越南风投公司NextTech宣布推出规模为5000万美元的Next100区块链基金,用于投资越南和东南亚早期阶段的区块链技术初创公司,以及直接投资数字资产。除出资购买初创公司的股权和首轮代币以外,Next100还致力于支持NextTech生态系统中的个人和区块链专家社区。(TechInAsia)[2021/11/16 21:55:06]

最近也有研究表明,采用卷积的预处理能让模型的性能更加稳定。

模型的第二部分column,包含了整个模型中的大部分层、参数和计算量,它由N个堆叠的残差卷积块组成。每个块由一个归一化、1*1卷积,3*3卷积用来做空间处理,一个squeeze-and-excitation层用于混合通道特征,最后在残差连接前加入一个1*1的卷积。

研究人员对模型块的选择也提出了一些建议,例如在batchsize够大的情况下,BatchNorm往往效果比LayerNorm更好。但训练大模型或者高分辨率的图像输入时,由于batchsize更小,所以BatchNorm在这种情况下就不太实用了。

MatterLabs将于5月份上线zkSync2.0公开测试网,8月份上线主网:3月27日消息,以太坊扩容团队MatterLabs公布二层扩容方案zkSync2.0路线图,将于5月份上线zkSync2.0公开测试网,8月份上线主网。zkSync1.x很快将支持NFT的原子交换(AtomicSwap)、铸造和转账等,预计将在5月份上线主网。

MatterLabs表示,zkSync2.0具有基于EVM的编程模型和可组合性、现有Solidity源代码的可移植性、所有以太坊钱包的原生支持以及20,000+TPS(超越zkRollup的可扩展性)等功能或特性。从用户和开发人员的角度来看,zkSync2.0的设计实际上与EVM并无区别,比如,用户可以保留其现有的以太坊地址等。另外,zkSync2.0将引入一种新的整体架构,即zkRollup和zkPorter账户可混合使用。zkPorter是一种新提出的Layer2可扩展性方案,可以将ZKRollup和分片结合在一个高度可扩展且原子化可组合(atomicallycomposable)的区块链网络中。[2021/3/27 19:23:04]

下一个模块就是基于注意力的池化层了。

在主干模型的输出端,预处理后的向量通过类似Transformer的交叉注意力层的方式进行融合。

注意力层中的每个权重值取决于预测patch与可训练向量之间的相似度,结果和经典ViT中的classtoken类似。

然后将产生的d维向量添加到CLS向量中,并经过一个前馈网络处理。

与之前提出的class-attentiondecoder不同之处在于,研究人员仅仅只用一个block和一个head,大幅度简化了计算量,也能够避免多个block和head之间互相影响,从而导致注意力权重失真。

因此,classtoken和预处理patch之间的通信只发生在一个softmax中,直接反映了池化操作者如何对每个patch进行加权。

也可以通过将CLS向量替换为k×d矩阵来对每个类别的attentionmap进行归一化处理,这样就可以看出每个块和每个类别之间的关联程度。

但这种设计也会增加内存的峰值使用量,并且会使网络的优化更加复杂。通常只在微调优化的阶段以一个小的学习率和小batchsize来规避这类问题。

实验结果

在图像分类任务上,研究人员首先将模型与ImageNet1k和ImageNet-v2上的其他模型从参数量,FLOPS,峰值内存用量和256张图像batchsize下的模型推理吞吐量上进行对比。

实验结果肯定是好的,可以看到PatchConvNet的简单柱状结构相比其他模型更加简便和易于扩展。对于高分辨率图像来说,不同模型可能会针对FLOPs和准确率进行不同的平衡,更大的模型肯定会取得更高的准确率,相应的吞吐量就会低一些。

在语义分割任务上,研究人员通过ADE20k数据集上的语义分割实验来评估模型,数据集中包括2万张训练图像和5千张验证图像,标签超过150个类别。由于PatchConvNet模型不是金字塔式的,所以模型只是用模型的最后一层输出和UpperNet的多层次网络输出,能够简化模型参数。研究结果显示,虽然PatchConvNet的结构更简单,但与最先进的Swin架构性能仍处于同一水平,并且在FLOPs-MIoU权衡方面优于XCiT。

在检测和实例分割上,研究人员在COCO数据集上对模型进行评估,实验结果显示PatchConvNet相比其他sota架构来说,能够在FLOPs和AP之间进行很好的权衡。

在消融实验中,为了验证架构问题,研究人员使用不同的架构对比了Transformer中的classattention和卷积神经网络的平均池化操作,还对比了卷积主干和线性投影之间的性能差别等等。实验结果可以看到卷积主干是模型取得最佳性能的关键,class-attention几乎没有带来额外的性能提升。

另一个重要的消融实验时attention-basedpooling和ConvNets之间的对比,研究人员惊奇地发现可学习的聚合函数甚至可以提高一个ResNet魔改后模型的性能。

通过把attention添加到ResNet50中,直接在Imagenet1k上获得了80.1%的最高准确率,比使用平均池化层的baseline模型提高了+0.3%的性能,并且attention-based只稍微增加了模型的FLOPs数量,从4.1B提升到4.6B。

参考资料:

https://arxiv.org/abs/2112.13692

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

区块博客

[0:15ms0-2:812ms