SENet论文解读及代码实例

最新推荐文章于 2024-12-03 21:36:51 发布
最新推荐文章于 2024-12-03 21:36:51 发布
阅读量6.2k 收藏 19
点赞数 6
CC 4.0 BY-SA版权
分类专栏： 目标检测之特征提取网络 文章标签： 深度学习 神经网络 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44840741/article/details/121333037
SENet是一种引入通道注意力机制的卷积神经网络，通过全局信息聚合和通道权重学习，提升特征图中有效信息的比例，从而提高模型识别精度。SEBlock模块包含Squeeze和Excitation两部分，分别用于获取全局信息和计算通道权重。尽管参数量和计算量有所增加，但在Resnet50基础上实现的SE-Resnet50能显著提升准确率，但可能对计算资源有限的设备不友好。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

SENet论文解读及代码实例

在SENet前的网络是针对卷积空间来做处理的，而SENet考虑了卷积通道上的的权重（明确地建模网络卷积特征通道之间的相互依赖关系），通过训练每个通道权重来抑制无用特征，提高有用特征在分类网络的占比，从而实现识别精度的提升。SENet引入权重计算网络，识别精度提升的代价为参数量提高10%左右，计算量提高1%左右。
1）SE block模块原理
下图为SE模块的建立过程 ，在SE模块中，生成的特征图经聚合层（Squeeze）生成每一个通道的全局信息，公式如下：
在这里插入图片描述

全局信息通过激励层生成每个通道的权值大小，每个通道再与权值相乘便可得到带权值的特征图。
在这里插入图片描述

在SE模块实际使用中，Squeeze层通过全局平均池化将全局空间信息压缩压缩到全局信息中， 可由下式表示：
在这里插入图片描述

为了利用全局信息来学习通道之间的权重，我们必须通过激励（Excitatio
-n）来获取权重，其中激励必须满足两个条件：必须能够学习通道之间的非线性相互作用；必须学习一种非互斥的关系，因为我们想要确保多个通道被允许被强调。 可用以下公式表示：
在这里插入图片描述

该结构由两个全连接层构成，这两个全连接层的作用就是融合各通道的feature map信息，第一个全连接层起降维作用，降维比取到16，激活函数采用Relu,第二个全连接将维数增加至原始输入维数，激活函数为sigmoid函数。
最后将 和 相乘得到权重
2）SE block模块使用
SE block可以嵌入各种卷积网络中使用，如Resnet、ResNeXt、Xception等，下图为SE block嵌入Resnet50的模块图：
在这里插入图片描述

SE-Resnet50在性能的变化：运算量从3.86GFlop增加至3.87GFlop,准确率从Resnet50提升至Resnet101的水平。模型结构如下：
在这里插入图片描述
代码实现SE-Resnet50

import torch.nn as nn
import torch.nn.functional as F
import math
from torchsummary import summary

class SElayer(nn.Module):
    def __init__(self,ratio,input_aisle):
        super(SElayer, self).__init__()
        self.pool=nn.AdaptiveAvgPool2d(1)
        self.fc=nn.Sequential(
            nn.Linear(input_aisle,input_aisle//ratio,bias=False),
            nn.ReLU(inplace=True),
            nn.Linear(input_aisle//ratio,input_aisle,bias=False),
            nn.Sigmoid()
                             )
    def forward(self,x):
        a, b, _, _ = x.size()
        #读取批数据图片数量及通道数
        y = self.pool(x).view(a, b)
        #经池化后输出a*b的矩阵
        y = self.fc(y).view(a, b, 1, 1)
        #经全连接层输出【啊，吧，1，1】矩阵
        return x * y.expand_as(x)
        #输出权重乘以特征图
class SE_block(nn.Module):
    def __init__(self, outchannels, ratio=16, ):
        super(SE_block, self).__init__()
        self.backbone=nn.Sequential(nn.Conv2d(in_channels=outchannels, out_channels=outchannels // 4, kernel_size=1, stride=1),
                                    nn.BatchNorm2d(outchannels // 4),
                                    nn.ReLU(inplace=True),
                                    nn.Conv2d(in_channels=outchannels // 4, out_channels=outchannels // 4, kernel_size=3, stride=1, padding=1),
                                    nn.BatchNorm2d(outchannels // 4),
                                    nn.ReLU(inplace=True),
                                    nn.Conv2d(in_channels=outchannels // 4, out_channels=outchannels, kernel_size=1, stride=1),
                                    nn.BatchNorm2d(outchannels),
                                    nn.ReLU(inplace=True),
                                    )
        self.Selayer=SElayer(ratio, outchannels)
    def forward(self,x):
        residual=x
        x=self.backbone(x)
        x=self.Selayer(x)
        x=x+residual
        return x
class SE_Idenitity(nn.Module):
    def __init__(self, inchannel,outchannels, stride=2,ratio=16,):
        super(SE_Idenitity, self).__init__()
        self.backbone = nn.Sequential(
                                nn.Conv2d(in_channels=inchannel, out_channels=outchannels//4, kernel_size=1, stride=1),
                                nn.BatchNorm2d(outchannels//4),
                                nn.ReLU(inplace=True),
                                nn.Conv2d(in_channels=outchannels//4, out_channels=outchannels//4, kernel_size=3, stride=stride, padding=1),
                                nn.BatchNorm2d(outchannels//4),
                                nn.ReLU(inplace=True),
                                nn.Conv2d(in_channels=outchannels//4, out_channels=outchannels, kernel_size=1, stride=1),
                                nn.BatchNorm2d(outchannels),
                                nn.ReLU(inplace=True),
                                    )
        self.residual=nn.Conv2d(in_channels=inchannel, out_channels=outchannels, kernel_size=1, stride=stride)
        self.selayer = SElayer(ratio, outchannels)
    def forward(self,x):
        residual=self.residual(x)
        x=self.backbone(x)
        x=self.selayer(x)
        x=x+residual
        return x
class SE_Resnet(nn.Module):
    def __init__(self,layer_num,outchannel_num,num_class=10):
        super(SE_Resnet, self).__init__()
        self.initial=nn.Sequential(nn.Conv2d(in_channels=3,out_channels=64,kernel_size=7,padding=3,stride=2),
                                   nn.BatchNorm2d(64),
                                   nn.ReLU(inplace=True),
                                   nn.MaxPool2d(kernel_size=3,padding=1,stride=2))
        self.residual=self.make_layer(layer_num,outchannel_num)
        self.pool=nn.AdaptiveAvgPool2d(1)
        self.fc=nn.Linear(2048,num_class)
    def make_layer(self,number_layer,number_outchannel):
        layer_list=[]

        for i in range(len(number_layer)):
            if i==0:
                stride=1
            else:
                stride=2
            layer_list.append(SE_Idenitity(number_outchannel[i],number_outchannel[i+1],stride))
            for j in range(number_layer[i]-1):
                layer_list.append(SE_block(number_outchannel[i+1]))
        return nn.Sequential(*layer_list)
    def forward(self,x):
        x=self.initial(x)
        x=self.residual(x)
        x=self.pool(x)
        x = x.view(x.size(0), -1)
        x = self.fc(x)
        return F.softmax(x,dim=1)

def SE_Resnet50(num_class):
    model=SE_Resnet([3,4,6,3],[64,256,512,1024,2048],num_class)
    return model
def SE_Resnet101(num_class):
    model=SE_Resnet([3,4,23,3],[64,256,512,1024,2048],num_class)
    return model
def SE_Resnet151(num_class):
    model = SE_Resnet([3, 8, 36, 3], [64,256, 512, 1024, 2048], num_class)
    return model
device=torch.device("cuda:0")
Xception=SE_Resnet50(10).to(device)
summary(Xception,(3,224,224))

Resnet50与SE-Resnet50模型参数及计算量对比如下图：
1)SE-Resnet50参数：
SE-Resnet50
2）Resnet50参数：
在这里插入图片描述
整体大小由328M提高至417M,感觉比论文中说的10%要大上不少，运行时间上跑了一个epoch在我这吃土的MX150上多接近40%的时间。
总结：电脑差的话，SE-Resnet整体性价比不高！！！

UNet 原理与代码实例讲解：UNet在脑肿瘤分割任务中的应用
AI天才研究院
09-26 1190
在本次深入分析中，我们全面探讨了UNet在脑肿瘤分割任务中的应用、优化和未来发展方向。让我们总结关键点并展望未来：UNet的核心优势在于其对称的编码器-解码器结构和跳跃连接。通过引入注意力机制、深度可分离卷积、多尺度特征融合等技术，UNet的性能得到了显著提升。3D UNet的出现使得模型能够更好地利用volumetric数据的空间信息。密集连接、残差学习等深度学习技术的引入提高了特征提取能力和梯度流动。对抗训练和集成学习策略增强了模型的鲁棒性和泛化能力。
UNet++原理与代码实例讲解
AI大模型应用之禅
09-03 525
U-Net++原理与代码实例讲解 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来 深度学习在图像分割领域的应用越来越广泛，其中U-N
SENet 论文
Dream_xd的博客
02-27 717
Squeeze-and-Excitation Networks 之前的研究工作的主要集中在获取空间信息上，这片论文的工作集中在通道之间的信息。作者提出了**Squeeze-andExcitation(SE)**模块，此模块可以附加在已有的网络上比如resnet等，额外计算量比较小，取得了很好的效果，取得了ImageNet2017分类任务的冠军。 SENet 网络结构 SE Block包含两个部分...
Face Paper：SeNet论文详解
BigCowPeking
03-23 3970
github: https://github.com/hujie-frank/SENet我是 Momenta 的高级研发工程师胡杰，很高兴可以和大家分享我们的 SENet。借助我们提出的 SENet，我们团队（WMW）以极大的优势获得了最后一届 ImageNet 2017 竞赛 Image Classification 任务的冠军，并被邀请在 CVPR 2017 的 workshop（Beyond...
SEnet论文学习
qq_35153620的博客
05-12 440
SEnet是Momenta(一家国内专注于自动驾驶的公司)在ImageNet2017分类任务上夺冠的网络。ImageNet2017是最后一届ImageNet竞赛，SEnet有了很大的提高。 论文地址：https://arxiv.org/abs/1709.01507 github代码地址：https://github.com/hujie-frank/SENet 神经网络中的卷积...
SENet论文总结
ysl_ysl123的博客
08-18 508
SENet简介       \space\space\space\space\space\space      一般的卷积神经网络，卷积核会融合局部感受野中空间以及通道方向的信息来产生新特征。通过叠加一系列与非线性层和降采样层交织的卷积网络，CNN能够捕获具有全局感受野的层次模式...
经典论文-SeNet论文及实践
uncle_ll的博客
09-16 5612
卷积神经网络建立在卷积运算的基础上，通过融合局部感受野内的空间信息和通道信息来提取信息特征。为了提高网络的表示能力，许多现有的工作已经显示出增强空间编码的好处。在这项工作中，我们专注于通道，并提出了一种新颖的架构单元，我们称之为**“Squeeze-and-Excitation”（SE）模块**，通过显式地建模通道之间的相互依赖关系，自适应地重新校准通道式的特征响应。通过将这些块堆叠在一起，证明了可以构建SENet架构，在具有挑战性的数据集中可以进行泛化地非常好。关键的是，发现SE块以微小的计算成本为现有的
FcaNet: Frequency Channel Attention Networks论文解读
晚风微凉的博客
12-03 1244
注意力机制，尤其是通道注意力，在计算机视觉领域取得了巨大的成功。许多工作集中在如何设计高效的通道注意力机制，而忽略了一个基本问题，即通道注意力机制使用标量来表示通道，由于大量信息丢失，这很困难。在这项工作中，我们从不同的角度出发，
DetectoRS论文解读
Q1u1NG的博客
06-09 4057
DetectoRSDetectoRSIntroduceRecursive Feature PyramidFeature Pyramid NetworksRecursive Feature Pyramidbackbone输入的不同RFP中的特征提取特征融合模块Switchable Atrous ConvolutionAtrous ConvolutionSwitchable Atrous ConvolutionGlobal Context插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定
实例分割：Hybrid Task Cascade for Instance Segmentation【方法解读】
sinat_39783664的博客
08-27 326
“实例分割Hybrid Task Cascade for Instance Segmentation” 方法部分解读
SeNet论文详解
qq_38807688的博客
11-21 7963
原文地址： https://arxiv.org/pdf/1709.01507.pdf 背景： 最后一届ImageNet 2017竞赛 Image Classification任务的冠军.作者采用SENet block和ResNeXt结合在ILSVRC 2017的分类项目中拿到第一，在ImageNet数据集上将top-5 error降低到2.251%，原先的最好成绩是2.991%。 ...
九、SENet论文总结（完结）
weixin_40620310的博客
09-13 1650
九、SENet 论文导读 全称：Squeeze-and-Excition Networks 意义：较早将注意力机制引入卷积神经网络，并且该注意力机制是一种即插即用的模块，可嵌入任意主流的卷积神经网络中； 相关研究（STN）： STNet：空间变换网络，提出spatial transformer模块，用于增强CNN对图像的空间变换鲁棒性； STNet在文本矫正任务中也可以使用，并且有不错的效果； 主要有三个模块：Localisation net（特征定位）、Grid generator（网格生成）、Sampl
SENet来源论文《Squeeze-and-Excitation Networks》读后总结
yzqlyzql的博客
06-26 1157
SENet来源论文《Squeeze-and-Excitation Networks》读后总结前言文章主要内容与贡献设计了SE(Squeeze-and-Excitation)模块研究了SE模块与其它网络的可结合性 前言 这是一些对于论文《Squeeze-and-Excitation Networks》的简单的读后总结，首先先奉上该文章的下载超链接：SENet 这篇文章是由中国科学院软件研究所计算机科...
06-Senet简单示例
HJZ11的博客
06-14 468
import tensorflow as tf """ 实现Senet block模块 """ def Se_block(inputs_tensor, name, reduction=8): """ :param inputs_tensor: 4-D tensor [N, H, W, C] :param reduction: :return: """ with tf.variable_scope(name): _, H, W, C =.
【论文阅读】SENet：Squeeze-and-Excitation Networks
hu_yinghui的博客
10-17 2278
论文阅读：Squeeze-and-Excitation Networks 卷积神经网络建立在卷积运算的基础上，通过在局部感受野内融合空间信息和通道信息来提取信息特征。为了提高网络的表现力，最近的几种方法显示了增强空间编码的好处。在这项工作中，我们将重点放在通道关系上，并提出了一种新的架构单元，我们称之为SE块。它通过显式建模通道之间的相互依赖关系，自适应地重新校准通道特性响应。我们证明，通过将这些块堆叠在一起，我们可以构建在具有挑战性的数据集上非常通用的SENet架构。
Squeeze-and-Excitation Networks论文解读（SENet详解）
魔筝炼药师
06-26 338
待更新
SENet(Squeeze-and-Excitation Networks)论文详解
Michael’s Blog
06-27 3404
《Squeeze-and-Excitation Networks》这篇文章在17年就发布在axiv上了，最近一次修改是2019年五月，最近看用的人还是蛮多的，可能是因为效果好而且使用简单吧。 该网络其实可以理解为一个网络中的插件，可以和各种网络配合，如最基础的卷积层，resnet，inception等等。下面来看看它的实现原理。 一、SE块（SQUEEZE-AND-EXCITATION BLOCK...
[paper] SENet
四月晴
10-23 1217
SENet 论文链接：https://arxiv.org/abs/1709.01507 代码地址：https://github.com/hujie-frank/SENet SENet赢得了ILSVRC比赛的第一名，将top-5的错误率减少到2.251%，比一年前下降了25%。 SE block是一种组成网络的一种结构，SE block的堆叠就可以构成SENet。这点可以类比于GooLeNet和In...
【论文复现】SENet（2019）
qq_38253797的博客
05-27 2157
import torch from torch import nn from torchvision.models import resnet from torchsummary import summary # 这个模型是将SE模块加入每个ResBlock中了，还可以只加在模型开头和结尾，到底是怎么加入模型还是要看实验结果的 def conv3x3(in_channel, out_channel, stride=1, padding=1): """3x3 convolution with pa
senet论文
最新发布
03-29
SENet（Squeeze-and-Excitation Networks）的概念首次被提出是在2017年的论文《Squeeze-and-Excitation Networks》中，这篇论文由Jie Hu等人撰写，并在CVPR 2018上发表[^1]。该论文详细介绍了如何通过引入通道注意力机制来改进卷积神经网络的表现。 以下是获取SENet相关论文的一些方法： ### 方法一：访问官方出版平台 论文最初发布于IEEE Xplore Digital Library以及arXiv预印本服务器。可以通过以下链接下载： - IEEE Xplore: [https://ieeexplore.ieee.org/document/8578913](https://ieeexplore.ieee.org/document/8578913) - arXiv: [https://arxiv.org/abs/1709.01507](https://arxiv.org/abs/1709.01507)[^2] ### 方法二：学术搜索引擎 除了直接从上述网站下载外，还可以利用Google Scholar等学术搜索引擎输入关键词"Squeeze-and-Excitation Networks Jie Hu"进行检索。这通常会提供多种免费或付费的下载选项[^3]。 ### PyTorch 实现示例 对于希望快速验证SENet效果的研究者来说，下面是一个简单的SE Block实现代码片段供参考： ```python import torch.nn as nn class SELayer(nn.Module): def __init__(self, channel, reduction=16): super(SELayer, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.fc = nn.Sequential( nn.Linear(channel, channel // reduction, bias=False), nn.ReLU(inplace=True), nn.Linear(channel // reduction, channel, bias=False), nn.Sigmoid() ) def forward(self, x): b, c, _, _ = x.size() y = self.avg_pool(x).view(b, c) y = self.fc(y).view(b, c, 1, 1) return x * y.expand_as(x) ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

炼丹代师

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值