发表服务
论文：DropBlock:Aregularizationmethodforconvolutionalnetworks.GolnazGhiasi,Tsung-YiLin,QuocV.Le摘要当深度神经网络被过度参数化，并使用大量的噪声和正则化(如权重衰减和Dropout)进行训练时，它们通常能很好地工作。
『DropBlock:Aregularizationmethodforconvolutionalnetworks』论文笔记一为什么读这篇覃辉心心念的，GoogleBrain最新出的一篇。都知道dropout可以抑制过拟合，不过卷积网络里好像没怎么见到dropout的身影，特别是ResNet的网络结构里，压根...
从上面的论文中，我们能感受到Dropout在深度学习中的重要性。那么，到底什么是Dropout呢？Dropout可以作为训练深度神经网络的一种trick供选择。在每个训练批次中，通过忽略一半的特征检测器（让一半的隐层节点值为0），可以明显地减少过拟合现象。
从norm系列论文和drop系列论文来看，当出现了一篇经典论文后，快速发现这篇论文方法的可拓展性，比如上述的，做实验，有效果了就可以文。之前看nonlocalneuralnetworks的时候也发现了一种想idea的方法，还写了一篇回答。
无监督域对抗算法：ICCV2019论文解析DroptoAdapt:LearningDiscriminativeFeaturesforUnsupervisedDomainAdapta
OctaveConvolution来自于这篇论文《DropanOctave:ReducingSpatialRedundancyinConvolutionalNeuralNetworkswithOctaveConvolution》这篇论文，该论文也被ICCV2019接收。Octave表示的是音阶的八度，而本篇核心思想是通过对数据低频信息减半从而达到加速卷积运算的目的，而两个Octave之间也是声音频率减半【2】。
论文：DropBlock:Aregularizationmethodforconvolutionalnetworks.GolnazGhiasi,Tsung-YiLin,QuocV.Le摘要当深度神经网络被过度参数化，并使用大量的噪声和正则化(如权重衰减和Dropout)进行训练时，它们通常能很好地工作。
『DropBlock:Aregularizationmethodforconvolutionalnetworks』论文笔记一为什么读这篇覃辉心心念的，GoogleBrain最新出的一篇。都知道dropout可以抑制过拟合，不过卷积网络里好像没怎么见到dropout的身影，特别是ResNet的网络结构里，压根...
从上面的论文中，我们能感受到Dropout在深度学习中的重要性。那么，到底什么是Dropout呢？Dropout可以作为训练深度神经网络的一种trick供选择。在每个训练批次中，通过忽略一半的特征检测器（让一半的隐层节点值为0），可以明显地减少过拟合现象。
从norm系列论文和drop系列论文来看，当出现了一篇经典论文后，快速发现这篇论文方法的可拓展性，比如上述的，做实验，有效果了就可以文。之前看nonlocalneuralnetworks的时候也发现了一种想idea的方法，还写了一篇回答。
无监督域对抗算法：ICCV2019论文解析DroptoAdapt:LearningDiscriminativeFeaturesforUnsupervisedDomainAdapta
OctaveConvolution来自于这篇论文《DropanOctave:ReducingSpatialRedundancyinConvolutionalNeuralNetworkswithOctaveConvolution》这篇论文，该论文也被ICCV2019接收。Octave表示的是音阶的八度，而本篇核心思想是通过对数据低频信息减半从而达到加速卷积运算的目的，而两个Octave之间也是声音频率减半【2】。
发表服务