发表服务
本篇论文是在ImageNet上大放异彩，将CNN应用于cv大舞台，论文的作者是AlexKrizhevsky，来自加拿大多伦多大学Hinton组，所以论文中的模型又叫AlexNet。概述ImageNet数据集共有150万张图片，分为22000个类别。ImageLarge-ScaleVisualRecognitioi
VGG与Alexnet相比，具有如下改进几点：1、去掉了LRN层，作者发现深度网络中LRN的作用并不明显，干脆取消了2、采用更小的卷积核-3x3，Alexnet中使用了更大的卷积核，比如有7x7的，因此VGG相对于Alexnet而言，参数量更少
上一片博客(指路)末尾有提到计算公式，这里就不再赘述了放个截图。本文将以AlexNet为例，计算AlexNet参数量量和浮点运算次数。计算参数量1.首先回顾参数量的计算公式：如果输入是Cchannel×H×W；卷积核是Cinchannel×Moutchannel×K×K；parameters=[（K×K）×Cinchannel]×Moutchannel+M2.分析AlexNet网络结构...
三、AlexNet网络AlexNet网络共有：卷积层5个，池化层3个，全连接层：3个（其中包含输出层）。卷积神经网络的结构并不是各个层的简单组合，它是由一个个“模块”有机组成的，在模块内部，各个层的排列是有讲究的。比如AlexNet的结构图，它是由八个模块
作者说：Howeveritonlyfiltersinputchannels,itdoesnotcombinethemtocreatenewfeatures.Soanadditionallayerthatcomputesalinearcombinationoftheoutputofdepth-wiseconvolutionvia1×1convolutionisneededinordertogeneratethesenewfeatures。
除了学习读论文的方法和论文本身的内容，这些视频中还能听到从今天的视角看来这些经典论文哪些部分已经过时了，哪些能作为精髓保留下来。另外还有李沐自己在行业多年的经历和体会，像AlexNet论文作者的工作报告李沐当年可是在现场听的。
作者提到这种方法的理论基础来自于Aroraetal的论文Provableboundsforlearningsomedeeprepresentations（Aroraetal这篇论文数学要求太高了，没读懂）。Page3:Onthedownside,todayscomputinginfrastructuresareveryinefficientwhenitcomestonumericalcalculationonnon-uniformsparsedatastructures.
本篇论文是在ImageNet上大放异彩，将CNN应用于cv大舞台，论文的作者是AlexKrizhevsky，来自加拿大多伦多大学Hinton组，所以论文中的模型又叫AlexNet。概述ImageNet数据集共有150万张图片，分为22000个类别。ImageLarge-ScaleVisualRecognitioi
VGG与Alexnet相比，具有如下改进几点：1、去掉了LRN层，作者发现深度网络中LRN的作用并不明显，干脆取消了2、采用更小的卷积核-3x3，Alexnet中使用了更大的卷积核，比如有7x7的，因此VGG相对于Alexnet而言，参数量更少
上一片博客(指路)末尾有提到计算公式，这里就不再赘述了放个截图。本文将以AlexNet为例，计算AlexNet参数量量和浮点运算次数。计算参数量1.首先回顾参数量的计算公式：如果输入是Cchannel×H×W；卷积核是Cinchannel×Moutchannel×K×K；parameters=[（K×K）×Cinchannel]×Moutchannel+M2.分析AlexNet网络结构...
三、AlexNet网络AlexNet网络共有：卷积层5个，池化层3个，全连接层：3个（其中包含输出层）。卷积神经网络的结构并不是各个层的简单组合，它是由一个个“模块”有机组成的，在模块内部，各个层的排列是有讲究的。比如AlexNet的结构图，它是由八个模块
作者说：Howeveritonlyfiltersinputchannels,itdoesnotcombinethemtocreatenewfeatures.Soanadditionallayerthatcomputesalinearcombinationoftheoutputofdepth-wiseconvolutionvia1×1convolutionisneededinordertogeneratethesenewfeatures。
除了学习读论文的方法和论文本身的内容，这些视频中还能听到从今天的视角看来这些经典论文哪些部分已经过时了，哪些能作为精髓保留下来。另外还有李沐自己在行业多年的经历和体会，像AlexNet论文作者的工作报告李沐当年可是在现场听的。
作者提到这种方法的理论基础来自于Aroraetal的论文Provableboundsforlearningsomedeeprepresentations（Aroraetal这篇论文数学要求太高了，没读懂）。Page3:Onthedownside,todayscomputinginfrastructuresareveryinefficientwhenitcomestonumericalcalculationonnon-uniformsparsedatastructures.
发表服务