retinanet论文发表时间

A. 数据增广  B. 提前停止训练 C. 添加Dropout 答案：ABCA. SGD（stochatic gradient descent） B. BGD（batch gradient descent） C. Adadetla D. Momentum 答案：C 【解析】1）SGD受到学习率α影响 2）BGD受到batch规模m影响 3）Adagrad的一大优势时可以避免手动调节学习率，比如设置初始的缺省学习率为0.01，然后就不管它，另其在学习的过程中自己变化。 为了避免削弱单调猛烈下降的减少学习率，Adadelta产生了1。Adadelta限制把历史梯度累积窗口限制到固定的尺寸w，而不是累加所有的梯度平方和 4）Momentum：也受到学习率α的影响 A.惩罚了模型的复杂度，避免模型过度学习训练集，提高泛化能力 B.剃刀原理：如果两个理论都能解释一件事情，那么较为简单的理论往往是正确的 C.正则项降低了每一次系数w更新的步伐，使参数更小，模型更简单 D.贝叶斯学派的观点，认为加入了先验分布（l1拉普拉斯分布，l2高斯分布），减少参数的选择空间 答案：ABCD 【解析】A/C选项没有问题，只不过C中的"步伐"理解起来并不清晰。B/D选项是有点追本溯源的意思，剃刀原理其实是奥卡姆剃刀原理：更小的权值w，从某种意义上说，表示网络的复杂度更低，对数据的拟合刚刚好；从贝叶斯角度理解，为参数ω引入拉普拉斯先验分布的最大似然，相当于给均方误差函数加上L1正则项；为参数ω引入高斯先验分布的最大似然，相当于给均方误差函数加上L2正则项。 a.计算预测值和真实值之间的误差 b.重复迭代，直至得到网络权重的最佳值 c.把输入传入网络，得到输出值 d.用随机值初始化权重和偏差 e.对每一个产生误差的神经元，调整相应的（权重）值以减小误差 答案：dcaeb A.惩罚了模型的复杂度，避免模型过度学习训练集，提高泛化能力 B.剃刀原理：如果两个理论都能解释一件事情，那么较为简单的理论往往是正确的 C.正则项降低了每一次系数w更新的步伐，使参数更小，模型更简单 D.贝叶斯学派的观点，认为加入了先验分布（l1拉普拉斯分布，l2高斯分布），减少参数的选择空间 答案：ABCD 【解析】A/C选项没有问题，只不过C中的"步伐"理解起来并不清晰。B/D选项是有点追本溯源的意思，剃刀原理其实是奥卡姆剃刀原理：更小的权值w，从某种意义上说，表示网络的复杂度更低，对数据的拟合刚刚好；从贝叶斯角度理解，为参数ω引入拉普拉斯先验分布的最大似然，相当于给均方误差函数加上L1正则项；为参数ω引入高斯先验分布的最大似然，相当于给均方误差函数加上L2正则项。 参考： [正则化为什么能防止过拟合（重点地方标红了）](https://www.cnblogs.com/alexanderkun/p/6922428.html) [【机器学习】从贝叶斯角度理解正则化缓解过拟合](https://blog.csdn.net/u014433413/article/details/78408983) A. 220x220x5 B. 218x218x5 C. 217x217x8 D. 217x217x3 答案：B 【解析】卷积计算公式：Hout=（Himg+2Padding−Kfilterh）/S + 1；Wout=（Wimg+2Padding−Kfilterw）/S + 1。其中Padding是边界填空值，Kfilterw表示卷积核的宽度，S表示步长。 A.少于2秒 B.大于2秒 C.仍是2秒 D.说不准 答案：C 【解析】在架构中添加Dropout这一改动仅会影响训练过程，而并不影响测试过程。 A.准确率适合于衡量不平衡类别问题 B.精确率和召回率适合于衡量不平衡类别问题 C.精确率和召回率不适合于衡量不平衡类别问题 D.上述选项都不对 答案：B A. Boosting B. Bagging C. Stacking D. Mapping 答案：B 【解析】dropout的思想继承自bagging方法。 bagging是一种集成方法（ensemble methods）,可以通过集成来减小泛化误差（generalization error）。bagging的最基本的思想是通过分别训练几个不同分类器，最后对测试的样本，每个分类器对其进行投票。在机器学习上这种策略叫model averaging。 我们可以把dropout类比成将许多大的神经网络进行集成的一种bagging方法。 1. 随机初始化感知机权重 2. 去到数据集的下一批（batch） 3. 如果预测值和输出不一致，则调整权重 4. 对一个输入样本，计算输出值 A. 1,2,3,4 B. 4,3,2,1 C. 3,1,2,4 D. 1,4,3,2 答案：D 11.【单选题】下列哪项关于模型能力（model capacity）的描述是正确的？（指神经网络模型能拟合复杂函数的能力） A.隐藏层层数增加，模型能力增加 B. Dropout的比例增加，模型能力增加 C.学习率增加，模型能力增加 D.都不正确 答案：A A. Logistic回归可用于预测事件发生概率的大小 B. Logistic回归的目标函数是最小化后验概率 C. SVM的目标的结构风险最小化 D. SVM可以加入正则化项，有效避免模型过拟合 答案：B 【解析】Logistic回归本质上是一种根据样本对权值进行极大似然估计的方法，而后验概率正比于先验概率和似然函数的乘积。Logistic仅仅是最大化似然函数，并没有最大化后验概率，更谈不上最小化后验概率。A正确 Logit回归的输出就是样本属于正类别的几率，可以计算出概率；C正确. SVM的目标是找到使得训练数据尽可能分开且分类间隔最大的超平面，应该属于结构风险最小化. D正确. SVM可以通过正则化系数控制模型的复杂度，避免过拟合。 A增加训练集量 B减少神经网络隐藏层节点数 C删除稀疏的特征 D SVM算法中使用高斯核/RBF核代替线性核 答案：D 【解析】一般情况下，越复杂的系统，过拟合的可能性就越高，一般模型相对简单的话泛化能力会更好一点。 B.一般认为，增加隐层数可以降低网络误差（也有文献认为不一定能有效降低），提高精度，但也使网络复杂化，从而增加了网络的训练时间和出现“过拟合”的倾向， svm高斯核函数比线性核函数模型更复杂，容易过拟合 D.径向基(RBF)核函数/高斯核函数的说明,这个核函数可以将原始空间映射到无穷维空间。对于参数 ，如果选的很大，高次特征上的权重实际上衰减得非常快，实际上（数值上近似一下）相当于一个低维的子空间；反过来，如果选得很小，则可以将任意的数据映射为线性可分——当然，这并不一定是好事，因为随之而来的可能是非常严重的过拟合问题。不过，总的来说，通过调整参数 ，高斯核实际上具有相当高的灵活性，也是 使用最广泛的核函数 之一。 A.感知准则函数 B.贝叶斯分类 C.支持向量机 D.Fisher准则 答案：ACD 【解析】 线性分类器有三大类：感知器准则函数、SVM、Fisher准则，而贝叶斯分类器不是线性分类器。 感知准则函数 ：准则函数以使错分类样本到分界面距离之和最小为原则。其优点是通过错分类样本提供的信息对分类器函数进行修正，这种准则是人工神经元网络多层感知器的基础。 支持向量机 ：基本思想是在两类线性可分条件下，所设计的分类器界面使两类之间的间隔为最大，它的基本出发点是使期望泛化风险尽可能小。（使用核函数可解决非线性问题） Fisher准则 ：更广泛的称呼是线性判别分析（LDA），将所有样本投影到一条远点出发的直线，使得同类样本距离尽可能小，不同类样本距离尽可能大，具体为最大化“广义瑞利商”。 根据两类样本一般类内密集，类间分离的特点，寻找线性分类器最佳的法线向量方向，使两类样本在该方向上的投影满足类内尽可能密集，类间尽可能分开。这种度量通过类内离散矩阵 Sw和类间离散矩阵 Sb实现。 A.卷积神经网络 B.循环神经网络 C.全连接神经网络 D.选项A和B 答案：D A.L2正则项，作用是最大化分类间隔，使得分类器拥有更强的泛化能力 B.Hinge损失函数，作用是最小化经验分类错误 C.分类间隔为1/||w||，||w||代表向量的模 D.当参数C越小时，分类间隔越大，分类错误越多 答案：C A正确。考虑加入正则化项的原因：想象一个完美的数据集，y>1是正类，y<-1是负类，决策面y=0，加入一个y=-30的正类噪声样本，那么决策面将会变“歪”很多，分类间隔变小，泛化能力减小。加入正则项之后，对噪声样本的容错能力增强，前面提到的例子里面，决策面就会没那么“歪”了，使得分类间隔变大，提高了泛化能力。 B正确。 C错误。间隔应该是2/||w||才对，后半句应该没错，向量的模通常指的就是其二范数。 D正确。考虑软间隔的时候，C对优化问题的影响就在于把a的范围从[0，+inf]限制到了[0,C]。C越小，那么a就会越小，目标函数拉格朗日函数导数为0可以求出w=求和ai∗yi∗xi，a变小使得w变小，因此间隔2/||w||变大。 A.Dropout B.分批归一化(Batch Normalization) C.正则化(regularization) D.上述选项都可以 答案：D A.95 B.96 C.97 D.98 答案：C A.(AB)C B.AC(B) C.A(BC) D.上述所有选项效率相同 答案：A 【解析】首先，根据简单的矩阵知识，因为 A*B， A的列数必须和 B的行数相等。因此，可以排除 B选项， 然后，再看 A、 C选项。在 A选项中，m∗n的矩阵 A和n∗p的矩阵 B的乘积，得到 m∗p的矩阵 A\*B，而 A∗B的每个元素需要 n次乘法和 n-1次加法，忽略加法，共需要 m∗n∗p次乘法运算。同样情况分析 A*B之后再乘以 C时的情况，共需要 m∗p∗q次乘法运算。因此， A选项 (AB)C需要的乘法次数是 m∗n∗p+m∗p∗q。同理分析， C选项 A (BC)需要的乘法次数是 n∗p∗q+m∗n∗q。 A.把除了最后一层外所有的层都冻结，重新训练最后一层 B.对新数据重新训练整个模型 C.只对最后几层进行调参(fine tune) D.对每一层模型进行评估，选择其中的少数来用 答案：C 【解析】如果有个预先训练好的神经网络,就相当于网络各参数有个很靠谱的先验代替随机初始化.若新的少量数据来自于先前训练数据(或者先前训练数据量很好地描述了数据分布,而新数据采样自完全相同的分布),则冻结前面所有层而重新训练最后一层即可;但一般情况下,新数据分布跟先前训练集分布有所偏差,所以先验网络不足以完全拟合新数据时,可以冻结大部分前层网络,只对最后几层进行训练调参(这也称之为fine tune)。 增加神经网络层数,可能会增加测试数据集的分类错误率 减少神经网络层数,总是能减小测试数据集的分类错误率 增加神经网络层数,总是能减小训练数据集的分类错误率 A. 1 B. 1和 3 C. 1和 2 D. 2 答案：A 【解析】深度神经网络的成功,已经证明增加神经网络层数,可以增加模型范化能力,也就是，训练数据集和测试数据集都表现得更好。但这篇文献中（）,作者提到更多的层,也不一定能保证有更好的表现.所以不能绝对地说层数多的好坏,只能选A A.分类过程中类别不平衡 B.实例分割过程中，相同类别图像距离过小 C.提取语义信息时，高层语义过少的时候 D.物体定位时，目标面积过小 答案：A 【解析】Focal Loss最初是在[RetinaNet](https://arxiv.org/abs/1708.02002)论文中提出，旨在解决one-stage目标检测中正负样本不均衡的问题，也可扩展到样本的类别不均衡问题上。该损失函数降低了大量简单负样本在训练中所占的权重。 参考自：

backbone ：ResNet50, ResNet101 neck : FPN P3-P5由ResNet得到，P6由P5经过stride=2的3*3卷积得到，P7由P6经过ReLU和stride=2的3*3卷积得到。P3-P7的stride分别为8，16，32，64，128。 层间融合：高分辨率层上采样，低分辨率1*1卷积，两者维度一致，直接相加后再3*3卷积。 head : classification(KA) + regression(4A)，在图(c)和(d)中，不同层的head共享参数(concatenate操作)，但是分类和回归分支之间不共享。 loss : Focal loss + smooth L1 alpha平衡正负样本loss，取0.25；gamma平衡难易样本，取2。 分类loss是所有正负例的focal loss求和，然后除以类别为正例的anchors总数（正负例anchor数量平衡）。 回归loss是所有正例的smooth L1 loss求和，然后除以类别为正例的anchors总数。 在loss计算前去除掉所有超出图片边界的Anchor，这部分Anchor不用于loss计算（和faster rcnn一致）。 bootstrapping: hard example mining：抽样方法，SSD中使用，预先确定的比率（通常前景:背景为1:3）选择loss最大的topK背景框。 Focal loss: 降低大量easy negatives的loss权重，根据置信度动态调整loss，速度更快，效果更好。 2.1 anchor的分布 长宽比: [0.5, 1, 2]，scale: [2**0, 2**(1/3), 2**(2/3)]，组合得到9组anchor aspects/每个feature点 P3-P7基础size为32, 64, 128, 256, 512，乘以aspects，覆盖输入范围32-813 越高层的anchor size约大，越倾向于检测大目标。 2.2 anchor的物理含义 对于长宽为（原图H/8，原图W/8）的特征图，其特征图上的每个单元格cell对应原图区域上（32，32）大小的对应区域（这里对应的大小并不是实际感受野的大小，而是一种人为的近似设置）。 在大小为base_size的正方形框的基础上，对框进行长宽比例调整和缩放形成9种所anchor，以及一个单元格cell的通道维和anchor对应的关系，如下图所示。 2.3 多层FPN如何分配目标 （1）公式选层 （2）IoU选层 将FPN所有层的全部anchor与ground truth计算IoU，将目标分配给得分高于阈值且最高的anchor（低于阈值情况很少，所以去掉低于阈值的最高分也影响不大） （3）loss选层 FSAF中选择loss最小的层预测目标 采用目标-anchor iou双阈值区分正样本，负样本和忽略样本。     backbone采用在ImageNet上预训练的ResNet，新增的卷积层普通初始化（bias=0，sigma=0.01），分类分支最后的卷积层的bias初始化为： 相当于模型初始训练时，每个anchor预测为正例设置一个先验概率值，论文中采用的是0.01，权重参数通常初始化为（0，0.01）高斯分布，意味着分类为正例的概率为0.01，这是合理的。因为真实场景中很多anchor是负例，设置先验值可以大大降低负样本在开始训练时的loss，这样训练更容易，相当于手动warmup。     分类分支输出channel为KA，最后sigmoid激活就可以得到各个anchor预测每个类别的概率，即每个位置相当于KA个二分类，因此某个位置的某个anchor可能会输出几个类别不同但是box一样的预测框。也正是因为采用了sigmoid二分类，才有上面 每个anchor所有类别都初始化为bias=0.01 4.1 保留top1K候选bbox 4.2 用0.05的阈值过滤掉负类 4.3 全部level结果concat，IoU=0.5 NMS过滤重叠框 （1）SSD的多尺度是独立的，RetinaNet的FPN在不同尺度之间进行了层间融合 （2）SSD的采用softmax多分类，RetinaNet以及后续改进的FCOS都是采用K个二分类（Focal loss默认是二分类） （3）为了与配合focal loss，RetinaNet的分类分支最后的卷积层的bias初始化为0.01，可以加快训练和收敛 （4）RetinaNet的不同层head部分共享参数，检测和分类分支之间参数不共享，各层分类/回归结果concat再求loss （1）backbone不同，YOLOV3的backbone是基于DarkNet-53，RetinaNet是ResNet50或101。 （2）FPN层数不同，YOLOV3的FPN只有P3-P5，RetinaNet是P3-P7 （3）loss不同，RetinaNet是focal loss YOLO V3之后的检测模型从数据增强、backbone、neck和head等维度已经趋向统一。