发表服务
上图来自论文原文。这个表很清晰低展示了每一个trick分别提升了多少个点。这里面其实真正特别有效的是前三个trick——1.trainlonger：训练久一点，再久一点2.gradientclipping：梯度剪切，gradnorm别太大，最大0.25就行了3.explicitregularization：就是我上面提到的SGD的近似正则化项
虽然这篇论文是18年的，但是论文中涉及到的逐步提升分辨率的思想还是很有借鉴意义，尤其是针对高达8x的超分任务。本文主要解读一下作者提供的官方代码的几处关键点1.train.py这个没有特别注意的点，主要包含了数据的读取和调用trainer进行训练的过程
摘要递归神经网络(RNN)是建模时间和顺序任务的热门选择，并在各种复杂问题上实现许多最新的性能。然而，大多数最先进的RNNs都有数百万个参数，并且需要大量的计算资源来训练和预测新数据。本文提出了一种基于张量列(TT)格式表示权值参数的备选RNN模型，以显著减少参数的数量。
Bert是2018年11月谷歌推出号称横扫11项NLP任务的预训练语言模型，今天跟大家分享一些读这篇论文的体会论文链接1.什么是预训练模型？预训练顾名思义就是预先训练好的模型，常用的word2vec也是预训练的一种，预…
本论文是斯坦福大学JureLeskovec教授的团队在ICLR2020上发表的工作。本文提出了一种基于自监督方法的图神经网络模型的预训练策略，这种策略的关键在于能够同时在单个节点和整张图的角度对图神经网络进行预训练，即能够让预训练的图神经网络同时学习到有效的局部和全局信息。
参数说明：-exceptd:exceptdomainselection,chooseonefrom{hotel,train,attraction,restaurant,taxi}.（2）结果可以看到只有taxi领域的Zero-shot最接近左列，作者的解释是因为taxi领域的四个槽槽值都相似。
RailwayCapacityCalculationBasedonAuto-DrawingTrainWorkingDiagramandComputerSimulation,railwaycapacity,computersimulation,trainworkingdiagram,calculatingmethod。Itreviewsthemainmethodsofthestudyofrailwaycapacity...
AsymmetricTri-trainingforUnsupervisedDomainAdaptation(2017ICML)论文笔记AbstractTri-training(周志华，2005,无监督学习领域最经典、知名度最高的做法)利用三个分类器按照“少数服从多数”的原则来为无标签的数据生成伪标签，但这种方法不适用于无标签的目标域与有标签的源数据不同的情况。
近期，由我院牛惠民教授（第一及通讯作者）团队完成的长篇研究论文“TrainSchedulingforMinimizingPassengerWaitingTimewithTimeDependentDemandandSkipStopPatterns:NonlinearIntegerProgrammingMo...
论文｜CVPR2020workshop：SmoothMix:aSimpleYetEffectiveDataAugmentationtoTrainRobustClassi...一写在前面未经允许，不得转载，谢谢～～～好久不更+1，算是很长一段时间丢掉了记录blog的习惯，打算慢慢把写作和记录捡起来。
上图来自论文原文。这个表很清晰低展示了每一个trick分别提升了多少个点。这里面其实真正特别有效的是前三个trick——1.trainlonger：训练久一点，再久一点2.gradientclipping：梯度剪切，gradnorm别太大，最大0.25就行了3.explicitregularization：就是我上面提到的SGD的近似正则化项
虽然这篇论文是18年的，但是论文中涉及到的逐步提升分辨率的思想还是很有借鉴意义，尤其是针对高达8x的超分任务。本文主要解读一下作者提供的官方代码的几处关键点1.train.py这个没有特别注意的点，主要包含了数据的读取和调用trainer进行训练的过程
摘要递归神经网络(RNN)是建模时间和顺序任务的热门选择，并在各种复杂问题上实现许多最新的性能。然而，大多数最先进的RNNs都有数百万个参数，并且需要大量的计算资源来训练和预测新数据。本文提出了一种基于张量列(TT)格式表示权值参数的备选RNN模型，以显著减少参数的数量。
Bert是2018年11月谷歌推出号称横扫11项NLP任务的预训练语言模型，今天跟大家分享一些读这篇论文的体会论文链接1.什么是预训练模型？预训练顾名思义就是预先训练好的模型，常用的word2vec也是预训练的一种，预…
本论文是斯坦福大学JureLeskovec教授的团队在ICLR2020上发表的工作。本文提出了一种基于自监督方法的图神经网络模型的预训练策略，这种策略的关键在于能够同时在单个节点和整张图的角度对图神经网络进行预训练，即能够让预训练的图神经网络同时学习到有效的局部和全局信息。
参数说明：-exceptd:exceptdomainselection,chooseonefrom{hotel,train,attraction,restaurant,taxi}.（2）结果可以看到只有taxi领域的Zero-shot最接近左列，作者的解释是因为taxi领域的四个槽槽值都相似。
RailwayCapacityCalculationBasedonAuto-DrawingTrainWorkingDiagramandComputerSimulation,railwaycapacity,computersimulation,trainworkingdiagram,calculatingmethod。Itreviewsthemainmethodsofthestudyofrailwaycapacity...
AsymmetricTri-trainingforUnsupervisedDomainAdaptation(2017ICML)论文笔记AbstractTri-training(周志华，2005,无监督学习领域最经典、知名度最高的做法)利用三个分类器按照“少数服从多数”的原则来为无标签的数据生成伪标签，但这种方法不适用于无标签的目标域与有标签的源数据不同的情况。
近期，由我院牛惠民教授（第一及通讯作者）团队完成的长篇研究论文“TrainSchedulingforMinimizingPassengerWaitingTimewithTimeDependentDemandandSkipStopPatterns:NonlinearIntegerProgrammingMo...
论文｜CVPR2020workshop：SmoothMix:aSimpleYetEffectiveDataAugmentationtoTrainRobustClassi...一写在前面未经允许，不得转载，谢谢～～～好久不更+1，算是很长一段时间丢掉了记录blog的习惯，打算慢慢把写作和记录捡起来。
发表服务