复现论文实验一直是一大难题,或者说复现实验达到论文中精度是一大难题。绝大部分时候我们很难复现到媲美原文的精度,这很大原因是神经网络的参数众多,优化技巧众多,参数初始化等一些列问题,一般论文中对不会对小细节的处理进行描述或者他们有着一些不为人知的“trick”,所以我们...
虽然效果不好,但是有理有据,而且很多那时候的传统模型,结合现在的深度学习往往能爆发出强大的力量,于是就有了我现在的工作。.不要盲目的去追求SOTA,那些高大上的结构,网络,因为很多时候并不是那些结构有用,而是trick有用,或者是其他的地方有...
在我读博士的时候,关于阅读最新进展的论文,并试图复现论文结果的体验,我记得很清楚。这种体验说怎么糟糕都不为过,我一如既往地得到相同的结果:效果不好。
2.使用公开数据,公开代码,论文细节清楚,能复现论文的效果。尽管很多论文的作者也不能说明为什么这么设计的网络效果好,这个应该是深度学习可解释性差的原因。因为他们公开了代码,在公开数据集上效果好,能复现效果,所以也是好论文。文末推荐
超90%论文算法不可复现,你为何不愿公开代码?人工智能(AI)这个蓬勃发展的领域正面临着实验重现的危机,就像实验重现问题过去十年来一直困扰着心理学、医学以及其他领域一样。他们没有足够时间在每种条件下都测试算法,或者在文章中记录他们尝试过的每个超参数。
虽然效果不好,但是有理有据,而且很多那时候的传统模型,结合现在的深度学习往往能爆发出强大的力量,于是就有了我现在的工作。不要盲目的去追求SOTA,那些高大上的结构,网络,因为很多时候并不是那些结构有用,而是trick有用,或者是其他的地方有问题。
目前正在复现一篇paper的代码,工作还没有完成,这里作为自己的经验总结。首先必须得说,复现他人的程序实在是迫不得已的事情。要么源码无法要到,要么就是不符合自己的编程习惯或者输入输出不能够对应得上。通过p…
最后,p1esk得出结论:论文中准确度计算方法不正确,且作者提出的方法无效,故论文没有意义。不过目前来看,这些还仅是p1esk的一面之词,此时目前还尚无定论。引发热议p1esk的复现过程引来了多人围观,对于这件值得讨论的学术风波,大家的看法并不一致。
数据无法复现的客观因素.如果单纯从客观原因方面讲,SCI论文的实验数据重复不出来,那就有很多方面。.比如实验仪器差异,以材料化学领域用的较多的反应炉为例,即使是同一个牌子的反应炉,新旧程度、温控效果等也是不同的。.有这种可能:SCI文章中...
【关于NLP】那些你不知道的事作者:杨夕项目地址:个人介绍:大佬们好,我叫杨夕,该项目主要是本人在研读顶会论文和复现经典论文过程中,所见、所思、所想、所闻,可能存在一些理解错误,希望大佬们多多指正。NLP面经地址:目录【关于信息抽取】那些的你不知道的事【关于实体...
复现论文实验一直是一大难题,或者说复现实验达到论文中精度是一大难题。绝大部分时候我们很难复现到媲美原文的精度,这很大原因是神经网络的参数众多,优化技巧众多,参数初始化等一些列问题,一般论文中对不会对小细节的处理进行描述或者他们有着一些不为人知的“trick”,所以我们...
虽然效果不好,但是有理有据,而且很多那时候的传统模型,结合现在的深度学习往往能爆发出强大的力量,于是就有了我现在的工作。.不要盲目的去追求SOTA,那些高大上的结构,网络,因为很多时候并不是那些结构有用,而是trick有用,或者是其他的地方有...
在我读博士的时候,关于阅读最新进展的论文,并试图复现论文结果的体验,我记得很清楚。这种体验说怎么糟糕都不为过,我一如既往地得到相同的结果:效果不好。
2.使用公开数据,公开代码,论文细节清楚,能复现论文的效果。尽管很多论文的作者也不能说明为什么这么设计的网络效果好,这个应该是深度学习可解释性差的原因。因为他们公开了代码,在公开数据集上效果好,能复现效果,所以也是好论文。文末推荐
超90%论文算法不可复现,你为何不愿公开代码?人工智能(AI)这个蓬勃发展的领域正面临着实验重现的危机,就像实验重现问题过去十年来一直困扰着心理学、医学以及其他领域一样。他们没有足够时间在每种条件下都测试算法,或者在文章中记录他们尝试过的每个超参数。
虽然效果不好,但是有理有据,而且很多那时候的传统模型,结合现在的深度学习往往能爆发出强大的力量,于是就有了我现在的工作。不要盲目的去追求SOTA,那些高大上的结构,网络,因为很多时候并不是那些结构有用,而是trick有用,或者是其他的地方有问题。
目前正在复现一篇paper的代码,工作还没有完成,这里作为自己的经验总结。首先必须得说,复现他人的程序实在是迫不得已的事情。要么源码无法要到,要么就是不符合自己的编程习惯或者输入输出不能够对应得上。通过p…
最后,p1esk得出结论:论文中准确度计算方法不正确,且作者提出的方法无效,故论文没有意义。不过目前来看,这些还仅是p1esk的一面之词,此时目前还尚无定论。引发热议p1esk的复现过程引来了多人围观,对于这件值得讨论的学术风波,大家的看法并不一致。
数据无法复现的客观因素.如果单纯从客观原因方面讲,SCI论文的实验数据重复不出来,那就有很多方面。.比如实验仪器差异,以材料化学领域用的较多的反应炉为例,即使是同一个牌子的反应炉,新旧程度、温控效果等也是不同的。.有这种可能:SCI文章中...
【关于NLP】那些你不知道的事作者:杨夕项目地址:个人介绍:大佬们好,我叫杨夕,该项目主要是本人在研读顶会论文和复现经典论文过程中,所见、所思、所想、所闻,可能存在一些理解错误,希望大佬们多多指正。NLP面经地址:目录【关于信息抽取】那些的你不知道的事【关于实体...