发表服务
1.对抗性研究。由于安全在本质上是攻防对抗，你总是可以尝试攻破现有的防御机制或者针对已有的攻击技术建立防御方案。实际上，我经常看到一篇新奇的攻击论文发表后，相关的防御论文尾随其后（论文可能来自同一团队，也可能来自不同团队）。
摘要：在深度学习（deepleaming，DL）算法驱动的数据计算时代，确保算法的安全性和鲁棒性至关重要。最近，研究者发现深度学习算法无法有效地处理对抗样本。这些伪造的样本对人类的判断没有太大影响，但会使深度…
Liu等人2016年的时候在论文《SafetyNet:DetectingandRejectingAdversarialExamplesRobustly》证明了：如果在一组替代模型上创建对抗性示例，则在某些情况下，被攻击模型的成功率可以达到100％。Score-based方法：（黑盒攻击）
最近，在物理世界中成功实施的一系列对抗性攻击证明了此问题是所有基于深度学习系统的安全隐患。因此有关对抗性攻击和防御技术的研究引起了机器学习和安全领域研究者越来越多的关注。本文将介绍深度学习对抗攻击技术的理论基础、算法和应用。
对抗攻击造成了深度学习在实践中成功的一系列威胁，进而引导了大量的研究进入这个方向。这篇文章展示了第一个对抗攻击在机器视觉领域的深度学习中的综合考察。我们回顾了对抗攻击设计的研究，分析了这些攻击的存在性以及提出的防御机制。
通用对抗性攻击形式化DRL是面向目标的，如果攻击者在每一步都打乱观察到的状态，攻击就很容易被发现。原因是当攻击者干扰每一个观察到的状态时，最终累积的奖励将会很大程度上受到损害。在攻击者这边，他也想最大化他的期望效果。在...
联邦学习其实不会保护隐私，很容易从梯度、模型参数中反推出用户数据。提出攻击和防御的方法都可以发表出论文。研究联邦学习的鲁棒性。比如有节点恶意发送错误的梯度给服务器，让训练的模型变差。设计新的攻击方法和防御方法都可以发表出来论文。
大家好。有一个经典论文上的算法，我费了好大劲才实现，但是不能还原实验结果。这是一篇经典论文提出的算法，无数的论文都引用过，所以人家的数据不可能有问题。我还原不了应该是我的代码写的有问题。原作者是宾夕法尼亚大学的学者（不知道是不是教授），我想发个邮件问人家要源代码...
发表于2019-05-0511:01:18新智元+关注KDD2019录取结果终于放榜了，今年Research和ADS两个track共评审论文1900篇，其中Researchtrack的录取率只有14%。今年也是KDD第一次采用双盲评审政策，并强调提交论文可重现内容。因此，论文质量特别...
集成对抗性机器学习及其应用软件工程研究.本文是一篇软件工程论文，本文首先探索了深度神经网络脆弱性存在的潜在原因，以及针对该缺陷提出的一系列对抗样本生成算法。.然而在现实对抗环境中，由于攻击者无法访问攻击对象的内部结构信息，所以基于单...
1.对抗性研究。由于安全在本质上是攻防对抗，你总是可以尝试攻破现有的防御机制或者针对已有的攻击技术建立防御方案。实际上，我经常看到一篇新奇的攻击论文发表后，相关的防御论文尾随其后（论文可能来自同一团队，也可能来自不同团队）。
摘要：在深度学习（deepleaming，DL）算法驱动的数据计算时代，确保算法的安全性和鲁棒性至关重要。最近，研究者发现深度学习算法无法有效地处理对抗样本。这些伪造的样本对人类的判断没有太大影响，但会使深度…
Liu等人2016年的时候在论文《SafetyNet:DetectingandRejectingAdversarialExamplesRobustly》证明了：如果在一组替代模型上创建对抗性示例，则在某些情况下，被攻击模型的成功率可以达到100％。Score-based方法：（黑盒攻击）
最近，在物理世界中成功实施的一系列对抗性攻击证明了此问题是所有基于深度学习系统的安全隐患。因此有关对抗性攻击和防御技术的研究引起了机器学习和安全领域研究者越来越多的关注。本文将介绍深度学习对抗攻击技术的理论基础、算法和应用。
对抗攻击造成了深度学习在实践中成功的一系列威胁，进而引导了大量的研究进入这个方向。这篇文章展示了第一个对抗攻击在机器视觉领域的深度学习中的综合考察。我们回顾了对抗攻击设计的研究，分析了这些攻击的存在性以及提出的防御机制。
通用对抗性攻击形式化DRL是面向目标的，如果攻击者在每一步都打乱观察到的状态，攻击就很容易被发现。原因是当攻击者干扰每一个观察到的状态时，最终累积的奖励将会很大程度上受到损害。在攻击者这边，他也想最大化他的期望效果。在...
联邦学习其实不会保护隐私，很容易从梯度、模型参数中反推出用户数据。提出攻击和防御的方法都可以发表出论文。研究联邦学习的鲁棒性。比如有节点恶意发送错误的梯度给服务器，让训练的模型变差。设计新的攻击方法和防御方法都可以发表出来论文。
大家好。有一个经典论文上的算法，我费了好大劲才实现，但是不能还原实验结果。这是一篇经典论文提出的算法，无数的论文都引用过，所以人家的数据不可能有问题。我还原不了应该是我的代码写的有问题。原作者是宾夕法尼亚大学的学者（不知道是不是教授），我想发个邮件问人家要源代码...
发表于2019-05-0511:01:18新智元+关注KDD2019录取结果终于放榜了，今年Research和ADS两个track共评审论文1900篇，其中Researchtrack的录取率只有14%。今年也是KDD第一次采用双盲评审政策，并强调提交论文可重现内容。因此，论文质量特别...
集成对抗性机器学习及其应用软件工程研究.本文是一篇软件工程论文，本文首先探索了深度神经网络脆弱性存在的潜在原因，以及针对该缺陷提出的一系列对抗样本生成算法。.然而在现实对抗环境中，由于攻击者无法访问攻击对象的内部结构信息，所以基于单...
发表服务