MYRLibra的博客

攻击算法 防御算法 评价指标

对抗样本 指的是一类人为构造的样本，通过对原始的样本数据集添加特定的微小扰动，使得深度学习网络模型产生错误输出。 ##对抗攻击的方法 构造对抗样本的过程就是对抗攻击。 ###对抗样本存在的原因 训练所得的模型判断边界与真实决策边界不一致。 ###对抗样本生成方法 常见方法主要有快速梯度攻击、雅克比映射攻击、深度欺骗攻击和边界攻击。 ###攻击场景 白盒攻击：攻击者已知模型的网络结构、网络的权重参数...

FGSM （Fast Gradient Sign Method） 出处：Explaining and Harnessing adversarial examples 类型：白盒攻击 核心思想：沿着深度学习模型的梯度方向添加图像扰动，使损失函数增大，导致模型进行错误的分类。 观点：高维空间下的线性行为足以产生对抗样本。 x~=x+ηη=εsign(▽xJ(θ,x,y))\tilde{x}=x+\et...