ML安全

模型逆向攻击深度实战:从置信度最大化、生成式先验到训练数据重建的隐私安全工程

模型逆向攻击(Model Inversion Attack)是机器学习隐私威胁谱系里最容易被低估、却最贴近“数据隐私”本质的一类攻击:攻击者并不想复制你的模型,也不只想判断某条记录是否参与过训练,而是要从模型的输出反推出训练数据本身——一个人的基因型、一张人脸、一条医疗记录。

后门攻击深度实战:从触发器植入、BadNets 到干净标签后门与谱防御的工程全解

后门攻击(Neural Backdoor Attack,亦常称 Trojan Attack)是机器学习安全中一类与数据投毒高度相关却目标迥异的攻击:攻击者在模型训练阶段(或预训练权重、第三方供应链环节)植入一个隐藏的「触发器(trigger)」映射,使得模型在面对正常输入时保持高精度

对抗训练深度实战:从 Min-Max 鲁棒优化、PGD-AT 到 TRADES 与认证鲁棒性的工程全解

一个在干净样本上 99% 准确率的卷积网络,只要被贴上肉眼不可见的对抗扰动,预测就会瞬间翻车——这是 2014 年 Goodfellow 等人揭示的“对抗样本”现象,也是深度学习从实验室走向安全敏感场景(自动驾驶、金融风控、医疗影像)时绕不开的一道坎。

成员推断攻击深度实战:从影子模型、攻击分类器到差分隐私防御的隐私安全工程

成员推断攻击(Membership Inference Attack, MIA)是机器学习隐私领域最基础、也最容易被低估的一类攻击:给定一条样本 x 和黑盒访问的目标模型 f,攻击者要判断 x 是否出现在 f 的训练集里。这件事听起来无害,但它直接戳破了「模型只是学到了泛化规律、不会记住具体训练样本」的幻觉。

模型提取与盗取攻击深度实战:从黑盒 Prediction API 到替代模型克隆与参数反解的安全工程

机器学习即服务(MLaaS)把训练好的模型包装成一个“提问—返回预测”的 API:你传入一条样本,它吐回类别标签或置信度。这种黑盒便利的背后藏着一条被长期低估的攻击面——模型提取(Model Extraction)/ 模型盗取(Model Theft):攻击者仅凭查询权限,就能重建出与原模型功能等价