【AI安全周刊】2022年6月第一期

6月第一周

  1. AdaTest:用自适应测试发现并修复自然语言机器学习模型中的缺陷 https://github.com/microsoft/adatest

往期回顾:

2021年10月

  1. 机器学习安全课程 Machine Learning Security A short course on adversarial machine learning. https://unica-mlsec.github.io/mlsec/
  2. 关于自动化漏洞挖掘的论文 该工作目前已经被CCS 2021,作者提出了静态分析框架IPPO来准确识别程序中缺失的安全操作,IPPO的分析建立在函数内的控制流图路径之上,假设一对功能相似的路径应当采取相同的安全操作。作者首先通过独立的分析流检测程序中的安全操作,并提取出安全操作中涉及的关键对象(变量)之后作者设计了四条规则来刻画并收集一个函数内基于此对象的相似路径对,只需两条路径即可建立相似性关系。最后检查这些相似路径是否存在只有一条路径施加了安全操作的情况,即另一条路径存在安全操作的缺失,并作为bug报告出来,将相似性分析建立在特定的对象之上同时提高了分析的准确性和鲁棒性。https://nesa.zju.edu.cn/download/ldh_pdf_IPPO.pdf
  3. AI中的后门攻击及防御-实战篇 https://www.anquanke.com/post/id/255550
  4. 用机器学习破解随机数生成器 Cracking Random Number Generators using Machine Learning https://research.nccgroup.com/2021/10/15/cracking-random-number-generators-using-machine-learning-part-1-xorshift128/
  5. 视频DeepFake检测新范式:学习空间与时间不一致性 https://mp.weixin.qq.com/s/bnZAD3LVhXlDQmP-6uZ_3Q
  6. 对抗攻击介绍 https://www.anquanke.com/post/id/254628
  7. “刷脸时代”你的脸就是我的脸 https://paper.seebug.org/1739/ https://paper.seebug.org/1740/

发表评论