AI与安全

AI与安全今天开始更新啦。

之所以取这样一个名字,是因为我前面的工作主要在这两个领域,后续也想坚持在这两个领域中持续学习。最后声明一下,文章并不局限在这两个领域,至于内容什么的,就当我在扯淡好了,谢谢。

对于AI与安全,有几种理解。

第一种分开看待,AI和安全。

近两年,深度学习带动AI大火,现在无处不在谈AI。一个概念有它的炒作周期,AI也会从期望膨胀期到幻灭期,复苏期。这就是一个选择落地的过程。

大规模的数据,让机器学习算法,特别是深度学习有了大规模的应用。在某些方面上,是深度学习的天下,比如CV。但在某些方面突破较小,比如NLP。而后面出现的比如强化学习效果如何,还需等待大规模验证。

在AI与安全中的安全,指的是网络安全。网络安全最近几年大发展,从一个需要被教育的行业快速发展成为国家安全拥有战略地位的行业,研究和人才都有持续增长。各大公司也在大量囤积安全人才,推进一些安全相关的研究。

第二种是用AI技术做安全的事情。

最近几年,网络安全的趋势是在向AI靠拢。攻击和防御都在使用AI,比如密码破译之类的攻击,也包括APT攻击检测,滑动验证码,DNS数据分析等应用,更有一些在尝试自动漏洞挖掘,自动漏洞修复等新的课题出现。

我想,在网络安全使用AI技术,可能是有一种降维打击的快感。不知道使用AI来发动攻击会有多少快感。

第三种是AI中的安全问题。

AI的应用越来越多,安全问题也会越来越重视。AI系统的一些安全主要可以从这几个方面来理解。

1.机器学习/深度学习框架以及依赖库的漏洞  

2.对抗样本攻击

3.训练数据污染

当然还有更高级的安全问题存在,比如物理安全和政治安全,在后面会有更多的介绍。

AI系统中的对抗样本防御,缓解技术研究是个很好的方向,有兴趣的同学可以多读读这方面的paper。 

发表评论