025.你了解AI安全吗?

图片
我应该算是这本书的首批读者,到目前为止拿到手有8个月了。当时因为这本书的主编本身有一些争议,还发了一个朋友圈,今天就完成当时在朋友圈留下的任务,带来这本《人工智能安全》的读书笔记。
人工智能安全
这本书主要是提出了一个人工智能安全的体系架构,主要有三方面的内容,包括人工智能助力安全,人工智能内生安全,人工智能衍生安全。书中还简单介绍了包括人工智能的发展史,世界各国的人工智能战略,人工智能前沿的一些技术和人工智能安全的未来发展等主题。
图片
人工智能安全体系架构如上图所示,我们从这三方面来了解一下。
人工智能助力安全 AI for Sec
人工智能助力安全,就是用AI来赋能安全,包括防御和攻击。
对于防御者来说,可以利用AI来提升和扩展原来的防御能力,包括做智能安防,智能入侵检测系统,检测恶意代码,异常检测等等非常多的应用。
在攻击者角度的话,可以实现自动化的漏洞挖掘,构建智能恶意代码,为神经网络植入后门,自动构建钓鱼邮件,还包括生成高逼真的假音视频等等。AI助力攻击已经渗透到攻击的完整攻击链,AI还被用于发动恐怖袭击,引导舆论等有军事或者政治企图的新行动中。
人工智能内生安全 AI Sec
人工智能内生安全就是AI系统的本身安全,AI系统现在存在脆弱性,包括框架组件,数据,算法,模型等,这些环节都可以给系统带来脆弱性。
框架组件方面,TF,Numpy等框架被爆出一些漏洞,给系统带来一定的风险。
数据方面,我们需要保证输入数据的正确性,包括训练数据和推理数据。AI系统高度依赖数据的正确性,数据的丢失,噪声输入都可以给系统带来严重干扰。
算法方面,很难保证算法的正确性,神经网络是个黑盒子,预测能力强,但是缺乏解释性。对抗样本就是利用算法的缺陷来攻击的一种技术。
模型方面,很难保证模型不被窃取或者被污染。模型是一个实体文件,就存在被窃取和被植入后门的安全风险。
人工智能衍生安全 AI safty
人工智能衍生安全是指由于AI系统的自身脆弱性导致危及其他领域的安全。包括以下这4个方面。
  1. AI系统因存在脆弱性而被攻击
  2. AI系统因为自身失误引发安全事故
  3. AI武器研发可能导致国际军备竞赛
  4. AIA(人工智能行为体)一旦失控将危及人类安全
只要涉及到AI的,都算是AI衍生安全。
观点
这本书,看得我比较纠结。我从2017年开始研究AI安全,主要是研究AI系统本身的安全,看这本书主要是想从大的AI安全体系结构上来学习。确实这本书的内容不少,参考文献也非常多,但都是偏概述和政策叙述。注意这本书并不是技术实战的书,涉及到的技术都在只是一笔带过,可以当科普书来读。
如果你想知道是怎么攻击和防御的,那不必读这本书。如果你想从更大的层面来看AI安全,那这本书还可以读读。里面提到的概念,多去扩展理解。书中例子非常多,AI安全的资料引用非常全,不是一般的白皮书可以比的。希望大家读了都有AI安全的大局观吧。
总结
推荐理由:  作者提出了一个AI安全的体系架构,从更高的层次来讲AI安全。
总体打分:  三星
我有一个运营两年多的知识星球,主要是关注AI与安全方面的一些资料和议题,有兴趣可以选择加入。
图片
AI助力安全的书籍推荐:

往期回顾:
024.  快来,数学天才教你学数学
023.你的《7天创业指南》
022.村上春树《弃猫》
021.莫言《晚熟的人》
图片

发表评论