你好,我是P小二,很高兴我又要更新了。
为什么要出这个专栏?
首先,因为我高兴。我想开一个AI安全的专栏来讨论这方面的学习进展。如果还写得不错,得到了几个赞许,也是大大的幸福感。
其实人们对AI的安全担忧早就有之,不过更多的是从伦理道德和工作层面上进行批判,宣扬AI威胁论。就现在所处的弱人工智能阶段来说,这些担心其实大可不必。随着深度学习大火,各种攻击AI系统的技术被发明发现,攻击者与防御者的博弈才算真正的开始了。未知攻焉知防,研究矛,加强盾是一条必经之路。
其次,AI安全是近些年才出现的热潮,世面上的资料质量参差不齐,特别是中文领域没有好的教程。如果能给后来者一些跳坑的经验之谈,那目的就算达到了。
我要学习,需要什么样的基础
在我看来,你不需要任何基础,你需要是强烈的学习兴趣。
如果你没有编程基础,可以通过网上的一些开源教程补充一些Python语法。
如果你计算机科班毕业,恭喜你,你可以补充一些机器学习的基础知识。
如果你正在读机器学习方向的研究生,太好了,把TF和Pytorch多多玩溜吧。
如果你是博士,欢迎你,加入我们读论文的队伍里来吧,特别需要您。
如果你是安全研究人员,Just do it,整就牛。
我认为的专栏特色
说说和一些课程相同的特色
以实战为主,会有很多练习出现在专栏中
有代码有解答,以jupyter notebook的形式输出
跟进最新的研究进展,会去复现论文,跑通demo
会尝试用视频形式输出,直观易懂
当然我也有不一样的特色,那就是会断更,静静等待就好。
专栏网址:http://aipwn.org/HackingNeuralNetworks
Github:https://github.com/AIPwn/HackingNeuralNetworks
你可能需要的推荐资源
Python基础:
Python编程:从入门到实践
Python Cookbook
流畅的Python
机器学习基础:
coursera课程: machine learning Standford Andrew Ng
coursera课程: Deep Learning Specialization deeplearning.ai
Deep Learning: Adaptive Computation and Machine Learning series
Deep Learning with Python
动手学深度学习
计算机视觉:
cs231n
自然语言处理:
coursera课程: Natural Language Processing Specialization deeplearning.ai
cs224n
Deep Learning for NLP at Oxford with Deep Mind 2017
深度学习框架:
coursera课程: TensorFlow in Practice Specialization deeplearning.ai
官方书: deep learning with pytorch
keras 官方文档
AI安全科普书:
Adversarial Machine Learning(中文版:对抗机器学习:机器学习系统中的攻击和防御)
AI安全之对抗样本入门
Web安全之强化学习与GAN
人工智能安全
对抗样本比赛:
https://github.com/AIPwn/AI-Pwn-Competition
论文集合:
https://github.com/AIPwn/awesome-ai-pwn
https://github.com/yenchenlin/awesome-adversarial-machine-learning
开源项目:
cleverhans
adversarial-robustness-toolbox
AdvBox
foolbox