1、基于深度学习的智能系统中的安全漏洞及影响目录智能（AI）系统概述智能系统概述智能（AI）系统安全漏洞及影响拒绝服务攻击智能系统框架及第三方依赖基于软件漏洞的对抗攻击基于AI系统软件实现的对抗样本生成智能（AI）系统概述基于深度学习的图像识别ClassificationInputThe input is recognized as FileAPPResult“cat”AI系统图像语音分析矩阵向量计算数据处理其他GPU加速软件软件基于深度学习的智能系统图像处理矩阵向量计算数据处理其他GPU加速图像处理矩阵向量计算数据处理其他GPU加速基于深度学习的智能系统137个依赖库96个依赖模块智能系统安全A
2、I应用系统AI框架AI系统软件依赖智能系统安全目录智能（AI）系统概述智能系统概述智能（AI）系统安全漏洞及影响拒绝服务攻击基于软件漏洞的对抗攻击基于AI系统软件实现的对抗样本生成智能系统框架及第三方依赖拒绝服务攻击DOS“0”“0”拒绝服务攻击DOS“0”1.资源耗尽导致AI系统DOS“0”2.程序崩溃导致AI系统DOSCPU耗尽导致AI系统DOS（1）CPU耗尽导致AI系统DOS（1）CVE-2017-12600CPU耗尽导致AI系统DOS（2）1 https:/ input“any”“0”数据流篡改控制流劫持基于软件漏洞的对抗攻击数据流窜改（任意写内存漏洞）CVE-2017-12604基
3、于软件漏洞的对抗攻击待进一步利用成功控制流劫持（堆溢出漏洞）CVE-2017-12603小结OpencvCVE-2017-12597CVE-2017-12598CVE-2017-12599CVE-2017-12600CVE-2017-12601CVE-2017-12602CVE-2017-12603CVE-2017-12604CVE-2017-12605CVE-2017-12606CVE-2017-14136numpyCVE-2017-12852OpenEXRCVE-2017-12596LibjasperCVE-2017-9782Including buffer overflow，out of
4、 bound write，DOS，etc.wave(python)CVE-2017-14144目录智能（AI）系统概述智能系统框架智能（AI）系统安全漏洞及影响拒绝服务攻击基于软件漏洞的对抗攻击基于AI系统软件实现的对抗样本生成智能系统框架及第三方依赖基于AI系统软件实现的对抗样本生成1:Goodfellow,I.J.,J.Shlens,and C.Szegedy,Explaining and Harnessing Adversarial Examples.Computer Science,2014.2:guyen,A.,J.Yosinski,and J.Clune,Deep neural n
5、etworks are easily fooled:High confidence predictions for unrecognizableimages.2015:p.427-436.基于AI系统软件实现的对抗样本生成“1”“2”对抗样本生成漏洞挖掘利用灰盒Fuzzing实现的对抗样本生成1、漏洞注入2、结合文件格式的变异3、基于关键数据的导向“1”“2”“2”“2”“2”利用灰盒Fuzzing实现的对抗样本生成针对人脸识别的对抗样本生成Rock Stevens,Octavian Suciu,Andrew Ruef,Sanghyun Hong,Michael W.Hicks,Tudor Dumitras:Summoning Demons:The Pursuit of Exploitable Bugs in Machine Learning.CoRRabs/1701.04739(2017)对抗样本：人脸识别总结及未来工作拓展到封闭图像采集AI应用场景“0”1、AI系统软件安全漏洞及影响“2”2、基于AI系统软件实现的对抗样本生成3、下一步工作：谢谢
sgpjbg002
工作日 8:30 - 17:30
报告分类
