1、迎接智能时代新挑战 构筑AI安全新防线 百度 马杰 注定不凡的2020 It was the Best of Times, It was the Worst of Times Charles DickensA Tale of Two Cities AI时代的安全新挑战 旧有顽疾 集中爆发 智能设备无处不在万物互联 系统漏洞、设备劫持、云 端风险、数据安全、隐私 泄露 全新问题 持续出现 AI推动各行各业智能化转型 AI算法有时本身也会“犯 错”,这让AI本身的安全 性也变得更为重要,并超 乎我们对于安全边界与框 架的传统认知范畴。 百度在AI模型安全领域的前沿研究 对抗样本攻击 在数据集中通过
2、故意添加细微的干扰形成输入样本,导致AI模型以高置信度给出错误输出。 典型案例:对于自动驾驶视觉识别系统的攻击 针对路面车辆识别的攻击 欺骗车辆漏检前车造成追尾 针对交通标识识别的攻击 欺骗车辆误判指示 伪造不存在物体无中生有 导致急刹等危险反馈 DSN 2020 Valencia Spain 为应对深度神经网络面对物理世界时真实存在的威胁,推出衡量其鲁棒性的标准化框架。 百度在AI模型安全领域的前沿研究 百度安全深度学习模型鲁棒性评估框架 Black Hat Asia 2019 Singapore 基于对“指纹攻击”新型攻击方式的研究,指出黑盒模型所制造的只是虚假的安全感。 基于现实世界正常
3、扰动定义可致威胁的安全属性:光照、空间交换、模糊、噪声、天气变化。 真实世界的环境因素对输入数据正常扰动 百度在AI模型安全领域的前沿研究 AI换脸技术引发争议 媒体持续关注 2019年7月18日新京报评论文章 安全隐患 便利视频伪造 或成为谣言传播帮凶 从一夜爆红到被约谈整改,又一次 为网络数据安全问题敲响警钟。 人民日报海外版 法律风险 或涉嫌滥用个人肖像权 或造成侵犯个人隐私 社会问题 或被用于非法获取个人信息 或造成个人信息泄露 或被用于欺诈等犯罪活动 百度安全现已全面开源 业内首款AI换脸检测工具 https:/ ter/applications/fake_face_detect/README.md 百度在AI模型安全领域的前沿研究 立法保障 国家网信办等三部门印发网络音视频信息服务管理规定于2020年1月施行: 规范AI换脸等网络音视频活动,加强监管,加大违法行为打击力度。 假
1、下载报告失败解决办法 2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。 3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。 4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
2020BCS-北京网络安全大会:车联网时代的安全新挑战.pdf
2020BCS-北京网络安全大会:新基建 新要素 新安全.pdf
2020BCS-北京网络安全大会:5G时代网络安全产业机会.pdf
2020BCS-北京网络安全大会:新基建-新经济-新安全.pdf
2020BCS-北京网络安全大会:“新基建”加速安全技术创新.pdf
2020BCS-北京网络安全大会:PKS体系架构.pdf
2020BCS-北京网络安全大会:DevSecOps标准解读.pdf
2020BCS-北京网络安全大会:多维安全漏洞治理.pdf
2020BCS-北京网络安全大会:新基建中的关键领域安全剖析.pdf
2020BCS-北京网络安全大会:新基建与工业互联网安全.pdf
三个皮匠报告专业的行业报告下载站,每日更新,欢迎大家关注!
copyright@2008-2013 长沙景略智创信息技术有限公司版权所有 网站备案/许可证号:湘B2-20190120
专属顾问
机构入驻、侵权投诉、商务合作
三个皮匠报告官方公众号
验证即登录,未注册将自动创建三个皮匠报告账号
使用 微信 扫一扫登陆