1、 电信网络诈骗治理与人工智 能应用白皮书 （2019 年） 中国信息通信研究院安全研究所中国信息通信研究院安全研究所 2019 年年 12 月月 版权声明版权声明 本白皮书版权属于中国信息通信研究院安全研究所本白皮书版权属于中国信息通信研究院安全研究所，并并 受法律保护。转载、摘编或利用其它方式使用本白皮书文字或受法律保护。转载、摘编或利用其它方式使用本白皮书文字或 者观点的，应注明者观点的，应注明“来源：中国信息通信研究院安全研究所来源：中国信息通信研究院安全研究所”。 违反上述声明者，本单位将追究其相关法律责任。违反上述声明者，本单位将追究其相关法律责任。 前 言 近年来，我国电信网络诈骗

2、活动猖獗，已成为影响人民群众安全 感和幸福感的一大社会公害。根据党中央、国务院对防范治理电信网 络诈骗工作有关指示要求以及工业和信息化部系列工作部署， 信息通 信行业相关单位和企业在工信部网安局指导下， 紧跟反诈新形势新要 求，不断创新思路举措，将人工智能等新技术广泛应用于防范治理技 术能力建设中，取得了阶段性的明显效果。以“众智护网”2019 年 度防范治理电信网络诈骗创新示范项目评选为例，从入选项目情况 看，基础电信企业、互联网企业、安全领域专业技术厂商等信息通信 行业企业单位均开展了基于人工智能的技术防范体系研究、 开发和建 设工作，涵盖了网络侧、业务侧、用户侧等多方面的电信网络诈骗治

3、理需求，并取得了良好的治理成效和社会效益。 技术创新是一把双刃剑， 人工智能技术在不断促进防范治理技术 发展和进步的同时，也开始被诈骗分子所利用，带来了一定程度的风 险隐患。特别是随着基于人工智能的“深度伪造”、群聊群控等诈骗 手法的传播和应用，这些风险被进一步集聚、放大，引起了社会各界 的关注。 本白皮书结合当前电信网络诈骗防范治理工作实践情况和人工 智能技术的发展应用， 系统梳理人工智能在治理工作中的积极影响及 技术实践应用， 同时剖析人工智能不当使用为治理工作带来的风险挑 战，在总结国内外电信网络诈骗治理现状的基础上，深入分析当前人 工智能背景下治理工作的趋势走向和问题短板并研究提出对应

4、的措 施建议。 目录 一、人工智能在电信网络诈骗治理中的积极影响及技术实践 . 1 （一）人工智能在电信网络诈骗治理中的积极影响 . 1 （二）人工智能在电信网络诈骗治理中的技术应用 . 3 （三）人工智能在电信网络诈骗治理中的实践应用 . 6 二、人工智能给电信网络诈骗治理带来的风险与挑战 . 9 （一）电信网络诈骗实施的四个主要环节 . 10 （二）在“精准信息获取”环节 . 10 （三）在“诈骗脚本设计”环节 . 12 （四）在“通讯联络诱导”环节 . 13 （五）在“资金支付转移”环节 . 15 三、人工智能背景下国内外电信网络诈骗治理动态 . 15 （一）国际主要国家和地区治理经验做

5、法 . 16 （二）国内信息通信行业主要治理举措与成效 . 19 四、人工智能背景下治理工作面临的难点与问题 . 26 （一）在法律法规方面 . 26 （二）在行业管理方面 . 27 （三）在技术利用方面 . 27 （四）在宣传引导方面 . 28 （五）在协同治理方面 . 29 五、人工智能背景下电信网络诈骗治理的措施建议 . 29 （一） 明晰治理思路，坚持发展与安全并举 . 30 （二） 完善法律法规，加大执法与惩戒力度 . 31 （三） 强化行业监管，推进源头与综合治理 . 31 （四） 加快技术研发，提高识别与反制能力 . 32 （五） 创新宣传方式，增强防范与安全意识 . 33 （六

6、） 促进协同治理，深化跨行业与跨国合作 . 34 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 1 一、人工智能在电信网络诈骗治理中的积极影响及技术实践 （一）人工智能在电信网络诈骗治理中的积极影响（一）人工智能在电信网络诈骗治理中的积极影响 随着云计算、大数据、移动互联网的不断发展，人工智能进入到 了一个全新的发展阶段：基础算力不断增强，核心算法不断突破，应 用场景不断丰富，成为引领创新发展的战略性技术。人工智能技术的 蓬勃发展带来了强大的产业拉动效应，不断加速传统产业的数字化、 智能化进程， 驱动产业优化升级和生产力快速提升， 在推进社会进步、 经济发展、人民生

7、活质量提高等方面产生了重大而深远的影响。 同时， 人工智能技术的发展也为电信网络诈骗治理工作带来了积 极影响：随着以大数据分析、机器学习、模式识别、知识图谱为代表 的人工智能技术的部署应用， 电信网络诈骗技术防范系统的识别准确 度更高、监测拦截实时性更强、防护覆盖面更大，为治理工作的不断 推进提供了强大动力，有效降低了电信网络诈骗带来的风险与危害。 1、防范识别准确度提高 对诈骗信息和行为的判定识别是防范治理技术工作的基础和前 提。相比于人工判定方式，人工智能在诈骗识别方面的应用有效地提 高了判定的准确度及可靠性。首先，通过人工智能技术可以对海量历 史及实时数据进行多维度分析，挖掘不同数据间的

8、内在联系，使得发 现隐蔽诈骗线索和行为的能力快速提升。其次，通过对已有诈骗事件 和数据的不断迭代学习， 人工智能技术可以及时全面掌握各类诈骗活 动的行为特征， 从而准确识别具备相同和相似特特征的疑似诈骗信息 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 2 或行为。 2、监测拦截实时性加强 对电信网络诈骗行为进行实时预警拦截是防范治理工作的一个 重要方面。利用人工智能技术通过对电信网、互联网、金融支付等各 方数据的实时分析和深度计算， 能够极大提升诈骗信息预警拦截的效 率和及时性。从监测拦截角度看，现有人工智能技术可以实时监控疑 似手机黑卡的诈骗流通轨迹，快速研判涉

9、诈行为，实施对手机黑卡或 涉诈号码的秒级溯源和分钟级关停等处置措施。 从预警信息推送角度 看，依托人工智能的强大算法和计算能力，可以针对疑似涉诈网站、 APP 的活动行为进行实时记录分析，并根据相关模型对疑似高危受害 用户进行实时的预警提醒。 3、反诈防护覆盖面变大 随着基于人工智能的防范治理能力不断提升， 反诈技术的防护范 围得到极大扩展。从数据分析角度看，人工智能技术能够对海量电信 和网络数据进行关联分析并提取有效信息， 对疑似受害人群和疑似诈 骗团伙的搜索查找覆盖范围大大增加。从通讯联络角度看，基于人工 智能的防范治理技术覆盖到了网络侧、 业务侧和用户终端侧等信息通 信过程的各个环节，极

10、大地提高了反诈安全防护的用户覆盖范围。从 诈骗信息监测角度看，当前人工智能技术能够有效识别诈骗文本、图 片、音视频等各类诈骗信息传播手段，内容监测范围得到明显拓展。 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 3 （二）人工智能在电信网络（二）人工智能在电信网络诈骗治理中的技术应用诈骗治理中的技术应用 1、基于大数据分析的技术应用 基于大数据分析的电信网络诈骗防范治理技术应用以数据挖掘 分析结果为驱动，整个过程包括“数据采集、数据处理、数据挖掘” 等多个环节。 在数据采集和处理层面，主要有三种数据来源：在企业自有系统 中沉淀的数据、在网上采集爬取的数据和从第三方购

11、买的数据。这些 数据经过智能化处理清洗后为后续开展数据分析和挖掘， 识别电信网 络诈骗行为，构建完备的技术防范体系奠定了数据基础。 在数据挖掘层面， 利用大数据的挖掘能力可以发现诈骗行为的典 型规律，精准识别诈骗分子和诈骗行为，进而对电信网络诈骗进行准 确预警。 图 1 基于大数据分析的技术应用 2、基于机器学习算法的技术应用 基于机器学习算法的电信网络诈骗防范治理技术应用可以分为 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 4 分类和聚类两种应用形式。分类算法通过已知的诈骗样本、案例数据 进行模型训练，在此基础上对新的行为事件进行涉诈风险分析预测。 聚类算法通过

12、全局分析和高维空间聚类， 在无诈骗样本数据的情况下 找出数据中隐含的共同特征， 从而完成大规模关联诈骗团伙的自动发 现。 通过机器学习两种算法的互相结合， 可以有效提升发现识别诈骗 行为和团伙的技术能力。以涉诈互联网社交账户识别发现为例，根据 诈骗行为在多维空间向量上距离相近的特征，通过构建以登录时间、 浏览器类型、 IP 地址、 GPS 地址、 昵称修改等为特征的多维空间向量， 利用聚类算法可以将疑似诈骗行为或账户聚为一组并抽取该群组的 共性信息生成训练数据。基于聚类算法生产的训练数据，分类算法能 够在此基础进行模型训练并进一步发现共性样本群组之外的诈骗行 为和账户。两种算法相辅相成，为诈骗

13、风险预警提供高效的检测和研 判能力。 3、基于模式识别的技术应用 基于模式识别的电信网络诈骗防范治理技术聚焦已知诈骗行为 的样本数据特征， 通过分析归纳得到诈骗行为的多维度特征属性并形 成涉诈资源模板库，结合自然语言处理、生物特征识别及大数据挖掘 分析等技术，对目标对象进行相似度交叉比对分析，研判得出目标对 象的涉诈风险，在诈骗电话、诈骗网站的判定识别领域有广泛应用。 以诈骗网址检测识别为例，在提取目标网址的标题、关键词及页 面标签元素等多种特征属性的基础上， 通过计算目标网址与诈骗资源 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 5 模板库中的网址样本之间的特征

14、距离，判断两者之间的相似度。一般 来讲，两者特征距离越近说明相似程度越大，目标网址涉嫌诈骗的可 能性就越大。 图 2 诈骗网址监测识别 4、基于知识图谱的技术应用 知识图谱是一种基于图的数据结构， 可以看作是由数据绘制出来 的一张知识图。在防范治理应用中，知识图谱技术能够聚合关联多种 数据源，针对监测目标分析识别其脉络、趋势以及特征，在关键诈骗 信息搜索、账号涉诈风险评估、诈骗团伙研判、异常行为分析等方面 具有重要应用。 以银行卡全周期异常行为分析为例， 通过知识图谱技术对全周期 内的银行卡关联数据进行分析，并以图的方式进行数据融合及可视 化，从而找到银行卡异常行为的内在关联，提升对诈骗资金流

15、的打击 效率。相比于人工核验，其效率提升 10 余倍，准确率约为 99.5%。 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 6 图 3 基于知识图谱的银行卡异常行为分析 （三）人工智能在电信网络诈骗治理中的实践应用（三）人工智能在电信网络诈骗治理中的实践应用 结合电信网络诈骗治理实践，目前人工智能技术在诈骗电话检 测、恶意网址拦截、诈骗文本识别、诈骗风险预警等场景下已经有深 入的应用及探索。 1、诈骗电话检测 电话诈骗是电信网络诈骗中的突出类型，诈骗数量较多，诈骗内 容花样层出不穷，社会影响恶劣。及时尽早地感知、发现诈骗电话， 是减少此类电信网络诈骗活动损失必不可

16、少的方法。 由于诈骗分子掌 握大量用于诈骗的号码，传统的基于号码的阻断策略容易被绕过，及 早发现诈骗电话的难度在不断增大。 人工智能时代， 利用大数据分析、 模式识别等技术可以对海量通信数据进行预处理和数据融合分析研 判，从而进行全天候全方位诈骗电话检测，能够有效增强针对电话诈 骗的防御和反制能力。 以极限元人工智能语音识别、语音关键词检索技术为例，其推出 了诈骗电话检测技术解决方案， 可以有效检测识别邮包快递、 社保卡、 信用卡等十余种诈骗场景及类型。 通过人工智能语音关键词检索技术 对疑似诈骗电话进行匹配识别，不仅提高了检索识别效率，还能有效 电信网络诈骗治理与人工智能应用白皮书（2019

17、 年） 中国信息通信研究院 7 避免误判增加识别准确率。 2、恶意网址拦截 恶意网址是指恶意种植木马、病毒等恶意程序的网站，是目前诈 骗分子用于窃取用户个人信息、实施网络勒索诈骗的重要方式。人工 智能技术用于恶意网址监测拦截主要基于机器学习的分类和聚类方 法。 分类方法主要是收集样本数据进行归一化处理后构造分类器识 别是否恶意： 首先是根据已经标记的 URL 数据集提取静态特征 （主机、 URL、网页信息等）和动态特征（浏览器行为，网页跳转关系等）， 对提取特征进行归一化处理后通过算法构造分类器来识别恶意网站。 聚类方法略有不同： 首先在网页采集的 URL 数据集中提取连接关 系、URL 特征

18、、网页文本信息等特征，再根据聚类算法模型将 URL 数 据集划分为若干聚类，相似度较高的 URL 数据会在同一聚类中，反之 则归为不同聚类，最后对已标记的聚类结果识别待测 URL，判断其是 否为恶意网页。 以腾讯安全云库为例，其利用云端监测技术，基于机器学习算法 和大数据平台，进行云端全网海量网址特征比对检测、页面相似度分 析，同时配备人工审核团队审核，建立实时更新的黑白样本库。在不 同的应用场景下，基于海量数据的样本库不断调整和适配算法，最终 选取严格保证准确率的机器学习模型，在保证及时性的同时，也能达 到较好的识别准确率。 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信

19、研究院 8 3、诈骗信息审核过滤 诈骗信息包括诈骗文本、诈骗图片（头像）、诈骗音视频等多种 内容。其中，以诈骗短信为代表的诈骗文本信息是出现最早、较为突 出的诈骗类型，由于成本低、目标用户范围广，颇受诈骗分子青睐。 依靠社交网络平台传播的诈骗图片（头像）、伪造音视频等诈骗信息 形式则更为复杂，通过合成虚假头像、语音或视频能够伪装成受骗人 群的亲人好友，并进而以多种理由话术逐步实施诈骗。人工智能在诈 骗信息识别中具有重要作用，通过自然语言处理，计算机视觉，和语 音识别等深度学习技术， 可以实时分析并判断消息的可靠性和敏感程 度，及早识别出涉诈或伪造内容，将对公众有危害的信息及早扼杀在 摇篮里。

20、以 360 应龙综合反诈平台为例，其运用模型算法、人工智能等前 沿技术，对疑似诈骗的信息、图片、账号进行识别、分类、拦截。高 峰时期，在国内单个省份一天能有效识别拦截虚假涉诈信息近 70 万 条。 4、受害者发现预警 及时发现识别高危受害者并进行快速预警提醒是防范阻断电信 网络诈骗活动，切实保障人民群众财产安全的重要手段。人工智能的 发展为解决高危受害人发现及诈骗信息预警提供了可能，通过对电 信、网络数据的融合分析，能够有效、及时地发现诈骗活动并进行预 警。 以阿里钱盾反诈公益平台为例，通过对涉及诈骗的黑号码、黑卡 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 9

21、等黑名单库的共享共建， 利用人工智能模型算法分析处理用户的异动 情况，不断更新迭代预警模型，进而形成自动化的诈骗行为和受害用 户的发现预警的能力，通过对疑似受害用户的及时预警提醒，大大地 降低了群众资金损失。 5、诈骗团伙研判分析 当前电信网络诈骗呈现出团伙化、组织化特点，且诈骗分子往往 分布在不同地区，乃至不同国家，相互勾连配合实施诈骗。检测识别 某一诈骗帐号或某一诈骗分子往往效果不佳，识别诈骗团伙，进行全 面的防范治理才是更加高效有用的治理方式。人工智能技术的应用， 可以大大提高诈骗团伙识别能力，助力反电信网络诈骗工作推进。 以腾讯“反诈大脑”为例，通过人工审核清洗出互联网侧精准的 电信网

22、络诈骗举报数据，经由诈骗团伙识别模型进行团伙识别、聚类 分析，将离散的单点举报聚类成可疑诈骗团伙，输出诈骗团伙作案设 备、嫌疑人、受害人等相关线索，可以有效提高电信网络诈骗防范治 理工作效率。 二、人工智能给电信网络诈骗治理带来的风险与挑战 人工智能在推动防范治理工作的不断前进的同时， 也开始被不法 分子用来实施诈骗，当电信网络诈骗用上人工智能，往往会扩大诈骗 的危害广度和深度，给防范治理工作带来一定的风险与挑战。 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 10 （一）电信网络诈骗实施的四个主要环节（一）电信网络诈骗实施的四个主要环节 一般来讲，电信网络诈骗活动

23、可以归结为精准信息获取、诈骗脚 本设计、通讯联络诱导、资金支付转移四个关键环节。在精准信息获在精准信息获 取环节取环节， 诈骗分子主要非法窃取或购买社会上各行各业泄漏的个人信 息，包括身份证信息、电话号码、家庭地址，以及网络账号和密码、 银行账号和密码等信息。目前看，个人信息泄露是精准诈骗的根源。 在诈骗脚本设计环节在诈骗脚本设计环节，诈骗分子模拟真实的经济社会活动场景，精心 设计各种诈骗脚本，如近期高发的代办信用卡、兼职刷单、冒充网购 客服、冒充公检法等诈骗案件。在通讯联络诱导环节在通讯联络诱导环节，诈骗分子通过 电话、短信、互联网等通讯渠道联络受害人，利用之前设计的诈骗脚 本与获取的受害人

24、个人信息，骗取受害人信任进而实施诈骗。在资金在资金 支付转移环节支付转移环节，诈骗分子引导受害人通过银行转账、网上支付等方式 向其指定账户转款， 再经由预先设计的诈骗分赃销赃渠道快速从指定 账户中转移受害人资金。 （二）在“精准信息获取”环节（二）在“精准信息获取”环节 在“精准信息获取”环节，人工智能加剧个人隐私泄露。 一是借助人工智能技术更容易通过网络攻击破坏系统并窃取数 据。随着机器学习算法研究的推进，智能软件技术快速发展，使信息 窃取更为便捷。从近几年多起侵犯公民个人信息案件看，犯罪团伙往 往以人工智能软件为犯罪工具，通过“撞库”等方式，非法获取在网 站后台存储的用户注册信息。在人工智

25、能的帮助下，智能恶意软件攻 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 11 击效率更高，针对性更强，可轻易破坏受害者的防御系统，获取系统 中的个人信息，例如聊天记录、家庭关系、个人习惯、音频视频等。 二是利用人工智能技术可获取大量用户生物特征信息。 近期走红 网络的“ZAO”、DeepFakes 和 DeepNude 等换脸 APP，用户借助 AI 技 术只需要一张正脸照，就可以替换为影视作品或者小视频中的人物， 生成以自己为主角的视频片段。 但同时关于换脸的安全性及隐私性问 题，很快引起了社会的广泛讨论和关注。用户如果想要下载或分享换 脸视频，则需要在摄像头前

26、进行张嘴、眨眼、转头等动作进行验证， 这一过程中搜集了用户的面部特征等核心个人信息。 生物特征信息的 泄露是永久、不可逆的，也就意味着对信息滥用者来说，存在着“一 次窃取，永久有效”的“超便捷性”和“超高性价比”。 三是利用人工智能技术 “晒密撞库” 精准提取个人重要信息。 2018 年 10 月，苹果 APP Store 爆出大规模的“免密”盗刷事件，主要原 因是不法分子进行“晒密撞库”导致的个人信息泄露。所谓“晒密撞 库”就是不法分子在窃取网站数据库后，通过验证的方式筛选账号密 码等对应的有价值数据。利用图像识别技术的“打码平台”，提供图 片验证码自动识别服务，为批量识别、提高“晒密”效率

27、、突破验证 码安全体系起到了关键作用，该平台识别精准度极高，验证码识别正 确率达 95%以上，实现了批量晒密撞库的功能。 四是获取个人信息的途径更加多样化，方式更加隐蔽。剑桥大学 的一项最新研究表明，利用人工智能技术可以通过“偷听”获取个人 信息。如当用户轻敲手机和平板电脑的屏幕时会产生声波，这些声波 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 12 通过设备的内置麦克风收集、恢复，就可“听到”敲击屏幕的声音， 结合人工智能算法，听到的声音与键盘位置关联，就可实现对用户信 息的“偷听”。另外，当前智能家居市场兴起，涌现出大量被声音控 制的产品和控制产品的软件，均存

28、在窃取隐私的风险。不法分子利用 人工智能技术，将智能手机与智能家居变成一张无孔不入的网，将用 户个人隐私网罗其中。 （三）在“诈骗脚本（三）在“诈骗脚本设计”环节设计”环节 在“诈骗脚本设计”环节，利用人工智能技术设计定制化脚本、 精准选取受害人。 一是针对特定人群产生定制化脚本。 人工智能技术能够越来越容 易精确的模仿一个人， 越来越多的语音交互程序会让特定人的声纹更 容易被收集建立。 智能音箱越来越熟悉主人声音和身份账号背后的关 联。对于人工智能，最大的威胁，并不是替代人类的工作岗位，而是 经过大量的数据输入和深度学习之后， 计算机可以准确判断一个人的 喜好、状态甚至模拟人类做出决策。20

29、19 年 12 月 12 日，新华社首 个智能化编辑部正式建成并投入使用， 开启了一场新闻生产与传播的 智慧革命，“双十一”期间，阿里巴巴智能设计平台“鲁班”自主设 计超过四亿张海报，给用户展现“千人千面”的购物界面。通过对特 定人群的行为特征的训练学习， 人工智能系统同样可以生产出千万个 定制化的诈骗脚本。 二是利用人工智能技术精准筛选受害人。 随着人工智能应用的发 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 13 展,公民个人信息在采集、存储和处理的方式上发生了很大变化。大 量的个人信息被采集下来，组成一个多维度智能数据库，这些信息被 深度地整合分析，挖掘出更

30、有价值的信息。通过分析公众发布在网上 的各类信息，诈骗分子会根据所要实施的骗术对人群进行筛选，从而 选出目标人群。例如实施情感诈骗时，可以筛选出经常发布感情信息 的人群；实施金融诈骗时，可以筛选出经常搜集投资信息的人群。 （四）在“通讯联络诱导”环节（四）在“通讯联络诱导”环节 在“通讯联络诱导”环节，人工智能使通讯联络手段更加隐蔽， 诈骗信息传播更加精准。 一是机器人的大量使用让沟通人力成本更低。 以机器人拨打诈骗 电话为例，应用深度学习技术，将接听人问题自主学习进知识库，并 随着交互数据的不断累计总结， 自动更新维护。 同时， 基于语音识别、 自然语音处理、语音合成三大技术支持，人机交互流

31、畅自然。人工拨 打方式每人每天可以打 300-500 个电话， 而一个外呼机器人每天最多 可打 5000 个电话，人力成本降低 80%，工作效率提升 200%。而聊天 机器人软件，一个人可以同时控制着几十个端口，在微信、婚恋网站 中假装成各种“美女”，和对方聊天交友，批量“谈恋爱”，不少人 就被这些“虚拟美女”诱惑上当受骗。另外，一个充分利用人工智能 的 8 人钓鱼团队能发挥 8000 人的水平，人工操作成本被大大的缩 减。 二是通讯联络方式隐蔽性更强。利用人工智能技术进行声音合 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 14 成、换脸变声，甚至连愤怒、高兴等不

32、同语气情绪都能够做到惟妙惟 肖。用伪造的声音或视频与受害人联系，可信度高、迷惑性强，实现 以假乱真。2018 年底，河北发生一起微信语音转发诈骗，不法分子 利用人工智能技术通过提取语音文件， 转发他人语音实施诈骗。 据 每 日邮报信息，今年 3 月份在英国曝出诈骗分子利用人工智能语音模 仿软件冒充某能源公司高层，骗取子公司 CEO 22 万欧元。基于 AI 的 恶意软件还可以搜索攻击对象的电子邮件与其他文件， 模仿受害者的 写作风格，发送真假难分的钓鱼信件实施诈骗。 三是非法获取号码资源效率更高。 不法分子利用人工智能技术主 要为突破企业安全策略， 进行技术对抗。 在人工智能技术的应用初期，

33、不法分子主要通过脚本控制大量的设备进行拟人化操作， 防止僵尸账 号被企业安全策略打击，比较典型的是通过群控框架及脚本，控制上 百甚至上千台手机组成手机墙，保持帐号活跃性，伪装成普通用户帐 号。现阶段，不法分子已利用人工智能技术突破企业验证码体系，进 行恶意、批量注册，以获取储备号码资源，提供给诈骗分子使用。以 打码为例，在人工智能技术应用下，不法分子每秒可破解验证码次数 达千余次，且成功率在 90%以上，降低了突破企业验证码安全策略的 成本。 四是给信息源头治理和打击带来挑战。从治理实践看，不法分子 不断利用新型技术设备实施诈骗，对抗拦截封堵，逃避追查打击。如 诈骗分子利用智能群呼网关 （如

34、GoIP、 SIMBANK 等） ， 通过远程操控、 机卡分离实现诈骗呼叫异地落地，并使用智能化策略隐藏自身网络、 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 15 业务特征，设法规避公安部门落查打击和通信行业技术防范策略，对 现有诈骗电话大数据预警处置模型产生冲击。从监测数据看，通过国 际互联网入境的 GoIP 诈骗电话达到日均 10 万余次。 （五）在“资金支付转移”环节（五）在“资金支付转移”环节 在“资金支付转移”环节，人工智能的大量使用，给支付环节的 使用带来了风险。在“金融科技”迅速兴起的大背景下，国内银行和 支付机构纷纷利用人工智能推出新业务，如“智

35、能语音”支付功能、 智能理财机器人、人脸支付、“无感支付”、“刷脸”取款等，实现 金融服务的智能化、个性化、定制化。人工智能在支付领域的广泛应 用，同时也存在安全风险：一是信息泄露的风险。应用人工智能必然 会面临海量数据采集和处理，这些数据一旦被成功攻击，会暴露用户 的个人隐私， 也极有可能对客户造成财产损失， 甚至是人身安全。 二 是盗刷盗用风险。不法分子通过获取的用户面部特征、虹膜、声纹、 指纹等生物特征信息，冒充用户身份盗刷盗用他人账户资金。 三、人工智能背景下国内外电信网络诈骗治理动态 近年来，人工智能技术为防范打击电信网络诈骗工作开辟了以 “智”图“治”治理新格局，为促进国家治理体系

36、和治理能力现代化 增添了新动能，但同时也逐渐成为诈骗分子实施精准诈骗的“新利 器”，为诈骗治理工作带来新挑战新风险。为做好诈骗治理工作，各 国政府纷纷布局，瞄准精准诈骗实施主要环节、关键要素，统筹推进 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 16 诈骗治理工作有序稳妥进行。 （一）国际主要国家和地区治理经验做法（一）国际主要国家和地区治理经验做法 从国际上看，换脸换声诈骗、自动刷单诈骗等一系列利用人工智 能技术的新型诈骗模式进入人们的视线， 成为当前电信网络诈骗治理 的痛点难点。为防范治理这种新型电信网络诈骗，世界主要国家和地 区纷纷从深化个人信息保护、 提升

37、技术防范能力、 强化企业守法自律、 加强警示宣传教育等方面着手，开展推进打击防范治理工作，遏制人 工智能诈骗活动的泛滥蔓延。 （1）注重立法先行，深化个人信息保护制度。 一是制定专门性法律法规。 人工智能诈骗实施的关键要素是获取 受害者的个人信息，因此个人信息保护是人工智能诈骗治理的源头。 目前全球已有 126 个国家制定了专门针对个人信息保护的法律。 2015 年日本出台个人信息保护法，细化了个人信息保护权相关规定， 确立了对个人信息保护的一体化监督机制。2018 年，欧盟出台通 用数据保护条例，建立了用户个人信息访问、修正和删除请求相关 机制，明确指出未取得数据主体的同意，不得使用用户画像

38、。随后， 印度出台2018 年个人数据保护法案（草案），明确要求数据控 制者在使用数据画像时，要开展数据保护影响评估，否则不得处置。 2019 年 6 月，美国国会先后提出了两部法律草案深度伪造责任法 案和2019 年深度伪造报告法案，探索立法应对措施，以防范 深度伪造技术潜在滥用风险。2019 年 7 月，美国弗吉尼亚州扩大了 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 17 正式生效非同意色情法（Nonconsensual pornography law）的 修正案，将深度伪造内容纳入该修正案。 二是加大违法行为惩处力度。欧盟出台的通用数据保护条例 是目前公认

39、全球对个人信息泄露惩罚最严格的法律， 明确要求在可行 的情况下，不得迟于发现数据泄露后的 72 小时通知主管监管部门， 未履行通知义务的企业将面临一千万欧元或全球年营业额 2%以上的 处罚。此外，美国、澳大利亚、英国等西方主要国家和地区，均在立 法中对“数据泄露通知”进行了规定，美国部分州规定，民事处罚分 为 500 美金到 5 万美金不等、泄露一次 2500 美金、每天最高 1000 美 金三种。2018 年 12 月，美国联邦议员提出2018 年恶意伪造禁令法 案，规定制作深度伪造内容引发犯罪和侵权行为的个人，以及明知 内容为深度伪造还继续分发的平台，可处以罚款和/或长达两年的监 禁，如果

40、严重的煽动暴力或扰乱政府或选举，监禁将长达 10 年。 （2）强化技术手段，提升诈骗音视频识别与拦截能力。 一是一是政府主动出击，研制开发伪造视频拦截工具。2018 年 8 月， 美国国防部积极开展新型诈骗防范技术研发，依托媒体取证 （Media Forensics）项目，研发出全球首款“反换脸”AI 刑侦工具，能够更 高效更准确的自动检测出被修改过的图片和利用深度伪造技术生成 的视频，防止诈骗分子利用合成信息诱导实施诈骗，斩断人工智能诈 骗黑产链条关键节点。2019 年 6 月，美国众议员在提交美国众议院 审议的情报授权法案中提及要开展深度伪造鉴别技术竞赛， 法案要求 国家情报总监通过情报高

41、级研究计划局局长实施一项有竞争力的奖 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 18 励计划，刺激技术的研究、开发或商业化，以自动检测被机器操纵的 媒体。 二是二是各方积极响应，开发出多项音视频造假检测技术。目前，联 合国区域间犯罪与司法研究所人工智能与机器人中心正在研究检测 虚假视频的技术。 美国赛门铁克公司正在开发一种检测音频造假的技 术，通过该技术可以准确检查出利用人工智能技术合成的音频内容。 此外，美国的 Facebook 除建立了一个机器学习模型来检测虚假图片 和视频外，还与 Partnership on AI、微软以及麻省理工学院、牛津 大学、加州大

42、学伯克利分校等美国多所大学合作，发起了“假视频检 测挑战”(Deepfake Detection Challenge)活动，推动创建高质量的 深度伪造视频数据集，促进检测识别技术的研究与开发，旨在利用人 工智能技术更好地甄别深度伪造和合成内容、 开发对抗深度伪造技术 滥用的方法和工具， 实现从源头上遏制人工智能诈骗案件的滋生与蔓 延的目的。 （3）强化企业自律，加大对诈骗电话呼叫与转帐环节的管控。 一是一是政府主导，聚力诈骗资金转帐管理。2019 年 2 月，英国政 府联合银行业界、消费者群体等多方力量，发布了授权推送付款 （APP）诈骗自律守则，规定银行金融机构若未能达到相关要求而 导致客户

43、遭受 APP 诈骗，则需对客户损失进行赔偿。目前共有包括 巴克莱银行、劳埃德银行、汇丰银行、Metro 银行、苏格兰皇家银行、 国民西敏寺银行、 桑坦德银行与全英房屋抵押贷款协会在内的 8 家机 构签署加入守则。 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 19 二是二是企业自发，携手自动呼叫检测拦截。2019 年初，美国 AT&T 和 Comcast 两大通信公司携手，联合开展 SHAKEN/STIR（安全的电话 身份重新访问/使用令牌安全处理断言的信息)协议的验证， 并于 3 月 21 日宣布完成了在 AT&T 的移动电话网和 Comecast 的 VoIP

44、电话网络 两个不同网络间的认证，实现机器人电话的自动检测与警示。与此同 时，AT&T、Verizon 和 T-Mobile 等运营商承诺将在各自网络中采取 措施部署该协议。 （4）加强警示教育，提升民众防范意识。 2018 年，以色列国家网络管理局（INCD）发布了“新型网络攻 击”警告，提醒公众诈骗分子很可能利用 AI 技术模仿管理层，命令 员工进行资金转移等。同年，澳大利亚税务局（ATO）发布了一则警 告，提醒公众有不法分子冒充 ATO，并要求被害人使用比特币或其他 加密货币支付子虚乌有的税费。2019 年，奋韩网联合韩国国家情报 院、金融监督院等机构针对冒充国家公共机关（大使馆、公安局）

45、诈 骗以及招人取钱的问题进行联合宣传， 警示用户要严防人工智能时代 各类仿冒诈骗。 （二）国内信息通信行业主要治理举措与成效（二）国内信息通信行业主要治理举措与成效 基于人工智能的电信网络诈骗凭借其新颖的诈骗形式、 精准的诈 骗脚本、逼真的伪造音视频，让人防不胜防，已经严重影响了社会稳 定和群众幸福感。 为有效遏制基于人工智能的新型电信网络诈骗产生 蔓延，及时铲除此类诈骗活动滋生的土壤，我国信息通信行业积极开 电信网络诈骗治理与人工智能应用白皮书（2019 年） 中国信息通信研究院 20 展了行业源头治理工作： 工业和信息化部作为国务院打击治理电信网 络诈骗新型违法犯罪工作部际联席会议工作单位

46、和行业主管部门， 全 面贯彻党中央、国务院有关决策部署，在工信部网安局指导下，信息 通信行业相关企业单位深入落实主体责任，纵深推进防范治理工作， 形成了全链条多层次的治理格局。 （1）加强组织部署和任务落实，充分发挥行业主管部门引领作 用。 一是巩固深化顶层统筹，扎实推进电信网络诈骗治理迈向新台 阶。 利用人工智能技术的电信网络诈骗一般呈现涉及面广、 危害性大、 对抗性强三大特点， 加强组织领导与统筹布局是保障治理工作有序推 进的坚实基础。工信部高度重视电信网络诈骗防范治理工作，依托防 范打击通讯信息诈骗工作领导小组，全面负责统筹相关重点任务；时 刻关注基于人工智能的电信网络诈骗新形势以及演进态势， 积极研究 形成治理新方案新思路；针对当前诈骗治理重点难点，工信部网安局 多次组织指导相关专题会议，部署督导人工智能诈骗治理相关工作， 确保治理工作有效推进。 同时， 为保障促进人工智能在安全领域应用， 工信部发布促进新一代人工智能产业发展三年行动计划，构建完 善以法