1、 ChatGPT 移动应用程序 威胁分析报告 2023 年 3 月 7 日 摘 要 奇安信病毒响应中心移动安全团队监测到，自 2022 年 12 月以来，与 ChatGPT 相关的样本呈现出爆发式增长，已监测到样本量 1170。在本次检测中，依靠奇安信QADE引擎强大分析能力，共识别出高风险恶意样本51个，违规样本 35 个。在风险样本中，隐私窃取类样本占据首位，共有样本 73 个。DogeRat 木马家族实时控制受害者设备，远程控制指令达 20 项。关键词：关键词：ChatGPT、隐私窃取、DogeRat 2 目 录 第一章 背景.1 第二章 威胁分析.2 一、样本增长趋势.2 二、样本风险

2、分析.3 三、风险样本分布.4 第三章 典型案例分析.6 一、隐私窃取样本分析示例.6 二、违规应用样本分析示例.9 第四章 IOCs 情报.10 1 第一章 背景 自 2022 年 11 月推出以来，ChatGPT 迅速成为备受瞩目的人工智能工具之一，其用户数已超过 1 亿。然而，随着 ChatGPT 的知名度不断提高，也引发了一些非法人员制作和分发相关应用程序的问题，这些应用程序可能会给用户带来巨大的安全风险。据奇安信病毒响应中心移动安全团队监测，自 2022 年 12 月以来，与 ChatGPT 相关的样本呈现出爆发式增长的趋势，目前已经监测到 1170 个相关样本。这些样本可能包含病毒

3、、恶意软件和其他恶意代码，可能会导致用户的数据泄露、隐私侵犯和财务损失等严重后果。需要明确的是，OpenAI 并没有发布适用于 Android 系统的 ChatGPT 应用程序，即便开发者可以使用 OpenAI API 提供的 SDK 将其集成到自己的应用程序中。此次报告的目的是对监测到的相关样本进行威胁分析，以帮助企业和用户更好地了解相关风险，并采取措施避免造成损失。2 第二章 威胁分析 本次检测采用奇安信完全自主研发安卓动态引擎 QADE（后文统称奇安信 QADE 引擎）。奇安信 QADE 引擎是首款既支持对 APP 进行传统恶意样本高中低风险检测，又支持对非法索权和超范围采集两大类合规化

4、问题进行检测的综合一体化动态自动引擎。其中的自动化合规检测项包含：1)强制索权 APP 安装、运行和使用相关功能时，非服务所必需或无合理应用场景下，用户拒绝相关授权申请后，应用自动退出或关闭的行为。2)过度索权 APP 未及时明确告知用户索取权限的目的和用途，提前申请超出其业务功能等权限的行为。3)频繁索权 APP 短时长、高频次，在用户明确拒绝权限申请后，频繁弹窗、反复申请与当前服务场景无关权限的行为。4)无提示收集个人信息 检测存在无隐私说明提示或者未同意隐私协议便开始收集用户个人信息。5)高频次收集个人信息 检测存在按频率(每百秒的收集次数超过 2 次)收集用户个人信息。一、样本增长趋势

5、 奇安信病毒响应中心移动安全团队依靠自身强大的数据监控能力，对当前网络上传播的 ChatGPT 相关样本的进统计分析。研究表明，这些样本最早出现在 2022 年 12 月份，与OpenAI 发布 ChatGPT 的时间吻合。截至 2023 年 2 月 19 日前，每周样本新增量以指数级趋势增长，之后趋于平稳，稳定在每周 200 个左右。3 二、样本风险分析 在本次测试中，凭借奇安信 QADE 引擎的传统恶意样本分析能力和自动化合规检测能力，发现众多存在风险的样本。在传统恶意样本分析中，共识别出高风险样本 51 个，占比 4.4%；中风险样本 6 个，占比 0.5%；低风险样本 85 个，占比

6、7.3%。然而，需要提醒的是，未知样本并非完全安全的应用，因为奇安信 QADE 引擎在恶意样本研判时以低误报率为首要原则，使用了非常严格的判定规则。因此，在未知样本中可能存在其他较弱的风险，这也可能会给用户带来损失，请谨慎使用。4 在自动化合规检测中，共检测出违规应用 35 个，占比 3.0%。三、风险样本分布 依据 Android 恶意软件研判和分类标准，恶意样本行为共分为八大类：恶意扣费、隐私窃取、远程控制、资费消耗、恶意传播、系统破坏、诱骗欺诈、流氓行为，同一样本的多个行为中，以主要风险为标准进行归类。在此次检测的样本中，共命中其中的五类恶意行为，对其分类统计，统计结果表明，第一类是隐私

7、窃取类，占比 50.7%，此类样本主要目的在于窃取用户设备和个人信息；第二类是流氓行为类，占比 31.3%，流氓行为属于低风险范围，且包含子类较多；第三类为诱骗欺诈类，占比 15.3%，其主要行为即为伪装成 ChatGPT 来进行恶意样本传播；第四类为资费消耗类，占比 2.0%，此类样本会造成用户财产损失，有时 5 是在用户完全无感状态下，比如发短信、打电话和频繁联网等行为；第五类是远程控制类样本，占比 0.7%，此类样本可远程控制受害者设备。自动化合规检测结果显示，违规行为主要体现在频繁索权，有 29 个样本命中；其次是过度索权行为，有 19 个样本命中；然后是无提示收集个人信息的行为，有

8、6 个样本命中；最后是高频次收集个人信息的行为，有 2 个样本命中。其中多个样本具有多项违规行为。6 第三章 典型案例分析 从上面的统计分析中可以看出此次检测出的多个恶意风险样本，这些恶意风险样本包含众多的家族类型，在这里我们根据其威胁程度和代表性选取两个家族的典型样本做分析示例。一是隐私窃取类的具有严重威胁程度的 DogeRat 木马样本；二是违规应用类同时具有非法索权和超范围采集行为的样本，分别用一节来进行展示。一、隐私窃取样本分析示例 DogeRat 是一款基于 Telegram 的多功能 Android RAT，无需端口转发，可以通过移动端应用程序 Telegram 方便的实现对受害者

9、设备的远程控制操作。此 RAT 武器早先用于Windows 远控木马，于 2022 年上线了 Android 平台，目前已更新到 V3 版本，此次分析的示例样本即是基于 V3 版本开发。(一)研判结果 通过我们的病毒检测平台查询显示，静态引擎和动态引擎都已识别此样本恶意行为，研判结果风险等级为“危险”。其中静态引擎 QOWL 特征识别为 Banker 家族木马，原因为两个家族具有一些相同的静态识别特征；动态引擎 QADE 识别为 DogeRat 家族木马。7 (二)RAT 远控指令表 DogeRat V3 版本具有实时控制和功能丰富的特点，示例样本具有采集受害者设备和个人信息、控制受害者设备发

10、送短信和播放音视频和控制受害者设备传感器等功能，具体恶意行为参考如下远控指令表。指令指令 功能功能 指令指令 功能功能 calls 上传通话记录 gpsLocation 上传 GPS 定位 contacts 上传联系人 vibrate 振动目标设备 messages 上传短信收件箱 stop_audio 停止播放 apps 上传安装应用列表 ping 连接测试 device_info 上传设备信息 send_message 发送短信到目标号码 8 clipboard 上传剪贴板 send_message_to_all 向受害者所有联系人发送短信 camera_main 捕捉主摄像头 file

11、上传文件/文件夹 camera_selfie 捕捉前置摄像头 delete_file 删除文件/文件夹 toast 显示消息 microphone 捕捉麦克风 show_notification 显示通知 play_audio 播放目标音视频(三)情报分析 示例样本是基于伪装成 ChatGPT 的社工载荷投递，所以其除了在应用名称和图标上进行伪装外，还采用自定义网页视图为 ChatGPT 的测试地址，这是 DogeRat 自带的功能。伪装地址和远控 C&C 地址在 Assets 下的配置文件中读取。其远控 C&C 地址域名为 DogeRat 工具默认域名，主机名为开发者自定义，通过奇安信威胁情

12、报中心查询，发现 C&C 已被识别为远控木马的服务器。9 二、违规应用样本分析示例 违规应用分析区别于传统恶意样本检测，主要是依赖国家相关法律法规，对应用的合规性进行检测。检测结果显示，示例样本存在未及时明确告知用户索取权限的目的和用途，提前申请超出其业务功能等权限的行为，即过度索权行为，索取权限达 10 项；同时，其存在无隐私说明提示，且在未明确告知用户的情况下，私自上传用户设备信息的行为，且在百秒内收集了 2 次，可能造成用户信息泄露。示例样本索权过程截图如下：10 第四章 IOCs 情报 MD5 b6048b413a0bb835b681ce28b1c38f9a c3ba1c39ce774

13、bda33f76d2db6413caa 85265eccea837a08b0b08 0fa54d13fb1aca17c0e19023c3529868 ad09d87fd1adc680bafaedce49671e7b edbe3585791568fb058b9658e321051b 746d13b676dbe2d1c6c66333efea70f9 45839f8a3e0a91d590a3be6be4e5df9d e71a5b3da02c3faf734f5e35f3497015 acb3a8cad78a318903e16c5bc7f470e4 f02e9856fcf6c39f

14、d37ce84433dd224e c6eecda715539686bc621c391b97f658 017d4f7300d3dc394c9f81606edb7297 1d9a434fce59646ac636060c1dca69fd 6cc735e699a418f19a304f2386080629 2b33d114fb8f3bd7065b46889afc1c44 15f59a21cb48684f00ac298f9fc4a57f 94e3791e3ceec63a17ca1a52c4a35089 f39d9a99441978fa2d4a19097311a098 11 26f9909ee741dab3

15、69f69fd0d8e699ed b7ac17ed0409d771e8ff059f4cfbad41 12c5c8d15de19581147c53cbb5962813 6a481f28affc30aef0d3ec6914d239e4 81e6a150d459642f2f3641c5a4621441 5f6f387edf4dc4382f9953bd57fa4c62 1fefc34211b515f1bc68a35d10678db7 8fd86b3ce10108995dcf134a11b85fa6 dd254bebdf2e3494a85c0776a8931610 7b579f01c672da59c06

16、0884755d4662e 5de7f998006f9aac3c53c8cac5270057 df96322871ec4f9c89528309919ce2c8 79e73c2272d7b3f056ca6d1fba8d3b0d 5dfb29d588a5dadaf26241b83f38afd9 9257970a1393d15a1a0563059d0306a3 4e8d09ca0543a48f649fce72483777f0 e29806582e9bab5026e3902bb04171c2 116a42850c5eaa6b7a266c76b56cf6be dee271f425ad3b7e5d2bfc

17、55b7bfc371 82da8b6beb0b4f9091ec4cc22fcafea2 d8415f0516a2c35398e866ac7156f868 12 c8aa7a66e87a23e16ecacad6d1337dc4 da9ba496f570eaf94a755b661da09cb8 514fbba993f23b7a3d9aca97467aebc1 cb229316df086f05c5ef1ad22f4ca877 577e4fef7a5c41b0296702684eb78fb4 d4d9e4b3618c6b2feeab1d563191a0c9 591f79b4cee6200185c9f200daf2aaa7 b12e47f5bd407c286dc2f8cd134326ee 63c3d4498e6564da2121bea625681fc9 122519c51cf30416cf659dd37b8ba7d5 0a9bcbb3f32c5865700bf