《图神经网络及其在电商的应用-石川pptx.pdf》由会员分享,可在线阅读,更多相关《图神经网络及其在电商的应用-石川pptx.pdf(42页珍藏版)》请在三个皮匠报告上搜索。
1、图图神经网络及其在神经网络及其在电商电商大数据大数据中中的应用的应用 2009 BUPT TSEG 23智能金融智能金融技术进步推动金融行业由信息化向智能化方向演进,衍生了智能金融技术进步推动金融行业由信息化向智能化方向演进,衍生了智能金融电子商务市场飞速发展,是智能金融的重要应用场景电子商务市场飞速发展,是智能金融的重要应用场景2019年中国电子商务交易额达34.8134.81万亿元万亿元,其中网上零售额10.6310.63万亿万亿元元,同比增长16.5%16.5%。中国网络零售市场交易规模中国网络零售市场交易规模(亿元亿元)4月活用户超月活用户超十亿十亿每日交互超每日交互超万亿万亿点类型点
2、类型:用户、商品、店铺:用户、商品、店铺 边类型边类型:登录、收藏、购买:登录、收藏、购买 真实场景真实场景:千类节点千类节点、万类边万类边对象属性对象属性:特征、描述、图片、视频:特征、描述、图片、视频 关系属性关系属性:类型、标签、时序、评论:类型、标签、时序、评论 结构化、非结构化、多模态信息并存结构化、非结构化、多模态信息并存节点日增节点日增10%10%,边日增,边日增15%15%涌现演化涌现演化现象频出现象频出动态、属性、异质图动态、属性、异质图电商应用产生复杂关联大数据电商应用产生复杂关联大数据电商大数据的特点电商大数据的特点5?个性化推荐个性化推荐金融风控金融风控A AB BC
3、CA AB BC C?D DE ED DE EC C?异质图建模的优越性异质图建模的优越性6知识图谱知识图谱 异质异质关联泛在关联泛在,建模真实世界,建模真实世界 多样多样信息融合信息融合,包含,包含丰富语义丰富语义优势优势=?,?=?,?静态、拓扑、同质图静态、拓扑、同质图动态、属性、异质图动态、属性、异质图药物作用网络药物作用网络恐怖组织恐怖组织网络网络异质图异质图有望成为解决有望成为解决大数据多样性大数据多样性的有力工具的有力工具社交网络社交网络异质图建模的意义异质图建模的意义7异质图的基本概念异质图的基本概念异质图由不同类型的节点或边构成的图网络模式网络的元层次描述元路径连接两个节点类
4、型的关系序列包含丰富的语义信息(a)网络实例(b)网络模式(c)元路径电影推荐系统的异质网络8异质图的发展异质图的发展异质图已经被广泛应用于数据挖掘领域Chuan Shi,Yitong Li,Jiawei Zhang,Yizhou Sun,Philip S.Yu.A survey on Heterogeneous Information Network Analysis.IEEE Transactions on Knowledge and Data Engineering,29(1),17-37,2017.Chuan Shi,Philip S.Yu.Heterogeneous Informat
5、ion Network Analysis and Applications.Springer,2017 9图的表示学习图的表示学习表示学习图表示学习将网络中的节点嵌入到低维向量空间易于并行可应用经典机器学习算法原始数据表示学习机器学习系统节点分类链接预测社团检测网络进化生成嵌入10图表示学习图表示学习图表示学习浅层模型基于因子分解的方法例如拉普拉斯特征映射基于随机游走的方法例如DeepWalk深层模型针对图应用深度神经网络的方法基于自动编码机的方法例如DNGR,SDNE基于图神经网络的方法例如GCN,GATDeepWalkDeepWalkWord2vecWord2vec11异质图的表示学习异质
6、图的表示学习静态、拓扑、同质图动态、属性、异质图动机异质性无处不在减少信息损失 建模丰富的语义信息 挑战如何建模异质性如何融合异质信息如何捕捉丰富的语义信息12模型浅层模型:HERec,MCRec深层模型:HAN,NSHE应用HACUD MEIRecHGSRec SIAN THIGE FlowScope总结大纲大纲13HERec基本思想利用元路径抽取异质图中的多个同质图通过融合函数对不同同质图的表示学习结果进行融合Chuan Shi,Binbin Hu,Wayne Xin Zhao,Philip S.Yu.Heterogeneous Information Network Embedding
7、for Recommendation.TKDE 201814MCRec基本思想采用三元交互建模推荐系统考虑上下文信息,学习用户、物品、元路径的表示Binbin Hu,Chuan Shi,Wayne Xin Zhao,Philip S.Yu.Leveraging Meta-path based Context for Top-N Recommendation with A Neural Co-Attention Model.KDD 2018.15MCRec框架框架16HANXiao Wang,Houye Ji,Chuan Shi,Bai Wang,Peng Cui,Philip S.Yu,Yan
8、fang Ye.Heterogeneous Graph Attention Network.WWW 2019.图注意力网络(GAT)引入了注意力机制来实现更好的邻居聚合异质图神经网络的挑战如何处理异质图的异质性?解决方法节点级别注意力机制语义级别注意力机制图注意力网络(Petar et al,ICLR2018)17HAN框架框架18NSHE基本思想基于网络模式进行异质网络嵌入,从而同时保留一阶和高阶信息Jianan Zhao,Xiao Wang,Chuan Shi,Zekuan Liu,Yanfang Ye.Network Schema Preserving Heterogeneous Inf
9、ormation Network Embedding.IJCAI 2020.19模型浅层模型:HERec,MCRec深层模型:HAN,NSHE应用HACUD MEIRecHGSRec SIAN THIGE FlowScope总结大纲大纲20HACUDBinbin Hu,Zhiqiang Zhang,Chuan Shi,Jun Zhou,XiaoLong Li,Yuan Qi Cash-out User Detection based on Attributed Heterogeneous Information Network with a Hierarchical Attention Mec
10、hanism.AAAI2019背景套现诈骗:用虚假的手段交换取得现金利益,例如购买预付卡后转售套现用户检测:预测用户是否会进行套现交易基本思想利用属性异质图建模支付中用户与商家间的交互基于元路径和层次注意力机制学习用户表示套现用户检测模型转账异质图21HACUD框架框架22实验结果实验结果HACUD显著优于现有方法显著优于现有方法23MEIRec背景意图推荐:根据用户历史行为自动推荐个性化的意图,无需用户手动输入查询基本思想将电子商务平台中的用户、物品和查询建模为异质图提出基于元路径的异质图神经网络学习意图推荐中的用户表示Shaohua Fan,Junxiong Zhu,Xiaotian Ha
11、n,Chuan Shi,Linmei Hu,Biyu Ma,Yongliang Li Metapath-guided Heterogeneous Graph Neural Network for Intent Recommendation.KDD201924MEIRec框架框架25实验结果实验结果MEIRec显著优于基于显著优于基于GBDT、DNN和和MF的方法的方法26在线实验结果在线实验结果MEIRec显著提升关键性能指标,特别是吸引了更多的新用户显著提升关键性能指标,特别是吸引了更多的新用户27HGSRecHouye Ji,Junxiong Zhu,Xiao Wang,Chuan Shi
12、,Bai Wang,Xiaoye Tan,Yanghua Li,Shaojian He.Who You Would Like to Share With?A Study of Share Recommendation in Social E-commerce.AAAI 2021.背景在社交电商中,用户及其好友之间存在多种互动行为,如分享行为分享推荐:预测用户是否会分享某个商品给其好友基本思想建模异质社交图上用户的多样表示探索分享行为发生的真实动机刻画分享行为的非对称性28HGSRec框架框架29实验结果实验结果30好友增强型推荐好友增强型推荐好友增强好友增强型推荐型推荐只推荐好友交互过的商品/
13、文章和当前商品/文章交互过的好友显式地展示给用户好友推荐圈好友推荐圈(Friend Referral Circle,FRC)Friend Referral Circle,FRC)和当前商品交互过的好友微信“看一看”场景下,用户可见哪些好友认为当前文章“好看”(点击过当前文章)相较于传统社交推荐,相较于传统社交推荐,好友推荐圈极大地改变了推荐的范式好友推荐圈极大地改变了推荐的范式Yuanfu Lu,Ruobing Xie,Chuan Shi,Yuan Fang,et al.Social Influence Attentive Neural Network for Friend-Enhanced
14、Recommendation.ECML-PKDD 2020.31SIAN社交影响力耦合器社交影响力耦合器 显式地耦合好友推荐圈内扩散的影响力注意力特征聚合器注意力特征聚合器节点级和类型级聚合底层特征32ExperimentYelpDoubanFWD(微信“看一看”)数据集数据集评价指标评价指标AUC代码及数据:https:/ Ji,MingYang Yin,Yuan Fang,Hongxia Yang,Xiangwei Wang,Tianrui Jia,Chuan Shi*.Temporal heterogeneous interaction graph embedding for next-
15、item recommendation.ECML-PKDD 2020背景电商购物环境中用户和商品之间存在多种类型的动态交互行为下一时刻商品推荐:预测用户在下一时刻交互的商品对象基本思想建模异质交互图上节点的长期兴趣和短期兴趣基于异质注意力和习惯注意力机制学习节点表示异质交互序列和异质交互图34THIGE框架框架35实验结果实验结果THIGE模型显著优于当前的短期、长短期和异质图模型模型显著优于当前的短期、长短期和异质图模型36FlowScopeXiangfeng Li,Shenghua Liu,Zifeng Li,Xiaotian Han,Chuan Shi,Bryan Hooi,He Hua
16、ng,Xueqi Cheng.FlowScope:Spotting Money Laundering Based on Graphs.AAAI 2020.背景洗钱行为:通过在银行开设多个账户频繁转账,使得非法所得合法化的行为洗钱行为检测:检测用户是否发生了洗钱行为基本思想将洗钱行为检测建模为稠密子图挖掘问题,并设计了贪婪求解算法建模金钱转移链的模式,考虑交易过程中的复杂依赖,特别是节点间的复杂资金往来记录现有洗钱行为检测模型FlowScopeFlowScopeFlowScope:Spotting Money Laundering Based on Graphs:Spotting Money L
17、aundering Based on Graphs37实验结果实验结果FlowScope显著优于现有方法显著优于现有方法38模型浅层模型:HERec,MCRec深层模型:HAN,NSHE应用HACUD MEIRecHGSRec SIAN THIGE FlowScope总结大纲大纲39总结总结异质图已被广泛应用于数据挖掘领域异质图有望成为解决大数据多样性的有力工具未来工作异质图神经网络学习机理利用异质图建模多模态数据动态网络更多应用40参考文献参考文献Chuan Shi,Yitong Li,Jiawei Zhang,Yizhou Sun,Philip S.Yu.A survey on Heter
18、ogeneous Information Network Analysis.IEEE TKDE,2017.Chuan Shi,Philip S.Yu.Heterogeneous Information Network Analysis and Applications.Springer,2017.Chuan Shi,Binbin Hu,Wayne Xin Zhao,Philip S.Yu.Heterogeneous Information Network Embedding for Recommendation.IEEE TKDE 2018.Binbin Hu,Chuan Shi,Wayne
19、Xin Zhao,Philip S.Yu.Leveraging Meta-path based Context for Top-N Recommendation with A Neural Co-Attention Model.KDD 2018.Xiao Wang,Houye Ji,Chuan Shi,Bai Wang,Peng Cui,Philip S.Yu,Yanfang Ye.Heterogeneous Graph Attention Network.WWW 2019.Jianan Zhao,Xiao Wang,Chuan Shi,Zekuan Liu,Yanfang Ye.Networ
20、k Schema Preserving Heterogeneous Information Network Embedding.IJCAI 2020.Binbin Hu,Zhiqiang Zhang,Chuan Shi,Jun Zhou,XiaoLong Li,Yuan Qi Cash-out User Detection based on Attributed Heterogeneous Information Network with a Hierarchical Attention Mechanism.AAAI2019.Yugang Ji,MingYang Yin,Yuan Fang,H
21、ongxia Yang,Xiangwei Wang,Tianrui Jia,Chuan Shi*.Temporal heterogeneous interaction graph embedding for next-item recommendation.ECML-PKDD 2020Shaohua Fan,Junxiong Zhu,Xiaotian Han,Chuan Shi,Linmei Hu,Biyu Ma,Yongliang Li Metapath-guided Heterogeneous Graph Neural Network for Intent Recommendation.K
22、DD2019.Xiangfeng Li,Shenghua Liu,Zifeng Li,Xiaotian Han,Chuan Shi,Bryan Hooi,He Huang,Xueqi Cheng.FlowScope:Spotting Money Laundering Based on Graphs.AAAI 2020.Houye Ji,Junxiong Zhu,Xiao Wang,Chuan Shi,Bai Wang,Xiaoye Tan,Yanghua Li,Shaojian He.Who You Would Like to Share With?A Study of Share Recommendation in Social E-commerce.AAAI 2021.Yuanfu Lu,Ruobing Xie,Chuan Shi,Yuan Fang,et al.Social Influence Attentive Neural Network for Friend-Enhanced Recommendation.ECML-PKDD 2020.4142谢谢Q&Awww.shichuan.org