1、全渠道智能客户联络平台技术架构的全渠道智能客户联络平台技术架构的挑战与演进挑战与演进安静波：天润融通CTO2007 年研究生毕业于北邮电计算机系2008年加入天润融通参与创业，负责公司总体技术架构和产研管理在通信软交换底层技术有较深涉猎，是相关开源项目中国内主要贡献者对 SaaS 应用 与PaaS 平台的架构设计，组织结构和技术架构匹配有一些经验骑行爱好者自我介绍PART ONE天润融通的业务发展过程PART THREE业务架构和技术架构原则PART TWO业务发展过程中遇到的挑战和应对PART FOUR实践成果以及大模型重构SaaS技术架构展望关于天润融通北京天润融通科技股份有限公司（简称：

2、天润融通），创建于2006年。总部设在北京，在上海、深圳、广州、杭州、南京、成都、西安、济南设有分公司。天润融通一直专注于“研发、建设、运营全周期客户联络云平台”，为企业客户“营、销、服”三大核心运营流程中的客户联络场景提供平台服务。以创新为使命以创新为使命长期专注于客户联络领域，紧跟客户需求和技术进步的节奏，为企业客户提供创新的客户联络解决方案以以AIAI技术为驱动技术为驱动构建“人机融合”的客户联络新体验，帮助客户实现高效辅助、紧密协同、深刻洞察的目标香港联交所主板上市企业，中国客户联络SaaS第一股国际化平台大型公有云平台私有云平台天润云天润云 2167.HK关于天润融通68.368.3

3、%619619名员工总数技术团队占比北京、南京、成都分别专注于通信技术、AI技术、云技术，为客户提供技术领先的全周期客户联络云平台三大研发中心北京、上海、深圳为核心的境内业务节点香港、新加坡、法兰克福为核心的境外业务节点帮助客户完成全球化业务布局境内业务节点境外业务节点三大研发中心三大研发中心全球化业务覆盖能力全球化业务覆盖能力成都法兰克福北京上海南京深圳新加坡香港客户需求和技术进步双轮驱动产品创新2022200006l完成大规模语音交换平台的开发和商用，具备了大规模、灵活处理语音业务的能力l为复杂呼叫中心的产品演进建立了扎实的平台底座l实现单客户3

4、700座席并发情况下稳定运行l支撑PC互联网时代的客户进行高速业务扩张l以云技术为核心，对平台进行彻底的原生改造，从架构上实现了大容量下的高可用l具备异地、跨云双活能力的平台上线，解决了快速演进与稳定运行的矛盾云云原生重构原生重构l彻底突破容量瓶颈，实现11万座席并发的实际平台承载能力l成为AWS中国第一批高级技术合作伙伴l支撑大批移动互联网时代的客户进行高速业务扩张l由语音呼叫中心升级为全渠道联络中心，具备了完备的全渠道覆盖能力l利用基于深度学习的AI技术，对平台进行智能化改造，构建完整的AI产品体系l首家在香港联交所主板上市的客户联络云平台服务商，成为中国客户联络SaaS第一股l在法兰克福

5、部署欧洲业务节点，开始在海外提供国际化服务l大规模应用于互联网、金融、汽车、软件和信息服务、工业制造、消费品制造、大健康等行业AIAI原生重构原生重构l以AI技术为核心，以企业知识管理为基础，构建“人机融合”的新一代客户联络平台l业内首家推出“客户联络垂直场景”下的大语言模型行业解决方案，同步推出一系列AI产品l全资收购环信客服云，构建国际化的专属产品平台l全资收购Live800，构建私有云交付平台，提升交付能力l形成了覆盖境内公有云、私有云、国际化公有云的完整产品布局软交换软交换+呼叫中心呼叫中心全渠道全渠道+智能化智能化AI能力数据网络基础设施通信能力呼叫中心呼叫中心云服务云服务核心网接入

6、网客户端设备云平台基础设施SD-WAN专线集群微服务解耦无状态原生架构的原生架构的云核心软件云核心软件云网一体的云网一体的业务承载网络业务承载网络全局性高可用的全局性高可用的云生态系统云生态系统天润融通定义了呼叫中心云服务基础技术能力矩阵实时SaaS业务SaaS体验语音通信中台音视频平台流量承载网络全云架构工作流引擎权限体系垂直行业大模型运营服务工具与体系AI可靠性云软件云软件通信系统通信系统天润融通能够实现实时SaaS、业务SaaS和人工智能的完美融合为客户提供高效辅助、紧密协同、深刻洞察的系统平台1.如何实现大容量高可用的实时SaaS平台2.如何应对实时SaaS和业务SaaS高复杂两个维度

7、的叠加3.如何在联络中心场景中深度融合AI能力 PART TWO业务发展过程遇到的挑战和应对业务发展过程遇到的挑战和应对端到端与全云化全链路高可用架构1.1.如何实现大容量高可用的实时如何实现大容量高可用的实时SaaSSaaS平台平台云服务云服务Kubernetes北京语音网核心网核心网接入网接入网客户端客户端网络接入网络接入云平台部署云平台部署系统软件系统软件通通信信资资源源整整合合座席端设备座席端设备呼叫中心云服务：端到端的“全云化”服务呼叫中心云服务座席座席座席座席座席座席座席上海深圳云服务云服务高可用高可用软件架构软件架构高可用高可用基础设施基础设施高可用高可用网络架构网络架构高可用高

8、可用通信资源通信资源高可用高可用可持续的可持续的演进演进六个方面高可用架构PaaS/SaaS解耦客户定制化信息流：话单、事件、统计资源独立资源独立计算资源存储资源逻辑独立逻辑独立插件式开发代码级定制录音存储PaaS保证稳定和高性能微服务解耦30个模块模块100%集群化原生云组件运行可度量底层通信与应用分离软件高可用架构接口报表标品SaaS监控数据库接口报表监控数据库计费营帐资源管理模块HTTP负载均衡模块HTTP正向代理模块SIP监控系统ELK日志系统录音下载双云同步自动化部署模块座席工具条接口数据库报表统计实时监控配置模块通话记录模块推送引擎数据拉取API网关预测外呼WebCall外呼任务管

9、理模块ASR语音识别模块实时数据模块SIP负载均衡模块录音处理统一排队模块WebRTC网关模块座席网关模块呼叫控制模块核心核心软交换软交换三层组网结构三层组网结构云平台、核心网、接入网双平台、双核心双平台、双核心南北中心、北上核心网双链路、双冗余双链路、双冗余链路、设备专属运营商接入机房专属运营商接入机房快速接入、本地接入核心网接入网座席端北京北京1北京2北京3西安济南上海1上海2上海3深圳广州北京上海西安济南上海深圳广州云网一体：高可用的基础设施呼叫中心云（北）呼叫中心云（北）呼叫中心云（南）呼叫中心云（南）上海北京深圳南京杭州广州全国本地号码全国本地号码一点受理，全网开通一点受理，全网开通

10、运营商能力平台整合全国通信资源，实名制一站受理资源丰富，体验最优资源丰富，体验最优全国本地号码：本地客户，接通率高手机隐私号:AX、AXB、AXYB、AXYG工作手机号95/1010/400号码：提升品牌形象USSD：企业名片，话中文本灵活调度，应对故障灵活调度，应对故障话务调度系统可以根据业务变化灵活调整，应对故障及拥塞等95/1010/40095/1010/400号码号码呼叫中心云服务呼叫中心云服务隐私手机号码隐私手机号码工作手机号工作手机号运营商运营商通信能力平台通信能力平台高可用通信资源：云化通信资源能力自动化自动化API测试自动化版本发布自动化升级关键应用灰度发布按百分比灰度按客户灰

11、度DevOps组织结构设计、开发、测试、运维一体化高可用的演进架构对不同业务有效分类解耦和应用不同原则构建SaaS业务基础框架提高复用效率SaaS业务的PaaS化架构构建竞争壁垒2.2.如何应对实时如何应对实时SaaSSaaS大容量和业务大容量和业务SaaSSaaS高复杂两个维度的高复杂两个维度的叠加叠加业务分类业务分类实时系统：通信平台，呼叫中心，RTC音视频，机器人，智能助手业务系统：工单，CRM/SCRM，智能质检，智能知识库，BI报表应用不同架构原则应用不同架构原则在产品设计，技术架构设计，运行环境设计，开发运维模式不同原则应用不同组织架构组织架构匹配业务架构构建SaaS业务基础框架1

12、.RAM(Resource Access Management)统一的用户权限体系2.BOSS(Business Operating Support System)业务支撑体系3.Workspace工作台框架和微前端容器4.基础报表引擎5.前端可复用结构（低代码引擎）6.运行监控体系（包括技术指标度量和业务指标度量）7.安全管理体系AICC SaaS技术架构SaaS业务的PaaS化架构SaaS业务的PaaS化架构的几点认识1.相对2C来说2B产品更适合PaaS化2.国外成熟SaaS企业都有PaaS能力，大公司才能做PaaS？3.选择那些和客户业务多样性关联小的做PaaS化4.PaaS的洞见来自

13、SaaS，是一个领域需求积累和抽象的产物5.PaaS化的价值体现在最终服务SaaS6.PaaS对外输出，还可以给大客户赋能3.AI在联络中心垂直场景的深度融合人机融合能力矩阵会话分析 智能工单 智能路由与导接话术润色自动填单多模态交互划词搜索知识库多语种翻译辅助应答智能联想标签捕捉流程导航情绪监测自动填单信息提取自动小结话术推荐知识搜索智能路由知识推荐客诉风险识别人机无缝互转智能客座匹配座席能力分析客户标签排队时长预测客户标签到店或成单预测人机无缝互转丢单风险预警商机评价竞品分析话术推荐与挖掘号码状态识别文档内容问答文档转FAQ文档抽图谱答案筛选上下文理解应答答案润色知识内容健康度体检相似问一

14、键扩写情绪转人工动态问/答商机评级无缝转人工标签转人工对话总结多轮抽取转写纠错进线意图分析总结摘要竞品分析舆情监控高频问题提取座席话术评分与优化客户标签客户心声挖掘会话内容生成工单工单质检关联分析跨部门跨系统流转机器人创建工单相似工单聚类自动处理智能分配全渠道客服 呼叫中心（服务型）呼叫中心（营销型）文本机器人 语音机器人 座席辅助话术流程质检座席能力分析诈骗话术识别多场景质检模板灵活按需质检ASR转写纠错企微质检工单质检智能质检统一知识库 知识采编搜索式问答知识推荐统一知识门户知识生成智能知识审核知识内容健康度体检知识归类PART THREE业务架构和技术架构原则业务架构和技术架构原则业务架

15、构和技术架构原则-匹配原则 技术架构服务于业务，适合才是合适的，不能过度设计同时要适时抽象重构 和PaaS化 不同业务形态不同的技术架构：1.实时业务与非实时业务2.通信为核心还是业务为核心不同阶段应用不同技术架构1.初创阶段：SaaS应用试水商业模式，快速实现为主，根据团队情况选择2.快速发展扩大规模：高可用架构，提高稳定性，注重产品质量3.构建业务壁垒：提高交付效率，架构解耦业务架构和技术架构原则-稳定和创新相结合业务持续分类和解耦1.平台要分为稳定平台和创新平台，稳定平台承载主要的客户，创新平台承载需要频繁有需求的客户。例如POC阶段的客户，切竞争对手需要补足功能的客户，有持续演进需求的

16、客户2.要建立持续分类的标准和工具，类似CICD概念能够在客户发生变化时快速调整，多业务之间通过架构解耦展开团队架构解耦有清晰的目标1.各应用团队独立发布版本，独立升级2.各应用独立资源部署，应用之间隔离，不会互相影响稳定性3.各应用团队独立工作，通过API高效协作组件低耦合，呈现紧耦合，表里不一1.多应用之间采用低耦合交互原则，应用之间仅通过API接口交互，应用之间做到独立发布2.产品内在的能力组件是低耦合的，产品设计在最终提供给客户的呈现必须是一体的，紧耦合的3.表里不一，必须通过优秀的架构师把外在一体的呈现分解和抽象到边界清晰的模块内灰度原则1.平台灰度原则，所有新版本发布先在创新平台进

17、行，修复小问题后再升级稳定平台2.客户灰度原则，对单一客户提的需求，采用在单一客户上灰度的方式开发和上线，避免变更影响其他客户3.客户可在多平台可移动原则，客户的稳定需求和创新需求是变动的，需要具备客户无感迁移方案，周期性动态调整平台上的客户，达到平衡作用快速回退原则1.出现问题判断是否是单一客户问题，如果是全局问题，影响一类客户占比超过10%的，影响大客户1个以上的，快速回退再分析问题解决问题2.需求紧急程度永远是低于故障紧急程度，确保中午或当天晚上修复问题再次上线；API接口原则1.API接口一经发布，不可删除和变更接口定义和返回，只可以以兼容的方式增加参数和返回2.API接口的实现工作量

18、要远小于业务集成所需，接口的设计一定是架构师主要工作，也是架构思想的体现业务架构和技术架构原则-客户为中心原则PART FOUR实践成果实践成果场景和产品矩阵底层能力AI能力通信云通信云智能云智能云应用矩阵以以AIAI为核心构建为核心构建“人机融合人机融合”通过构建客户联络场景下的大语言模型解决方案，实现深度的“人机融合”，达成高效辅助、紧密协同、深刻洞察的目标统一的知识平台统一的知识平台通过构建易于维护的统一知识管理平台，实现对知识的多角色维护，多职能共享统一的联络平台统一的联络平台统一的客户联络平台，可以实现全渠道打通，全流程客户ID唯一、事件ID唯一，有效地消除信息孤岛，最大限度地发挥企

19、业数据资产的价值统一的流程平台统一的流程平台基于工作流引擎设计的流程平台，支持跨部门、跨系统进行任务流转与协同处理灵活的权限体系灵活的权限体系强大的RAM（Resource Access Management）体系，支持复杂组织跨业务、跨职能、跨层级、跨角色进行权限设置客服云客服云营销云营销云AIAI模型模型自建模型词向量模型、语义分类模型、序列标注模型、AIGC复述模型.外部大模型ChatGPT/GPT4、星火大模型、文心一言.国际/国内加密算法 端到端通信全链路加密 数据存储安全 安全审计团队iSO安全认证、CyberVadis信创、等保三、可信云安全安全通信通信大规模、高并发语音通信能力

20、音视频音视频电话APP短信邮件微信小程序企微飞书钉钉微博百度BCPTwitterInstagramDiscordWhatsAppFaceBookLine更多接入渠道以以AIAI为核心，紧密串接客户联络过程中所产生的信息流、为核心，紧密串接客户联络过程中所产生的信息流、数据流和工作流，形成统一、高效的全周期闭环矩阵数据流和工作流，形成统一、高效的全周期闭环矩阵大规模、高保真网络音视频通信能力业务场景呼叫中心在线客服微信客服视频客服工单系统数据隔离部署催收外呼系统电销智能化外呼机器人留资机器人企微助手座席辅助文本/语音机器人智能质检座席助手统一知识库BI智能分析会话分析阅读理解意图识别信息提取图计

21、算推荐引擎聚类算法知识抽取标签提取语义匹配对话管理扩写模型营/销一体化客户服务（toB）客户服务（toC）互联网平台商业化创新赋能广告导流线索转化隐私保护智能热线语音通知电销智能化国际化客户联络服务 共享服务中心音视频平台隐私保护号通信能力平台工作手机号来电名片95/1010/400/国际号码典型行业客户案例主机厂保险银行基金新金融新能源部分展示，排名不分先后典型行业客户案例家居日用消费品工业制造鞋服箱包电子消费品部分展示，排名不分先后典型行业客户案例垂直互联网平台互联网信息服务软件服务人力服务部分展示，排名不分先后典型行业客户案例物流快递政务服务房地产教育医药医疗部分展示，排名不分先后AI驱

22、动创新，AI与联络场景深度融合是未来趋势！LLM重构SaaS的展望！LLM能力融合融合融合ChatGPT，文心一言，通义千问，讯飞星火等LLM的标准能力，强化中文NLP能力语料扩写：语料扩写：基于大语言模型在通用领域的博闻强识，提供跨行业场景下的语料扩写（已上线）知识抽取：知识抽取：提供非结构化文档到结构化文档的抽取，抽取FAQ和知识图谱的实体属性值（已上线）文档问答引擎文档问答引擎：基于文档内容，提供MRC问答引擎，针对特定文档，回答客户问题（已上线）在线编程能力集成：在线编程能力集成：在呼叫中心IVR导航自定义脚本节点，引入AIGC模型编程能力，提高nodeJS在线编程效率（已上线）高频客

23、户问题分析高频客户问题分析：自动识别对话中的客户问题，并进行聚类和提炼，抽取出高频问题（类似于百度热搜），辅助管理运营（已上线）ASRASR转写文本纠错：转写文本纠错：自动识别ASR转写错误，进行语义纠正，为后续的深度会话分析挖掘打好基础（已上线）答案话术优化答案话术优化：基于ChatGPT的问答能力，生成标准问的答案，或者按照特定风格（营销、安抚等）优化答案和话术，提高客服质量和转化率（测试中）闲聊寒暄兜底：闲聊寒暄兜底：基于大语言模型的生成能力，帮助机器人问答实现闲聊兜底，增加机器人的解答能力（测试中）聊聊天天窗窗口口或或电电话话IM和机器人客服系统座席工作台IM-Server知识库知识管理知识库智能扩写知识抽取机器人FAQ问答多轮问答闲聊问答未知回复上下文关联语义理解知识辅助增强问答模型训练Summary让客户联络效率更高，体验更美好架构设计理念和原则是SaaS核心灵魂如何平衡平台稳定和创新迭代-业务分类和解耦构建SaaS业务基础框架提高复用效率SaaS业务的PaaS化架构构建竞争壁垒优秀技术架构是演进出来的！