《2019年智能音箱场景下的性能优化.pdf》由会员分享,可在线阅读,更多相关《2019年智能音箱场景下的性能优化.pdf(20页珍藏版)》请在三个皮匠报告上搜索。
1、Abel CaoDuerOS首席布道师2018.1智能音箱场景性能优化Wireless_com 引子:那些个智能音箱们3Amazon 最早推出Echo小米 的 小爱同学阿里 的 天猫精灵Google 推出Google HomeApple 推出HomePodwireless_com 4什么智能音箱speakerMicrophoneInternetSkillservicespeakerwireless_com智能音箱的工作原理框图5SpeakermicTouchScr语音输入触屏输入Internet信号处理本地AITTSASRTTS算法引擎语言模型NLP/NLUNLG业务引擎业务资源IOT 设备W
2、ifi/BlueTooth/zigbee/IR技能服务wireless_com对话式AI操作系统DuerOS6wireless_com基于DuerOS的智能音箱工作流7tataUFO 智能音箱的性能8 硬件性能硬件资源效率,CPU/Memory/IO等能源效率功耗 软件性能并发容量,吞吐量/并发用户数等响应速度,响应时间/延迟时间等wireless_com9智能音箱的性能优化响应速度性能测量 感知是开始 度量是基础网络优化 减少网络节点间的路由(节点的移动)架构优化 调整通信的方式 平衡交互的请求逻辑优化 代码优化与并行处理缓存优化 多节点的缓存优化tataUFO 基于日志的度量10类似基于E
3、LK 的日志分析系统Logstash 1Logstash 2Logstash 3ElasticSearchKibana View关键信息 时间戳tataUFO 网络优化11同机房专线连接带宽tataUFO 协议架构优化12智能音箱ASRNLP/NLUTTS123智能音箱ASRNLPTTStataUFO 业务逻辑优化业务梳理,时延分布13端上的处理延时尾音检测VAD 检测ASR识别NLP等业务处理TTS语音合成wireless_com技能服务应用(Skill)的优化垂直优化,单体最优14wireless_com面向DBP的FaaS架构CFC上的技能优化15函数计算的几大特征:1.由事件驱动2.仅
4、按调用次数收费,不调用不收费3.高伸缩性、高弹性相较传统云服务有节省资源、价格低廉的特点。wireless_com 业务逻辑优化 预处理16端上的处理延时尾音检测VAD 检测ASR识别NLP等业务处理TTS语音合成wireless_com缓存优化 TTS 预充和缓存NLP 预测流PreTTS预合成TTS 缓存17端上的处理延时尾音检测VAD 检测ASR识别NLP等业务处理TTS语音合成wireless_com端上的优化缓存无处不在18硬延时的分布缓冲区调整实时性Query结果的缓存wireless_com 智能音箱性能的最佳体验19600ms 人的反馈1.25 s 的理想值1.8s 的门限2.5s3s 难已接受Wireless_com19wireless_com 20tataUFO 23谢 谢!