1、去哪儿网大语言模型基座驱动的研发效能提升王植萌去哪儿网技术高级总监/基础研发团队负责人/技术委员会主席/人工智能委员会公共技术专委会负责人王植萌近期个人研究及落地领域专注于DDD领域驱动设计、数字化转型、大模型基座应用去哪儿网技术高级总监/基础研发团队负责人/技术委员会主席/去哪儿网人工智能委员会公共技术委员会负责人目录CONTENTS大模型基座在技术侧落地概览大模型基座在技术侧落地概览1 大模型基座在需求域的落地应用大模型基座在需求域的落地应用2 大模型基座在开发域的落地应用大模型基座在开发域的落地应用3 大模型基座在运维域的落地应用大模型基座在运维域的落地应用4 大模型基座落地应用的效果度

2、量大模型基座落地应用的效果度量5 01大模型基座在技术侧落地概览大模型基座在技术侧落地概览大模型基座在技术侧落地概览-领域角度需求域开发域测试域运维域需求文档生成checklist实践函数生成实践代码补全实践CR实践重构实践checklist生成case实践测试用例生成实践注释生成实践SQL生成实践知识库问答值班机器人实践模型应用模型基座codeXGPT3.5GPT4Replit_3bStarCoderCodeLlama_7b大模型基座在技术侧落地概览-架构角度模型层平台层功能层适配层安全校验服务推理服务chatGPTcodeXchatGLMGPT4starcoderreplitcodella

3、ma存储层pgvectormilvusfaisschecklist生成值班问答代码补全代码生成代码生成webintellij ideavscode补全服务02大模型基座在需求域的落地应用大模型基座在需求域的落地应用大模型基座在需求域的应用-研发流程的革命大模型基座在需求域的应用-研发流程的革命03大模型基座在开发域的落地应用大模型基座在开发域的落地应用大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代码生成代码生成IntelliJ IDEA 代码补全Basic completion 基本补全：Ctrl+SpaceSmart completion 智能补全：Ctrl+Shift+Spa

4、ceStatement completion 语句补全：Ctrl+Shift+EnterHippie completion：Alt+/Postfix code completion 后缀补全machine learning-assisted completion：它的作用是，利用机器学习模型在建议列表中将最合适的项目排在前面大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代码生成代码生成代码自动补全需要注意的一些问题补全速度补全接受率尽可能多的token传递上下文信息使用量化模型有限牺牲精度节约成本业务代码需要具备良好的注释大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代

5、码生成代码生成大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代码生成代码生成-replit大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代码生成代码生成-starcoder大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代码生成代码生成-codeLlama大模型基座在开发域的落地应用大模型基座在开发域的落地应用-代码生成代码生成-codeLlama-模型的量化处理模型的量化处理量化，让中小公司能够低成本用得起模型，调得起模型旧时王谢堂前燕，飞入寻常百姓家。Replit/StarCode/CodeLlama三模型对比生成速度生成速度占用资源占用资源向下补全向下补

6、全中间补全中间补全补全接受率补全接受率Replit_3b全体员工开放 46s2*A30 GPU 100%支持不支持5%StarCoder_15.5b全体员工开放 46s2*A30 GPU 100%支持支持13%CodeLlama_7b全体员工开放 13s2*A30 GPU 50%支持支持17%不可忽视的Chat兜底质量 效率充分的prompt加成04大模型基座在运维域的落地应用大模型基座在运维域的落地应用FineTuning VS Semantic Search提示学习 vs 指示学习知识资料是否足够多知识资料变化是否足够快能接受怎样的成本QLora大模型基座在运维域的落地应用大模型基座在运维

7、域的落地应用-知识库问答知识库问答大模型基座在运维域的落地应用大模型基座在运维域的落地应用-知识库问答知识库问答大模型基座在运维域的落地应用大模型基座在运维域的落地应用-知识库问答知识库问答05大模型基座落地应用的效果度量大模型基座落地应用的效果度量大模型基座落地应用的效果度量大模型基座落地应用的效果度量大模型基座落地应用的效果度量大模型基座落地应用的效果度量聚焦于代码编写优先关注质量而非普及度数据与调研并重大模型基座落地应用的效果度量大模型基座落地应用的效果度量-交互时机识别交互时机识别大模型基座落地应用的效果度量大模型基座落地应用的效果度量-注释生成能力注释生成能力感谢聆听关注QECon公众号去哪儿技术交流小助手微信