《黄箐-解锁AI原生服务潜能赋能个性化AI创新:Prompt Sapper平台设计和技术实践.pdf》由会员分享,可在线阅读,更多相关《黄箐-解锁AI原生服务潜能赋能个性化AI创新:Prompt Sapper平台设计和技术实践.pdf(45页珍藏版)》请在三个皮匠报告上搜索。
1、解锁AI原生服务潜能,赋能个性化AI创新:Prompt Sapper平台设计和技术实践演讲人:黄箐Prompt Sapper项目团队黄箐江西师范大学邢振昌CSIROs Data61积极、热情的软件工程研究者,博士毕业于武汉大学,专业为计算机软件与理论专业,后作为访问学者前往澳大利亚国立大学,受到邢振昌教授的悉心指导。他专注于智能化软件工程、人机交互和人工智能应用等多个领域的交叉研究。他与邢振昌教授共同创立了Prompt Sapper项目(https:/aichain.online/)。该项目致力于推进AIGC技术的发展,特别关注基础模型和知识图谱在千行百业(软件,教育、办公、医学等)的应用。他
2、主持过多项国家自然科学基金,并在软件工程领域发表了30余篇学术论文,其中包括TOSEM、TSE、TSC、ICSE、ASE等知名期刊和会议。演讲经历:曾在江西省第四届成果对接会上做过Prompt Sapper项目的成果汇报。Senior Principal Research Scientist and Science Leader of the SE4AI team at CSIROs Data61。邢博士目前的研究关注SE4AI方法,技术和工具,以及知识图谱、人机交互,Responsible AI。邢博士在声誉卓著的期刊和会议上发表近200篇经过同行评审的出版物,并获得了顶级软件工程会议的多个
3、杰出论文奖,包括ACM SIGSOFT杰出论文奖,IEEE TCSE杰出论文奖,以及ACM SIGSOFT Most Influential Paper Award。他是AI原生服务编排平台Prompt Sapper(https:/aichain.online)的联合创始人。邢博士经常在顶级软件工程会议的组织和程序委员会中服务学术社区。目 录CONTENTS1.引言2.Prompt Sapper 的设计理念3.Prompt Sapper 的技术实践4.总结与展望引言PART 01AI 有机会成为人人可用又人人不同的生产力工具AI/软件工程师所有人消费 AI AI/软件工程师生产(基础)模型 消
4、费AI与AI聊天AI消费者消费者AIChat?12我的AI我做主聊天的流程和技巧关注问题和需求适合人与AI交流的媒介用户驱动的AI生态术业有专攻的AI编排助手3456聊天是与AI交互的自然方式但是,消费AI需要更多用户层面技术层面愿景:带给每个人个性化、专属化AI创新和体验AI 原生服务=范式语言工具+提示即“代码”(在问题空间思考)结构化提示语言(SPL)(人-AI交流媒介)Prompt Sapper(AI编排助手)人人消费AIAI创新经济AI4SE4AIPromptmanship 软件工程化的提示工程(聊天的流程和技巧)AI链+AI-infused应用(人人可用又人人不同)(可复用可组装A
5、I生态)启于聊天,终于产品AI/软件工程师做了这个基础“桌子”Prompt Sapper“书”栈 人-AI交互 计算媒介 PromptmanshipSapper 虚拟机在外面有很多有趣的AI“表演”,每个人都想去亲身体验或创作Prompt Sapper 的设计理念颠覆传统软件开发方法PART 02问题:很多人具有构建一个AI服务的经验吗?怎么进行的?任务:电影影评情感分类你能不写任何代码或构建其他模型来完成这个任务吗?影评文本正面中性负面情感类别写代码提示到代码提示即代码质感远远超预期,故事简洁很懂得扬长避短,是一个优秀的爆米花!写代码电影影评文本影评情感分析代码影评影评特征数据集影评文本分词
6、、特征提取向量化文本正面中性负面文本向量情感分类器训练怎样写出高效的文本向量化训练情感分类器模型的代码?How?情感类别提示到代码电影影评文本影评影评特征数据集影评文本分词、特征提取向量化文本正面中性负面文本向量情感分类器训练请帮我写一段用于分词的代码如何微调Bert用于情感分析?用word2vec或Bert进行词嵌入?影评情感分析代码How?Github Copilot 能推荐一些代码,但仍需人工验证和集成提示即“代码”Persona You are a movie review analystInstruction Commands 1.Identify sentiment indicat
7、or to assess the overall sentiment.Commands 2.Provide a clear indication is positive or negative or neutral.Format Sentiment label to the user exampleInput User reviewsOutput Sentiment影评文本文本过滤情感关键词What?文本过滤情感关键字提取情感分析电影影评文本AI 链结构化提示语言情感类别正面中性负面从升级到重塑软件开发写代码“老”书 提示到代码再版提示即“代码”新书Github CopilotPrompt S
8、apper全栈开发工具解决方案空间问题空间聊聊天够吗?提示即“代码”人动动嘴,=AI干活?人-AI智能协作提示即“代码”人动动嘴脑,=AI干活,人检查修正人:设计师和引路人AI:实践者和探索者Prompt Sapper对比其他基于LLM的工具用户规模人类知识产品复杂度提示即“代码”需要重新思考AI 2.0时代的软件工程:who what howChaGPTAutoGPTLangChainSapper 社区版Sapper 专业版Sapper 企业版软件工程提示工程Prompt Sapper的技术实现PART 03annotation-type-name:=persona|context-cont
9、rol|instruction|format|example|command|rule|input|output Structured-prompt-body:=metadata-partcontext-partinstruction-partprompt-committee-part 人机交互提示即“代码”基础设施结构化Prompt用户意图运行Prompt输出修改Prompt人结构化提示语言Workers in AI Chain计算媒介外部数据库长/短记忆APIsAI编排助手AI 链连接存储调用Sapper 虚拟机作为一个AI消费者,我需要支持提示即“代码”软件工程基础设施,从而我可以创作A
10、I原生服务并获益文本清洗情感关键字提取情感分析人机协作体验Copilots人-AI交互结构化提示语言(SPL)PromptmanshipCopilot赋能的人-AI协作创作结构化提示LLM 调用模式Sapper 虚拟机计算媒介Sapper 社区版Sapper社区版现场演示秒级创建生成式AI原型,无需任何编程和AI专业知识试用:https:/www.promptsapper.tech/sappercommunitySapper社区版:通过创作结构化提示快速创建生成式AI原型简单任务描述简单任务描述Prompt NameMovie Review AnalystI want to see if th
11、e user like or dislike the movie from his review.User Intent用户用户结构化结构化Prompt表单表单PersonaMovie Review AnalystInstructionCommands1.Identify sentiment indicator to assess the overall sentiment.2.Provide a clear indication is positive or negative or neutral.ExampleInputUser reviewsOutputSentimentInstruct
12、ionCommands1.Recommend three movies based on the reviewers sentimentSentiment label to the user.Format结构化结构化 PromptPersona You are a movie review analystInstruction Commands 1.Identify sentiment indicator to assess the overall sentiment.Commands 2.Provide a clear indication is positive or negative o
13、r neutral.Format Sentiment label to the user exampleInput User reviewsOutput SentimentInstruction Commands 1.Recommend three movies based on the reviewers sentiment 运行运行 Prompt输出输出更新Command添加Instruction结构化提示语言(SPL)annotation-type-name:=persona|context-control|instruction|format|example|command|rule|
14、worker-stereotype-name:=input-writer|reverse-questioner|planner|commander|verifier|structured-prompt-body:=metadata-part context-part instruction-part prompt-committee-partPromptmanshipPrompting caveatsPrompt aspectsPrompting decoratorsWorker stereotypes减轻人的表述负担和AI的认知负担加强AI和人类之间协作加快迭代速度设计组装实现复杂工作流的A
15、I服务人机协作体验Copilots人-AI交互PromptmanshipLLM 调用模式Sapper 专业版Sapper 虚拟机计算媒介结构化提示语言(SPL)AI 链长/短记忆数据连接概念API 调用人机协作体验Copilots试用:https:/www.promptsapper.tech/sapperproSapper 专业版:可定制的组装式AI实现复杂任务如何对多部电影的影评情感进行分析,并综合得出结论,最后将结果可视化呈现?爬取外部电影的电影影评对电影影评进行情感分析对每部电影的情感进行评分并可视化任务工作流任务工作流Sapper 专业版:可定制的组装式AI实现复杂任务功能性 work
16、er辅助性 worker影评爬取电影影评获取电影影评影评情感分析电影影评影评筛选情感分析影评情感结果可视化影评情感数据格式化影评翻译数据可视化综合分析结果图情感打分电影名称AI 链 1AI 链 2AI 链 3group2group1group3Sapper 专业版:可定制的组装式AI实现复杂任务影评爬取电影名称综合分析结果功能性 worker辅助性 workerAI 链1:获取电影评论电影对应评论影评筛选情感分析影评情感AI 链2:影评情感分析情感打分数据格式化翻译数据可视化AI 链3:结果可视化Blockly ViewSPLSPL端到端AI-infused应用开发:从需求到部署人机协作体验C
17、opilots人-AI交互PromptmanshipLLM 调用模式Sapper 企业版Sapper 虚拟机计算媒介结构化提示语言(SPL)AI 链长/短记忆数据连接概念API 调用人机协作体验Copilots过程试用:https:/www.promptsapper.tech/sapperenterprisePromptmanship:AI原生服务快速原型流程和方法Sapper 企业版:端到端的AI-infused应用开发 从需求到部署Exploration View用户如何对多部电影的影评情感进行分析,并综合得出结论,最后将结果可视化呈现?输入1.爬取外部电影的影评2.对电影影评进行情感分析
18、3.对每部电影情感评分并可视化1.根据电影名称爬取电影影评1.筛选10条情感表达强烈的影评2.分析每一条影评的情感1.将情感分析结果转为对应分数2.格式化得到的分数3.将格式化后的文本翻译为中文4.数据可视化任务描述捕获需求Sapper 企业版:端到端的AI-infused应用开发 从需求到部署数据可视化Prompt模型.影评爬取Prompt模型.影评筛选Prompt模型.情感分析Prompt模型.翻译Prompt模型.数据格式化Prompt模型.情感打分Prompt模型.Design View一键生成AI 链链 Skeleton1.根据电影名称爬取电影影评2.筛选10条情感表达强烈的影评3.
19、分析每一条影评的情感4.将情感分析结果转为对应分数5.格式化得到的分数6.将格式化后的文本翻译为中文7.数据可视化Sapper 企业版:端到端的AI-infused应用开发 从需求到部署影评爬取电影名称综合分析结果功能性 worker辅助性 workerAI 链1:获取电影评论电影对应评论影评筛选情感分析影评情感AI 链2:影评情感分析情感打分数据格式化翻译数据可视化AI 链3:结果可视化Blockly ViewSPLSPL总结与展望PART 04Prompt Sapper技术栈:启于聊天,终于产品人机协作体验Copilots人-AI交互PromptmanshipAPI 调用模式Sapper
20、虚拟机计算媒介结构化提示语言AI 链长/短记忆数据连接概念过程解锁AI原生服务潜能赋能个性化AI创新Prompt Sapper产品系列AI原生服务创作者AI原生服务使用者Sapper 社区版Sapper 专业版Sapper 企业版基础SPL高级SPL工作者设计AI 链设计需求测试轻量级个人服务复杂业务服务whohowwhatPrompt Sapper:将AI编排成生产力和社会服务工具应用领域教育医疗金融娱乐体育Prompt SapperAI原生服务编排平台提示流程和技巧结构化提示语言组装式AI模型插件AI编排助手AI链测试云部署提示资源管理基础模型OpenAIHugging Face数据/AP
21、Is传统OSsWindowsLinuxMac OSPineconepandasMATLAB首创端到端AI原生服务编排平台,有机融合软件工程和提示工程最佳实践,赋能企业和个人消费生成式AI。在问题空间解决问题无需编程和AI专业知识,在AI编排助手辅助下,用自然语言分析、定义和解决问题软件工程化的提示工程依照Promptmanship,通过AI链和结构化提示语言快速编排、测试和部署生成式AI原型开放性框架和生态通过“走出去,引进来”,打造基于Sapper平台的可扩展框架,催生AI原生服务生态AI原生服务赋能中学编程教育传统“理论(伪码)实践”教学面临多种编程语言语法,复杂编程知识难度大挑战码小猿”
22、和“程小明”AI原生服务支持全新的“鱼实践理论 渔实践”的教学模式AI原生服务赋能人生双轮:守护心灵,点亮职业之路传统“倾听解读”方式中的沟通障碍和误解“心小助”:AI指挥引领,“深度倾听专业洞察实时反馈”的关心方式 AI赋能心理健康:“心小助“AI求职新纪元:“思小聘“个性化关怀便捷普及深度倾听持续进化传统“求职等待”模式中的不确定与焦虑“思小聘”:AI智慧驱动下的职场伙伴:从简历打磨到模拟面试,职场之路更顺畅模拟面试智能职位推荐智能沟通职业生涯规划简历优化Sapper驱动,编排AI心职原生双舞台Dev/LLMOps+Sapper 企业版Sapper 专业版Sapper社区版Prompt Sapper融入软件工程技术栈Sapper4SEPrompt Sapper融入软件工程技术栈Prompt SapperLLMOpsAI安全VectorDBAI云服务AI设计开发工具Model APIs在AI 2.0时代,软件工程需要颠覆性的思维和行事逻辑程序员?代码?软件?whohowwhat感 谢 聆 听