《5、AI大模型时代下的智能汽车软件功能安全 - 吴丹丹-外发版(1).pdf》由会员分享,可在线阅读,更多相关《5、AI大模型时代下的智能汽车软件功能安全 - 吴丹丹-外发版(1).pdf(15页珍藏版)》请在三个皮匠报告上搜索。
1、安全质量高级总监 吴丹丹 2AI大模型对智能汽车带来的机会与挑战3AI大模型时代下智能汽车软件功能安全探索目录1智能汽车软件功能安全介绍智能汽车软件功能安全介绍1 智能汽车软件功能安全介绍软硬一体电子化硬件机械化软件主导自动化智能化架构集中软件庞大平台软件+应用软件1、架构及接口标准化、兼容性、可扩展;2、软件分层化、模块化、解耦化;3、开源代码使用;需要工具链支撑;4、安全性、可靠性要求高。智能汽车软件发展趋势工程师编写代码;软件生态圈;感知+规划控制的自动驾驶系统;场景复杂、感知AI算法存在不可解释性;.AI发展大模型时代拐点到来AI编写代码;AI生态圈;融合AI大模型和自动驾驶系统;用A
2、I进行场景泛化、用AI解释AI;.功能安全功能型的安全:功能安全&预期功能安全复合型的安全:功能安全&预期功能安全&AI功能安全n 当下软件发展趋势n 未来软件发展趋势n 软件功能安全发展趋势注:功能型安全、复合型安全后面统称为广义的“功能安全”智能汽车软件功能安全介绍ASPICE体系特点:以软件质量为核心的一套方法论;关注过程,侧重双向追溯一致性,流程-计划-实际执行的一致性;流程、模板、检查单。功能安全体系特点:以失效的危害分析与防护为核心的一套方法论;关注过程与技术,侧重故障检测和故障处理的有效性;流程、模板、检查单、指导书。SOTIF体系特点:围绕将未知转化为已知,将不安全转化为安全的
3、一套方法论;关注触发条件,侧重已知场景的验证和未知场景的验证;流程、模板、检查单、指导书。敏捷特点:以需求快速迭代发布为核心的体系;个体和互动高于流程和工具;工作的软件高于详尽的文档;客户合作高于合同谈判;响应变化高于遵循计划。Devops特点:开发、技术运维和质量保障这三方面融合,促进相互之间的沟通、协作与整合;通过协作提高产品开发、测试、发布效率。用户需求系统需求系统架构软件需求软件架构软件编码软件详细单元测试软件集成测试软件合格性测试系统集成测试系统合格性测试实车测试安全分析DFA分析安全分析DFA分析SEooC假设分析故障插入、触发条件devops研发效能CI/CD自动化测试迭代迭代迭
4、代迭代迭代迭代产品需求体系层面 智能汽车软件功能安全介绍模型的模糊性无法规避;训练数据及环境的与实际存在偏差。无穷的场景;新场景带来不可预知的局限性,引发安全问题;标准法规不足以覆盖。支持多种功能和服务,逻辑复杂,失效率高;代码量巨大,流程和效率存在 冲突。应用场景复杂多变功能强大代码繁多AI算法不确定开源代码及linux广泛应用开源代码开发流程无从保障;Linux与传统功能安全要求存在差异。n继承功能安全测试方法;n数据驱动、建立海量场景库、数据库,并不断积累泛化;n逐步建立自动化测试机制,并注重Corner case;n建立中国化标准法规。n继承高内聚、低耦合的设计要求;n创建高效融合的开
5、发流程体系;n采用系统工程思维。n继承功软件开发经验;n输入输出增加故障安全模式;n提高算法的可解释性设计;n提高标注精度,增强算法对抗性训练;n选取关键内容进行功能安全改造;n基于第一性原理思考问题;n用实践数据证明;n借鉴“ALARP”原则,寻求最优性价比。痛点1痛点3痛点2痛点4技术层面AI大模型对智能汽车带来的机会与挑战2 AI大模型对智能汽车带来的机会与挑战AI人工智能机器学习深度学习强化学习n 机器学习:基于统计学方法n 深度学习:基于神经网络n 强化学习:基于奖励的学习方法人工智能人工智能在智能汽车领域应用:智能驾驶:包括感知算法、预测算法、决策算法等。智能座舱:智能影音系统,智
6、能环境控制等。数字孪生:驾驶模拟、预见性维护等。AI大模型对智能汽车带来的机会与挑战过程域基本实践MLE.1机器学习分析定义机器学习需求结构化机器学习需求分析机器学习需求分析对机器学习运行环境影响建立双向追溯,确保一致性沟通已达成一致的的机器学习需求MLE.2机器学习架构开发机器学习架构确定超参数的范围和初始值评估机器学习架构元素定义机器学习架构元素的接口定义机器学习架构元素的资源消耗目标建立双向追溯,确保一致性传达已达成一致的的机器学习架构过程域基本实践MLE.3机器学习训练指定机器学习训练和验证方法创建机器学习训练和验证数据集创建和优化机器学习模型建立双向追溯,确保一致性总结和交流以达成一
7、致的训练机器学习模型MLE.4机器学习模型测试指定机器学习测试方法创建机器学习测试数据集测试训练好的机器学习模型导出已部署的机器学习模型测试部署的机器学习模型建立双向追溯,确保一致性对结果进行总结和沟通过程域基本实践SUP.11机器学习数据管理建立机器学习数据管理系统开发机器学习数据质量方法收集机器学习数据处理机器学习数据保证机器学习数据质量沟通已达成一致的处理机器学习数据 AI大模型对智能汽车带来的机会与挑战1、AI大模型能够加速自动驾驶的落地,例如BEV+transforme,vision transformer应用。2、AI大模型能够让智能汽车真正”智能“。3、AI大模型让软件开发与编码
8、变得轻松。4、AI大模型从现有技术局限性的角度上对智能汽车安全性有一定程度的保障作用。5、AI大模型推动发展AI生态圈。6、AI大模型能够节省人力、提高效率,节约成本。1、AI大模型需要大量的数据支持。2、AI大模型需要大算力芯片保障。3、AI大模型颠覆了传统软件开发流程和软件开发技术,需要创新与重塑。4、AI大模型本身的安全性需要深入探索,并急需确定。5、AI大模型将带动汽车产业链的重塑。6、最高效率的利用大模型,每个人发挥创造力,不被AI取代。机会挑战AI大模型时代下智能汽车软件功能安全探索3 AI大模型时代下智能汽车软件功能安全探索需要强大的软件架构设计分层、解耦需要针对AI特性探索安全
9、保障数据、训练、仿真、测试需要预期功能安全深入研究AI算法的安全性评价、触发条件需要传统功能安全的兼容与保底安全监控、安全保底功 能ADSHWPTJP高精地图高精定位安全分析严重程度可控性发生频率已知危险场景未知危险场景安全目标安全要求残余风险可接受标准功能场景场景参数化逻辑场景手工搭建参数定义参数范围定义场景泛化具体场景模拟仿真测试有效性分析并行仿真场景采集实际道路封闭场地算法的验证评价基于统计论证的ADS安全度量可靠性、鲁棒性分析用户自定义评测FuSa&SOTIF分析场 景仿真测试实车测试评 价产品优化设计 AI大模型时代下智能汽车软件功能安全探索数据准备建模训练仿真测试安全部署SOTIF
10、分析SOTIF设计改进与测试SOTIF危害分析与风险评估功能规范设计原因及触发条件分析是否接受NY测试验证已知潜在风险的测试验证未知场景的研究和评估场景库建设不断扩充场景的SIL测试不断扩充场景的HIL测试不断扩充场景的实车测试场景覆盖率长期测试感知触发条件的测试验证通过SIL/HIL/实车测试进行决策验证拥堵工况交通参与者突发行为突发天气变化道路交通设施异常.传感器遮挡天气、光照影响交通标志残缺.针对测试验证不可接受的结果进行设计改进SOTIF研究主要内容及方向1、感知触发条件分析及测试验证2、决策算法评价方法研究及测试验证3、场景库建设4、随机测试及长期路测 AI大模型时代下智能汽车软件功能安全探索引领/创新/融合/卓越T H A N K Y O U功能安全专家 国汽智控吴丹丹个人微信