《红旗新能源:2023人工智能在自动驾驶决策中的应用与思考报告(26页).pdf》由会员分享,可在线阅读,更多相关《红旗新能源:2023人工智能在自动驾驶决策中的应用与思考报告(26页).pdf(26页珍藏版)》请在三个皮匠报告上搜索。
1、红旗新能源HDNGQI人工智能在自动驾驶决策中的应用与思考中国一汽研发总院刘斌(首席)2023年06月10日红旗新能源背景分析HDNGCI1.1人工智能在自动驾驶中的应用人工智能的出现,使得图像的输入与输出之间通过深度学习等方法进行特征描述,因此不再需要完全依赖人类专家设计特征,特征本身也可以跟学习器一起进行联合优化传统感知与AI感知AI感知优势关键因素Vehicle人工特征设计分类器学习优势1:逐层加工处理优势2:Vehicle自动学习特征分类器学习内置特征变换优势3:模型高度复杂深度学习的特殊优势,即将构化的图像数据进行统计和分析,依靠图像语义分割,将大量的数据抽象和形式化,通过计算机可理
2、解的简单概念构建复杂概念,使得其在自动驾驶感知领域取得了广泛的应用红旗新能源、背景分析HDNGCI1.2自动驾驶中的规划决策随着人工智能的发展,模型的泛化能力不断增强,特征提取不仅能够应用于感知,同样能够将类似方法应用于决策技术在复杂场景下,人工智能算法自动提取更多的特征,尽可能多的自动学习人类司机的经验,提升算法“拟人化”程度简单交互场景下的规则型决策方法复杂场景下的AI型决策方法送航驾驶员超护自动驾驶决策任务同样具有自己的特征,人工智能方法的引入对自动驾驶决策任务的提升具有潜在优势红旗新能源背景分析HDNGCI1.3感知型AI与决策型AI的差异感知型AI决策型AI环境的“静态”表示感知,存
3、在相对真值环境的“动态”表示交互,但动作不唯一性,是相对值由于决策的结果与环境之间存在动态交互,且不同决策下的行为表现的差异性较大,给决策型AI的工程化落地带来了困难,探索AI驱动规划决策技术是人工智能技术在自动驾驶领域的下一个重点内容红旗新能源二、相关探索HDNGCIAI决策技术的应用方向AI加“智AI加“速基于模块化的方法自动化标注挖据AI数据合成基于端到端的方法云端大模型训练TaCTadLarsingAI模型可通过子模块或一体化的形式部署在车端决策代码中,实现“新手司机”向“老司机”的转变AI可以在自动驾驶数据挖掘、场景生成、仿真测试等方面实现加速,极大提升自动驾驶验证效率和效果红旗新能
4、源二、相关探索HDNGCI2.1AI决策技术的加“智”方式基于模块化的方法基于端到端的方法自车位姿感知结果导航信息自车位姿感知结果导航信息自车位姿导航信息决策 规划决策深度深度学习学习模型模型控制被控车辆被控车辆被控车辆易于实现安全性条件的检测运用模型强大的学习能力及对于数据的拟合能力可以与已有规则方法相结合,进行局部提升输出的稳定性和安全性无法保证易于根据需求进行模型微调X难以在现有方法基础上进行提升X模块化限制了中间输出的模态红旗新能源二、相关探索HONDCI2.2基于模块化的AI决策通过AI算法提高决策效率和决策性能应急反应场景轨迹粗解生成基于强化学习,越过繁琐的决策流程,加速自动驾驶系
5、统在紧基于机器学习,短时间内从5000余条粗解轨迹中选取出最优急场景下的反应轨迹Wust%efcass b0g基于AI实现安全性条件的检测,增强紧急场景的反应能通过局部应用AI模型,实现轨迹粗选,提升算法运算实力时性,效率提升了85%以上红旗新能源相关探索HDNGCI2.2基于模块化的AI决策扩展搜索空间至时间与空间一体,决策灵活度提升,但高维度空间导致搜索耗时增加以模仿学习为代表的决策AI方法通过将驾驶问题建模来学习从环境表示中给出最优的决策行为联合行为决策流程模仿学习优化决策范围联合行为决策优化考虑动态与静态基于模仿学习搭障碍物,通过规建AI决策模型,将最优行为决策则方法在横纵利用神经网络
6、实转换为约空间体式坐标系下直现决策行为的快构建最优化问题,接搜索出最优行速搜素,搜索耗求解出最优动作为决策,耗费算时降低42%,类序列力人程度显著提升基于模块化部署决策A的优势,实现部分模块的微调,实现决策规划模块的性能提升红旗新能源相关探索HDNGCI2.3基于端到端的AI决策以感知地图信息、障碍物历史轨迹信息、车辆运动信息作为输入,以人类驾驶数据为真值标签便用一套数据驱动的轻量生成网络帮助快速生成规划路径Tesla交互式搜素算法Comma.aiInteraction SearchFOCUS COMPUTES OUTCOMESCarpemlatIraining+Infrastructuren
7、e(Online)运用了模型强大的学习能力及对于数据的拟合能力,利用丰富的上游信息更好的适应道路条件、交通情况和驾驶场景红旗新能源二、相关探索HDNGCI2.4A加速”方式使用A技术,可以在数据获取、标注、挖掘、训练等方面,有效提高模型选代效率,缩短开发周期技术应用数据驱动的自动驾驶开发流程自动化标注挖掘:车端平台云端平台A/模型自动挖掘有效数据,加速模型持续选代车端采集数据自动化标注挖掘人工标注质检和精修AI合成数据:云端模型选代仿真环境+A/合成足以乱真的数据,低成本、高效率的获取海量数据AI合成数据云端大模型云端大模型训练通过A/搜素,自动调整模型车端模型送代超参数和模型结构,减少繁车端
8、模型项重复工作红旗新能源二、相关探索HDNGOI2.5A加速:自动化标注挖掘依托影子模式+云端大算力模型,自动完成数据标注、清洗、挖掘,加速数据向模型能力转化技术应用应用案例自动化标注挖掘:影子模式云端大模型云端自动标注数据,降低成本自动挖掘有效数据,提高效率当前使用大模型自动标注自动化率可达80%90%,大量减轻人工标注负担,且标注结果相较人工具有更好的一致性红旗新能源二、相关探索HDNGCI2.6AI加速:AI合成数据通过仿真环境+AI合成染,源源不断的生成训练数据,有力推动模型送代升级可将场景隐式存储于神经网络,重建自动驾驶场景,模拟罕见、极端场景,支撑模型闭环验证技术应用应用案例数据获
9、取:V短时间低成本获取海量数据tarn定向获取指定类型有效数据参数空间分析对于自动驾驶规控而言,80%以上的数据是无效数据使用仿真环境+AI合成可以定向获取有效数据,显著加速模型送代红旗新能源二、相关探索HDNGI2.7A加速:云端大模型训练自动驾驶规控需要面向驾驶风格需求进行设计,对应不同驾驶风格需要构建多种AI模型自适应调整模型超参数与模型结构,避免重复繁琐的调参和模型结构设计工作技术应用应用案例云端大模型训练:自适应超参数调整自动网络结构搜索自动调整模型超参数自动调整模型结构anicngligoreTheVisionNeNorDatasdDandiritesNt.I.M,AlpidnM
10、AIpithabarifetre使用AI技术学习如何进行AI模型本身的训练,已经成为了未来的发展趋势红旗新能源目录HDNGI背景分析相关探素几点思考红旗新能源三、几点思考HDNGI3.1AI在自动驾驶决策应用中的安全风险新一轮的人工智能浪潮受到了工业界以及全社会的广泛关注,随着一批人工智能的落地应用逐渐开始变成现实,安全问题也渐渐显现出来cruisePOLICEPULLOVERDRIVERLESSCARSANFRANCISCONBCd2018年3月19日,一辆Uber自动驾驶汽车在美国亚利桑那州2022年4月1日,一辆无人驾驶出租车,!由于晚上没开大灯而被坦佩发生交通事故造成一名行人死亡,这是
11、首起自动驾驶汽车警察拦截,在警察走近后,这辆无人车居然突然加速“逃跑”致行人死亡的交通事故直到远程介入后才停下来红旗新能源三、几点思考HDNOCI3.1AI在自动驾驶决策应用中的安全风险人工智能算法对学习样本数据集的正确性存在严重依赖,错误的数据集将导致人工智能算法的错误输出,人工智能算法本身存在安全盲点,难以对数据集的安全性进行分析表现:错误的数据集导致错误输出局限性:安全盲点-Q:ElizaElizarouto cornsforcuttitwithearm比利时男子在与Chai应用程序上的一个Al聊天机器人交谈中,聊天机器人鼓励其通过自杀解除痛苦,该男子最后自杀身亡。-解决办法:需要推进建
12、设人工智能数据集安全管理的相关标准、法规,并构建标准AI模型,对数据集安全性进行监督保障红旗新能源三、几点思考HDNGI3.1AI在自动驾驶决策应用中的安全风险人工智能算法提取特征的过程是随机化的、不可控的,在不恰当的数据集上算法可能会选择错误的特征,以致使用者不能清晰理解算法的决策机理,难以解释、预测算法的行为和结果表现:算法输出不可解释局限性:黑盒特性INPUTBLACKOUTPUT输入BOX输出黑盒自动驾驶车辆经过一座无人墓地时,车主发现中控屏幕上显示出了可怕的未知“行人”。解决办法:需要构建基于AI与规则混合驱动的强化智能模型及安全大脑,实现可解释的安全兜底。红旗新能源三、几点思考HD
13、NGCI3.1AI在自动驾驶决策应用中的安全风险系统越复杂,就越有可能包含安全隐患,人工智能算法容易受到输入数据扰动的干扰,出现非鲁棒特征,从而导致模型给出错误的结论表现:系统输入增加扰动后输出错误局限性:不稳定性无扰动+.007 57.7%confidence“pandanematodegibbon8.2%confidence99.3%confidence有扰动对一幅“能猫”图像增加少量扰动后输入到AI算法中,AI算法将图像错解决办法:需要构建车路云协同监管系统,在大系统、大环境中对AI智能驾驶车辆进行全面监管。红旗新能源三、几点思考HDNGCI3.2AI在自动驾驶决策应用中的231安全对策
14、Step1模型安全Step6Step3AI标准/法规规则决策规划控制AI决策规划校验感知Step2数据安全Step4安全大脑数据Step5车路云红旗新能源三、几点思考HDNGCI3.3模型安全策略Step1收集示教数据,训练监督策略Step2收集对比数据,训练奖励模型Step3利用强化学习针对奖励模型优化策略采集调优数据从数据集中采从调优数据集中及多个模型输集新的调优数采样出据贴签展示出期望10策略生成单个输出的决策行为对输出结果从好至坏进行打数据被用于监督奖助模型为输学习方法对决策利用数据训练出计算出奖励行为模型进行微奖助模型值利用奖动值更新策略红旗新能源三、点思考IDNCI3.4数据安全策
15、略需要对数据的使用权、所有权、运营权进行确权,使用数据时仍需对于敏感数据进行隐私保护,实现在充分挖掘数据使用价值的同时保障数据安全对于规划决策这种相对表达需求,需借助仿真手段构建精准评估模型,快速评估端到端决策效果,进而生成泛化海量高价值场景数据数据自动化标注训练评测部署1泛化筛选!数据人工设计优质数据标注训练评估模型仿真部署仿真系统红旗新能源三、几点思考HDNOCI3.5人工智能型与传统规则型任务混合建模感知融合决策规划算法安全仲裁车辆控制Goal个A快格安全仲裁模块通过规则约束交规、安全等预设大数据挖摄提取(影子模式)限制,进而保证AI决策结果的安全可行通过混合传统包含安全规则的决策算法,
16、可以确保AI规划决策算法在行驶过程中底线安全性,从而得到一个安全等级更高的决策框架红旗新能源三、几点思考HDNGCI3.6安全大脑理念SENSE构建最优排序训练奖励模型奖励模型数据标注:标注元根据预定义的标准对结果进行评估与排序PLAN构建训练模型:根据标注员的排序,学习模型的排序规则最优排序:对模型输出的结果,利用构建的排序模型对其进行排序奖励反馈:将排序后的结果反馈给模型,以帮助模型改进决策策略ACT送代优化通过不断选代训练和奖励信号的反馈,模型可以逐渐调整其决策策略,从而实现高类人性表达,为智能体研发提供基础红旗新能源三、几点思考HDNGCI3.7车路云协同监督车路云协同监督AI智能驾驶
17、车辆行为,形成多重穴余系统级解决方案,获取更及时、更全面外部信息,做出更合理决策不安全安全感知层自主换递路侧和云端辅助单车感知,车辆获取全局道路交通元素实时动态信息,实现超视距感知和极已知端场景感知补足决策层路侧边缘计算节点与城市数据中心协同决策为车端提供算力补足控制层未知云端汇聚车端、路端实时上传的全局信息,指格时热单挥调度车辆、调控红绿灯等交通设施,提高交通效率和交通安全通过车路云方式,逐步实现远程监控一远程监督一远程调度一集群管控转变红旗新能源三、几点思考HDNGI3.8AI系列标准与法规针对自动驾驶引入人工智能等新技术带来的新问题,ISOIAWIPAS8800等标准、法规提供解决AI相
18、关系统数据集安全性等全生命周期问题的规范,用来解决汽车引入的AI相关算法技术的安全性2023年4月11日,国家网信办发布生成式人工智能服务管理办法(征求意见稿),结合网络安全法数据安全法个人信息保护法等,关注要点在于产品安全评估审查、生成式内容标识与用户数据保护等ISOIAWI PAS 8800 Road Vehicles Safety and Artificial Intelligence手级说明A助StrategyandObjectivesIndustry-specific guidance on safety-related Al/ML functions;可以使用现有动能安全方法和标准
19、,进Define sultable safety princlples,methods and evidence fuiling objectives with行开发装保审的抵水A1ISO 26262(functional safety)and ISO 21488(safety of the intended functionality)A2Bulid upon generic guidance from ISO/IEC TR 5469Harmonize concepts already described in Annexes of ISO/TR 4804 and ISO 21448不能使用
20、现有动能安力注程林准速行开更求的法和技术Scope is road vehicles,not restricted to automated driving functions or specific ML爱和审的A技来也不调足A安全量B1techniquesTR5469ISO21448SectorAnnex给的康来给多的用求IndependentframeworkISOTR4504A1(A用平了安全想关系先,事续可能供用AISO26262AnnexBA2#ISO22989ISO/AWIPAS8800ISOTS5083Al definitionsRoad VehiclesAnnex红旗新能源三、几点思考HDNGCI3.9总结自动驾驶作为改变未来十项重要技术,将带来大量创新和变革,但我们也面临感知长尾,决策不确定性、安全问题多样数据集缺乏且不规范等诸多挑战,急需政府、行业、科研院所共同参与携手推动共性问题解决认知融入感知增强可解释性数据集从虚拟迁移到现实构建AI标准和模型DATAMxd利用人类的认知能力,克在潜在层生成可解释的中通过迁移实现数据集的扩完善A/开发标准,搭建标服自动驾驶的挑战间表示,来增强可解释性充加速自动驾驶选代准化虚拟驾驶员模型