《【Holger Petersen】AI在企业内部的机遇与挑战.pdf》由会员分享，可在线阅读，更多相关《【Holger Petersen】AI在企业内部的机遇与挑战.pdf（20页珍藏版）》请在三个皮匠报告上搜索。

1、AI在企业内部的机遇与挑战巴斯夫中国数字化中心Holger Petersen演讲嘉宾介绍计算机科学博士，密码学专业30 年信息/网络安全经验在巴斯夫工作20 年，负责安全架构和战略网络安全与安全风险管理高级专家自 2022 年起担任中国网络安全团队负责人扫描二维码，关注巴斯夫中国数字化中心巴斯夫简介01人工智能机遇02人工智能风险03风险评估方式0405巴斯夫人工智能用例06网络安全中的AI 用例*截至 2022 年 12 月 31 日的雇员人数BASF-We create Chemistry|巴斯夫集团简介我们将经济成功、社会责任和环境保护融为一体我们的产品几乎应用于所有行业，分为6 个产品

2、组合2022 年销售额：873 亿欧元，2022 年未计特殊项目的息税前利润：69 亿欧元111，481 名员工*为客户的成功做出贡献公司遍布90 多个国家6 个一体化生产基地和239 个其他生产基地82,000 个客户来自世界上大多数国家的不同行业深耕中国138 年-自 1885 年起26 家全资子公司10 家合资企业30 个生产基地11，411 名员工*2022 年销售额约 116 亿欧元*截至 2022 年 12 月 31 日的雇员人数*截至 2022 年 12 月 31 日按客户所在地分列的情况巴斯夫在中国2005：南京 扬子石化-巴斯夫有限责任公司2012：上海 创新园（研发）202

3、2：巴斯夫湛江一体化基地（首套装置）2015：巴斯夫聚氨酯（重庆）有限公司2021：长沙 巴斯夫杉杉电池材料有限公司2020：南京 中国数字化中心巴斯夫中国数字化中心（南京）介绍数字化是巴斯夫的优先事项，并支持巴斯夫企业战略的目标实现业务需求的数字化，以便在中国市场竞争和发展构建合规的数字解决方案，保护企业以安全的方式运行数字解决方案依托中国数字人才创建全球的足迹运用独特的中国技术生态系统为巴斯夫的愿景：成为最领先的数字化工企业贡献力量我们为什么在这里：靠近客户-在中国为中国我们的位置：南京市中心我们是谁：超过百人的数字化团队我们的工作方式：敏捷、精益、学习心态人工智能引自:Roger Hal

4、bheer-微软首席安全顾问可能是自互联网发明以来最具颠覆性的技术人工智能-机遇与挑战人工智能为企业带来了新机遇，也带来了新风险1.提高效率例如-田间试验的自动图像分析（农产品事业部）2.改善客户服务例如-面向客户的产品和文件搜索解决方案（个护事业部）和虚拟医药助理（营养品及保健）3.更好的决策例如-信贷管理流程自动化（预测和智能信贷优化器）4.节约成本例如-更复杂的流程自动化（RPA 与人工智能的结合）5.竞争优势例如-预测分子气味和模拟客户苯乙烯工厂的行为其他法律网络安全人工智能带来的新机遇人工智能带来的新风险网络安全数据保护知识产权人工智能-风险概述随着人工智能的兴起，新的风险不断涌现，

5、威胁格局也随之改变绕过现有安全措施人工智能作为攻击面（如模型盗窃）类人社交攻击（如网络钓鱼）数据盗窃虚假信息，如可信度、幻觉资料来源Gartner(2023)|ENISA(2023)|Team8(2023)攻击的数量和复杂程度以及新的攻击载体不断增加必须确保符合法律要求法律违反合同，如侵犯版权违反法律法规其他无法提供人工智能服务过度依赖人工智能会导致错误或无意义的反应或不合理的反应违反道德标准知识产权：知识产权保护不足数据保护：不恰当的个人数据管理第三方个人数据的违规处理人工智能网络安全 风险其他人工智能 风险新的威胁行为者，因为攻击操作简单人工智能-网络安全风险(1/3)网络安全需要与时俱进

6、，以适应不断变化的网络风险形势T：Meta 强大的人工智能语言模型 LLaMA 已在网上泄露通过对抗性攻击，攻击者可以操纵人工智能模型，获得未经授权的访问权，复制或外流 LLM 模型，导致人工智能决策受损，造成经济损失，或可能获取敏感数据。由于以前需要花费大量时间的任务变得简单易行，新的威胁参与者将不断涌现，攻击的复杂程度将不断提高，总体门槛将有所下降。成熟攻击的频率预计会提高Mandiant:攻击者对生成式人工智能感兴趣，但使用仍然有限新的威胁行为者作为攻击面的人工智能人工智能-网络安全风险(2/3)网络安全需要与时俱进，以适应不断变化的网络风险形势在计算机上安装微软Co-Pilot等人工智

7、能解决方案，可以让人工智能系统绕过邮件加密等程序，完全访问邮件，从而增加数据泄漏的风险。绕过现有安全措施人工智能驱动的恶意软件可能会从网络行为中学习，并以不显眼的小爆发形式外泄机密数据，以躲避检测数据盗窃来源：彭博社，2023 年 6 月 29 日来源：彭博社，2023 年 6 月 29 日Kyber-水晶人工智能-网络安全风险(3/3)网络安全需要与时俱进，以适应不断变化的网络风险形势攻击者利用人工智能基于录音模仿人声（例如董事会成员的声音）进行冒充，目的是欺骗个人，让他们误以为自己是在与可信赖的人互动类人社交攻击人工智能系统生成不真实的信息（假新闻）-由于质量上乘，看起来像是真实的，这将对

8、社会或经济产生影响虚假信息来源：Wired,30.10.2023有线电视，2023 年 10 月 30 日巴斯夫内部生成式 AI 的用例收集巴斯夫的数百个想法在实施前必须进行风险评估40%29%10%11%10%不同类型的AI用例Business&OperationsBusiness WorkflowsChemistry&BiologyLegal,IP&RegulatoryR&D&Lab processes技术原型代理、工具和应用程序接口（API），例如将现有服务与LLM连接起来聊天机器人，例如用于对话或支持用户导航的前端软件与数据聊天，例如与结构化和非结构化数据互动文本转换，例如文本摘要或将

9、文本转换为本体语音，例如在实验室或客户服务环境中使用自动语音理解或语音创建功能分子化学，如分析小分子或大化学分子的性质图像，例如理解图像并将其转换为文本；根据文本描述创建图像代码，如创建、分析和转换程序代码巴斯夫针对人工智能方案的风险评估方法制定评估人工智能风险的统一方法数据保护知识产权法律风险评估风险评级+缓解措施风险接受度与残余风险+网络安全 建立了一致的风险评估模板 模板将用于LLM 使用和基于人工智能的企业搜索评估 每个人工智能用例都将根据风险评估模板进行评估 确保风险暴露的透明度为我们的业务提供基于人工智能的解决方案成果执行所需的治理和控制职能我们制定了一套方法，以实现风险透明并确保

10、治理下一代网络防御利用人工智能实现网络防御能力现代化对于大型组织来说，拥抱人工智能作为技术进步至关重要来源：福布斯来源：福布斯下一代网络防御在 BASF 的使用场景人工智能让网络防御更上一层楼行为分析用户活动（UEBA）预测分析分析数据以预测未来的威胁，如新的恶意软件风险评估总体风险态势分析，例如通过识别和评估薄弱环节威胁检测自动识别异常和样本自动响应响应措施自动化，例如阻止可疑的 IP 地址我们为现代 SOC 提供的优势增强防御能力更有效持续监测增强上下文洞察力高级自动化未来的网络防御瓦解攻击者省力省钱扩大覆盖范围，提高质量端到端防御加快响应巴斯夫观点：AI 在网络安全中的风险和应对保持竞争

11、优势，获得人工智能的优势并抵御风险人工智能安全工作组对策人工智能宣传和用户培训1一套标准的由可信供应商提供的人工智能解决方案2加强数据分类和访问控制措施3风险使用不准确/错误的信息（如幻觉）1使用不受信任的公开人工智能解决方案2缺乏管理和实施缺乏适当的安全控制31SME=自我管理环境2BCSO=巴斯夫网络安全办公室3IPO=信息保护官加入我们的团队！欲了解更多信息、关注我们的微信公众号或访问我们的 A20展台。巴斯夫中国网络安全团队网络安全、治理与合规网络安全专家（下属公司安全合规）网络安全风险管理网络安全威胁情报网络安全高级架构师网络安全事件响应AI 网络安全架构AI方向网络安全分析师网络安全架构网络安全数字取证网络安全专家（审计&红队）网络安全事件管理网络安全信息和漏洞修复管理巴斯夫网络安全服务台网络安全数据泄露管理信息保护官（员工安全意识提升）网络安全漏洞管理网络安全经理谢谢