1、第六次重塑：元宇宙催化人类新伦理第六次重塑：元宇宙催化人类新伦理元宇宙伦理变革报告（2022 版）2022【关于联盟】亚洲科技促进可持续发展目标联盟，（英文 Technology for Sustainable Development Goals Alliance for Asia，简称 Tech4SDG）致力于动员社会力量积极广泛参与，产学研联动，开展科技交流合作、科技伦理研究、科技标准制定、科技产业案例调研，以及发布公开研究成果，推动亚洲可持续发展。联盟成员主要包括亚洲地区的科技企业、科研机构、智库、高校及专家学者。了解联盟更多信息及获取本报告电子版，可登录联盟网站：www.tech4sd

2、gaa.org联盟联系方式：secretariattech4sdgaa.org02数字科技推动世界经济社会进步，创造人类更美好未来03目录关于亚洲科技促进可持续发展目标联盟前 言 05第一章 元宇宙重塑社会生态 06第一，元宇宙构建社交新天地 07第二，元宇宙拓展消费场景 07第三，元宇宙推动金融服务升级 08第四，元宇宙影响人类婚恋观 09第五，元宇宙为文化传承提供新途径 09第二章 关注元宇宙九大伦理隐忧 10第一，人类生产力陷阱风险 11第二，虚拟偶像的“负面引导”风险 11第三，虚拟环境带来的失德、违法诱导挑战 11第四，数字替身Avatar作恶的挑战 12第五，深度伪造引发欺骗挑战

3、12第六，元宇宙背后的“中之人”生活困境 12第七，虚拟群体“网暴”新时空蔓延挑战 13第八，元宇宙可能放大数据隐私泄露风险 13第九，元宇宙下的资本控制与金融运作风险 13第三章 平衡发展的元宇宙伦理观 14 第一，以现实世界的可持续发展为元宇宙构建的第一原则 15第二，以人为本是元宇宙构建的基本要求 15第三，技术可控是元宇宙构建的基础和底线 16结语 170405近年来，元宇宙成为产业界、学界、政府广泛关注和讨论的话题。这个最早源于美国科幻作家尼尔斯蒂芬森在小说雪崩概念，之所以受到广泛关注，源于包括大数据、人工智能、区块链、混合现实等技术的进步，使得元宇宙一定程度上得以实现。同时，也因为

4、当前全球经济低迷，各国普遍缺乏新的经济引擎的情况下，元宇宙让产业界和政府看到了巨大的产业发展契机。在人类历史上，每一次重大技术的进步，都带来时空的重塑，社会生态加速演变。例如，内燃机的出现，带来了空间的压缩，极大节约了时间；互联网的出现，在极大压缩现实时空的同时，也带来了虚拟空间的扩延。粗略来算，从人类学会生火，到驯服主要农作物，再到四大发明、蒸汽机和内燃机、互联网，科技至少已经推动人类社会经历了五次重塑。目前，元宇宙被定义为 WEB3.0 的核心，标志着互联网将从平面信息单一供给向沉浸式、全仿真的整体形态供给转变，网络空间将升级为立体式、可感知、与现实主体相交融的具身空间。同时，就如同其他技

5、术进步一样，元宇宙因其虚拟网络与现实社会高度融合、以数据算法为底层支撑、社会组织形态去中心化等特征，也会加快人类社会生态的演变、重塑。在这个演变的过程中，我们能够看到其对经济发展、人际交往、社会组织形态等带来的正面价值，也会看到其在个人隐私、群体暴力、金融安全、社会治理等方面带来的一系列挑战。元宇宙带来的人与人、人与化身、人与机器、人与现实世界、人与虚拟空间等多重关系重塑，其本质是引发了虚拟世界与现实世界的秩序失衡，其包含的日渐复杂的伦理与法律问题值得我们高度关注。正如有分析认为，元宇宙既是一种技术发展现象，又是一种经济运行现象，还是一种伦理重构现象。伦理，是构建社会秩序的基石之一，是人类文明

6、的基础之一。元宇宙大发展，尽快建立起全球普遍接受的元宇宙时空下的伦理观，对加快全球可持续发展，推动人类经济社会进步至关重要。前言第一章 元宇宙重塑社会生态元宇宙伦理变革报告（2022 版）元宇宙加快人类社会生态的演变、重塑，对社交、消费、金融服务、婚恋以及文化传承等，带来一系列影响，推动人类进入新的发展阶段。07第一，元宇宙构建社交新天地。社交是人类的基本需求，而受新冠肺炎疫情的全球蔓延影响，阻断了人们原本习以为常的近距离交流，无法满足人们在生活和情感上的需求，元宇宙的出现，为当下人们社交做出了巨大贡献。传统的社交以面对面交流为主，受制于时间和空间的限制，在通信技术和互联网出现后，带来了电话、

7、信息、视频等交流方式，打破了这种限制，却失去了原本的空间感与沉浸感。而元宇宙下的社交方式既是对现实社交和互联网社交的延续，又从技术和社交场景上实现了多项突破。全球知名咨询机构麦肯锡发布最新研究报告元宇宙中的价值创造也表明，认为元宇宙将显着影响我们的商业和个人生活。报告显示，几乎百分之六十的消费者更喜欢至少一种虚拟世界体验，而不是其物理替代品。在这些消费者中，参加虚拟社交活动或玩社交游戏备受青睐（78%）。第二，元宇宙拓展消费场景。元宇宙使得线下线上场景界线破除和融合，让品牌跳脱出实体产品的限制。除技术之外，未来科技布局的元宇宙还巧妙地赋予试穿行为以转化价值。线下试穿的行为目的只针对于购买产品本

8、身，而线上试穿的娱乐性能够将用户的消费决策前置，消费路径缩短。用户既可以在娱乐过程中看到实际效果，也可以直接下单完成购买。商汤科技 SenseMARS 平台是元宇宙的技术赋能平台，其上搭载了多种关键功能，包括智能感知、智能决策、智能内容生产（包括增强现实、混合现实）、软件智能体及其他基础设施（如云引擎等），为各类元宇宙应用提供支持，能够适用多种业务场景，其中一种技术便是应用虚拟试衣场景。中免集团结合商汤虚拟试衣技术，已在小程序端上线 AR 美妆和 AR 试表；Snow在 APP（韩版）上线了与 Columbia 合作的联名款鞋子。在实际应用中，该技术将用户的人体图像和背景图像分割，把用户的人体

9、图像合成到不同美妆、配饰和衣物的穿着场景中，让顾客看到衣服在身上的穿着效果，为顾客提供良好体验。8除此之外，2021 年，商汤联合越秀集团基于 SenseMARS 平台打造的广州商圈首个大型AR 实景应用 AR Show 在越秀集团旗下、广州第二大、广州西部最大的购物中心悦汇城开业一周年之际正式上线，该 AR Show 为到场顾客带来了一场现实与虚拟相互交融的“元宇宙”购物体验。据商汤科技统计，在悦汇城周年庆祝活动期间，AR Show 助力广州悦汇城全场销售额同比增长 196%。目前，零售电商营销模式正在向元宇宙加速融合，充分利用 3D、AR/VR、AI 等数字技术，参与元宇宙商品营销。麦肯锡

10、最新研究报告元宇宙中的价值创造表示，2022 年以来，已有超过 1200 亿美元的投资流入元宇宙，79%的活跃用户在元宇宙进行了消费。连接现实世界与虚拟世界，是零售电商行业的大势所趋。第三，元宇宙推动金融服务升级。金融元宇宙顾名思义是元宇宙中的相关金融服务，银行、保险、证券等金融机构从最初的资本形成到支持元宇宙内的商业，其提供的金融服务可以在元宇宙的演变中发挥重要作用。依托区块链等技术，各种数据能够被确权，进而流通和交易，资金和资产的形式将更加多元化。元宇宙与金融的结合将对资产的范畴、流转形式和交易机制带来巨大改变，而金融机构需要承接元宇宙下资产的转变。所以未来元宇宙金融（MetaFi）很可能

11、是去中心化金融（DeFi）、中心化金融（CeFi）和传统金融（TradFi）的结合，新产品专为满足新生态系统的独特需求而设计。尽管金融元宇宙目前仍处在初步探索阶段，但诸多金融业务被数字化、场景化，银行等金融机构积极拥抱元宇宙概念，虚拟数字人、智能线上投顾等元宇宙应用场景初具雏形。这一阶段金融元宇宙探索，以借助元宇宙加快推进数字化转型为主，将部分获客活动、营销活动等转入元宇宙中进行，开发更多的应用场景，给予顾客沉浸式的金融服务体验。第四，元宇宙影响人类婚恋观。恋爱关系同样延伸至元宇宙中。有些公司已经开始提供使用虚拟现实技术的约会服务，用户可以使用虚拟形象在数字世界中相互了解。有专家表示，元9宇宙

12、比单纯的视频流媒体服务更适合约会，因为元宇宙提供了一种更类似于现实生活的体验，不会像现实世界一样因为周边环境受到干扰。2022 年，美国亚利桑那州一对夫妇在热门虚拟世界 Decentraland 中举行了一次元宇宙婚礼，一名亚利桑那州最高法院的法官作为证婚人。当地一家律师事务所承认了婚姻的有效性，创建了一个“元婚姻框架”，其中包括“虚拟婚前协议”，这些资料作为非同质化代币（NFT）进行了“公证”，并存放在区块链中。元宇宙婚礼尚不具备法律约束力，但已经被部分社会群体接受或者尝试。此外，元宇宙婚恋还创造了新的文化现象：在日本一些元宇宙平台，糖被用来表示恋爱，盐表示离婚。随着虚拟现实技术的持续发展，

13、物理和数字世界之间的界限日益模糊，虚拟世界的互动对现实关系的影响不可避免，其对婚恋的影响也并非新现象。本世纪初，一对英国夫妇在现实生活中离婚，因为妻子发现丈夫的虚拟形象在虚拟现实游戏第二人生中与另外一名女性的虚拟形象有染。第五，元宇宙为文化传承提供新途径。文化是人类文明的核心之一，文化的传承是人类文明延续的必由之路。目前，全球主要国家普遍对于本国传统文化的保护和传承给予了高度关注，文化传承也是部分主要国际组织的重点使命之一。例如，1972 年，联合国教科文组织第 17 届会议通过了保护世界文化和自然遗产公约，旨在保护文化遗产和自然遗产免遭破坏，更好的发展和传承。2003 年 10 月 17 日

14、，联合国教科文组织第 32 届大会通过了保护非物质文化遗产公约，推动人类非物质文化遗产保护。元宇宙的发展为人类文化的传承、保护提供了新的途径。具体而言，通过元宇宙 AR 技术，可以实现传统文化物品、景观等的数字化，以视频，三维模型等形式将其打造成数字文创投射到现实世界，在数字世界与现实世界中架起一道桥梁。例如，商汤科技与敦煌文创联合推出了千年一瞬敦煌数字藏品，与故宫打造数字文创 AR 故宫日历。其中，千年一瞬敦煌数字藏品受到了文化界人士、市场爱好者的高度追捧，限量发行的 2022 份数字藏品已经上线便“秒光”。第二章 关注元宇宙九大伦理隐忧元宇宙伦理变革报告（2022 版）在肯定元宇宙对人类社

15、会发展的整体积极作用同时，也要对元宇宙带来的生产力陷阱、虚拟偶像“负面引导”、虚拟群体“网暴”、数据隐私泄露、资本控制与金融运作等潜在的伦理或社会隐忧保持警惕。11第一，人类生产力陷阱风险。元宇宙作为现实物理世界在数字虚拟世界的延伸与拓展，追求跨越现实物理世界与数字虚拟世界之间界限，以其逼真的带入和对感知的模拟形成虚假的自由世界，从而使得大部分人足不出户就能够享受到虚假的人生自由。用户可以根据其意愿和需求构建场景和剧情，尤其是针对在现实中通过艰苦努力才能达到的或根本无法企及的目标，在交互式虚拟现实世界中予以实现。因此,元宇宙对大部分用户极具诱惑，容易使其形成新的精神依赖，过度关注虚拟世界。从构

16、成的本质而言，元宇宙是利用数字技术对真实世界的模拟和再造，其内部的所有知识和构件都是已知的事实。因此在元宇宙内的任何活动，包括探索性的活动，本质上都不能够产生新的知识，大量的有效时间投入到本质上无效的已知数字世界的重复挖掘上。当人类把大量时间花费在已知虚拟世界的娱乐上，而不是对未知世界的探索和改造，将会引发人类在知识发现和实践上的停滞而阻碍文明进步的历史进程。从而演化为马克思所说的“愚钝的物质力量”，进而引发切实的社会问题。第二，虚拟偶像的“负面引导”风险。据2019 年虚拟偶像观察报告数据显示，当年中国二次元用户规模已经达到了 4.9 亿。自 2021 年洛天依登上央视舞台开始，虚拟偶像开始

17、正式走进了主流大众的视野。尤其随着元宇宙概念的兴起和不断发展，虚拟偶像的关注度被提到了一个新的高度。在 Z 世代成为消费主力的今天，虚拟偶像的出现正合胃口，在两者的共同结合之下，虚拟偶像的兴起也已经成为了必然的结果。有统计显示，虚拟数字人市场规模已超过 2000 亿元，预计到 2030 年将达到 2703 亿元。目前，全世界有 4000 余个虚拟偶像活跃着，但是虚拟偶像的市场并非十全十美，他们的行为或许会对粉丝产生诱导，尤其是未成年人。商汤科技基于 AI 数字人解决方案推出首个 AI数字医生小糖，并携手虎牙直播，通过互动问答的形式，普及大众最为关切的公共健康知识，提升全民个人防护意识，作为虚拟

18、偶像起到了正向带动作用。但是也会存在虚拟偶像“负面引导”例子。例如，某平台上一位虚拟主播宣称半年消失了是被拐卖了，这个对粉丝群体产生了很大的影响。此外，如果虚拟主播背后的数据库被“数据投毒”，或算法本身存在偏见，也可能导致虚拟主播“黑化”。12 第三，虚拟环境带来的失德、违法诱导挑战。环境具有诱导功能，这将致使人与环境的关系发生逆转，即虚拟世界中的行为变成现实世界的行为。曾有一段时间“偷菜”游戏风靡大众，该游戏迎合了大众潜意识里面“本我”追求自由、享受、刺激的心理。虚拟世界毕竟不是真实生活，像“偷菜”这种行为都是虚幻的，真实生活中偷东西是违法行为，而在游戏中往往能得到鼓励，这就使人们在游戏的过

19、程中获得一种刺激感、满足感。但是一旦沉溺进去，就有可能将现实与虚拟游戏相混淆，少部分用户受到该游戏诱导，上演真实版偷菜闹剧被刑拘。元宇宙的布局与发展，会使得智能体随处可见，并且就像我们现在使用的智能手机和各种软件能使人人都成为摄影师和广播员一样。这会极大地降低我们使用智能设备和进行编程的门槛，使我们能够进行多主体实时互动、无代码或低代码更改内容，在实现虚拟生活与现实生活无缝对接或互补融合的同时，形成数字文化暗示，从而弱化隐藏在虚拟身份背后的人本身对自己行为的约束力。第四，数字替身 Avatar 作恶的挑战。在虚拟世界中，人们会做出和现实生活中大相径庭的行为。因为匿名机制的保护，给了“网络松绑效

20、应”更大的发挥空间，元宇宙的诞生正是提供了一个高自由度，可以做出跳脱现实社会约束的行为的空间。玩家在虚拟环境中的自我认知有可能诱导现实中的行为和意识转变，潜移默化地改变人们原本的道德认知标准和决策理性，激化人性中的丑恶面。换言之，数字替身在虚拟环境中可能激发人性恶的一面。Roblox 是世界最大的多人在线创作游戏，也是最受欢迎的儿童游戏之一，吸引了超过 1.5亿的月活跃用户。根据彭博社的报道显示，三分之二的美国 9 至 12 岁的儿童在玩这款游戏。然而，据 BBC 发布的一项调查发现，Roblox 上的一些用户创建了名为“公寓游戏”的色情房间，允许儿童和成人之间进行不适当的活动，同时，在其他场

21、景中也会出现一些不恰当的性语言。第五，深度伪造引发欺骗挑战。Deepfake 是一种计算机视觉方法挣得到越来越广泛关注和应用，它能创造出极其逼真的篡改图像或视频。由于制作逼真的换脸视频比好莱坞的传统特效技术成本更低，且更容易获得，这项技术有可能为恶意行为者提供传播前所未有的虚假信息的手段。有研究显示，互联网时代谣言的传播速度是真实新闻传播速度的 4 倍，更容易通过煽动大众情绪实现快速传播。2019 年 1 月，卡耐基国际和平研究所发表国家如何应对深度伪造乱象一文，指出DeepFake 正在给各国政府和企业带来破坏性影响。尽管还没有因为 Deepfake 而引发战争，但是已经有一些关于 Deep

22、fake 被用来攻击政治对手和思想的例子。比利时的一个政治团体编造了特朗普关于巴黎气候协议的一段假新闻，以说服人们在请愿书上签字，呼吁政府采取更多行动来应对气候变化，众多评论者被欺骗，纷纷为视频中的言论大声谴责特朗普。随着技术的不断成熟，深度伪造风险将从个人领域蔓延至公共领域，对社会安全、经济安全，甚至国家安全带来挑战。因此，如何保证该技术不传播错误信息，而是形成正向大众教育和正能量的输出存在挑战。第六，元宇宙背后的“中之人”生活困境。“中之人”指虚拟偶像的幕后扮演者，为虚拟偶像提供动作、声音、情绪等。在过去几年里，大批虚拟数字人涌入赛道：会“捉妖”的美妆达人柳夜熙，国内首个数字人女团A-So

23、ul、日本第一代数字人歌姬初音、号称第一个AI的数字人绊爱、TikTok 上大火的 AI 说唱歌手 FN Meka 等等。这形象背后的世界观和故事，需要中之人来自我填充。一些经纪公司总是认为粉丝喜欢的是那张皮，那个形象，背后的中之人并不重要。实际上，13那张皮后的“灵魂”才是虚拟偶像的真相。这种认知的错位导致这个圈子时常出现虚拟偶像休眠、中之人换人后粉丝骤降的新闻。在B站搜索“虚拟主播毕业”，会发现不少个人虚拟主播的毕业视频，原因多是因为盈利或个人问题。据不完全统计，日本知名虚拟主播公司彩虹社推出的 150 多位虚拟主播中，已经有 17 位因为各种原因“休眠”。在现实中，一个偶像的成长，往往伴

24、随着事业的兴盛、商业价值的攀升，以及个人收入的提级。但是在虚拟偶像现有的商业架构里，这种水涨船高的共享模式可不可行，虚拟偶像背后的“中之人”的权益该如何保障，显然是更值得关注的问题。除了收入权益保障，中之人也引发社会对其背后扮演者情绪、精神权益与尊重的讨论。第七，虚拟群体“网暴”新时空蔓延挑战。元宇宙中存在大量沉浸式体验和信息冲击可能会放大“网暴”带来的负面影响，法不责众心态会从互联网蔓延到元宇宙，存在引发更严重“网暴”的可能。因此，元宇宙中的公共监督和社会治理显得极为重要。网络匿名的环境和法不责众的心态削弱了社会约束力和道德感，为网络暴力提供了温床。部分为各种现实问题担忧与困扰的群体寻求在匿

25、名保护下进行情绪宣泄与忧虑表达。在刘学州事件中，1200 余位微博用户对其发送私信，转发、评论其负面新闻者不计其数。尽管随后网络暴力被停止，参与网络暴力者被制裁，但伤害已造成，甚至形成无法挽回的恶果。从 WEB1.0、2.0、3.0，再到元宇宙，最大的一个特征就是“现实感”的增强。以前只看屏幕、文字，后来看到图像，现在戴上 VR 眼镜，沉浸感之强导致对用户的影响力会更大，虚拟世界中的网络暴力造成伤害的可能性远大于文字所带来的感受。第八，元宇宙可能放大数据隐私泄露风险。在元宇宙空间里，要实现随心而动、深度沉浸的体验，个人数据的交付需要全面升级，种类、维度、深度要求都将出现前所未有的提升。除了身份

26、属性、行为习惯、人际关系、场景位置等数据的全方位交付之外，元宇宙索取数据的边界还向人类身体内部更进一步拓展人脸、指纹、声纹、眼球运动、肌电信号、脑电波等等。移动互联网对个人数据的收集尚且需要手机、电脑等电子产品作为媒介，但元宇宙深度发展可能将直接链接用户的身体乃至意志。更大量级的隐私收集意味着更多隐私隐忧。元宇宙所带来的风险可能远比移动互联网时代严峻复杂。由于元宇宙个人信息收集的海量性、集中性、隐私性，导致一旦被泄露，个人隐私的损失将是全方位的，将对公众人身安全、财产安全带来巨大威胁。第九，元宇宙下的资本控制与金融运作风险。资本强大的助推力量促进元宇宙的兴起，在元宇宙中存在与现实世界交融的资本

27、控制。例如，Decentraland等平台举办虚拟世界的艺术节、时装周，宣传虚拟土地资源的稀缺性，促进虚拟财产交易，鼓励用户以数字财产展示其在虚拟世界的社会地位。元宇宙的数字经济可能会对全球经济、金融产生多方位影响，可能会冲击现有的财富分配秩序，加剧真实世界的贫富分化，生产条件的差异化分配将引起“信息穷人”与“信息富人”的分化，并延续至现实世界“信息贫困”和“知识贫困”的发生。因此，元宇宙中数字货币存在运作风险，无法全部覆盖元宇宙经济与社会发展的需要。第三章 平衡发展的元宇宙伦理观元宇宙伦理变革报告（2022 版）面对元宇宙发展带来的社会变迁，要倡导平衡发展的元宇宙伦理观，倡导可持续发展、以人

28、为本和技术可控的伦理原则。15第一，以现实世界的可持续发展为元宇宙构建的第一原则。元宇宙是集成与融合现在与未来全部数字技术于一体的数字媒介。由此，它将实现现实世界和虚拟世界连接革命，进而成为超越于现实世界的、更高维度的新型数字化世界。但依然要明确坚持一点，即单纯的数字化与虚拟化始终不能作为人类文明的演化方向，人类的未来绝不是蜷缩在 0 与 1 构成的数字空间中的内向延展，而是通向更高的对自然的理解与更广阔的宇宙空间的探索。元宇宙更应该是一个构建良好人机接口的体系集合，促进真实的经济社会系统与元宇宙的连接，包括教育、科研、工业、商业领域等领域形成元宇宙对其的有效支撑和增强。换言之，要始终以现实社

29、会作为人类构建文明体系的第一基础，任何虚拟化的文明形态都应该是对现实生活的有益补充而不是替代。这需要在元宇宙的内容开发、场景构建、主要功能实现等领域进行前置性的治理参与和政策引导，限制元宇宙形成可以单独自我运行的单独体系，引导其始终服务于现实经济社会和治理需要。第二，以人为本是元宇宙构建的基本要求。在个人层面，有必要将元宇宙中的用户和消费者权益保护上升至数字权利保护层面，在虚拟空间中建立强有力的人权保障机制。元宇宙中的社会行为深度依赖数据和算法，因而容易诱发算法歧视、数字控制等问题发生。虽然许多国家已经定立了网络和数据安全方面的法律法规，但大多规范有余而技术细节不足，导致技术治理难以落到实处。

30、同时，对虚拟化身的权益保护和救济机制依然不明晰，例如虚拟化身是否享有数字人权，法律如何适用、相关伤害及影响应如何认定等问题，都需要在法理上做出进一步明确。多起元宇宙“性侵”事件的发生，使得元宇宙虚拟空间的伦理与法律问题逐渐引起公众关注。随着数字技术的进一步发展，不止是“性侵”，现实社会中的各种风险都有可能在元宇宙中凸显。消解元宇宙中的新型社会风险还需从治理方式转型与关键法律制度革新这两方面入手，实现由静态规则治理向动态回应性治理的转变，实现数字资产保护、算法监管、数据安全保障等方面的治理创新。162021 年 12 月 1 日联合国教科文组织的 193 个成员国发起签署了首份“人工智能伦理全球

31、框架协议”，并且发布了人工智能伦理问题建议书，加强人工智能的伦理治理已经成为人类共同面对的重要任务和紧迫问题。2021 年 9 月 25 日，中国科技部发布了新一代人工智能伦理规范。2022 年 3 月 20 日，中共中央办公厅、国务院办公厅印发了关于加强科技伦理治理的意见的通知，在关于尊重生命权利的伦理原则条款中明确强调，“科技活动应最大限度地避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私”。这些价值引导和治理理念的具体出台，为与元宇宙相关的各类新型经济形态的开发设置了研发红线和禁区，为元宇宙能够造福人类，特别是最大限度地避免陷入元宇宙伦理问题指明了价

32、值取向。第三，技术可控是元宇宙构建的基础和底线。“技术可控”就是要确保科技由人类开发、为人类服务、受人类控制，人类对科技拥有充分自主决策权。相应地，科技应用导致的伦理责任也应由其控制者（人类）承担。元宇宙所建立的虚拟世界固然美好，但隐私和安全非常重要。个人的信息、社会关系、财产的安全都面临着风险，对公司来说也同样如此。所以在软硬件开发层面、元宇宙实现全方面应该考虑在软件开发的整个周期中建立可靠的安全措施。在诸多著名影视与文学作品中，关于泛元宇宙下智能体或智能系统失控，引发技术危害人类的情况绝非杞人忧天。目前，元宇宙下的部分技术，已经发展到其解决问题的能力超越人类。例如，人工智能依托大数据进行自

33、我训练学习，已经展示出惊人的计算能力。只有确保技术可控、可信，人类才不至于在元宇宙中被控制，确保人类的独立自主。17元宇宙伦理变革报告（2022 版）结语从大历史视角看，可持续发展是人类的终极命题，即实现人类这一物种的繁衍生息。回顾过去几十万年来，人类追求可持续发展主要依赖于两大抓手：一是科技进步；二是伦理规范。当学会用火，再到会生火，食用熟食，人类通过这一科技创新实现了一次巨大的生存飞跃。当人类驯服了马匹、狗、猪，以及粟、小麦，人类的果腹需求有了一个基本的保障。近现代以来，科技大爆炸已经解决了绝大多数人的温饱问题，如何吃得更好、住得更好，以及更健康，成为人类繁衍生息、可持续发展的重要追寻。不

34、可回避的是，科技进步一定程度上也会有副作用。例如，近代科技带来欧洲崛起所引发的全球殖民掠夺；工业发展所带来的环境污染、气候变暖等。同时，当人类从奴隶制，到封建制，再到资本主义、社会主义，每一次的社会制度变迁，以及各阶段重大人文社科成果的诞生，都是在不断迭代人类伦理秩序规范，以为不同时代的人类社会运转提供指导。从罗马帝国时代的“我来、我看、我征服”，到文艺复兴倡导以人为本；从春秋战国时期的诸子学说，到宋明时期的理学兴盛，无不如此。当然，科技创新和伦理规范不是割裂的。每一次科技创新带来的生产力进步，刺激伦理规范的变革。同时，伦理变革又规范着科技创新带来的社会变迁。如今，元宇宙时代同样如此。尽管元宇

35、宙还处于发展初期，但是我们已经看到并能预见到元宇宙这一技术组团式创新将带领人类进入WEB3.0时代，推动社会重塑。当然，正如本报告所提到的，如同此前每一次科技创新一样，元宇宙也蕴藏一定的风险挑战。这就更凸显了人类要重视元宇宙伦理，建立符合时代需求的元宇宙伦理的重要性。本报告提出元宇宙伦理的可持续发展、以人为本、技术可控三大原则就是出于希望建立人类元宇宙伦理共识，倡导发挥元宇宙对人类社会的正面价值，尽可能规避元宇宙风险。当然，元宇宙伦理的研究也是处于起步阶段，相信人类会在元宇宙创造的现实、虚拟新时空中，健全平衡发展的伦理规范，实现更健康的发展，实现更好的可持续发展。18【研究分享】亚洲科技促进可

36、持续发展目标联盟重视科技应用、科技伦理、可持续发展等研究。联盟将持续产出研究成果，并面向全社会分享。了解联盟更多研究成果，可登录联盟网站：www.tech4sdgaa.org数字变革助力亚洲平衡发展亚洲科技促进可持续发展报告（2022-2023）元宇宙：亚太新经济之路田 丰 亚洲科技促进可持续发展目标联盟秘书长宫 超 商汤科技智能产业研究院科技政策与伦理研究主任翁家良 新加坡 AIII 人工智能国际研究院院长邮箱：james.ongorigami-邮箱：邮箱：作者：指导顾问：张 望 商汤科技副总裁、伦理委员会主席小室熙美 日本国际元宇宙协会理事长栾 青 商汤科技数字文娱事业部总经理特别鸣谢：吴晶彧 梅莹 徐柏奇 闫欣桐 姚文佳 孙全增 满运轩 郭晓际 杨燕 胡正坤 谢贝宁 商汤科技智能产业研究院助理研究员邮箱：联盟网站：www.tech4sdgaa.org