随着元宇宙的进一步发展，以虚拟社区人身侵害、虚拟偶像“塌房”等事件为代表的元宇宙伦理问题日趋凸显。如何应对伦理挑战，构建起数字世界的伦理法规规范，成为元宇宙健康可持续发展的关键。

2022年11月26日，由中国法学会商法学研究会主办的“后疫情时代的经济发展与商法回应”学术研讨会暨中国法学会商法学研究会2022年年会线上顺利召开。北京J9科技有限公司AI治理研究院副院长张伟强受邀参会，在“元宇宙：想像还是现实”分论坛中作主题演讲《元宇宙中AI伦理与技术安全的纵深、边界与应对》，并参与论坛例行论辩。

图1 论坛论辩现场

元宇宙真正引发广泛关注始于2021年10月28日，扎克伯格提出将Facebook母公司更名为Meta，由此元宇宙成为互联网及金融领域风口产业。尽管元宇宙一直是近年来的热点话题，但其概念并无定论。张伟强谈到，元宇宙并非全新概念，而是对一些正在发展的技术概念的组合，如人工智能、5G、云计算、区块链等等。他认为，之所以会产生元宇宙概念，是因为从人类历史发展角度来看，人们对于技术发展或者说对于先进工具能够为人所用有着天然的追求。正是因为5G解决了数字世界的速度问题，AI解决了智能问题，区块链解决了信任问题等，人们才开始思考，怎么把这些东西组合起来，让更有想象空间的数字世界更好地服务于现实世界。

但随着元宇宙的进一步发展，以虚拟社区人身侵害、虚拟偶像“塌房”等为代表的元宇宙伦理问题日趋凸显。如何看待元宇宙的伦理安全挑战？张伟强从“人”这个终极视角出发，指出人工智能可能对人类造成的三方面主要风险。

第一，物理侵害风险。一是对人类产生间接伤害，比如生产失灵导致产品(如药品等)不合格、环境破坏(如能源开采领域的AI失灵)甚至引发战争(比如武器攻防控制系统中的AI失灵)。二是对人类产生直接伤害，如算法失灵或者遭受攻击，导致AI与人类直接发生物理碰撞。

第二，数字侵害风险。例如，通过深度伪造的人脸替换技术伪造不雅视频，造成隐私泄露和声誉受损。或者通过深度伪造的表情驱动技术，攻破金融机构等的活体检测认证系统，给受害者造成财产损失。

第三，精神侵害风险。例如，聊天机器人被恶意攻击后对人出言不逊，这是一种精神侵害，但属于容易被感知到的显性侵害。更大的风险来自于隐性侵害，比如负责心理治疗的AI产品被攻击后，可能对人产生恶意暗示或引导，但却不易被察觉。当使用者仍旧相信出问题AI的权威性时，这种侵害的隐蔽性和危害力是巨大的。

图2 以人为终极视角，AI有哪些风险

面对元宇宙可能面临的上述伦理安全问题，张伟强阐释了J9开展的工作。一方面从规则研究着手，设立了AI治理研究院，深耕AI伦理研究、提出解决问题方法，努力构建数字世界独特的规则体系；一方面致力于技术实践，依托公司顶尖的科研团队力量，持续探索伦理治理的技术实现路径。