黄斌：元宇宙法律篇（三十五）——虚拟人产业发展与企业合规

连续三年的新冠疫情让人们开始习惯于长时间的宅家生活，同时推动了虚拟人集中、大规模出现，以满足人们的“线上化工作、学习和娱乐”。虚拟人可以和真人自然交互，能够为用户提供丰富的创作内容，并带来极致的沉浸式体验，甚至可能摆脱虚拟形象限制，呈现出虚拟世界与现实世界相互映射的一种可能性和必然性。虚拟人已经成为连接现实、开启元宇宙的重要角色，是元宇宙中一条重要的交互赛道。虚拟人以虚拟员工、虚拟主播、虚拟偶像、虚拟演员、虚拟分身、虚拟角色、虚拟陪伴等多种形式不断刷新着我们的认知，并以虚实融合的方式打破物理世界的空间限制，进入到我们的工作、学习和生活中，为我们提供更多沉浸感、参与感和互动感。

一、虚拟人产业发展

虚拟人起源于20世纪80年代，近年来随着建模、AI、动捕、渲染等技术的发展进入高速成长期。2021年6月26日B站12周年庆，董事长陈睿表示过去一年共有32412名虚拟主播在B站开播。2021年，虚拟人市场规模已超2000亿元。

01、政策支持，资本加速入局

2021年10月20日，国家广电总局发布《广播电视和网络视听“十四五”科技发展规划》，首次明确地鼓励和支持虚拟人的发展，文中提出“推动虚拟主播广泛应用于新闻播报、天气预报、综艺科教等节目生产，创新节目形态，提高制播效率和智能化水平。”，并在虚拟主播方面指出“面向新闻、综艺、体育、财经、气象等电视节目研究虚拟形象合成技术，包括2D虚拟形象的合成、3D虚拟形象的驱动、虚拟引擎构建、语音驱动、动作捕捉、面部表情捕捉等技术，提升节目制作效率及质量；”、“同时探索短视频主播、数字网红、直播带货等虚拟形象在节目互动环节中的应用，增加个性化和趣味性。”该规划首次明确地鼓励和支持虚拟人的发展。虚拟人正以看得见的生命形式出现在我们的现实世界里，逼真的建模技术可以制作高度逼真的人脸并支持人体动作和面部动画，通过语义记忆、情景记忆和情感记忆实现双向交互并与现实世界建立真实的联系，全息影像技术打造的3D裸眼风格让虚拟人直接出现在现实世界。

近日，国内首个数字人产业专项支持政策《北京市促进数字人产业创新发展行动计划（2022-2025 年）》出台，提出到2025年北京数字人产业规模突破500亿元，突破一批关键领域核心技术，建成10家校企共建实验室和企业技术创新中心，培育1~2家营收超50亿元的头部数字人企业、10家营收超10亿元的重点数字人企业。艾媒咨询发布《2022-2023年中国虚拟人行业深度研究及投资价值分析报告》，2021年中国虚拟人带动产业市场规模和核心市场规模分别为1074.9亿元和62.2亿元，预计2025年分别达到6402.7亿元和480.6亿元。目前，腾讯、百度、网易、字节跳动等互联网企业，软银基金、建银国际、红杉资本、GGV纪源资本、峰瑞资本等知名投资机构皆重金进入虚拟数字人赛道，而哔哩哔哩、芒果超媒、奥飞娱乐、西安文旅等上市公司也纷纷搭车入局。虚拟人企业魔珐科技今年连续完成B轮、C轮融资，总金额1.3亿美元。

02、商业模式分析

虚拟人产业步入快速发展期，虚拟人来自于小说、动漫、游戏、明星等各种场景，具体可表现为写实、破次元、古风等多种形象，他们可以像真人一样进行拍广告、拍摄短视频、做直播、演戏、上综艺等活动，全方位展示自己的技能和价值观并与粉丝进行互动，最终进行商业变现。

（1）“初音未来”创作者社区

最初，初音未来是作为人的歌声的虚拟乐器软件开发的。2007年8月，采用了雅马哈开发的VOCALOID技术，并对动画中活跃的声优藤田咲的声音设计了虚拟形象，初音未来就诞生了。初音未来开发了创作者社区PIAPRO，设置投稿网站和奖项来鼓励创作，初音未来的形象著作权归属CRYPTON，内容的权利所有者开放权利使得被使用的频率增高，进而提高了作品本身的知名度。《初音未来终端用户使用许诺契约书》等相关协议规定，无论商业还是非商业使用均可以自行生成合成语音，但商业使用必须得到C社的追加许诺；允许以修改、转换或以作品为基础进行创作，并支持署名；改编作品、二次创作作品的“P主”（Producer）进行商业化用途时，需取得C社的同意。初音未来有公式形象，但她会和各国的运营者与创作者一起来开发初音的商品，其具体形象是随创作者而千变万化的，粉丝可以根据自己的喜好挑选不同作品和不同的初音未来形象。初音未来的发型、发色、饰品、妆容大多是从广大创作者中征集而来，初音未来收获了大量不同风格的内容，但由于其是中心化的，对“P主”（Producer）的激励机制不够，导致大量“P主”（Producer）离开，优质内容减少，IP影响力下降。

（2）AI being技术产品+运营双重创新

2021年6月1日，华智冰，一位虚拟女大学生进入清华大学计算机科学与技术系知识工程实验室学习。华智冰与一般的虚拟数字人大有不同，不仅具有作诗、作画、创作音乐等技能，而且还有持续的学习能力，可以不断从文字、图像、视频中自我学习，就像人类能够不断从身边经历的人和事中来学习行为模式一样，从而变得越来越聪明。小冰公司作为华智冰主创之一，提供了全球领先的人工智能完备框架，可以自我学习。小冰公司前身为微软（亚洲）互联网工程院人工智能小冰团队，经过多年孵化最终于2020年宣布拆分为小冰公司进行本土化运营。分拆出来后，小冰得到快速发展并确定了小冰框架的基本发展思路，就是AI being（虚拟人）。现在小冰框架内虚拟人已具备超级自然的语音及形象，同时更具有自己设定的六大要素，包括persona（性格）、attitude（态度）、biological character（生物学特征）、creation（内容创造）、knowledge（知识）和skill（技能），并且persona（性格）和attitude（态度）可协同一致。小冰公司既是一家技术输出的公司，也是一家运营公司，其成功地采用基于云的云和端的协同，创造了AI being（虚拟人）后再将这些AI being（虚拟人）派遣出去，包括万科集团2021年度优秀新员工“崔筱盼”，这也就是类似一个技术产品+运营双重创新的模式，也可以称之为“订阅制”的商业模式。

值得一提的是，今年小冰公司还中标2025日本大阪世博会的项目，即：2025年日本大阪世博会期间，为当地的60万个老年家庭提供一批虚拟陪伴（companion）。该虚拟陪伴并不是传统意义上定制的虚拟人，每位陪伴都各不相同，可能拥有不同的能力，并且每位老人都可以参与到每个虚拟人的训练过程（深度学习）中，这些虚拟人身份可以为老人的儿孙、初恋情人，甚至可以复活逝去的亲人。

（3）魔珐科技全栈立体式的技术和产品

2020年，魔珐科技与次世文化共同打造的虚拟KOL–翎Ling，以秀眉、白面、凤眼的面孔和极具东方特色的绝尘气质，以个性、神秘的定位传递中国传统的文化和价值观，在央视《上线吧!华彩少年》节目一炮而红。目前，她已在全网累积数十万粉丝，并与TISSOT天梭、100年润发、百雀羚、奈雪的茶等品牌达成了合作，并受邀担任天猫奢品“双11”数字推荐官、“热汗瑜伽”推广官、特斯拉“特约体验官”等，实现了虚拟人的商业破圈。2022年3月，魔珐科技使用了虚拟内容协同制作智能云平台和消费级虚拟直播产品，使得聚划算旗下的虚拟IP章鱼娘在B站和淘宝两大平台进行了真人+虚拟人沉浸式的直播互动，使“异次元代言人”章鱼娘从“二次元”变成“三次元”（接近于真人的2.5D形象）。

魔珐科技创始人柴金祥曾预测虚拟人行业的三个阶段：标杆阶段、规模化阶段和成熟阶段，并表示“我们聚焦于为虚拟内容和虚拟人的规模化、互动化、智能化提供基础设施，赋能各行各业进入元宇宙时代。”在“标杆阶段”，魔珐科技已经为众多企业打造虚拟形象代言人或内容，其虚拟直播技术和产品服务了诸多虚拟IP，其AI虚拟人也服务了众多客户。现在，魔珐科技的虚拟人产业正从树立标杆迈向规模化应用阶段，其构建了依托TTSA技术（文本驱动语音及动画技术）、STA技术（语音驱动动画技术）、智能动作与表情合成及核心美术能力等技术和标准化流程的AI虚拟人能力平台，可为市场输出表演动画系统、消费级的虚拟直播技术、虚拟IP线下互动技术和语音合成、智能交互等技术产品，赋能各行各业自行、直接地生产出所需要的AI虚拟人，将应用场景进一步衍生至“虚拟IP+”，如虚拟客服、虚拟医生、虚拟老师、虚拟主播等。

（4）垣宇科技拟打造虚拟IP矩阵，探索虚拟IP运营与变现

今年冬奥会前夕，捷成股份旗下虚拟IP运营商垣宇科技打造了中国花滑首个世界冠军陈露女士的虚拟分身，布局冬奥品牌营销、赛事直播等场景的商业化营销及运营。垣宇科技CEO田棣表示：计划于2022-2023年打造20+位明星、达人的数字虚拟人矩阵，运营策略将深度链接虚拟世界与现实世界，通过明星虚拟IP、原创虚拟IP、品牌定制IP，串联虚拟内容版权和生态运营的传播生态，探索虚拟IP流量运营与变现。

（5）洛天依，UGC用户生态

2012年，以雅马哈公司的VOCALOID3语音合成引擎为基础制作的全世界第一款VOCALOID中文声库和虚拟形象诞生，这个虚拟形象是一个15岁花季少女，具有灰发绿瞳、软萌可爱特质，取名为“洛天依”。洛天依作为首个中文虚拟歌手，国内二次元虚拟偶像的代表，多次参加演唱会、综艺等节目，并登陆央视春晚，成为中国虚拟数字人产业的破冰者。洛天依演唱的歌曲都是UGC用户生态，用户可以购买声库软件选择歌曲和Vsinger虚拟歌手的声音，对歌词进行创作和改编，创作只属于用户自己的歌曲。VOCALOID产业已经形成颇具规模的创作圈，用户创作的歌曲可以自产自销，创作圈子里的人既是生产者也是消费者。洛天依主要变现途径是为品牌形象代言、举办演唱会、形象授权、直播联合互动等商业合作方式，洛天依演唱会收入以赞助、门票和周边衍生品收入为主。洛天依的商业合作也从游戏、动漫领域拓展到了电子、快消等日常生活领域，在平台进行直播带货、现场演出等方面十分谨慎，希望先稳定优质内容输出后再实现商业变现。

（6）柳夜熙，元宇宙短视频破圈

2021年10月31日，创壹科技旗下的创壹视频开设了“柳夜熙”虚拟人物账号，简介为“一个会捉妖的虚拟美妆达人”，并发布了一条时长2分8秒的短视频。在短视频里，“2.5次元”的柳夜熙与真人互动，有悬疑剧情、镜头语言、背景音效，整体呈现充满科幻感的电影质感。整个短视频场景亦真亦幻，真实和虚拟的边界恍如一念之间。柳夜熙整体给人的感觉，就是游走于虚拟世界和真实世界之间的真实虚拟人。创壹科技成立于2018年，公司以一年一个爆款账号的速度占据抖音，包括2018年的“慧慧周”、2019年的“非非宇Fay”和2020年的“宇航员小五”。“柳夜熙”短视频的破圈，直接为创壹科技开辟了IP、剧情短视频、虚拟人三个赛道。创壹科技法定代表人谢多盛表示，柳夜熙只是团队设想的元宇宙矩阵IP中的一个角色，其他的虚拟人IP也将陆续公开，设想在3年之内要成为元宇宙世界的漫威。创壹科技的变现方式主要有广告代言、带货、知识付费、代运营等，广告代言大多是在自己的视频内容中通过故事情节、特效动画、镜头移动来植入。柳夜熙也已经开始商业变现之旅，在今年《地支迷阵》系列故事中植入vivo手机和小鹏汽车两个品牌，为抖音奇妙故事会站台、代言法国娇韵诗， 618“直播带货”。不过，创壹科技创始人兼CEO梁子康，表示等柳夜熙们逐渐塑造成熟后，再考虑IP化、影视化和游戏方面的开发。

（7）AYAYI，国内首位超写实数字人

2021年5月，一个看起来和真人无异的形象AYAYI出现在小红书上，一夜之间吸粉近4万，首发帖阅读量达到了近300万。AYAYI的外形、皮肤质感上做到了对真人的高强度还原，具有极致的美感及灵动、高雅的气质，是国内第一个Metahuman（超写实数字人）。2021年11月，在北京冬奥会开幕前夕，AYAYI 参与了“魅力冬奥”知识传播行动，让人们感受到虚拟人已经成为我们生活感受的组成部分。AYAYI同时具备明星KOL与虚拟偶像双重属性，更具有真实感、故事感与氛围感。AYAYI先后与娇兰、LV、Bose、保时捷等知名品牌合作，并和安慕希合作研发全球首款“能懂你的数字酸奶”，并作为“数字员工”入驻了阿里，成为天猫超级品牌日的数字主理人。未来，AYAYI还将可能拥有潮牌主理人、数字策展人、顶流数字人等多个身份。

创造出AYAYI的是燃麦科技，一家超写实数字人IP创作及运营公司。燃麦科技曾提出，其对外合作有三种模式：一是与客户合作，共同进行数字人开发与运营，权利与收益共享；二是客户拥有自己核心的数字版权资产，也就是自有超写实数字人，而由燃麦科技负责运营；三是燃麦科技为客户完全定制超写实数字人，按照客户的需求进行人设、价值观等设计，并负责运营和执行。前两种模式在版权运营方面使燃麦科技处于被动地位，只有第三种模式使燃麦科技在版权运营方面处于主动地位，可以实现针对不同场景设计和不同价值观的版权运营。目前，超写实数字人的商业变现模式主要有社交账号运营、广告等流量变现方式，未来可能变现的模式在于品牌合作、跨界合作、IP化和影视化。

（8）绊爱，无限期停止活动

2016年12月1日，绊爱以二次元小女孩虚拟形象在YouTube平台上正式出道。绊爱的形象设计到运营均由官方完成，采用“中之人+动捕设备”的形式与粉丝互动，2018年粉丝数量突破200万，又被亲切地称为“爱酱”，成为了全球粉丝数量第一的虚拟主播。绊爱的虚拟形象称之为皮套，中之人在幕后负责与观众互动，又称为“套中人”。绊爱的初代“中之人”是日本女性声优春日望，2019年5月25日，绊爱运营方为了削弱初代“中之人”春日望的影响力而启动“四个绊爱”，将绊爱的中之人增加至4人，践踏了粉丝的感情，欺骗了他们的信任。2021年12月4日，绊爱召开了出道五周年纪念直播，直播中她宣布自己将于2022年2月26日的最后一场演唱会“Hello，World 2022”后，无限期停止活动。

虚拟偶像的人设非常重要，中之人的声音、性格、行为举止等因素构成了虚拟偶像的灵魂，故而粉丝是将中之人与虚拟偶像的形象进行牢牢绑定的。在粉丝看来，虚拟偶像的声音、性格、行为举止等因素与其外表一样，是不能也不应该被更换的。中之人春日望是绊爱的灵魂所在，她很好地扮演着一位青春期主播的感觉，她的天真的语气能让你隔着屏幕也能感到她的欢脱。绊爱的中之人春日望被替换后，粉丝觉得绊爱已经不是以前的绊爱了，即使中之人春日望回归后，粉丝也认为绊爱不再特殊了。

（9）A-SOUL，开盒和休眠

2020年末，乐华娱乐发布了首个虚拟偶像团体“A-SOUL”，由五个外形性格各不相同的女生贝拉、珈乐、乃琳、嘉然、向晚五人组成，在出道短短几个月内，全网粉丝数便突破三百万。乐华娱乐“养成+技术”的运营模式很快让A-SOUL登上了V圈的巅峰，从全国范围内进行了中之人招募，对A-SOUL团队成员最开始的才艺展示到练习培训、线下漫展、生日会等活动的开展，都有粉丝的参与进而拉近虚拟偶像与观众间的距离，让粉丝能感觉到虚拟偶像的真实感，有陪伴感和养成感；实现A-SOUL全身3D化和全程动捕，实现对肢体动作与角色表情的精细表现。另外，A-SOUL的成功也离不开其成员中之人的魅力。2022年4月开始，乃琳、伽乐、贝拉和嘉然中之人陆续被开盒，中之人隐私信息陆续被曝光。2022年5月10日，A-SOUL官方宣布：团队中的一员珈乐要“休眠”了。这与此前网传的“A-SOUL有成员将于5月初毕业”相符。这也意味着虚拟偶像也会塌房。央视网评A-SOUL事件: 再好的技术，也是用来为人服务的，脱离了人、忽视了人，都将毫无意义。虚拟偶像产业，乃至未来更宏大的元宇宙产业，不能丢了“以人为本”的伦理根基。资本具有逐利本性，技术力往往被高度重视，但真正让人动容的，是感情，是人与人之间的情感联结。企业打造虚拟偶像的同时，应该遵守劳动法相关规定，以人为动力，切莫为捧红虚拟人，而压制“中之人”,让真实存在的人，成为牺牲品。

A-Soul的商业变现主要有直播打赏和广告代言等商务合作。2021年，A-SOUL成员贝拉和珈乐举办的两场生日会直播，直播的收入分别超过了210万元和197万元；其中，贝拉在生日会当天成为了B站历史上第一位“万舰”虚拟主播，所谓舰长是b站开发的月票机制，价格为198元/月；今年5月，A-SOUL成员嘉然开始直播带货。另外，A-SOUL先后与KFC、华硕、Keep、欧莱雅等知名品牌开展商务合作，但A-SOUL尚未开展IP授权、改编和衍生品的商务变现模式。

（10）网文IP，虚拟出道

叶修诞生于电竞小说《全职高手》，主角叶修是一名职业电竞选手，曾经三连冠但因为和经理的运营理念不同，被迫和志同道合的游戏玩家重组战队又再次拿到了冠军。阅文动画开发了《全职高手》动画，叶修这位从高人气网文中走出的男主角，正式拥有了动漫形象。随着动画特别篇、大电影《全职高手之巅峰荣耀》等作品的热播，具有电竞、勤奋、绅士、专注等众多标签的叶修开始大热，并收获了大量粉丝。叶修，开始在各大东方卫视荧屏亮相，开始参与虚拟直播，开始虚拟明星代言等商业活动。

阅文集团是一家以数字阅读为基础、进行IP培育与开发为核心的文化产业集团。阅文旗下包括QQ阅读、起点中文网等网站，同时汇聚了大量作者和作品储备。阅文集团拥有一条完整的IP产业链，叶修的价值在IP产业链上被充分挖掘、打磨、锤炼和运营，包括网文、国漫、舞台剧、影视、游戏等多种形式开发。叶修的变现模式现在主要有直播和广告代言等商业合作，叶修生日会当天与美特斯邦威官宣发售叶修专属潮流Tee，成为了S10比赛的星推官，并先后与中国银行、麦当劳、舒耐、美年达、中国银行、旁氏、舒耐、清扬、伊利、酷狗开展广告代言等商务合作。

（11）无限王者团，跨界破圈

2019年，《王者荣耀》旗下虚拟偶像男团——“无限王者团”携单曲《wake me up》正式出道，成员由《王者荣耀》全玩家票选出的得票数最高的白、亮、信、云、守约五位英雄组成。无限王者团依托《王者荣耀》日均1个亿的日活跃用户数的游戏IP，与电竞内容进行深度绑定，通过持续推出专辑或单曲、演唱电视剧主题曲等形式下开发出具备差异性的衍生音乐IP，随后又通过AR等新技术呈现不同以往的精彩舞台表演，接着又在护肤、美妆、饮料、时尚杂志等多个领域开展跨界商务合作。无限王者团通过音乐这一基础场景的构建，无限王者团就像现实中的艺人团队一样具有较高的形象认知度，具有更丰富的IP内涵，可以为粉丝提供真人偶像一样的沉浸式追星体验。无限王者团以《王者荣耀》游戏IP为价值内核，从多个圈层进行IP圈层裂变，不断刷新受众认知拓宽受众，打造出了一条独属于无限王者团的虚拟偶像路径。虚拟偶像是一个全新的内容载体，无限王者团完美的人设、不变的容貌，让粉丝们更易与他们亲近，更容易代入自己的情感。对于腾讯而言，从王者荣耀的IP裂变到无限王者团的运营，是对其内部资源的一次裂变、整合和提高，总体上扩展和丰富了腾讯整个内容生态。无限王者团经纪团队负责人小禹表示，未来可能用更接近于艺人经纪公司的模式去运营男团。

二、伦理先行

今年小冰公司中标2025日本大阪世博会的项目，为当地的60万个老年家庭提供一批虚拟陪伴（companion），每位老人都可以参与到每个虚拟人的训练过程（深度学习）中，这些虚拟人身份可以为老人的儿孙、初恋情人，甚至可以复活逝去的亲人。还有，小冰公司推出的虚拟人类产品线，要复活此前被用户定制的118万虚拟男友。小冰公司CEO李笛也表示，AI being还存在伦理、道德及法律相关的课题。央视网对A-SOUL塌房事件的评论也表示，再好的技术，也是用来为人服务的，脱离了人、忽视了人，都将毫无意义。虚拟偶像产业，乃至未来更宏大的元宇宙产业，不能丢了“以人为本”的伦理根基。切莫为捧红虚拟人而压制“中之人”,让真实存在的人，成为牺牲品。

随着虚拟人在现实生活中的广泛大量使用，人们与虚拟人之间的情感连接越来越紧密，该种情感连接可能会影响到人们的真实社交，甚至有可能对虚拟人产生感情甚至结婚，这就有可能产生一系列伦理风险；另外虚拟人带来的沉浸式体验可能会对人们的精神、心理状态带来影响，改变人们在现实世界的日常行为和方式，甚至可能会产生暴力倾向，亦存在一定伦理风险；虚拟人与自然人同台竞技，万科把优秀新人奖颁给了一个虚拟员工“崔筱盼”，导致自然人与虚拟人之间的界限越来越模糊，也存在一定伦理风险。

01、国际科技伦理

2018年4月，《英国人工智能发展的计划、能力与志向》为人工智能准则的制定提出了五条初步的原则：一，开发人工智能应当为了共同利益和人类福祉；二，人工智能的运行应符合可理解原则和公平原则；三，不应利用人工智能来削弱数据权利或隐私；四，所有公民都有权获得教育，以便享有人工智能带来的好处；五，伤害、毁灭或欺骗人类的自主权力绝不应委托给人工智能。

阿西洛马人工智能原则指出：人工智能研究的目标应该是创造有益(于人类)而不是不受(人类)控制的智能；；价值归属：高度自主的人工智能系统的设计，应该确保它们的目标和行为在整个运行中与人类的价值观相一致；人类价值观：人工智能系统应该被设计和操作，以使其和人类尊严、权力、自由和文化多样性的理想相一致；个人隐私：在给予人工智能系统以分析和使用数据的能力时，人们应该拥有权力去访问、管理和控制他们产生的数据；自由和隐私：人工智能在个人数据上的应用不能充许无理由地剥夺人们真实的或人们能感受到的自由；分享利益：人工智能科技应该惠及和服务尽可能多的人；共同繁荣：由人工智能创造的经济繁荣应该被广泛地分享，惠及全人类；人类控制：人类应该来选择如何和决定是否让人工智能系统去完成人类选择的目标；非颠覆：高级人工智能被授予的权力应该尊重和改进健康的社会所依赖的社会和公民秩序，而不是颠覆；风险：人工智能系统造成的风险，特别是灾难性的或有关人类存亡的风险，必须有针对性地计划和努力减轻可预见的冲击。

国际电气电子工程师协会（IEEE）组织倡议的人工智能伦理标准指出，人权：确保它们不侵犯国际公认的人权；福祉：在它们的设计和使用中优先考虑人类福祉的指标；问责：确保它们的设计者和操作者负责任且可问责；透明：确保它们以透明的方式运行；慎用：将滥用的风险降到最低。

经合组织（OECD）发布《确定OECD的人工智能发展原则》报告，报告提出了人工智能的五项原则：包容、可持续发展与福祉；以人为本的价值观和公平；透明和可解释性；健壮性和安全性；可问责制。

2019年4月欧盟发布《可信AI伦理指南》，提出了五大原则：(1)福祉原则:“向善”，AI系统应该用于改善个人和集体福祉；(2)不作恶原则:“无害”，AI系统不应该伤害人类，应该保护人类在社会和工作中的尊严、诚信、自由、隐私和安全；(3)自治原则:“保护人类能动性”，AI发展中的人类自治意味着人类不从属于AI系统也不应受到AI系统的胁迫，人类与AI系统互动时必须保持充分有效的自我决定权；(4)公正原则:“确保公平”，开发人员和实施者需要确保不让特定个人或少数群体遭受偏见、侮辱和歧视。；(5)可解释性原则:“透明运行”。

2021年11月，联合国教科文组织发布首份人工智能伦理问题全球性协议《人工智能伦理问题建议书》，建议书提出：人工智能技术对于多方面的潜在影响，包括但不限于人的尊严、人权和基本自由、性别平等、民主、社会、经济、政治和文化进程、科学和工程实践、动物福利以及环境和生态系统；注意到应对风险和伦理关切的努力不应妨碍创新和发展，而是应提供新的机会，激励合乎伦理的研究和创新，使人工智能技术立足于人权和基本自由、价值观和原则以及关于道义和伦理的思考；认为以人权和基本自由、伦理、获取数据、信息和知识的需求、研究和创新自由、人类福祉、环境和生态系统福祉为依据，将伦理价值观和原则与同人工智能技术有关的挑战和机遇联系起来，又认识到伦理价值观和原则可以通过发挥指引作用，帮助制定和实施基于权利的政策措施和法律规范，以期加快技术发展步伐。建议书将伦理视为对人工智能技术进行规范性评估和指导的动态基础，以人的尊严、福祉和防止损害为导向，并立足于科技伦理。