警惕虚拟数字人潜在风险
2024-02-23 11:47:28 来源:法人杂志 作者:惠宁宁

◎文 《法人》杂志全媒体记者 惠宁宁

虚拟主播、AI导游、智能客服、金融数字人……目前,这类运用多项人工智能技术创造出来的与人类形象接近的数字化人物形象,已在影音娱乐、电商带货、虚拟社交等领域广泛应用。

图片

▲2023年8月20日,参展商在南京国际博览中心介绍数字人智能客服 CFP

近日,我国首例涉及虚拟数字人侵权案入选2023年度人民法院十大案件。随着虚拟数字人的普及和产业迅猛发展,虚拟数字人产业相关主体之间的法律关系和法律保障问题以及行业合规发展,越来越引发广泛关注。

虚拟数字人逐步商业化

近几年,大量“数字人”主播出现在各大电商平台的直播间。据相关统计,目前,我国各大网络平台虚拟数字人主播账号超过5000万个。这些“数字人”可以24小时直播带货、解答客户疑问等。2021年10月出道的虚拟人美妆博主柳夜熙,一场子鼠妆仿妆挑战吸引超1482.3万人观看,被称为当年“现象级”虚拟人。近日,《法人》记者搜索发现,柳夜熙目前粉丝已超过800万。

艾媒咨询发布的《2023年中国虚拟主播行业研究报告》显示,2022年,中国虚拟人带动产业市场规模和核心市场规模分别为1866.1亿元和120.8亿元,预计2025年分别达到6402.7亿元和480.6亿元,呈现强劲的增长态势。虚拟主播行业存在较大商业空间,其中包括销售衍生品周边、品牌代言、作品打赏、直播带货等,有36.7%的受访者对虚拟主播的消费意愿将增加。

浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林在接受媒体采访时指出,虚拟数字人快速商业化应用,一方面是因为该产业发展趋于成熟,尤其是“数字人”的声音库技术、动作捕捉技术和3D建模技术日趋成熟;另一方面是因为需求,从国外的初音未来到国内的洛天依,很多“数字人”都获得了成功。

近日,贵州某直播基地一名负责人对记者说,直播电商是当下趋势,大家都在做,但用人成本较高。引进数字人做主播,是想节省些成本、提高效率,同时也希望依靠新鲜感吸粉变现。但实际使用下来,却感觉数字人有些“不中看也不中用”。“目前的数字人都是模型化的,购买系统套用模板即可使用,选择余地小。让数字人做口播很方便,输入文字选择人声就可以。但与真人相比,整体很生硬。”

有分析人士指出,目前虚拟数字人研发成本较高、技术上还达不到比拟真人的状态,在市场层面得到的应用也不足,更多侧重于概念和内容营销。要推动虚拟数字人的演讲和规模化应用,还需要切实与业务结合,在应用中推动整个生态建设。

虚拟数字人维权胜诉

虚拟数字人以其智能化、互动性和个性化特点,给人们提供了各种生活便利和乐趣。但随之而来的,是一系列的法律风险。

通过人工智能技术创造出来的虚拟数字人,其著作权该如何认定?其产生的知识产权是否应该得到保护?2023年4月,浙江杭州互联网法院审结了一起我国首例涉及虚拟数字人侵权的案件,引发业界极大关注。

2019年10月,上海魔珐公司通过公开活动发布了数字人“Ada”,并于同年10月、11月通过某网络平台发布了两段视频,一段用于介绍Ada的场景应用,另一段用于记录真人演员与Ada的动作捕捉画面。2022年7月,杭州某网络公司未经授权,发布了两段含有Ada的视频画面。

上海魔珐公司认为,杭州某网络公司未经授权传播使用该虚拟数字人,侵害了其美术作品、视听作品的信息网络传播权,并侵害了录像制作者及录像制品中表演者的信息网络传播权。同时,还构成虚假宣传的不正当竞争行为。因此,将杭州某网络公司起诉至杭州互联网法院,要求对方消除影响并赔偿经济损失50万元。

在法庭辩论中,上海魔珐公司认为,Ada的制作需要应用人工智能表演动画技术、超写实角色智能建模与绑定技术等,是其投入大量时间和精力产生的作品,理应受到法律保护。杭州某网络公司则认为,虚拟数字人形象不属于美术作品,原告不享有相关作品著作权,而且真人演员并非表演者,不构成职务表演,原告也不享有表演者权,被告的行为不构成侵权,也未因发布这些视频而实际获利。

杭州互联网法院认为,虚拟数字人虽然并非法律意义上的表演者,不享有表演者权,也不享有视听作品的著作权或录像制作者的邻接权,但是上海魔珐公司作为该虚拟数字人的制作方及真人演员所属公司,依法或依约拥有该虚拟数字人相关权利。

经审理,杭州互联网法院一审判决被告构成著作权侵权及不正当竞争,为原告公司消除影响并赔偿经济损失(包含维权合理费用)12万元。杭州某网络公司对一审判决不服,提起上诉。后杭州中级人民法院作出二审判决,驳回上诉,维持原判。

有业内人士认为,虚拟数字人作为新兴业态,其权利保护路径和保护模式在我国目前的知识产权体系下还有很大的探索空间,首例虚拟数字人侵权案的判决对于我国相关案件的审理具有重要意义。

近日,上海汉盛律师事务所高级合伙人李旻律师对记者表示,杭州互联网法院的判决对虚拟数字人行业起到了警示作用,提醒相关企业在使用虚拟数字人等技术时要注意保护知识产权等合法权益,避免侵犯他人的权利。同时,该案例也为后续相关纠纷确定了规则,在相关法律规范尚未出台之前,提供了维权依据。

虚拟数字人面临多种法律风险

近日,上海锦天城(重庆)律师事务所高级合伙人李章虎从现行法律规定等角度,给记者分析了虚拟数字人的法律风险,并提出了应对方法。

他认为,虚拟数字人的形象、声音和算法等都可能涉及知识产权保护。未经授权的使用、复制或修改虚拟数字人特征可能构成侵权。因此,建立和保护虚拟数字人的知识产权,例如通过专利、商标和版权注册,是重要的法律策略。

另外,虚拟数字人在与用户互动过程中,可能收集和处理大量个人数据,如用户偏好、行为习惯等。因此,必须建立适当的隐私政策,并采取安全措施保护用户数据免受未经授权的访问、使用或泄露。

李章虎还认为,言论自由和道德准则也是虚拟数字人面临的法律风险之一。“尽管虚拟数字人可以提供各种信息和建议,但它们不能传播违法、有害或不道德的内容。因此,制定明确的使用政策和准则,限制虚拟数字人的言论范围,并确保其行为符合道德准则和社会价值观,必须予以考虑。”

李章虎对于虚拟数字人的智能化特点也有担忧,如虚拟数字人可能因错误理解或程序漏洞而提供不准确或误导性信息,从而导致用户误解或产生法律后果。因此,应对虚拟数字人的算法和智能系统进行审查和监管,确保其提供准确和可靠的服务。

而且,李章虎表示,虚拟数字人与现实世界之间界限模糊,也可能引发法律责任问题。尽管虚拟数字人由技术所驱动,不能承担与人类相同的法律责任,但人们有时会误将其当作真实个体,从而产生误解和法律纠纷。建立明确的用户协议和免责声明,并确保用户对虚拟数字人的真实性有正确的认识,可以减少潜在的法律风险。

加强监管推动行业健康发展

在新的技术发展时期,需要在前期从企业到监管部门,加大对虚拟数字人的监管,从而推动行业健康发展。

2023年4月,国家网信办就《生成式人工智能服务管理办法》公开征求意见,这是首次针对生成式AI产业发布规范性政策。次月,抖音发布人工智能生成内容规范暨行业倡议,要求发布者需对人工智能生成内容显著标识并对产生的后果负责等11条平台规范与行业倡议。7月,国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》,自8月15日起施行。

在网经社电子商务研究中心特约研究员、百联咨询创始人庄帅看来,抖音此举在于规范人工智能生成内容、避免生成内容出现虚假新闻、侵犯他人权利等问题,保护用户和内容创作者的合法权益。

庄帅认为,从抖音的平台规范到《生成式人工智能服务管理暂行办法》公布,均对行业发展具有重要推动作用,不但促进行业规范化、健康化发展,提高行业整体素质和竞争力,推动数字内容产业快速发展,而且可以推动企业合规发展,强化企业对知识产权的尊重和保护,规避侵权风险,增强企业法律意识。同时,还可以提高行业的诚信度和信任度,为行业健康有序发展奠定良好基础。

编审|渠 洋

责编|白 馗

校对|张波 张雪慧

编辑:刘晓莹