5月31日,著名学者王立群在朋友圈转发一则未经他本人许可、利用AI生成的他自己的视频,并表示“严厉谴责以AI为工具,严重损害个人学术清誉的行为”。
▲王立群本人在朋友圈发声谴责
红星新闻记者注意到,这则视频中的“王立群”称,今年端午是“60年一遇的大吉之日”,看到视频“预示即将九喜临门”;“王立群”向网友索要点赞,推荐健身方法,并称点击头像联系客服可以获得更多健身视频。
视频中,人物口型、声音严重失真,AI制作痕迹明显,但未见标注为AI生成内容。31日中午,该视频账号所发相关视频均已被删除。
5月31日,河南商丘睢县长岗镇政府一位负责人向红星新闻记者表示,发布王教授视频的视频号确实是该镇政府的视频号,昨天刚注册,至于发布人是谁还在调查中;今天上午已严厉批评了管理账号的工作人员。发布视频侵犯了王教授的权利,决不允许使用视频号盈利。
官方视频账号发布学者AI合成
当地回应:已严肃批评管理者
红星新闻记者发现,发布该视频的视频账号名为“无界山峰秀”,认证为“睢县长岗镇人民政府”。视频中,“王立群”向网友索要点赞,推荐健身方法,并称点击头像联系客服可以获得更多健身视频。
相关视频被点赞过千,不少网友留言称“谢谢王老师”。记者注意到,视频中人物口型、声音严重失真,AI制作痕迹明显,但未见标注为AI生成内容。
红星新闻记者点击账号头像,进入到一个“怀先传承客服”的微信小店的聊天界面。微信提示“当前为客服聊天”,客服账号称“正在接入人工客服”但最终没有接入人工客服。
王立群向红星新闻记者表示,这是一种法治意识缺失的表现,“性质严重,后果恶劣。我个人要求长岗镇政府制作视频公开向我道歉。”王立群强调,将保留追究法律责任的权利。
5月31日上午,河南商丘睢县长岗镇政府一位负责人向红星新闻记者表示,发布王教授视频的视频号确实是镇政府的视频号,昨日刚注册,至于发布人是谁还在调查中;今天上午已严厉批评管理账号的工作人员。发布视频侵犯王教授的权利。决不允许使用视频号盈利。
随后,一位自称与镇政府合作运营该视频号的运营者告诉记者,自己的团队是个创业团队,与镇政府合作运营视频号。其称,初步想法是通过视频引流,然后发布镇里的农业产业信息,盈利以后回馈助农;30日刚注册账号,发布的“王教授”视频是在网上找的,团队的运营人员发布的,对视频造成的后果表示抱歉。
前述镇政府负责人证实了该运营者的说法,称镇政府确实与该团队合作,视频也是该团队发布的,初衷是以后惠农助农,但引发了不良后果。
生成式AI已有管理办法:
不得侵害他人肖像权、名誉权等
近年来,生成式人工智能飞速发展,AI带来便利的同时,未经许可使用AI生成名人形象、音视频的情况也越来越多。去年到今年,从恶搞企业家雷军到AI制作张文宏、张伯礼等名人音视频带货,一些人以此进行营销甚至诈骗。
2023年8月15日开始实施的《生成式人工智能服务管理暂行办法》明确规定,尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。同时,明确提出,提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
今年2月央视新闻曾报道,有网友利用AI制作的刘德华声音,为自己博取流量,刘德华电影公司还紧急发布声明提醒网民,不要落入伪造刘德华声音的AI语音合成技术骗局。相应的深度合成软件在网络上下载并不算难,而且还有一些网络主播会直播教网友如何使用。在手机应用商城搜索换脸换声,会出现众多工具。
2023年国家网信办、工信部、公安部联合发布实施的《互联网信息服务深度合成管理规定》要求,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法(征求意见稿)》也提出,对AI生成合成内容要进行标识,以便公众识别和区分,防止误导性信息传播。
律师解读:
视频账号涉嫌侵权
观众也需警惕“名人视频”
对于此事,河南泽槿律师事务所主任付建认为,民法典规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。未经王立群教授本人许可,利用AI生成其音视频的行为,侵犯了其肖像权和声音权,属于违法行为。王立群教授有权要求停止侵权、删除相关视频、公开道歉以消除影响并赔偿损失等。用该账号发布王立群教授本人视频用于宣传健身方法,不属于国家机关为执行公务在合理范围内使用已经发表的作品,不构成合理使用。如果是他人违规认证,政府能证明已尽合理管理义务,一般不承担主要责任。如果是政府官方账号,超出公务范围,相关工作人员可能会面临内部处理。
付建表示,依据网络安全法等加强网络空间治理,平台应积极落实对生成式内容传播的监管责任,对疑似AI视频进行显著标识并提示用户注意。对侵权内容进行甄别和追踪,发现和接到举报疑似侵权视频应当立即采取切断链接、下架等处理措施。AI生成视频内容中的人物通常动作不自然、肢体动作僵硬、背景有违和感,其发言内容也可能与身份不符,网友应谨慎对待,避免轻信和传播。
北京市鑫诺律师事务所律师董世盼认为,视频号的行为涉嫌侵犯了王立群教授的人格权,包括肖像权、声音权益、名誉权等。王立群教授作为国内知名的学者,具有很高的知名度和社会影响力,在未经过王立群教授授权的情况下擅自使用王立群的肖像和声音,视频有可能导致王立群教授的社会评价降低,涉嫌构成名誉侵权。
董世盼表示,声音权益是一项人格利益,关乎自然人的人格尊严。对于人工智能技术处理后的声音,只要一般社会公众或者一定范围内的公众根据音色、语调和发音风格,能够识别出特定自然人,则该自然人声音权益可及于该AI声音。视频中明显可以识别出是王立群教授的声音,该行为侵犯了王立群教授的声音权。对此,王立群教授可以要求:第一该机构停止侵权;第二在特定的平台公开道歉;第三如果有证据证明王立群教授因此受到损失,还可以要求赔偿损失,第四可以要求精神损害赔偿。
董世盼表示,对于观众,需要警惕非实时直播的“名人视频”;核实言论来源,避免轻信非官方账号内容。
编辑:陈彤彤