名人"画皮"换脸恶搞色情合成 擅自换脸或致违法侵权

来源:新华网时间:2019-05-14 11:08:12

新华社上海5月13日电 随着AI技术发展,视频换脸技术门槛降低,普通人也能制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成上,其不良效应也引发了社会的关注和担忧:放任自流,任其“异化”,可能成为侵害他人合法权益和危害社会公共安全的工具。

“你要的样子我都有”,AI“画皮”只需2.5元

“你要的样子我都有”“男人瞬间变女人,毫无违和感”“用朋友圈视频就可换脸”……近日,AI换脸视频在不少平台上风靡。记者在哔哩哔哩网站搜索“换脸”,出来的视频达千条。

其中,有网友将影视剧中不同演员的脸进行互换;有人将某平台女主播瞬间“变脸”成不同女明星的样貌;还有人则制造“假新闻”,把国外电视节目嘉宾的脸换成国内公众人物的,标题则为国内某某在国外接受采访……

视频中的人物被换脸后,几乎可以“以假乱真”,有网友评论其为“AI画皮”“有图未必有真相”“细思极恐”。

在“deepfake”的贴吧里,与AI换脸有关的帖子超过9000条。里面有大量明星换脸视频的售卖信息。一个名为“合成联盟”的用户在群里公开售卖换脸色情视频,清单里的数量达150多部,并称“白菜价全部只要58元”。在名为“明星论坛”的论坛上,有人贴出了多个换脸视频色情网站网址。

记者在淘宝网上搜索“AI换脸”“deepfake”等,出现了不少换脸软件售卖信息,包括“商业背书视频”“明星偶像互动视频”“恶搞视频”,并号称“动作逼真清晰”。有的还提供换脸视频制作服务,一个淘宝ID为“专业定制换脸视频”的卖家表示,可以代为制作换脸视频,三分钟以内的价格为300元。

记者在某二手交易平台上以2.5元的价格购买了一款名为“fakeapp”的换脸软件,根据教程,导入提供的视频素材,只需要按“提取”和“合成”键等,就可以将视频素材中的人脸进行互换,几乎看不出痕迹。

擅自换脸“一时爽”,或致违法侵权

“AI换脸技术原理并不复杂,AI将多个视频内的人脸特征自动提取并进行分类,再利用编码技术,对视频中的特定位置编码重构合成等即可。”长期从事影视换脸业务的北京聚力维度科技公司首席技术官赵天奇介绍。

“以前,相关制作费用每分钟可达上百万元。随着一些AI技术的开源,换脸制作不仅价格大幅下降,门槛也不断降低。”他说。

中国传媒大学政治与法律学院副院长王四新说:“目前,通过AI技术深度伪造他人的肖像、声音主要用于网络‘恶搞’,但仿真效果已逼近真伪难辨的边界,随着技术发展,结合短视频形态的快速传播,如果使用不当,会产生很强的负面作用。”

近期,民法典人格权编草案二审稿对此作出规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。其他人格权的许可使用和自然人声音的保护,参照适用有关规定。

“如果正式通过,这意味着除法律另有规定的情况外,如果用他人肖像进行AI换脸等,只要未经本人同意,即便没有营利目的和主观恶意,同样有可能构成侵权。”北京大学法学院副院长薛军说。

他还提醒,侵权者不要抱有侥幸心理,即使换脸后不是100%相似,只要换脸视频和原视频能达到一定相似度,经由第三方能够识别,就可能被认作是侵权,“如将他人的脸与色情视频中人物的脸替换,并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应刑事责任”。

AI换脸“双刃剑” 不能放任自流

“AI换脸技术在影视制作行业有一定的需求。有的演员在电影拍摄完成前去世了,依靠换脸技术就能在荧幕上‘复活’。”赵天奇说,AI换脸可以实现演员不在场拍摄,提升了拍摄效率,极大节省了经费。

但是,有关专家表示,应当保证新技术被正当使用,不能放任自流,任其“异化”,成为侵害他人合法权益和危害社会公共安全的工具。

——使用者需秉承善意使用原则。技术是中性的,但使用有正反两面效应,需要避免对新技术的滥用。

“使用者需要自律,让工具能够在合理合法的用途和目的上使用,需要对法律常识和公序良俗有底线意识。”薛军说。

——平台不能只躲在“避风港”里。国内某大型短视频应用相关负责人告诉记者,换脸视频在审核上常常隐蔽性较强,除了涉恐、涉黄等明显违法视频外,比如一般的恶搞视频,由于平台并非是被侵权主体,缺乏主动作为的动力。只能是事后用户举报后,再作处理。

王四新认为,平台应完善事前处置机制,加强对违规换脸视频的自动研判与编审,严控问题视频的分发,“平台如果明知视频违法违规而不采取措施,继续对他人和社会造成损害,平台也需承担连带责任”。

——监管要重拳出击。王四新建议,监管部门对于违法侵权视频,要重点关注和监测,对可能造成恶劣社会影响、危害国家安全和社会公共利益的换脸视频,要严格监管,对违法侵权行为重拳出击。

相关阅读

推荐阅读

北京:新机场高速路计划明年上半年建成南五环至机场仅需20多分钟

北京:新机场高速路计划明年上半年建成南五环至机

原标题:新机场高速路计划明年上半年建成北京大兴国际机场高速公路建设完成超七成摄影 本报记者 黄亮北京青年报记者昨日从北京市交通委了 更多

2018-11-22 10:10:04
税总出台26条措施力助民企发展

税总出台26条措施力助民企发展

为深入贯彻落实习近平总书记在民营企业座谈会上的重要讲话精神,切实发挥税收支持和服务民营经济发展的职能作用,近日,国家税务总局印发《 更多

2018-11-20 10:10:00
两连阳为啥还没回本?买入绩优、白马、中大盘股才能轻松获利

两连阳为啥还没回本?买入绩优、白马、中大盘股才

一、大盘点评展望周二沪深两市小幅低开后,沪深300权重带动指数震荡上行。最终沪指上涨0 53%报收3410点,K线上收出一根中阳线;深成指上涨1 更多

2017-11-22 16:17:00
2017百度世界大会李彦宏透露无人车2018年量产 无人驾驶概念股备受期待

2017百度世界大会李彦宏透露无人车2018年量产 无

一年一度的百度世界大会11月16日在北京举行,每年的百度世界大会,百度创始人李彦宏都会带来他对过去,现在和未来关于互联网和整个IT领域的 更多

2017-11-16 11:17:37
百度世界大会今日召开聚焦智能硬件 百度世界大会受益概念股一览

百度世界大会今日召开聚焦智能硬件 百度世界大会

据怀新资讯报道,2017百度世界大会将于16日在北京举行。从邀请函上出现的神秘的盒子推测,本次百度将会有AI硬件以及诸多AI新技术发布。从今 更多

2017-11-16 10:17:03
MSCI中国A股指数大调整 msci中国a股指数成分股名单一览

MSCI中国A股指数大调整 msci中国a股指数成分股名

11月13日晚,明晟公司(MSCI)在半年一度的指数评估中,公布了对MSCI中国A股指数、MSCI中国全部股票指数的最新重大调整。公告显示,MSCI中 更多

2017-11-15 14:43:49
风云三号D星凌晨成功发射 风云三号d星概念受益股有哪些?

风云三号D星凌晨成功发射 风云三号d星概念受益股

今天凌晨,长征四号丙运载火箭发射风云三号D星。中国航天科技集团供图新京报快讯(记者倪伟)今天(11月15日)2时35分,我国风云三号D星在 更多

2017-11-15 09:26:44
1953年三元纸币价格表 第二套人民币的发行具有怎样的纪念意义

1953年三元纸币价格表 第二套人民币的发行具有怎

【藏品名称】第二套人民币53年叁圆井冈山【藏品类别】人民币单张【发行时间】1955年3月1日【停用时间】1964年5月15日【发行量】限量【面值 更多

2017-11-14 16:24:17
+ 点击查看更多精彩
834万大学生迎毕业季:多地放宽落户门槛“抢人”
    又到一年高校毕业季。今年,应届毕业生规模预计达到834万人。面对...
田间课堂画春光
    时下,河北省内丘县柳林镇的油菜花田进入盛花期,该镇杨庄小学开...
苏大强版防诈骗漫画走红 “警花”作者:还有续集
    近日,一组苏大强版防诈骗指南漫画引发广泛关注。漫画中,苏大强...
海外玩家在中国移动游戏上的总支出已超160亿美元
    《绝地求生》手游全球挑战赛上的选手们。马哈茂德·哈立德摄(新华...
电竞底层队伍现状:封闭训练10小时 半军事化管理
    资料图 图文无关。中新社记者 刘新 摄电子竞技运营师和电子竞...
油价今日或年内第六次上调 一箱油多花约6.5元
    资料图:汽车在加油站加油。 刘冉阳 摄中新网客户端北京4月12日...