ZAO转凉背后:当视频能被快速"PS",我们却慌了

  • 来源: 大发5分3D规律 文:邓支航   2019-09-05/07:38 访问量:
  • 从来没有见过一款APP能够如此快速火爆,又极速转凉。

    (大发5分3D规律/邓支航)“仅需一张照片,出演天下好戏”,这是上周末大火的APP——ZAO的Slogan,它的原理就是传闻许久的“AI换脸”。ZAO用户只需要提供自己清晰的面部照片信息,就可以将视频素材库中的人脸更换成自己的脸,从而生成了一个换过脸的短视频。

    zao大图

    因为视频素材几乎都是热门影视剧片段,用户制作ZAO换脸视频相当于自己过了一把演戏的瘾,也可以用多个脸模拟和好友飙戏,甚至和明星同框飙戏。

    这种新鲜有趣的玩法迅速火爆,在上周末,ZAO制作的换脸视频在很多用户的朋友圈或微博刷屏,以#Zao AI换脸#的话题曾登上微博热搜,而ZAO也在多个应用商店下载量迅速蹿升,在苹果的APPStore一度登顶免费排行榜。

    ZAO在使用中,首先需要一张清晰的面部照片,面部照片可以是别人的也可以是实时自拍的。但当ZAO监测到常见的公众人物会提示无法使用。用非公众人物的脸部照片完成AI换脸的视频制作后,只可以预览,不能用于分享,如果需要分享,必须要通过ZAO设置的实时人脸认证,用户需要对着摄像头做出点头、眨眼等动作,以证明肖像权的所有者。

    ZAO的玩法快速火爆,也立马引发了舆论对人脸隐私安全的质疑,而且ZAO的奇葩用户协议引起了公愤,这款刚刚蹿红的现象级APP迅速被用户嫌弃而凉凉了。

    ZAO排行

    早前ZAO在用户协议的第六条第1款提到:“在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或声音等)以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。"

    可以看出,ZAO的用户协议意味着ZAO及其关联公司将获得用户上传内容的著作权利,包括其中的人脸肖像照!这样的条款简直是非常荒谬,这也是本次问题爆发的核心。

    公众人物

    对此,中国政法大学传播法研究中心副主任朱巍提醒,“ZAO”拥有用户大量的隐私信息,存在着较大的安全隐患,相关协议违反消费者权益保护法以及网络安全法的相关规定。

    除此之外,法律界人士还指出ZAO在用户协议条款里也存在将素材存在将影视作品的侵权风险转嫁给用户的内容。在用户隐私里玩小聪明的ZAO从而激起了全民声讨,遭遇大范围抵制。

    面对汹涌而来的负面舆情,ZAO官方在9月1日很快更改了用户协议里存在争议的内容,并增加一段“特别提示”称,用户授权内容“仅限用于为您提供上传/发布短视频以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务,相关的内容将严格按相关法律法规的规定保留在“ZAO”上,除非为了改善“ZAO”为您提供的服务或另行取得您的再次同意,否则“ZAO”不会以任何其他形式或目的使用上述内容”。

    紧接着在9月3日,ZAO官方首次对用户的担忧做出被认为是“致歉性质”的回应,ZAO在回应中表示,ZAO不会存储个人面部生物识别特征信息;ZAO没有采集任何个人生物识别特征;使用ZAO不会产生支付风险;用户删除信息或注销账号,ZAO均会依据相关法律法规的规定删除相应信息。

    9月4日来自工信部官微的最新消息显示,工信部已经注意到媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈,要求其“严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。同时,要进一步加强新技术新业务安全评估,切实采取有效措施,积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。”

    当视频也能被”PS”了,我们却慌了

    虽然ZAO的初衷不是作恶,很可能是一心想做社交的陌陌以此来积累UGC素材资源创造场景的手段,但从用户角度来看,其抢夺包含用户肖像内容著作权的用户协议无异于无耻的霸王条款。

    ZAO社交倾向

    由ZAO所引发除了用户协议方面的严重侵权问题,本次用户引发的恐慌其实也很值得推敲。很多人之前可能或多或少听过“AI换脸”,或是听过影视剧制作中的换脸操作,但如今换脸门槛突然降低,真正看到自己换脸的视频,可以通过手机就能进行简单PS的状况,大多数人的认知还是再次被刷新了,开始担忧自己的人脸信息被用作其他用途。

    ZAO之后做出的回应声明中提到了对于用户肖像的保护策略,其实在技术逻辑上可以理解,毕竟用户平时用真人头像在社交平台分享的自拍照或视频都包含了自己的人脸信息,实际上和ZAO采集的照片无本质区别,如果说这些人脸信息能够轻易对人脸验证的手段造成威胁的话,我们发自拍照片和自拍视频的行为早存在巨大安全风险了。

    因此在技术逻辑上你可以把ZAO的换脸视频可以看做一个视频被PS。但在情理逻辑上,大多数用户暂时还无法接受视频被PS情况,而用户的担忧主要基于这种新奇的视频形式可能导致自己的肖像被滥用,这种状况和图片PS刚火爆时代产生的担忧有相似地方,只是当时互联网传播没这么普及,舆论很难成气候。

    有一条网友评论被广泛引述:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你的家人通话了。”

    大多数用户能够在社交网络毫无顾虑地发布自拍照片和视频,按照这位网友所说,朋友圈或微博的自拍照也可以被换脸技术所利用,可以用来制作伪装视频,用于非法目的,但我们似乎从来没有担心过。这次遇到ZAO,用户隐私问题被瞬间放大。

    当我们的人脸肖像成为个人隐私的一部分

    作为区别于指纹或虹膜的生物特征,我们对人脸肖像信息几乎没有任何设防,不需要接触或近距离获取,直接暴露在外界,人脸头像或者自拍形成肖像在社交网络随处可见,随处可见的摄像头也在实时采集我们的肖像信息。而非法使用的条件形成将像ZAO一样变得非常简单,几乎没有太多障碍。

    而实现换脸的途径其实早有PS这类形式在先,在图片上进行换脸的操作已经非常常见,除非产生了非法用途,我们平时并未特别去关注,即便是现在在电商平台有大量以“PS换脸”作为技能出售的状况。大发5分3D规律在某电商平台发现,很多商家以帮助“和明星合影”为由进行照片伪造的技能售卖,价格低廉,成交量并不低。大发5分3D规律尝试和多个卖家沟通,发现成交过程很简单,只需向商家提供所需照片就可以,商家并未核实大发5分3D规律所提供照片的身份是否为本人。

    换脸电商TB

    电商平台也并未关注其中是否存在肖像隐私侵权相关的问题,这些技能并没有被电商平台当做疑似违规商品而任其长期上架存在。

    随着技术发展,影视制作里的换脸特效通过AI技术很快走向了大众,让普通人在视频里实现换脸成了可能。

    2017年,一套名为“Deepfakes”的机器学习算法在开源社区开始流传,Deepfakes训练机器识别脸部并完成在视频中的换脸,大大降低了通过AI进行的换脸操作的技术门槛。

    早前盖朵·加尔和斯嘉丽·约翰逊等著名女星的人脸照片被滥用,换脸到爱情动作片中的视频被曝光而引发轰动,让AI换脸技术开始被广泛关注,国内也出现了诸如杨幂演黄蓉的换脸视频片段,随AI换脸而来的个人隐私和伦理问题开始越来越清晰地展现出来。

    盖尔加朵

    据早前媒体报道显示,目前已经存在以“AI换脸”产出不雅视频来非法牟利的地下灰产,通过AI换脸,通过“Deepfakes”之类的换脸算法,将制定的人脸肖像换至不雅视频,用来非法销售牟利。

    除了输出内容,生成换脸视频的教程和软件平台也可以在很多网站、AI技术社区或电商平台上找到,可以看到在AI技术社区或专业网站里主要是算法和机器学习训练的相关交流信息,而在电商平台可以买到基本成型的软件包。

    换脸淘宝1

    大发5分3D规律为了进一步验证,通过某电商平台很容易就获得了一套包含安装使用教程的基于Deepfakes 算法的AI换脸软件。

    大发5分3D规律通过安装这套AI换脸程序,按照教程成功实现了换脸操作,不过大发5分3D规律只是简单测试,并未对模型进行较长时间训练,实现的效果暂时还没有ZAO理想,还存在拼接痕迹。但这足以说明普通用户实现AI换脸视频的技术门槛并不高。

    AI训练

    技术是一把双刃剑,AI换脸又把我们拉回到了“技术向善”的老话题,如果遵从技术无罪的原则,这类AI换脸程序本身也是技术进步的体现,最根本的问题是我们能拿它来干什么。

    现实却是残酷的,现在素材和技术手段都有了,非法用途已经在地下开展了,我们面临的隐私安全形势比以往更严峻,难道自己的人脸肖像也要成为隐私信息了?对此,我国在监管层面也做了改变,今年4月,民法典人格权编草案和物权编草案的二审稿新增了一条规定:任何组织或者个人,不得以利用信息技术手段伪造的方式侵害他人的肖像权。

    好的一点是法律依据已经快有了,但回头总体来看,面对AI技术爆发产生的越来越多应用场景,在信息安全方面将会出现更多的不确定性,因此将不断衍生新的灰产和新的问题。宏观层面来看,“技术向善”仍是一条漫漫长路。(大发5分3D规律/邓支航)


    赞(0)

    评论 {{userinfo.comments}}

    {{money}}

    {{question.question}}

    A {{question.A}}
    B {{question.B}}
    C {{question.C}}
    D {{question.D}}
    提交

    驱动号 更多