来源：澎湃新闻 南方都市报一张自拍，就可以把多部经典影视剧主角的脸替换用户自己的脸。这让AI换脸App“ZAO”刷屏朋友圈。8月30晚间，一款名为“ZAO”的App刷屏朋友圈。大量用户使用这款App，上传自拍照片，将自己“变成”影视片段的主角，并将这些“改头换面”过的视频片段，上传微信朋友圈等社交平台，引发“病毒式”传播。8月30日晚间，“ZAO”官方微博称，“这个月花700万租的服务器，今晚已经消耗1/3了。明天如果继续火爆，我们只能做严格一些的限制。”8月31日下午14时，“ZAO”在苹果应用商店App Store的在免费App的下载排名中已跃居第二。ZAO的火爆可见一斑。天眼查资料显示，“ZAO”是一款换脸App，3个月前上线，如今已进行了三次更新。在这里，用户可以任意将自己的脸换在别人身上，“强大的AI识别功能，精致准确。为客户带来最好的体验，同时更多强大的滤镜特效功能应有尽有。”几秒生成一段用户变身主角的视频记者试用发现，“ZAO”主要功能包括造视频和造表情，使用时均需要上传人像照片。上传素材时，首先需要通过权限认证。在“造表情”功能中，用户上传照片时，App可以自动查找面孔相册里清晰度和角度合适的照片。App说明称，此行为不会上传任何照片数据，并且会进行非公众人物验证和肖像权验证，确保符合相关法规才能使用。随后，记者上传了一张照片，并进行视频制作。约6秒钟后，视频生成。实际上，“ZAO”的上手门槛极低。“ZAO”提供了许多现成的新老知名影视剧中的片段，用户不需要任何专业技术即可使用。除了视频换脸、分享朋友圈、造表情外，尚无其他功能。“ZAO”官方的目标似乎还不止于此。8月30日，“ZAO”的官方微博称： “你们要记得，ZAO的精髓在于加好友玩。过几天你们就会懂。”上述官微还介绍，Android用户在应用宝、华为、Oppo、Vivo电子市场都能搜索ZAO下载使用。8月31日下午14时，“ZAO”在苹果应用商店App Store中跃居免费App第二名。早就红过的“AI换脸”：DeepFake所谓AI换脸，技术上并不新鲜。早在2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户，就首次发布了自己制作的AI换脸视频。它能够把照片和视频中的人脸替换成任何想要替换的人脸，且效果十分逼真。今年3月，国内知名视频网站blibli流传出一段视频：电影《射雕英雄传》（1994年版）朱茵主演的黄蓉，被视频制作者通过“AI换脸术”处理成了杨幂的脸，神态表情如同朱茵饰演的黄蓉一样生动俏皮，毫无违和感，顿时引起网民热议，以至于微博话题点击量飙升至1.1亿。当时，科技日报曾报道称，所谓AI换脸术，是基于人工智能的人体图像合成技术，生成的假脸（通称DeepFake）。“从技术层面讲，首先要进行数据采集，捕捉不同的脸姿态、表情、角度和光照的人脸图片；再者进行数据处理，包括采集数据标准化及分割算法处理等；硬件上需要一个较好的GPU，家用计算机可能会吃力一些，制作需要几个小时甚至数十小时，但是现在已有许多插件可以辅助。”为2019年央视网络春晚提供虚拟主持人技术支持的偶邦公司创始人郑毅告诉科技日报记者。如何辨别“AI换脸术”？上述科技日报的报道提及，纽约州立大学奥尔巴尼分校教授吕斯卫领导的团队发现了伪造视频的漏洞：假脸极少甚至不会眨眼，因为它们都是使用睁眼的照片进行训练的。研究人员表示，伪造视频往往忽略了“自发的、无意识的生理活动，例如呼吸、脉搏和眼球运动”。吕斯卫说：“因此，缺少眨眼是判断一个视频真假的好方法之一。”不少科技媒体的报道提及，“ZAO”这次之所以能刷频，是因为以往的换脸视频，对制作者的技术甚至制作的设备，有着比较高的门槛要求，而“ZAO”一下子把门槛降到了最低，普通手机用户都可以玩了。背后是陌陌系公司“ZAO”全称ZAO逢脸造戏，这款App属于长沙深度融合网络科技有限公司，其背后股东则来自主打陌生人社交起家的社交平台陌陌。天眼查资料显示，长沙深度融合于2017年9月注册成立，注册资本为5000万元，是海南喵咖网络科技有限公司（海南喵咖）的全资子公司。而王力和雷小亮各持海南猫咖50%的股份。王力为陌陌公司董事、总裁及COO，雷小亮则为陌陌公司联合创始人兼游戏业务部总裁。这家公司和陌陌的关系还不止于此。直到今年7月，北京陌陌科技有限公司才完成从长沙深度融合股东层面的退出。而且，王力和雷小亮目前已经将海南喵咖的部分股权质押给了北京壹六零二信息技术有限公司。而北京壹六零二信息技术有限公司又是北京陌陌科技有限公司的全资子公司。就此，记者询问陌陌公司相关人员。截至发稿，对于此App和陌陌的关系，对方暂未获得回应。肖像“完全授权”的隐私安全风险到底有多大虽然已经行程刷屏效应，但“ZAO”也引发了外界的隐私担忧。“ZAO”的用户协议显示：用户在使用“ZAO”的时候，如果把脸换成自己或其他人的脸，意味着同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动。这一条款在互联网上遭到热议。有网友评论：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”极棒实验室安全研究员宋宇昊向记者表示，从起初的采集上千张照片、运行代码进行换脸，到现在仅需在手机APP上传一张照片就能换脸，换脸变得越来越便利。值得关注的是人脸识别已经成为实名认证的辅助，比如远程开户，对方可以通过眨眼、摇头等动作来判断手机前的你是否是活体，但换脸这项技术让这套逻辑失效了。因为手机前的人也许是盗用了别人的照片对自己进行了换脸。极棒实验室研究团队曾攻破过一些人脸门禁系统，在几次攻破中，大部分都看到了原图，这说明对方并没有对个人生物信息脱敏。下一步，ZAO还会要求用户进行动态的自拍验证，以确保用户上传的是本人照片。不过，南都记者实测发现，即使不做“自拍验证”，也有10次使用次数——这意味着，用户完全有可能不经过他人允许成功上传照片，导致他人的隐私和肖像权被侵犯。在ZAO内，用户可以换脸成为各种影视剧主角，比如《如懿传》里的如懿、《武林外传》里的白展堂、《生活大爆炸》里的“谢耳朵”，等等。在各种社交媒体的口碑传播之下，ZAO的热度持续飙升。但南都记者发现，ZAO的用户协议和隐私政策都是“默认同意”状态，没有勾选按钮。也就说，用户只要想使用ZAO，就必须同意用户协议和隐私政策的全部内容。用户协议和隐私协议前没有勾选框。图/AI前哨站。根据网络安全法及国家标准《个人信息安全规范》，网络运营者收集使用个人信息前，应获得用户的明示同意。在目前的企业实践中，这种明示同意通常以弹窗、主动勾选的方式来完成。而像ZAO这样，仅仅将用户协议和隐私协议放在界面下端，难以满足明示同意要求。大多数用户并不会仔细阅读，很可能在并不完全知情的情况下就给出了自己的个人敏感信息。今年，国家网信办、工信部、公安部等四部门联合启动了App 个人信息专项治理行动。工作组制定的《App违法违规收集使用个人信息自评估指南》提出，应把用户主动填写、点击、勾选等自主行为，作为产品或服务的业务功能开启或开始收集个人信息的条件。要求获得用户人脸的完全免费及永久权利用户的人脸信息，通常被认为个人敏感信息。查看前述两个协议内容后，南都记者发现，ZAO的隐私协议里并没有就人脸信息的收集和使用规范特别作出说明，只在用户协议里设置了有关人脸信息的条款。而它的用户协议，也引发了诸多质疑。ZAO的用户协议第6条第1款规定，“在您上传及/或发布用户内容以前，您同意或者确保实际权利人同意授予‘ZAO’及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利”。知名法律博主“@法山叔”表示，这意味着，用户在正式使用ZAO以前，是要上传自己肖像的，不仅静态，还有动态，而当用户选择使用以后，根据协议内容，该App除了可免费使用并修改用户的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。“所以当有一天，你在ZAO或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉ZAO，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。”法山叔说。记者注意到，ZAO用户协议第6条第2款规定，也引起了很大争议。该条款称，“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。“比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用，还要保证杨幂同意ZAO及关联公司使用她的肖像…但你又不是杨幂，你怎么能确保？这不搞笑吗。”法山叔认为，这一条款的实质其实是“甩锅”，“说白了，就是因为自己没钱拿到明星们的授权，日后侵权，它们可以将锅甩给你们。”还有网友提到了安全方面的风险。“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你的家人通话了。”有网友说。不过，南都记者也注意到，ZAO的用户协议声明，对于用户上传的信息内容，ZAO及其关联公司可自行选择是否使用以及使用方式，并将“尽最大努力在合理范围内使用上述内容”，用户的必要授权并不代表“ZAO”及其关联公司的必然使用，不改变信息内容的所有权及其知识产权归属，更不影响用户对信息的任何合法使用。南都记者就协议争议问题联系ZAO官方微博，截至发稿尚未获得回复。引发争议的用户协议。图/AI前哨站