从一夜爆红到全民声讨,AI换脸应用ZAO究竟做错了什么?

  “仅需一张照片,出演天下好戏”。这是近日刷爆朋友圈的换脸应用ZAO逢脸造戏的广告语。从刷屏走红到质疑不断,ZAO仅仅用了一天时间。

  对ZAO的质疑主要来自AI换脸存在的伦理道德风险,以及ZAO产品本身对用户隐私和相关信息的保护程度。

  “AI换脸并不是新技术。”一位长期研究人脸识别和分析技术的专业人士告诉《深网》,AI换脸所使用的核心技术是人脸关键点检测GAN(生成式对抗网络模型),这项技术目前已相对成熟,ZAO的换脸功能使用“deepfake”+移动端优化就可以做到,不过并不确定ZAO是否使用了“deepfake”的开源代码。

  “deepfake”是国外一项开源AI换脸软件。据《智东西》报道,2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上。当时“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。由于大量受害者的投诉,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。

  女明星“出演”情色电影里的女主角,AI换脸存在的伦理道德风险可见一斑。但这仅仅是ZAO被质疑的冰山一角。

  AI换脸技术存在的伦理道德风险已经让用户对换脸应用有所顾忌,ZAO用户协议中关于个人和他人肖像权授权的界定,更是直接引爆了外界的质疑。

  “ZAO的用户协议太离谱了”“简直是霸王条款”有用户在阅读ZAO的用户协议后这样说到。

  ZAO的用户协议中关于用户必要授权的部分包含如下条款:

  “1) 在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予“ZAO”及其关联公司以及“ZAO”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利;”

  “2) 如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动;”

  一位微博认证为