“ZAO”化弄人

港股那点事2019-09-11 09:44:52

作者 | 啄木鸟D
数据支持 | 勾股大数据

刚刚过去的周末,毫无预料地被ZAO这款换脸App以及各路粉黑文章刷了两天,心情堪称奇幻复杂。先是玩命燥,然后人仰马翻,最后大家都回过神来,微信手起刀落,把这个小妖精给禁了。


这场景怎么那么熟悉。


哦哦,想起来了,那是一年前的8月,也是下旬。当时有个姓罗的胖子在做手机,后搞出来了个“ZD短信”,刷了一波屏。有那么一两天几乎是人人都在发“ZD短信好好用”。


好用妳倒是用啊。


连一周都没挺过就下架了。后来四季度三家公司又联合起来玩了一次(我不说具体名字了),三款意淫逆袭微信的App同台发布,转天又全部被微信手起刀落给咔嚓了。



互联网时代的人,每天都生活在传播学的案例当中。


ZAO这个玩意儿出来之后,先是有很多人在玩,然后有人开始担忧隐私泄露,然后开始发现用户协议里面的霸(流)王(氓)条款,然后有人把ZAO的创始人也扒了出来,不出意料,是当初搞出来陌陌的那两位大仙。


最后,用ZAO换脸玩得火热的那帮人开始跑来看自媒体口诛笔伐的文章,先前吃瓜的那波人成了新瓜,而远处旁观的也参与进来吃瓜:一场瓜甜籽蜜的狂欢。不由得感慨系之,好个热闹的周末!


这个ZAO,玩到今天,其实最燥的那股劲儿已经过去了。正好。趁着它开始降温,我正有几句的必要了。



1

事关隐私,不能含糊



ZAO被人们痛批最主要的原因还是在于它的用户协议。


到今天再去下载ZAO的时候,最初的霸(流)王(氓)条款已经改得文明多了。我把最初刚刚上架时候的用户协议做个比较,就看出来了。下图是用户协议第6条,左边是刚上线的版本,右边是最新的版本。



仔细一看不难发现,最新版本里面去掉了大量的霸王字眼,例如“完全免费”、“不可撤销”、“永久”、“可转授权”、“可再许可的权利”、“包括但不限于对用户内容进行全部或部分的修改与编辑”、以及“对修改前后的用户内容进行信息网络传播以及《著作权法》规定的有著作权人享有的……财产权利”等等。


说白了,你的脸一旦上传给了ZAO,就变成它的资产了,他可以使用、修改、编辑、传播、甚至是获利。并且它的这些行为,都是你授权它的。


呵呵。


估计是发出来之后自己都觉得不妥了,于是不久之后这个“第6条”就被“修改”了。修改之后比之前整整少了150字!


说实话,我第一遍读到这个“用户协议”的时候,内心就产生了对这个App的厌恶;因为凭借中学学的那一点粗浅法律知识,我就能够判断,这里面很多条款自身就有很大漏洞。


用户协议属于格式合同,《合同法》的法理中最重要的一条原则就是,合同内容与现行法律相抵触的,合同属无效合同。


况且任何正规的App都需要用户主动勾选“已阅并同意”的那一栏,像ZAO这种直接把客户协议放在底部,希望你不看直接略过的,本身也构成了违规。


这一切,背后折射出,制作这款App的,其实就是一群法盲。



当然,这只是凭正常人的逻辑去判断;有没有一种可能是他有意这样做的呢?不排除。


事实上,现在举国上下大兴“刷脸”的时候,一张脸基本上就包含了所有密码,如果能够得到一个人的“脸码”,那么反是需要刷脸的地方,都可以畅通无阻了。手机开屏、小区进门、家门开锁、便利店买东西、甚至是线上支付……


这时,我们再看一遍ZAO的用户协议修改之前的第六条,是不是不寒而栗。它就在这样明目张胆地告诉你,我要把你的“脸码”拿去在互联网上编辑修改传播获利,而且出了事不怪我。


哇!好棒!棒到我都不敢用了……



2

我之蜜糖,人之砒霜



对于纸巾宅男来说,ZAO无疑是重磅福利。但对于公众人物来说,这款App简直就是灾难。


关于AI换脸的技术会玩出哪些花样,网上的Tips已经很多。把川普换成暴走漫画,把朱茵换成杨幂,把扎克伯格讲话换成别人等等,这些都算纯良的了。



而邪恶的,比如某一天,某公众名人的脸被好事玩家换到了不雅视频上去。这位名人当然知道不是自己,但不明真相的群众如何鉴别呢?还有的人也并不真心去鉴别,只是事情一出就开始起哄,哇塞现在某某又咋咋了,等等。


别有用心者会拿这个名人的视频去敲诈勒索,而这位名人反过来却不知道伤害自己的那个人究竟是谁,到时成千上万个人在用这个App,谁做的这个换脸的动作,很难查。而且ZAO估计也不会去配合,它总不能砸自己的牌子吧。


即便是你把ZAO干掉了,但是它的条款里面有,他的关联公司还可以用你的信息,而且互联网这个东西,一旦你的信息被放了上去,那就会自动传播,想拦都拦不住。


所以,一旦“脸码”被泄露出去,这就是一种弥散式的伤害。


AI换脸技术一旦日臻完善,视频可以做得天衣无缝,到那时验真的复杂程度会高到惊人,需要动用大量的公共资源。最后可能出现的结果就是两个,第一是没有人再拍视频,或者是拍了也不会发到网上去,因为会被别人改掉;第二是网上见到的视频将没有人相信,因为无法得知是被改过几道手的。


这两种情况,无论任何一种出现,都将会带来全社会的信任危机。



但是话说回来,ZAO所使用的“AI换脸”技术,其实并不是一个新东西,更不是ZAO独创的。早在2017年,美国就有公司开发出了基于生成式对抗网络(Generative Adversarial Networks)的深度学习技术,搞出了DeepNude和DeepFakes这两款产品,其中DeepNude是“AI换衣”,而DeepFakes正是“AI换脸”。


“AI换衣”不用说了,一个穿着正常的人可以在电脑里被yy称一丝不挂或者各种穿戴上各种火爆衣饰,这已经带来很大的伦理问题;而“AI换脸”的问题就更大,因为脸是一个人最主要的辨认指标之一,如果把脸换了,可以说就是换了一个人。


这两个技术活宝,因为所涉及伦理冲突太过严重,后来在美国被叫停了。没想到这次改头换面,被陌陌的两位创始人,玩到中国来了。



3

“AI换脸”:技术有罪吗?



2014年8月8日,前快播创始人王欣被捕入狱。在狱中接受审讯的时候,王欣说,技术是无罪的。



的确,技术无罪;


但是使用技术的企业,却有它的社会责任与职业道德。正如相对论本无罪,但滥用核武器就是人类大忌。


当下的互联网公司,正是太多强调技术,太少关注企业的社会责任。


同一段视频,两个其他所有地方都一样,只有脸不一样,这哪个是正版,哪个是盗版,如何鉴别?如果双方真的都坚持自己是原创,是对方把自己的脸给换了,那还真就僵持不下了。为这种事打官司?不值得的。况且验真环节则会消耗大量的公共权力和公共资源,造成对社会资源的巨大浪费。


从这一点上,ZAO就是技术滥用的典型例子。他也许不是直接在作恶,但是他却是在恶作剧。


从小处说,即便没有那么多脑洞大开的人,老百姓只是玩玩而已,那么用这种App把自己的脸换到剧里面去,真的就能体验当明星的感觉吗?当然没有。


只是把脸换进去,而演出的过程从头到尾都并没有参与,这种感觉一定是怪怪的。打个不恰当的比方,就好像太监看妃子侍寝。


对看视频的人而言,剧是耳熟能详的剧,甄嬛传的孙丽陈建斌,孝庄秘史的宁静马景涛,射雕英雄的黄日华翁美玲,哪个形象不是深入人心,这时你的朋友圈里偏偏有人要发一段把自己头像换上去的视频,估计此时观看的人心里最多也就是两个字:呵呵。



两边的人,一边是假假地制作,另一边是假假地观赏,这种奶头乐的游戏,浪费时间,消耗正能量,当真无聊至极。


而从大处说,万一某一天,有玩家脑(别)洞(有)大(用)开(心)了,把竞选的两位美国总统头像对调,或者是把警察和暴徒搏斗双方的衣服给换了,再在配合上西方媒体那种煽风点火颠倒黑白的本性,估计就永无宁日了。


呵呵。




4

人“ZAO”有祸



这款ZAO刚上线不久之后火爆的时刻,服务器曾经宕机。


业内人士说,即便是简单的美颜App,一个手绘滤镜往往就需要几百万的投入,包括训练AI的大量手绘作品的制作等等;而像换脸这样技术,背后所涉及的成本将更加高昂。


显然,ZAO这款产品是烧钱烧出来的。



我曾经请教一位高人,谈及互联网企业的意义。


那位高人一语道破,说互联网企业能做的有益的事情,大多围绕着三件事:社交、通信、电商这些都是使人类社会运行的效率得到提升,缩短人与人之间距离,长期来看可以推动社会的变革演进。


这是让技术为人类造福的例子。


反观类似ZAO这种存在,种打着“社交”的旗号,通过雕虫小技哗众取宠,浪费人们的时间精力,而且制造混乱,甚至是有意骗取用户隐私,那么使用这种技术便是有害的。


俗话说:天燥有雨,人燥有祸。


这款名字叫“燥”的“AI换脸”App,它的诞生就是当下资本浮躁的产物,创造它的人为了一炮打红,急功近利,可以全乎不顾企业的社会责任与道德准则。


对于ZAO这样的存在,爆款之后随即翻车,恐怕已是最好的结果。


往期推荐
走,我们养猪去?
谁能活过地产下半场?
戴志康:一个地产大佬的P2P折戟路

点击阅读原文,查看啄木鸟D更多精彩文章!
https://www.wxwenku.com/d/201349415