好玩的AI换脸,为何美国智库认定威胁国家安全?

2019-11-15 15:06 娱乐世界注册

这两天一款现象级的名叫ZAO的的AI换脸软件红遍网络,下载这款软件后,用户可以用自己的脸替换名人、明星的脸,还可制作表情包,出演经典电影,跟偶像飙戏等,从效果看非常逼真,而且面部表情自然,操作简便,很多人玩了一把后,直呼过瘾。

然而好景不长,一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧,仍在蔓延。

火爆的ZAO与潜在的危机

实际上,ZAO软件就是一款经改造的换脸APP,2017年发源于美国,称Deepfakes,是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。

▲deepfakes“换脸”视频截图

既然是造假,当然要禁止。但是很多图片软件研发出来的目的可能初心并非是为了造假和欺骗,只是为了好玩,就像美国的Deepfakes最初在Reddit网站以娱乐形式发布一样,现在的ZAO同样可能基于好玩和吸引公众的原因而发布,当然不排除流量增加后的商业目的。

但是,很多业内外人士马上察觉到ZAO的阴影和潜在的危机与不安全,因为使用这款软件进行换脸后,需要进行眨眼、抬头等各种验证,与刷脸支付采集的脸部信息类似,而且注册平台需要手机号码。

这就可能产生种种不安全,如自己钱包(支付宝、微信和银行卡)中的钱会就如同换脸一样很简单地换(变)成了对方的钱,或被第三方转走。其次,换脸容易,洗刷嫌疑可难,如果涉及犯罪,轻而易举的换脸操作也会让真假罪犯难辨,同时加大司法成本。

当然,在一些国家,如美国,换脸还可能成为反恐的梦魇,既可以让恐怖分子很容易通过换脸作案和逃脱,也加大了安全部门反恐的难度。

▲ZAO软件苹果商店排行

除此之外,潜在的危险还包括这款软件的一些不利于用户的条款,在用户协议的表述中有:使用这款软件的换脸功能,需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权,以及利用技术对肖像权利人的肖像进行形式改动。

不过,在引发争议后,ZAO修改了其用户协议内容,新增加了“特别提示”。并对最具争议的用户协议第六条第二款中要求用户须授予 ZAO“完全免费、不可撤销、永久、可转授权和可再许可的权利”的字段删除。

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性,这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此,如何监管才是最现实和最严峻的问题。如果说ZAO软件已经造成了实际危害结果,就是治病的范畴,虽要下猛药。但是,现在人们使用ZAO还没有出现问题,只是预感和预测其可能要出问题,因此属于预防的问题。

现在,各种AI软件似乎是防不住,一种方法是,如果预感和预测到AI软件对社会有重大威胁,就应全面禁止。还有一种方法是,现在还没出问题,可以放行(绝非放任),等出了问题再来解决。

▲ZAO图片截图

Deepfakes泛滥,欧美如何应对?

现在ZAO软件就面临着管理者禁与放的困难抉择。由于有不同的国情和环境,也许对换脸技术的敏感度和监控方式是不一样的。对于换脸,美国欧盟等认为,即便是潜在的威胁,也极其严重,必须先出手防范。

2019年1月28日,美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes?》,指出,以Deepfakes为代表的换脸技术具有一系列潜在的危害,包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等。

其实,这篇文章并没有提出具体的建议,但是一个重要的建议是,希望各国明确定义Deepfakes的不正当使用,亟须社会定义什么可以接受,什么不可以接受,这既有利于社会和法律的管理,也有利于社交媒体规范其平台,管理网上内容。

2019年6月13日,美国众议院情报委员会对Deepfakes举行了一场听证会,会上该委员会主席、众议员亚当•希夫(Adam Schiff)称,篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景,让议员、新闻媒体和公众“难以分辨什么是真实的,什么是虚假的”。因此,需要对《通信规范法》第230条(互联网服务不必为其用户的行为负责)进行修改,以打击Deepfakes,保护用户免受假新闻的误导。

▲Deepfakes换脸技术

南京市娱乐世界餐饮管理有限公司

地址:北京市顺义区后沙峪绿地启航国际二号楼1105

售前热线:4008-688-688

邮箱:47150635@qq.com