娱乐世界FakeApp则可实现AI换脸

2019-10-06 05:00 娱乐世界注册

有用户对此表达了担忧。网友“熙熙”表示:“会不会有人利用我发在社交平台上的自拍照去制作换脸视频呢?那样的话就太可怕了。”还有评论称,这个简单的应用可能会被居心叵测的用户利用,从而制作各种色情、暴力的虚假视频。

AI换脸背后是Deepfake技术,Deepfake指的是用人工智能软件制作的虚假视频,由FakeApp程序创建而成,FakeApp则可实现AI换脸。

ZAO App的突然走红引发了这波对于AI换脸技术的关注与讨论,但实际上,这项技术并不是最近才出现的。今年年初,一段通过AI技术将《射雕英雄传》中演员脸部替换成杨幂的视频在网络引起热议。目前,在一些视频网站上,仍有大量AI换脸视频。

40多位女星被换脸,上百部视频卖49元

换脸视频可定制,10元制作一分钟

视频换脸操作页面 受访者供图

9月2日下午,在某头部二手交易平台上,中新经纬搜索关键词“AI换脸”,系统提示“无法搜索违规信息”,但当搜索“换脸”时,可以检索到“爱换脸,全网最全、价格最低”“换脸合集 可试看”等卖家打出的信息。中新经纬与其中两位商家沟通后发现,他们在平台上所售的实为明星换脸的不雅视频。

此外,在其他一些电商平台上,还有卖家表示,可以提供视频定制换脸产品。只需要买家提供一些被换脸人的照片,卖家便可以将照片中的人脸“转”到特定视频中特定人物上去。

上述两位卖家均提出不要在二手交易平台上沟通内容,而是要求在QQ上聊。其中一位卖家对中新经纬说:“平台对这种信息监控比较严格,商品信息随时可能被删,我们也是抱着侥幸的心理,能卖一单是一单。”

此外,在一些与“AI换脸”相关的QQ群内,还有一些卖家称可以传授AI换脸技术,“包教包会,价格公道”,并且还可以赠送全套明星换脸视频资源。据了解,“学习”AI换脸技术的学费约在500元上下,最快四五个小时就能学会。

北京志霖律师事务所律师在接受中新经纬采访时表示,制造、销售AI换脸淫秽视频无疑已构成传播淫秽物品牟利罪,同时也涉嫌侵犯他人肖像权和名誉权。而对于购买AI换脸淫秽视频的买家来说,若对其加以传播或者以传播牟利,则也可能构成违法甚至犯罪。

在ZAO由于可能引发版权、隐私安全等问题引起用户广泛关注后,北京市安理律师事务所高级合伙人王新锐曾表示,ZAO这类利用深度学习技术换脸的软件,最大的问题还是大规模收集生物识别信息和“真假难辨”的Deepfake给社会带来的安全风险,而这种风险目前被公众广泛低估,但实际上已经在不断带来严重的后果。

南京市娱乐世界餐饮管理有限公司

地址:北京市顺义区后沙峪绿地启航国际二号楼1105

售前热线:4008-688-688

邮箱:47150635@qq.com