更多科技热点解读,快关注“差评”!
上周末中午差评君刚一睡醒,就发现自己手机里的朋友圈和讨论组被一件事情刷屏了。。。
热闹的票圈截图
可能有一些差友还不知道怎么回事,所以差评君还是简单介绍一下,带大家凑凑热闹~
在这款名为 ZAO 的软件中,你只需要上传一张照片,就能把电影片段里面的周星驰、陈冠希、吴彦祖等人的脸,替换成你自己的脸。
效果还真的挺棒的。。。
差评君特地找愿意的小伙伴借了张照片,给大家演示一下。
陈冠希原版片段
换脸后片段
这个效果,大家感觉如何?
ZAO 给用户换脸的技术名为 Deepfake,这个技术早就存在了。
去年年初,差评君还试过用这技术把石原里美的脸合成到了小短片里。
之前换脸哥把杨幂的脸换给朱茵,也是用的这个技术。
电影原图
换脸后
但,不同于之前需要钻研技术、训练素材。使用 ZAO 你仅仅只需上传一张照片就能整出非常叼的效果。
傻瓜式的操作,好玩的效果,还牢牢抓住了用户们酷爱自我表达的心理。
聚集了多个成功因素的 ZAO 就这样在朋友圈成功刷屏,让大家享受着技术带来的趣味和新鲜感,其乐融融~
可,等大家睡了一觉醒来后,风向彻彻底底的变了。
首先,有网友从隐私层面提出了质疑。。。
把自己清晰的正面照片上传给了 ZAO 安全嘛?
听说不排除有用作色情用途的可能。
因为 AI 换脸技术之前也被用在情色视频黑色产业链中,被用于制作小视频也是完全有可能的。
其实 ZAO 的功能目前来说还是很克制的,用户不能通过它提供的技术自己整小视频,只能使用它给的模板,在模板的基础上进行换脸。
ZAO 并没有给大家提供技术让大家制作小电影。只要它的信息不泄露,那么这个锅就不该它背。
事实上,Deepfake 技术是一个存在已久的算法模型。真有人想要用它给你做小黄片的话,只要训练一个 Deepfake,再从你社交平台上扒张照片就行了。
除此之外,还有一撮人挺担心认证时脸被人录下来了。是不是明天自己的支付宝、银行卡就要被人刷开了?
要解释清楚这个问题,那咱们就不得不聊一聊“ 生物识别技术 ”了。
生物识别技术简单来说,就是计算器通过光学、声学等各种传感器结合人的固有生理特征去鉴定个人身份的技术。
像人脸识别、虹膜识别、指纹识别都属于生物识别技术。具体种类还挺多的~
对普通用户来说,AI 换脸后的视频就像是他们本人的视频,足以以假乱真,通过安全识别。
但,对于生物识别技术来说,用照片、视频冒充的图像跟活体识别是有差异的。
比如说但你使用照片、视频时会产生反光,有时会有边框。这些因素的存在都会让它怀疑你是不是活体~
从而阻止你通过识别。
一个简陋的示意图
更强悍的活体检测还能通过皮肤纹理等更精细的因素,判断对象是活体还是视频。
如果你选用的是足够靠谱的机构保管你的钱财,那大可以放心。他们对生物识别技术的研究不会太弱,不会被一个视频就把钱给骗走的。
实际上,该骂的是 ZAO 的“ 霸王协议 ”。。。
在这款软件的用户协议里,有着个别令人难以理解,也不怎么合乎法规的条款。
先看原文。
什么意思呢?
在你同意使用这个 APP 时,就表示你同意它永久、不可撤销、免费的使用你的肖像权,并且有二次修改的权利。
而且不止是要给它,连它的关联公司我都得给。。。
再来一条。
要是这些电影片段里的主角,比如陈冠希告 ZAO 侵犯了自己的肖像权,那 ZAO 可以直接甩锅给你,说是你侵犯的。
就算它有错,判了它赔钱,它也可以再找你来赔偿。
简单来说,就是横竖都跟它 ZAO 没半毛钱,都是用户的责任呗。
差评君可以理解你需要用户进行一定程度上的著作权授权,以免合理规避你的法律风险。
事实上,很多 APP 都会有这样的条款藏在用户协议里。。。
但是 ZAO 的用户协议中,无论是撇清责任还是索要权利都做的太过度了。如果初衷是为了免责,那应该把条款写的很具体才对,不应该这么大包大揽。
这样的完全不克制的条款,再加上它使用的这项技术本身就非常敏感。导致了群情激奋。
但他们已经悄悄修改了用户协议。
在用户协议的最开始,新增了可以依照规则 “ 撤回 ” 和 “ 删除 ” 的提示。
以及刚才差评君提到的几点,也做了微调。
但是差评君还是提醒一下,这样偷偷修改条款不太合适,应该在修改完用户协议后进行弹窗提示,并且再次要求用户的同意,才能让用户对你放心。
其实 ZAO 这款产品本身是一个好创意,也的确用技术给用户带来了欢乐。
本身类似 Deepfake 的换脸技术就非常敏感,在国内外都一直争议不断。ZAO 的用户协议本应谨慎小心,现在在用户协议的撰写上如此偷懒,让一款其实创意还不错的产品因此成为众矢之的。
希望国内在推出类似产品的时候,以此为鉴。
在尊重用户的同时,说不定也能给自己带来便利,和更好的口碑。
“ 千里之堤,溃于蚁穴。”
,