AI换脸骗过App,林俊杰和我们都怕

IT时报

IT时报

· 10月14日

在千千万万普通人的生物信息被利用之后,一条流传、贩卖个人隐私的链条正在暗处肆意生长。

播放 暂停

AI换脸骗过App,林俊杰和我们都怕

00:00 07:45

钛媒体注:本文来源于微信公众号IT时报(ID:vittimes),作者丨潘少颖 江丽雯,编辑丨王昕 挨踢妹,钛媒体经授权发布。

AI换脸有多逼真?最深受其害的明星终于忍受不了了!

就在几天前,B站(哔哩哔哩)和B站上的一个UP主被林俊杰告了,而且林俊杰胜诉了。目前这位UP主需要向林俊杰赔偿27.5万元,原因是这位UP主用AI换脸技术制作了大量林俊杰的鬼畜视频,从而侵犯了林俊杰的肖像权。

图源:天眼查

林俊杰不是第一个因AI起诉的明星,也绝不是最后一个。

与明星相比,更惨的是普通老百姓。明星可以靠自己身上的光环,吸引全社会关注,而当普通人的脸被“偷”走了,他们该怎么办?在千千万万普通人的生物信息被利用之后,一条流传、贩卖个人隐私的链条正在暗处肆意生长。

图源:网络

01、明星频中招

早在2019年,国内就掀起了一股“换脸”风潮。

B站UP主“换脸哥”将94版《射雕英雄传》影视片段中演员朱茵的脸替换成杨幂,迅速在网上发酵并引发争议,B站视频截至删除前点击量超20万,微博话题阅读量1.3亿。

这次恶搞林俊杰的视频也来自于B站,B站的鬼畜区是“换脸重灾区”之一。《IT时报》记者打开B站搜索“换脸”,出现数千个相关视频,包括“宋小宝换脸彭于晏”“贾玲和沈腾版女儿国桥段”“复仇者联盟演起武林外传”等。除了在特写镜头时,会出现肤色、光影等细微瑕疵,这些换脸视频整体看上去几乎以假乱真,将偶像的脸换到相应角色中成为网友的搞怪“新口味”。

图源:Bilibili

就在林俊杰状告B站UP主之前,8月28日,艺人刘昊然的工作室也发布声明称,有人利用AI换脸技术传播对刘昊然带有侮辱性的视频、截图,同时还含有诽谤言论的聊天记录。该工作室表示,今年1月就曾被恶意传播,目前已向警方报案。

据外媒报道,海外明星同样深受其扰,泰勒·斯威夫特、艾玛·沃特森等多位女演员也曾被换脸成为不雅影片的女主角。

02、“换”起来很简单

为何AI换脸技术的声势如此浩大?原因在于技术成本和经济成本的门槛都不高。

不需要先进的装备,只要一个软件就可以。比如陌陌旗下的“ZAO”就因为人脸合成视频火爆一时,只需要上传一张自己的照片就可以把自己的脸换到一位明星的头上,融合效果非常好,但这款软件没红多久就因为隐私、伦理等问题备受舆论的诟病。

在B站上,除了有UP主自制的换脸视频之外,换脸教程也是受到欢迎的热门内容之一,点击量最高的超过20万。

《IT时报》记者在QQ群里搜索“换脸”,相关群有数百个,热度最高的一个群以定制视频换脸、图片换脸等为主要业务,群成员接近400人,并且开发了QQ小程序“八零换脸”和微信小程序“换脸变装秀”。

图源:QQ

03、骗过肉眼 

低成本、低门槛地获取和运用,让不法分子打起了“AI换脸”诈骗的主意。近来,有不少关于“人脸识别”的案例。

南京警方曾接到小李(化名)报警称,被诈骗3000元。小李介绍,大学同学通过QQ向她借钱,对方打过来一段四五秒的视频电话,小李看到确是本人,便放心转账。但在第二次转账时发现异常,再次拨通对方电话才得知同学的账号被盗。警方判断,那段视频很有可能被人换了脸。

江苏常州一90后小伙因好奇和骗子“过招”被骗11万,小伙子明知可能遇到了裸聊骗局,但出于好奇想看看骗子是怎样实施诈骗的。结果只因露了一下脸,就被骗子的AI换脸技术坑了。骗子给他AI换脸伪造了一段“裸聊视频”,告知如果不“花钱消灾”,就让他抬不起头。无奈小伙将仅有的11万元全部转账后,骗子才罢休。

04、逃过系统

对普通人来说,大家都是肉眼凡胎,AI换脸后得到的视频确实真假难辨,但更吊诡的是,如今一些需要人脸识别的App也可能被一张会动的“假脸”所蒙蔽,AI换脸可以骗过开卡环节中的人脸识别系统。

据媒体报道,近日,上海市虹口区人民检察院通报了一起利用人脸识别技术,为他人开具增值税普通发票价税合计超过5亿元的案例。犯罪分子通过相关政务平台完成注册“皮包公司”,通过平台上人脸识别是注册成功的关键环节。

应用商店里的“活照片App”

据犯罪团伙中专门从事人脸识别破解的成员表示,一般先从他处以每个30元的价格购买他人的高清头像和身份证信息,再利用“活照片”等App对高清头像进行处理,让照片“动起来”,形成包括点头、摇头、眨眼、张嘴等动作视频,骗过平台人脸识别验证系统。据犯罪分子交代,其破解的App涉及政务、安防、金融、支付、生活消费等,这些App在大多数应用市场都可以下载。最终,涉案人员因犯侵犯公民个人信息罪被追究刑事责任。

05、App活体检测标准有待提高

互联网上充斥着大量的人脸和身份信息,这些信息为犯罪分子提供了“养分”,而一些App对技术的把关不严则又为虎作伥。

极棒实验室安全研究员宋宇昊曾经做过此类实验,通过破解可以骗过一些App的人脸识别系统。

“技术上并不难,先选取一张要伪造的人的照片,提供给特定的avatarify的AI程序,随后攻击者用连接着该AI程序的摄像头对着自己,自己根据App人脸识别的提示进行眨眼、张嘴等动作,照片就会跟着攻击者同步学习这些动作,从而骗过一些App的人脸识别系统。”宋宇昊告诉《IT时报》记者,现在能被破解的App多数采用识别表情动作的方式来做活体检测,这是比较容易被破解的。

宋宇昊还表示,一些安全做得好的厂商改进了活体检测技术,破解就有难度了。“比如像进行随申码等人脸识别验证时,会有红绿蓝光在人脸周边闪烁,这种就比较难破解了。”

据了解,有的光主要捕获摩尔纹、反光、人脸畸变等信息,有的光则捕捉手机边界、纸张边界等明显攻击信息,还有的光捕捉相关背景信息。

图源:东方IC

技术的不断迭代,让通过“深度伪造”技术制造出人类用肉眼无法识别的“假脸”成为可能,数据隐私、技术滥用等引发的安全问题愈演愈烈将为社会公共治理带来严峻挑战。对于人脸识别的发展,有专家用“泛滥成灾”来形容。

清华大学法学院长聘教授劳东燕曾对媒体表示,人脸识别应用的最大获益者不是普通的用户或消费者,而是给企业、产业界、相关部门带来便利,企业获得盈利,相关部门在管理上更加方便,但却把风险主要转嫁给了作为用户的个人,这对普通社会公众来讲并不公平,推广人脸识别技术应当持谨慎态度。

业内人士建议,监管方可以推出App活体检验的技术标准和门槛,特别在金融等与个人财产相关领域防范伪造假脸带来的财产损失。

本文系作者IT时报授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本文观点仅代表作者本人,钛媒体平台仅对用户提供信息及决策参考,本文不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

Oh! no

您是否确认要删除该条评论吗?

注册邮箱未验证

我们已向下方邮箱发送了验证邮件,请查收并按提示验证您的邮箱。

如果您没有收到邮件,请留意垃圾邮件箱。

更换邮箱

您当前使用的邮箱可能无法接收验证邮件,建议您更换邮箱

账号合并

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。无论您选择哪个账号,两个账号的原有信息都会合并在一起。对于给您造成的不便,我们深感歉意。