喜马拉雅 PC端文章详情页顶部23-26

ZAO被约谈,天下苦人工智能窥探用户隐私久已

随着人工智能时代的到来,用户隐私问题逐渐暴露出来,科技企业正在面临着这一严峻考验。

【本文正在参与钛媒体最新一期竞拍话题《当智能“飞入寻常百姓家”,不同场景的痛点如何解决?》,奖励丰厚,如有不同观点,欢迎投稿来辩!】

最近一款名为ZAO的APP火了,用户只需上传一张照片,通过AI技术替换短视频中某位演员的脸,满足用户出演经典影视片段,跟偶像、好友飙戏的愿望。

但ZAO一夜走红之后,霸王条款、信息安全、用户隐私、伦理道德等各种问题纷至沓来,可以说这是AI技术首次在一款APP上引起用户恐慌,接着工信部就“ZAO”App网络数据安全问题开展问询约谈。

可以看出,随着智能化时代的到来,人们在不同场景享受智能生活的同时,面临着怎样的隐私安全问题也随之暴露出来。

人工智能无处不在,我们的隐私正被人窥探

人工智能的核心技术是数据与算法,智能设备往往拥有出色的隐私数据收集能力,这意味着人工智能越智能,就越需要海量的个人信息作为支撑,同时也意味着处理个人信息的能力也就越强。

例如,当你和朋友家人私下开怀畅聊时,安装语音识别技术的智能助手正在记录着你们所说的每一个字;而借助图像识别技术,无处不在的数字摄像头就像安装了大脑的眼睛一样,可以精准地从人群中自动识别人脸,锁定监控对象,甚至预测和判断人的行为。

另外,人工智能技术也极大增强了对网络空间的直接监控能力,人们利用网络搜索过什么,购买过什么,与哪些人聊过天、甚至聊天的内容等无不处于监控之下。

涉及到居家生活场景则更令人细思极恐,智能手表上的生物感应器,能测出你真正在晚上几点睡;智能扫地机上的激光探头,分分钟就能把你家床底有没人探得一清二楚;而智能摄像头更不必说,结合红外镜头,即时在没有亮光的暗夜里,也能真实记录下你房间发生的动人小故事。

当年的艳照门事情向人们表明,自主记录生活的习惯也是不安全的,除非你能保护好你的硬盘。但是,智能设备让用户没有选择,它们无时不刻都在为用户发布作品,上传用户的隐私数据。

能根据食材给你推荐菜谱智能电饭锅很强,但这都是上传你平时做饭的数据基础上实现的;能每天为你拉窗帘、开灯、开空调的智能家居很炫,但不把你每天作息行踪一一反馈给服务器,怎能化身贴心管家。

只不过,这些隐私数据只向特定方向传送,并不是公诸于众,即便如此,我们凭什么能够相信那些企业能够保护好我们的数据呢?

算法让我们无处可逃,其弊端也已显现

来看一下这个案例,当你用谷歌搜索本地的塔吉特商场,驱车前往以现金方式购买一台游戏机,然后在回家的路上用万事达信用卡为车加满了油。

对此,三个独立的公司分别获取了上述三种信息:谷歌公司只知道你搜索了塔吉特商场,但不知道你是否去过那里或者购买了什么商品;塔吉特商场只知道你购买了一台游戏机,但并不知道你是如何找到这家店的;而万事达公司知道你用信用卡加了油,但并不知道你做的其他两件事。

然而,如果你有一台谷歌自动驾驶汽车的话,那么一切将变得简单,谷歌公司将知道你搜索了塔吉特商场,知道你前往这家商场购买了一台游戏机,还知道你在回家的路上去了加油站。

通过自动驾驶汽车,谷歌公司将你所有的行动串联起来,并可能在未来利用它们向你推销产品。

如同我们在京东上搜索一款苹果电脑后,刷朋友圈时立马看到这款苹果电脑的广告一样,当你的觉得这很神奇的时候,实际上却是别人出卖你的隐私换来的。

众所周知,人工智能具有超强的“画像识别”能力,借助物联网、大数据等技术,人工智能的数据整合和分析能力得到了极大的增强,能够轻易地描绘出用户的完整“画像”。

这种超强的数据整合和分析能力,意味着人工智能能够轻易地取得用户的完整“画像”,从而掌握着我们生活的动向,尽管如此,人工智能也存在很多弊端。

如果说数据是人工智能的基础,那么算法就是人工智能的本质。正是算法的不断突破,人工智能才得以像人一样智能,才能独立于人类的干预实现自动化决策,为人们提供极大的便利。

然而,人工智能的自动化决策并非真的完美。2016年举行的首届“人工智能国际选美比赛”,由于训练人工智能的照片没有包含足够多的非白人面孔,结果导致绝大多数获奖者都是白人选手,开发人员却很难识别或解释其决策背后的逻辑原理。

因而,人工智能自动化决策的歧视和不透明问题,也对于隐私保护提出了更加复杂的挑战。

保护隐私不仅要靠法律,用户自身也要提高警惕性

面对人工智能时代的隐私危机,早在2016年欧盟就通过《一般数据保护法》(General Data Protection Regulation)对用户隐私做出了相关规定,主要涉及明确调整对象、增强信息处理的透明度、拓展用户权利等方面。

该法第13条和第14条规定,对于涉及包括识别分析在内的自动化决策的情形,数据控制者除了向用户披露数据控制者的身份、数据处理的目的、数据的种类等通常需要披露的信息之外,还必须向用户提供自动化决策过程中所运用的逻辑程序信息、该处理的重要性以及其对于用户可能造成的后果。

用户有权要求数据控制者删除其收集的所有个人信息,这极大增强了用户对于个人信息的控制。

用户有权将数据控制者收集的个人信息畅通无阻地直接迁移至新的数据控制者,这对于以数据为基础的人工智能企业来说,无疑是一项很好的回击。

如此一来,那些无法取得用户信任的人工智能企业将会陷入困境,因为他们将失去训练人工智能的基础数据。

而今年6月,我国新一代人工智能治理专业委员会也发布了《新一代人工智能治理原则——发展负责任的人工智能》,要求人工智能发展应尊重和保护个人隐私,充分保障个人的知情权和选择权。

人工智能从业人员要树立社会主义核心价值观,加强自律,规范技术应用的标准、流程、方法,最大限度尊重和保护个人隐私。

对于用户来说,除了享有法律层面的保护外,还要通过操作进行自我保护。首先要对智能设备设置可靠的密码,不少智能设备是需要输入密码后才能访问的,例如很多智能摄像头就是如此,必须输入绑定的帐号密码信息才能使用网络远程访问的功能。

其次,要避免智能设备暴露在公网之上,对于个人设备来说,暴露在公网会大大增加风险,如果你具有一定的网络安全知识,可以通过路由器对智能设备进行端口映射,让智能设备使用冷门端口。

另外,要对智能设备的一些分享功能提高警惕,一些用户喜欢把智能摄像头这类设备安装到自家卧室这类完全属于私人的场合,而智能设备往往还会带有分享这类的功能,例如跑步后可以把智能手表的心率、GPS等信息分享到网络上,某些智能摄像头甚至还带有直播!

不得不说,人工智能已然是时代发展的必然趋势,无可阻挡,这应该是全社会的一个共识。

然而,避免野蛮生长的方法不仅需要法律约束,更加需要提高企业的自觉性和用户对自我隐私保护的认知,只有我们共同努力,在不久的未来才能看到人工智能得到飞跃式的发展。

本文系作者 植了发的程序员 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 天下人苦秦已久啊!

    回复 2019.09.05 · via android
  • 智能产品仍然处于不成熟阶段,对于普罗大众来说,智能化时代还远远没有到来,很多科技企业都是在野蛮生长,相关法律并未做出严格规范。未来,谁能保护好用户隐私安全,谁就能占领行业高地。

    回复 2019.09.06 · via pc
  • 现在越来越多的国人买车不再认品牌的附加值,自主品牌在智能化方面发力,可以很好的形成弯道超车,从而提升自己品牌、产品的购买力。

    回复 2019.09.06 · via pc
  • 被约谈的事件表明,人工智能存在的用户隐私安全问题已经暴露出来,只要涉及到智能产品,或多或少都有这方面的问题,良心企业应当以保护用户隐私为己任,这样才能让企业品牌真正占领用户心智。

    回复 2019.09.06 · via pc
  • 曾经看过一部剧,叫超少年密码,里面也描述了当时AI机器人的一些研发状况,想象一下,在未来的智能生活里,如果拥有了一台有感情的机器人,到时候人类的状况又该是如何,在现阶段吧,个人觉得对人工智能不要太乐观也不要太悲观,将来的变化谁都猜不到。

    回复 2019.09.06 · via pc
  • 说到人工智能吧,不同年代的人是有着不同的态度和看法的,我是90后,就感觉虽然很方便,但是也有它的危险之处,我妹妹是00后,她就秉持着一种批判的看法,感觉这技术感觉还没有完全走向成熟,值得进一步提高,那对于老一代人,是否接受人工智能还真不好说。

    回复 2019.09.06 · via pc
  • 近期,我关注的各大公众号都在转载一款关于“ZAO”人工智能软件的隐私泄露软件,要不是新闻报道,我还真不知道有这个APP,同时也暗自庆幸自己没有踩坑,不过这年头,隐私泄露真的很恐怖,n个骚扰电话,诈骗邮件,等等,真的感觉没有原来安全了,希望未来的智能技术能把这个问题给解决啰!

    回复 2019.09.06 · via pc
  • 这也是没办法的事啊

    回复 2019.09.05 · via pc
9

扫描下载App