在未成年人保护中,那些技术解决不了的事才是最重要的

小黄鸡

小黄鸡

· 2020.11.26

如何让不太懂智能手机的家长学会管理设备,学会与孩子沟通,这才是最重要的。

播放 暂停

在未成年人保护中,那些技术解决不了的事才是最重要的

00:00 17:27

图片来源@视觉中国

图片来源@视觉中国

张晓京今天是早班,按说18点就可以下班了,但她还在对着满屏数据判断这是不是一个未成年人使用的账号。

她是腾讯成都未成年人游戏服务团队的客服,每日根据用户提供的资料处理涉及未成年人充值的退款申请。

时针再往前拨两年,她需要每天往外给腾讯游戏用户打电话,确认刚充值的大额消费是本人所为,200多万通外呼电话的数字就是她和同事们一通通电话积累来的。

现在她依旧得每天往外给成年人们打电话,但被骂神经病的情况估计比之前少多了。因为这些退款申请背后的家庭们,都在等着她。

“我的孩子沉迷游戏,我该去找谁负责?”

在张晓京的工作之前,有客服同事需要先做简单的 “筛选”,把每日接听的退款申请记录下来,并让对方提供游戏账号、身份证和户口本照片、充值记录截图等资料。

能顺利在第一次打电话中完成以上步骤的家长并不多,很多家长不知道孩子的游戏账号叫什么,不知道孩子是从什么时候开始玩的,不知道孩子是在电商平台充值的,甚至不知道这个游戏其实不是腾讯的游戏。

张晓京所处的客服岗位的权限比我想象中的要高——了解完退款申请的账号使用时间、未成年人的年龄等信息,不用给上一级汇报再等一轮批准,就可以直接决定是否退款。

在客服中心的内部系统中输入游戏账号,算法会针对疑点先给出初步的判断,之后,是否退款以及退多少钱就靠客服沟通判断了。

可以说,在退款这件事上,技术能解决的问题有限。

有一些申请显然微妙到很难用已有经验去分辨——退款申请的未成年人只有九岁,账号则是4年前建立的,玩的游戏是《斗地主》,遇到这种单子,张晓京就只能多打电话向家长了解情况。

客服做久了,也会遇到一些极端案例,比如一位父亲在申请退款过程中气从中来,在电话那头直接打起了孩子。

但在我跟台的一下午中,一位行为毫不过激的母亲给我留下了最深的印象:家长申请退款的游戏是《王者荣耀》,孩子从2017年开始玩,马上15岁了,三年内断断续续充了1万多元,还偷家里的钱买了部手机。

家长最近才发现这笔支出,那位母亲说自己家是做生意的,当初没留意这笔钱,她的诉求只有两点:退全款,把孩子账号封禁掉。

她语气平淡地说出自己的诉求,说到最后才带了点情绪:“我的孩子沉迷游戏,我该去找谁负责,你们知道你们的游戏有多少孩子在玩吗?你们为什么要做游戏?”

而她在说这句话时,可能不知道自己孩子昨晚又在玩这款游戏,也可能是她知道,但她不愿意与孩子沟通,或者亲子关系已经破裂到了无法对话的地步。

这位母亲态度带来的窒息感已经让我后背开始出汗了。坐旁边的张晓京神色如常,手里掰扯着公司统一发的解压玩具——一个蓝色的菠萝。

当然,知道能全数退款后,大部分家长态度还是非常好的。一位父亲对张晓京连说了两次谢谢,但当张晓京说要把申请退款的账号封禁后,家长有点着急了:“能不能不封账号啊?”他害怕孩子会不开心。

张晓京接触得多了,心里也有判断:这位父亲应该不太能管得住孩子。之前也有账号被封后,孩子又哭又闹,家长再打来电话要求解封账号的事件。

但将账号封禁是内部规定,她只能建议家长再跟孩子沟通下,重新在其他区建一个未成年人实名制账号。

我们之后谈到更具体的退款决策过程,张晓京说:“对于没什么疑点的退款申请,能退就退。你今天下午看的单子算是比较简单的。”

“那什么算是比较复杂的?”

“就是那种成年人和未成年都有消费和使用过的账号。今年这种单子格外多,因为疫情期间,小朋友在家上网课都得用手机。

你想啊,上网课明明只用两个小时,但小孩子在房间里面坐了4个小时,而且现在小孩都比较聪明,他就全把那些支付记录给你删完了,家长根本就不知道。 ”

和张晓京聊天之前,成都客服中心未成年人游戏服务团队负责人陶金也称,他们今年明显发现设备共用的情况越来越多,有的时候屏幕前是未成年在玩,“(但)从账号行为来看,它就是一个成年人正常的微信账号。”

在他们收到的退款申请中,孩子的设备获取场景68%是上网课,16%是父母无暇照顾孩子就主动把设备给孩子,11%是孩子日常娱乐索取设备,5%是隔代抚养下,为安全管束孩子的方式。

深水区

钛媒体App之前对腾讯游戏未成年人保护体系进行过报道:「成长守护平台」是于事前,家长在玩游戏这件事上给予未成年人关注、引导,起得是预防的作用;「健康系统」则在未成年人游戏中,企业起到监管、限制的作用;「少年灯塔」是企业提供的事后服务,比如张晓京现在正在进行的退款业务。

其中,「成长守护平台」和「健康系统」是守在成人游戏世界的两道关卡——家长主动把孩子账号绑定到成长守护平台,基本不会出现孩子过度游戏时长和大额充值的事。

但更多的家长或更相信自己孩子的自控能力,或压根不知道这个平台的存在。

因此,「健康系统」的主要任务一直是尽可能精准地找出未成年用户,全面实名制、接入公安权威数据平台、上线人脸识别功能、建立一套识别疑似未成年人用户的算法都是为了解决这个问题。

如果未成年人一路过五关斩六将避开「健康系统」进行了大额充值,「少年灯塔」接到退款申请后就会开始核实账号信息进行退款。

腾讯内部将以上架构和功能的建设称为腾讯未成年人保护体系的1.0和2.0阶段。

今年,他们称腾讯未成年人保护体系进入到3.0阶段:在对已实名未成年人“限玩、限充、宵禁”基础上,专门针对“孩子冒用家长身份信息绕过监管”的问题,扩大人脸识别技术应用范围,对疑似未成年人的用户进行甄别。

也就是说,他们现在重点要研究并解决那些绕过健康系统的案例,“有些孩子冒用家长的身份信息或者是他人的身份信息绕过了我们游戏里面的限制,这部分的孩子,我们要把他管起来。”腾讯团队认为,尝试解决这个问题的他们现在是来到了深水区。

疫情也催熟了这些问题——当孩子声称用手机上网课,和家长共用设备时,如何精准识别这段时间是孩子在使用账号;事后,如何分辨背后使用的人;如何让不太懂智能手机的家长学会管理设备,学会了解孩子。

这些问题里,能用技术完全解决的并不多。

技术能解决什么?

找出解决方法之前,我们需要先还原未成年人成功充值或超时长玩游戏的情景。

根据媒体报道的几例疫情期间未成年人充值事件来看,发生条件之一是孩子使用着家长的设备,设备中有支付宝、微信等支付方式。

其中肯定有系统未检测出疑点的情况,而在大部分情况中,家长的游戏账号可能已被记录为成年人,或者,当算法检测出未成年人行为时,孩子让父母或非父母的成年人通过了人脸识别。

那些孩子给家长说的理由也有理有据,让人不忍拒绝,比如学校要交材料需要家长照照片。

有一份退款申请就显示,未成年人使用的账号在7月、9月3次触发了人脸识别并成功通过,系统确认为成年人操作,且与实名认证信息相符。实际情况是,未成年人的母亲在不知情的情况下,被孩子要求帮忙进行了人脸实名,事件里的未成年人只有9岁。

另一个必要条件是孩子通过偷看/根据生日等信息猜测尝试/父母告知等方式知道了家长的支付密码。

游戏公司的技术在其中可以做的是:再一次加强检测和验证力度,并尽量减少父母不知情的情况。

今年10月21日起,腾讯在人脸识别验证流程中上线了语音播报和画面提示的功能:若用户在游戏充值环节触发人脸识别验证,系统将自动进行语音播报及画面提示,让家长清楚这次人脸识别是在帮孩子往游戏里充钱。

此功能上线后,下方评论提出了更多建议,如提示音量必须是系统设定好的,不能通过人工关闭或调低,且要求家长大声读出“我要充值 ”句子。

腾讯团队称,未保3.0应用到的人脸识别技术,原理是将用户面部信息与公安权威数据平台数据源一比一比对,也曾考虑让家长读出句子再充值。但这也带来一个问题,就是过于简单固定的语句,容易被地下黑产破解,另外也有一定概率会损害成年人的游戏充值体验。

也有很多用户提出无差别人脸识别的建议,即每一位玩家在每一次登录、支付环节都进行人脸识别。但他们完全忽视了背后巨大的技术和经济成本,以及目前用户最注重的隐私问题,这个建议的可行性并不高 。

而在发现技术无法完美解决一些问题后,深水区里的另一块暗礁也越来越明显——那些用技术怎么也解决不了的问题,比如面对学习能力极强、每日畅游在互联网的孩子们,家长该如何管理教育 。

在「腾讯未成年人家长服务平台」小程序中,家长将会收到一份关怀问卷。问卷填写过程能帮助家长还原支付失控过程,给予不同场景下的教育技巧,获取管理孩子账号、与孩子平等沟通等问题的解决方案。每一种方案中也都针对不同场景提供了详细的步骤。这些文字精准严肃,但又有点苍白无力。

因为面对这些详细到甚至有点苦口婆心的步骤,有多少比例的家长会去学习并照做?执行后,又有多少比例的家长可以解决问题?这些数字都很难得到解答。

同时,还有一些无法提供步骤去解决的难题,一个案例是,一位家长提供的充值记录的金额远远超出孩子自己游戏账号的充值金额,后来客服了解到,孩子是在学校遭受了校园霸凌,而家长对此一无所知。

就这样做着做着,他们又陷入到另一个漩涡里:对于企业来说,未成年保护工作的边界到底在哪里?

边界

陶金从2017年开始接手成都客服中心的工作,最早他是认为自己在解决问题——打电话核实账号信息,解决家长的退款申请;到中段,他发现他们提供的服务和游戏产品运营的联系紧密了起来;到了第三阶段,他希望这个团队能在公共服务上更有温度、付出更多。

家长孩子双方与客服的沟通中,大部分问题其实属于亲子关系的范畴。客服中心有设置对孩子和家长心理辅导的岗位,如果客服在整个电话沟通过程中,认为家庭的亲子关系比较紧张,或冲突性很大的,他们也会主动向家长提出来需不需要这个服务,最终由家长决定是否参与。

现在,陶金想得更多了起来:

“技术永远会有一个瓶颈。它(未成年人保护)应该是有组合拳的感觉,又有技术,又有服务上的交互,还要有和家长的沟通和教育,然后再加上媒体从业者对于大众的传播,甚至是立法层面上的一些推动,才能把整个事情做得更好一点。所以现在会发现,我们各个层面都在做,我们服务也要跟上。”

在陶金说这段话的前一天,他们团队又在想有什么方法既能解决未成年人绕过健康系统的问题,又能兼顾成年玩家的体验。

孙宏艳在旁边听着,忍不住开口:

“我觉得作为企业,还是要做好主业。这些问题很多真的都不是靠技术能解决的问题。我们只能说,我们在技术的优势下能做到一定的程度,然后能承担一定的责任社会,我觉得就够了。如果太有洁癖了、太有完美强迫症的话,我觉得也是一个问题。”

孙宏艳是中国青少年研究中心少年儿童研究所所长和研究员,她认为,有关孩子与游戏的问题,其实都是现实问题的线上化。孩子在游戏里大额消费这件事,放到十年前看,就是家长管不住自己的钱包,属于教育问题。

中国青少年研究中心去年发布了《中小学生网络游戏的认知、态度、行为研究报告》,对矛盾背后的家庭问题进行了全面的调查研究 :

亲子关系的紧密程度、表达类型和发展方向,与“网游”沉迷的起因和状态,有着高度相关性:民主性、开放性的家庭,往往具有更好的亲子关系。广泛的话题可以在更全面、更客观的对话基础上交流,对“网游”之利弊、长短,孩子会更早地产生理性认识,从而改变自己的行为。

苑宁宁又往外延伸了一下,他发现,不仅是孩子沉迷游戏或超额消费,还有更多关于未成年人的现实问题,比如性引诱、性猥亵等问题,都被互联网以线上的形式呈现并放大。

苑宁宁是中国政法大学副教授,他参与了《未成年人保护法》于今年的第三次修订修订后的未保法共132条,新增了“网络保护”和“政府保护”专章,并强化了监护人的第一责任。

在修订内容中,“国家建立统一的未成年人网络游戏电子身份认证系统。网络游戏服务提供者应当要求未成年人以真实身份信息注册并登录网络游戏”无疑是技术方面最有效的问题解决方式,但落地过程注定复杂漫长,而互联网与孩子家长三方之间的矛盾已无法再等待下去。

“在一审稿过程中,网络保护专章原来只是写互联网企业和服务平台的责任,但现在,我们也把学校家长那部分责任全加进去了,就是为了给大家一个感观:网络保护不仅仅是平台和企业的责任。”

但苑宁宁他们也清楚,相比孩子,家长群体的网络素养较为落后,且培养也需要一定的过程。

在这种情况下,他认为获取了数据红利的互联网企业得负责比较重的责任,“因为其他群体没有这个优势......所以现在我们正在制定那样一部法律,就是家庭教育法。我们通过提高家庭教育指导服务,去提高父母的教育能力,包括引导孩子正确上网的能力等,政府也在想办法。”

腾讯未成人保护团队也有这个意识,退款是未成年人保护链条中的最末端任务,他们一层层往上回溯:如果在游戏中就能识别出未成年人,不让他们充值,那就不用让家长这么辛苦地申请退款了;再往上,如果家长能早早将孩子账号绑定到「成长守护平台」上,那就不会有「漏网之鱼」了。

所以,那些技术解决不了的事可能才是最重要的,即培养家长的教育能力,让他们了解并开始使用「成长守护平台」,让他们知道如何处理孩子与游戏或是移动互联网的关系。

孙宏艳觉得企业目前的重点还是宣传:“我觉得作为企业不能纠结,该承担的社会责任是要加强好宣传,尤其是农村地区,我觉得他们的问题更大。现在农村的互联网用户数据开始上来了,而爷爷奶奶等留守儿童的监护人更不了解网络,我一直觉得这个宣传应该加大。”

腾讯也去一些农村地区使用拉横幅的方法宣传过,但让老人们注意到并弄明白这些文字都不太容易,让他们一步步摸索着绑定信息就更难了。

我跟台的一下午中,有位婆婆的外孙在游戏里充了钱,了解到孩子妈妈在外地后,客服第一反应就是先问妈妈手机号直接与家长沟通,但婆婆就连搞清要让他们打给哪个女儿都得好几次沟通,我们也能预估到,之后孩子妈妈与这位婆婆之间的沟通成本有多大。

所以,成长守护平台现在也开始做一些视频内容上传到微信视频号上,和他们之前一直做的文字内容一样,除了向家长介绍成长守护平台的内容,还有一些关于教育、亲子关系的内容。

讨论着,孙宏艳又提了一个建议:“去地铁投放会不会更好呢?”

这样的宣传也不是没有做过,腾讯在深圳地铁投放过成长守护平台的广告,在其中放上了之前一位家长给他们的留言:“作为母亲,从望子成龙到希望孩子身心健康就好。想让他成绩 拿班上第一,可我薪水也没到部门第一呀 。他比我好,就是进步。”

这件事最后的结果是,这段话被另外一些家长投诉了。(本文首发钛媒体App,作者丨小黄鸡,文中张晓京为化名)

本文系作者小黄鸡授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

”支持原创,赞赏一下“
钛粉54090 钛粉38514 钛粉80481 钛粉38730 钛粉38440 钛粉38714
430人已赞赏 >
430换成打赏总人数430人赞赏钛媒体文章
关闭弹窗

挺钛度,加点码!

  • ¥ 5
  • ¥ 10
  • ¥ 20
  • ¥ 50
  • ¥ 100

支付方式

确认支付
关闭弹窗

支付

支付金额:¥6

关闭弹窗
sussess

赞赏金额:¥ 6

赞赏时间:2020.02.11 17:32

关闭弹窗 关闭弹窗
  • 王糈 王糈
    回复
    0

    张晓京 哈哈哈

    2020-11-30 14:38 via pc
  • 钛iGinMJ 钛iGinMJ
    回复
    0

    技术解决不了的才是难的,很多家长做人做事都是糊涂蛋,你指望他们能教育,比提高技术更难

    2020-11-26 11:17 via iphone

Oh! no

您是否确认要删除该条评论吗?

注册邮箱未验证

我们已向下方邮箱发送了验证邮件,请查收并按提示验证您的邮箱。

如果您没有收到邮件,请留意垃圾邮件箱。

更换邮箱

您当前使用的邮箱可能无法接收验证邮件,建议您更换邮箱

账号合并

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。无论您选择哪个账号,两个账号的原有信息都会合并在一起。对于给您造成的不便,我们深感歉意。