互联网平台的「小黑屋」,为何关不住网暴?

钛度号
10亿用户共享的网络空间内,暴力藏匿于各个角落。在这个人人皆可发声的时代,居于网络舆论场中心的社交平台,在防网暴方面做到了哪一步?为什么把施暴者关进“小黑屋”依然无法根除网暴?

图片来源@视觉中国

图片来源@视觉中国

文 | 豹变,作者 | 赵若慈,编辑 | 刘杨

三年前,25岁的B站UP主“卡夫卡松饼君”因肺癌离世,许多网友在她的微博下留言悼念,其中一条充满恶意的热评十分刺眼,只有短短五个字——“开香槟庆祝”。

松饼君生前经历了多次网暴,她的最后一条微博写道:“很多事情都是没轮到自己头上,所以能在旁边为虎作伥,叫嚷熏天。”

黄韩也有类似的感受。去年她从公司裸辞之后,在B站发布的第一条视频有5万多播放量。然而,随之而来的还有评论区和弹幕的质疑和攻击。黄韩对《豹变》表示,一条让她感到不舒服的评论,有200多人点赞。

2022年11月,中央网信办印发《关于切实加强网络暴力治理的通知》,要求网站平台建立网暴预警、保护、防扩散等治理机制。今年3月6日,抖音、快手、微博、小红书、B站、豆瓣、知乎等平台,集中发布了防网暴指南。

尽管各个平台一直在完善机制、整治网暴,但从结果来看,网暴事件依旧层出不穷。寻亲被生母拉黑的刘学州、晒和爷爷合照的“粉发女孩”郑灵华、开拖拉机自驾到西藏的旅行博主管管,都在遭遇大规模的网络攻击后离世。

据中国互联网络信息中心统计,截至2022年12月,我国网民规模达10.67亿,普及率达75.6%。

在这个人人皆可发声的时代,居于网络舆论场中心的社交平台,在防网暴方面做到了哪一步?在不断整治后,为什么网暴依旧反复出现?面对网络暴力,平台为何无法“保你平安”?

“微博上拉黑了800多个人”

“产品早期引入的都是和平台契合度较高的用户,所以氛围会更纯净,随着用户增长,必然会面临多元化带来的问题。”字节商业化部门的一位员工告诉《豹变》。

所谓的“多元化带来的问题”,就是由于不同圈层的人汇聚在一起,评论越来越难控制。

豆瓣官方运营账号会定期发送关于网暴治理的公告,3月13日发布的公告显示,一万多条信息被删除,大多是网暴内容,还有一些账号被阶段性禁言以及永久封号。

小满是微博的老用户,由于追星积累了一批粉丝。她告诉《豹变》:“最初玩微博的时候,大家一起交流,氛围很友好。这两年明显感受到‘没素质’的人很多,我已经拉黑了800多人。

除了用户手动拉黑,现阶段,平台对于用户的保护做到了什么程度?

首先是举报和投诉功能。《豹变》测试了微博、B站、抖音、小红书、快手、豆瓣、知乎等主流社区APP,评论区都可以“举报”或“投诉”,并且都需要用户选择违规类型,测试结果如下图。

 

平台也提供了“一键防网暴”功能,用户可以选择在一段时间内屏蔽陌生人私信、评论,达到防止网暴的目的。

各个平台“一键防网暴”的持续时间不太一样,微博、知乎、小红书最多可设置7天,豆瓣最多14天,抖音最多30天,快手没有时长限制。

不过,平台的“一键防网暴”入口比较隐蔽,用户很难“一键”防护。比如,抖音进入“我”页面后,点击右上角“三道杠”图标,选择“更多功能”,找到抖音小安,进入界面后才能设置“一键防护”。

那么,在用户发布内容之前,平台是否有机会阻止网暴内容的出现?

2019 年,社交平台 Instagram 推出了一个防网暴的功能,通过AI检测用户发布的内容,如果内容在发布前被判定为带有攻击性,会对用户进行警告,提醒其三思而后行。

不过,这些看似完善的防网暴机制,发挥的作用并不大。2020年的一次网络暴力全球调查显示,骚扰攻击在Instagram上的比例依旧高达23%

“粉发女孩”郑灵华经历了网暴、照片视频被营销号盗用、污名化之后,生前一直没有停止维权,她还在社交平台上记录了自己的维权过程。在第一次维权记录中,她表示自己向抖音官方人工电联+邮件举报投诉,但是“抖音只有到达亿万粉丝才能禁止他人下载原创作品”。

在后续的维权记录中,她也提到,“抖音和百家号始终举报投诉无果”。

据了解,目前大部分平台主要有系统审核和人工审核两种方式。在抖音审核岗工作的苏珍告诉《豹变》:“系统的核查比例大约80%,比如触发了一些关键词,机器就可以识别出来,剩下一部分系统不能确定的,就交给人工复审。”

李敏曾经在今日头条负责审核优质内容,她表示,文章内容的审核大部分都是走系统审核,但触碰到一些关键词,以及账号量级比较大的时候,会进入到人工审核流程。

“实际上审核本身就是一个机械的工作,很多事情都慢慢交给算法、AI,并且会逐渐优化取代人工。”李敏告诉《豹变》,大概在2022年初,她这个岗位就被AI取代了。

然而,对于人工智能目前的发展水平而言,判断“网暴内容”的准确性还不够高。

苏珍表示:“一些拟声词、新生的侮辱性言论的代替词语、字母缩写等内容,人工智能还不能辨识。再就是‘阴阳怪气’的发言,系统根本听不懂。”

曾经在网易直播CCtalk工作过的阿哲表示,即使是在审核岗位实习,上岗之前也要培训好几天。“会有专门的人讲PPT,通过案例说明哪些要做违禁处罚,以及如何根据违规程度来判定处罚的程度,还有价值观和道德观的培训。”

苏珍还记得,在面试时她被问到“对某个新闻事件怎么看”,入职前做了心理素质测试、人格测试、压力测试,经过入职培训,通过考试才能上岗。

正如阿哲所说:“说到底还是要根据审核员本人的判断。”

管理“小黑屋”的人,也身处小黑屋

“没违规的一举报一个准,违规的反而不管。”“我评论没一个脏字结果被举报,别人脏话连篇问候全家我举报没一个成功的,审核人员在干什么?”在某平台的官方帖子下面,时常可以看到类似的用户评论。

从用户角度来看,社区氛围似乎取决于“审核员”是否有所作为,事实果真如此吗?

在上海闵行区银山路科技园的字节大楼里,和其他部门敞亮高级的工区不同,审核部门的工区总是灯光昏暗,员工们面无表情地盯着一块块电脑屏幕。

审核员的工作,看似拥有“一键拉黑”的权利,但这些管理小黑屋的人,自己也身处于小黑屋之中。

《哈佛商业评论》的一篇文章中提到,审核员就像在扮演民俗中的“食罪者”角色:这种历史仪式的要旨是穷人在精神上承担死者的罪孽,往往通过吃掉摆放在尸体上的面包来换取金钱。

据苏珍介绍,大厂审核员主要分为三种:正式员工、外包员工和兼职。苏珍是字节的正式员工,在审核岗每个月能拿到1万到1万2左右的工资,但是除去一个月四五千的房租,剩下的钱仅够生活。

外包员工一般在三四线城市,据她了解,工资大约是四五千块钱,兼职员工则多劳多得。

“刚入职的时候,一切都聊得很好,工作时间也都很正常。但正式工作两周左右,就会排班次。我们是三班倒,白班朝九晚五,晚班从下午三点到凌晨两点,大夜班从十二点钟到早上七点。每个人每天都有KPI,我当时是一天审核200条视频,外加几千到一万条评论。

长时间坐着加上熬夜,让苏珍的身体状况很差。她告诉《豹变》:“入职几个月就胖了十多斤,脸上疯狂长痘,每天处于压抑当中,经常半夜就会哭醒。”

这种痛苦更多来源于审核工作对于精神的摧残。苏珍表示:“大概做三天,就能明显感受到生理和心理的强烈不适。每天看的全都是极其负能量的东西,那些色情、暴力、血腥的视频要看,评论里无缘无故辱骂、攻击他人的言语都要审。”

“最让我觉得痛苦的是,过去二十几年,我们生活在一个相对安全、善良的现实环境里,干了审核员之后,我发现,网络上竟然会有那么多的恶意。现在我会觉得坏人就藏在身边,很多人可能生活中是善良的,他会去照顾小孩、捐款,但是不耽误他在网络上辱骂他人。

苏珍表示,网暴的比例在视频里大概能占到百分之十几,在评论里非常多,大概占到百分之六七十。

她说:“干过审核员之后,完全可以理解那些因为网暴而自杀的受害者们的心态,因为这些谩骂绝对超出了一个人可以承受的极限,甚至网友看到的都是审核之后放出来的一小部分。那些没放出来的污言秽语可能是大家看到的几十倍,并且这是一个持续性的攻击。

另外,除了工作本身,在每天接收负能量的同时,苏珍还需要完成周报。“心理状态都这么差了,周报里却不能抱怨,只能写自己有多热爱这份工作。每天工作内容都一样,却还要写工作计划。”

苏珍表示,这种工作状态下精力确实是不够的,她也承认有时候免不了会消极怠工,这也是用户抱怨“审核人员不管用”的部分原因。

另外,除了这些精神和心理上的巨大压力,由于审核岗位工资低、没什么晋升空间,这个岗位的平均生命周期只有三到六个月。“很像小作坊里流水线上的女工,没有任何未来。”苏珍感叹道。

然而,随着网民数量的增长以及各个平台对于活跃用户的增长需求,需要的审核员也越来越多。苏珍表示,越来越多的审核工作都被外包出去,因为这样能给公司省下一大笔资金。

但这似乎形成了一种恶性循环,审核人员的心理、生理状况由于大量的消极内容受到影响,导致消极怠工、人员流动大,而更多的用户加入让互联网环境更为复杂,审核需求量更大,但外包出去审核人员的待遇却又在下降。

在这种情况下,“把施暴者关进小黑屋就能阻止网暴”似乎成了一个伪命题。

苏珍认为,以几万个审核员的力量去审核上亿网民发出的内容是有限的。从平台角度来看,不仅要加大处罚力度、提高评论门槛,完善防护功能,人工智能需要继续学习,而审核人员的现状也需要被看到。

为什么平台阻止不了网暴?

中国政法大学教授罗翔老师曾在文章中提到“群体极化”现象,这也是互联网时代网暴滋生的深层原因:

“网络世界中,我们的情绪极容易就被极端意见挑动,也越来越倾向对他者进行非黑即白的评判;而这种情绪和判断,又会像利刃一样刺向身处舆论漩涡的个人。”

豆瓣用户王然告诉《豹变》,自己曾在豆瓣上写过一篇有关性别议题的影评,没想到引来很多用户在评论区对骂。“由于观点不同,两个用户能在评论区对骂50多条。有的用户在评论区发几百字来反对你的观点,有人甚至没看完文章就直接侮辱你。”

2021年8月,《科学进展》杂志发布了耶鲁大学的一项研究,研究人员通过对推特用户的长期跟踪,发现社交媒体的激励机制正在促进愤怒的表达。

这就是所谓的“引流”,即通过各种方法吸引流量,而最直接的方法就是发布能够引发讨论的内容,平台的算法会根据浏览量、点赞量、评论量等数据进一步“推荐”该内容。

正如王然表示,尽管她文章下面评论区和转发里的不友好言论非常多,但这也是她所有文章里热度最高的一篇,有600多条评论,将近2000个点赞和300多收藏,并且热度持续了好几周,甚至一年之后还有人留言。

2020年,导演毕志飞也曾在微博晒出截图,“大量三观不正、努力拉开话题转移注意力的留言”给他的微博带来2.1亿阅读量,广告收益约3万元。

实际上,当前的社交、视频、信息平台都是以广告收入作为主要的商业模式,日活跃用户、月活跃用户是各个平台进一步商业化的基础。所以,对平台而言,流量与用户都是获取利益的工具,这导致平台上的内容大多以流量为导向。

也就是说,社交平台上的情绪与争议,归根到底都是流量与利益。

根据上文审核工作人员提到的网暴内容比例,如果对有网暴行为的账号完全禁言,那么平台的用户留存可想而知。

另一方面,在网友们已经习惯了随意表达的网络环境后,过度限制发言必然会引起不满。

最典型的例子是豆瓣,王然最近发现,自己备受争议的那条影评下面的不友好言论已经消失了,评论里的很多账号被注销,一些评论内容也看不到了。

由于审核时间过长,另一位豆瓣用户小木最近每发布一条动态,都会记录下审核的时间,短则两小时,长则一两天。还有用户表示,自己的豆瓣账号因为违规,到现在评论功能都是被折叠的。

然而,大部分平台并不会因为某个账号“犯一次错”就将其永久关进小黑屋。

《豹变》发现,各平台只是确定了“违规会处罚”,但如何处罚并没有详细说明,通常使用的表述是“将视情况对违规内容或账号采取以下处置”,以及“如果违反公约,平台有权对用户的账号进行封禁、禁言处罚或暂停账号部分或全部服务”。

也有平台使用了信用分的方式来管理用户,比如微博、知乎。

根据微博社区公约的细则,用户初始信用分为120分,可以通过在线答题等方式加分。在扣分方面,发生网暴行为,一般扣3到5分,信用历史分低于0分,用户账号会被禁言。计算下来,一个信用分满分的微博账号,发生大约40次网暴行为才会被封号。

苏珍也告诉《豹变》:“一个抖音账号发布违规信息会给两次机会,第三次一般会把这个账号封禁7到15天,如果这种情况出现两次以上,也就是到第三次的时候,就会触发危险警报,这时候大概率会封号。”这是否意味着,一个抖音账号或许可以拥有9次违规的“机会”。

从平台角度看,如何平衡商业利益和用户体验一直是个难题,但保证用户安全却是最基本的问题。也许,面对网暴,稍显“无能为力”的平台,仍然需要承担起更多的责任。

(应受访者要求,文中人物均为化名)

本文系作者 豹变 授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本内容来源于钛媒体钛度号,文章内容仅供参考、交流、学习,不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 内容很详细👍🏻,小编辛苦了

    回复 2023.03.20 · via android
1

扫描下载App