戴上“头环”防走神,学校为什么总是成为AI滥用重灾区?

明明相关产品运用在校园持续引发着巨大的争议,为什么几乎所有与AI相关的科技公司,都还紧紧盯着学校不放手?

能运用科技手段提升教育质量和学习效果,固然是让人感到兴奋的事。然而,当前沿科技真正落地到学习应用场景之上,却会引起许多意料之外的反馈。

近日,浙江省金华市金东区孝顺镇中心小学采用一种脑机接口头环,可检测脑电波,给学生上课和写作业时的注意力集中情况打分,实时传输到老师电脑上,并像考试排名一样发到家长群里的事情,又再度引起人们对于“技术+教育”广泛质疑。

随后,金东区教育局称已责令学校暂停使用,并让全区学校进行自查。

钛媒体了解到,该头环是由一家叫BrainCo(强脑科技)所研发,官方网站上称其由哈佛创新实验室孵化,开发神经科学技术产品,包括传感器、硬件和软件。

BrainCo声称已经将其在机器学习、设计和神经科学方面的专业知识,运用到基于大脑的创新技术和应用中。他们的技术已用于从教育到奥运会田径的各个领域。

而报道中的所指的“赋思头环”,可以检测大脑活动,可以使用专有的传感器与技术相结合,来测量不同的大脑状态,例如专注,放松和冥想,以及操控低成本、高灵巧的假肢。

BrainCo创始人韩璧丞在接受媒体采访时称,赋思头环的核心技术是神经反馈训练,其本质是利用人类大脑的可塑性,像训练肌肉一样训练大脑的神经元,从而延长专注力的时间,实现学习效率的提升。

从医疗到教育,脑机接口技术的“两重天”

暂且撇开已经泛滥的争议和情绪,我们可以看到,这实质上是一次人工智能和脑科学在教育场景的落地尝试。

在《华尔街日报》此前的报道中,学校的一些师生也对这个头环表示非常满意,认为其提升了自己的专注力和学业水平。

对其满意的不只是参与“实验”的师生们。在一些电商平台上,钛媒体发现,购买产品的用户对其评价颇高。天猫旗舰店给出了4.9分(满分5分);在京东自营旗舰店,其300+的评价中,好评度高达99%。

要知道,赋思头环在消费市场售价在3500-4000之间,作为一款非刚需的产品,它不算便宜,以此价格能收获这些高分评价,说明购买者还是比较认可其带来的效果。

如果仔细研究脑机接口技术,我们会发现,其在许多实验室早已对其有了应用,如多动症治疗、人工耳蜗、意念控制机器、意念打字等。

这项技术尤其是对一些残障人士友好,让他们有了回归“正常生活”的可能性。(钛媒体曾介绍过一场黑科技版的“残奥会”,借助脑电波控制假肢,模仿日常活动项目的比赛。)

BrainCo最初也是将研发的脑机接口技术应用到医疗领域。2017年,刚成立两年的BrainCo获得了来自中国电子、光大控股、德迅资本、鼎晖投资等数千万美金的投资。同时,前金立集团副总裁俞雷已入职BrainCo,担任首席运营官,负责BrainCo商业化运营和渠道拓展工作。

创始人韩壁丞,则拥有7年医疗设备的研发经验,在医疗设备领域取得多项专利。公司核心成员拥有丰富的医疗设备以及AI算法研究开发经验。

BrainCo创始人韩壁丞

钛媒体发现,这家公司最大亮点的应用,是在智能假肢部分。他们今年初在CES2019发布了一款供残疾人使用的智能假手,工作原理是通过识别佩戴者手臂上肌肉神经信号,识别佩戴者的运动意图,再将运动意图转化成相应的运动指令,从而完成佩戴者想要完成的动作。

目前,BrainRobotics已经可以实现握手、抓杯子等日常操作,并且已有残疾患者通过练习实现了写毛笔字、弹钢琴等更为复杂的操作。

这款智能假肢预计定价2-3万人民币。而目前,国际市场上同类型的智能假肢造价昂贵,大约需要人民币四十多万。
BrainCo在CES2019上展示的智能假肢

BrainCo在CES2019上展示的智能假肢

这听上去是一个颇具温情意味的科技人文关怀事情。始料未及的是,在教育的落地产品,却让BrainCo应用评价两极分化。

在教育的应用场景中,赋思头环主要是实时监测每一位学生的注意力,并且变为可以量化的指数。在他们的设想中,学生可以在生成的注意力报告中了解自己课堂注意力的状况,老师也可以根据学生课堂注意力的状况调整自己的教学。

第一次面对公众的指责,BrainCo不认为自己有何失当之处,在他们发布的第一则声明中说,“科技探索其路漫漫,也充满崎岖和争议”。

在第二份声明中,BrainCo表示,“神经反馈训练养成高效学习习惯的机制与学习游泳,自行车一样,为能力训练,赋思训练系统只需要一周训练一次,并不需要每节课都使用。”

这样的解释,无疑暴露了该公司对于教育的认知的狭隘。虽说对于教育本质的讨论和定义见仁见智,但是想必我们没有人希望,教育只是训练出一个不断加强机械而重复动作的机器。

更关键是,问题的核心在于,到底BrainCo宣称的神经反馈的技术,能够有多准确地反应一个人的专注程度,是有待商榷的。

已经有多位教育心理学相关专业人士驳斥了BrainCo的相关理论。在知乎上,认证为牛津大学教育学硕士的账号“BirdyandKids”发文称,该头环运营的Neurofeedback(神经反馈)的方法,通过测量大脑皮层神经元的活跃程度,得出学生是否在“专注”的结论。能反映的应该只是学生在实时的脑电波状态,但是并不能完全代表其是否在专心。

因为它能测出的孩子在实时的脑电波状态,而不是真实的孩子的即时想法。当系统反馈这个人在专注,但其实这个人在专注什么,并不能分辨出来。

这意味着,头环可能监测到学生在“专注”听课,又或者他可能只是专注地研究其他事情,并没有在听老师在说的知识,机器是没法识别其内心真正想法。

甚至更为糟糕的是,当孩子在发挥创造力和想象力去思考问题的时候,可能会被机器误解为走神或者发呆。
BrainCo所研发的赋思头环(Focus 1),图片来源:视觉中国

BrainCo所研发的赋思头环(Focus 1),图片来源:视觉中国

“教育信息化”之下,学校成了科技公司掘金热土

据钛媒体观察,不止BrainCo,关于人工智能如何落地教育,争议的声音从未间断。

以今年来看,3月初,开学季广东省著名重点中学,斥资485万元采购3500个电子手环,手环记录学生多个场合、不同种类的数据信息,具备定位学生行动、检测上课举手次数及每日活动量等功能。舆论认为这可能侵犯学生隐私,将其与电子镣铐相提并论。

当时,校方公开回应称,手环适应新高考改革实施选课走班对教育教学管理的新需求,是学校智慧校园信息化建设的一部分,只在部分教学环节或学生有需要时才需要使用或佩戴。

同样是在开学季,9月初,旷视科技的一段课堂行为分析视频,依旧引起轩然大波。视频画面上的学生们正身处教室,而教室里的人工智能系统可以监测他们睡觉、举手、趴桌子和阅读次数。
旷视科技的演示视频截图

旷视科技的演示视频截图

对此,旷视科技对公众的解释是,为技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全。并且,旷视的智慧学校解决方案可以协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

但讽刺的是,图片中的展示出来的关于“听讲”、“阅读”、“睡觉”、“玩手机”等数据的采集与分析,并不属于校园安全的范畴。

明明相关产品运用在校园持续引发着巨大的争议,为什么几乎所有与AI相关的科技公司,都还紧紧盯着学校不放手?

实际上,在国家大力推广“教育信息化”的背景上,公立学校已经成为了众多科技公司掘金的热土。

教育部在2018年4月发布的《教育信息化2.0行动计划》,特别提出了“以人工智能、大数据、物联网等新兴技术为基础,依托各类智能设备及网络,积极开展智慧教育创新研究和示范,推动新技术支持下教育的模式变革和生态重构。”

政策的出发点,无疑是希望各界利用新兴科技力量,来解决现代教育模式上的痛点和弊病。而事实上,某种程度上,从教育的本质出发,它确实有助于学校在教学手段上的提升。

钛媒体接触到的一些落地智慧校园的项目中,那些支持采集和分析学生数据的教师和家长普遍认为,在以往传统的教育教学过程中,大多数是从教师的个人经验出发,极度依赖教师个人的素养。

而通过人工智能、物联网等新兴科技的手段,可以及时且全面地收集和反馈学生的学习数据,更加科学和严谨,这是教育教学从经验主义向实验主义迈进的一大步。尤其是在优质师资愈发集中和紧缺的当下,这显得更加深入人心。

如果从科技公司角度来看,尤其是人工智能公司,现阶段他们最大的痛点之一,就是如何将所研发的技术落地到商业场景之中。

大部分前沿科技产品要面向C端,尤其是刚从实验室走出尚未成熟的产品,需要一个极为漫长的市场教育过程。但是,如果通过一些较为集中的渠道,例如全日制学校,自上而下的进行推广,则节省很大一部分获客的支出。

不仅如此,他们还可以因此获得较为优质、集中且真实的数据。加之,近些年国家在鼓励教育信息化上不遗余力,同时教育信息化的经费支出也正在逐年攀升,这也成为科技公司眼中很大一部分利润的来源。

但是,具体到项目落地的过程中,科技公司和决策者,却一味地强调科技力量,而忽视了最基本的伦理和道德的思考,以及它可能造成的未知的负面效应。

所以,尽管BrainCo官方多次出面解释,称头环只专注力训练,而不是用于数据监控,并且报告不会发给家长,但公众显然做不到位这样的说法买单。

作为一家新兴的商业公司,他没有拿出足够多的科学层面的证据或者专业文献,来证明产品足够地具备科学性、有效性和安全性。

换句话说,即便是这样的产品如同公司解释的那样无害,当这项技术没有被大规模的实验性质的验证可行性的时候,我们不应该将其规模化应用至现实学生和课堂领域。

特别是在中小学阶段,学生多为未成年人群体,本身知识和能力都有限,他们甚至没有表达拒绝的权利,不经过其本人和监护人同意,采取这样的形式收集数据,其中的安全隐患难以估量。

事实上,在AI技术同样处于前沿的美国,今年以来多地已经立法禁止了人脸识别在城市管理中的应用。继5月旧金山通过《停止秘密监视条例》之后,6月,马萨诸塞州萨默维尔市通过了《人脸识别全面禁止条例》;7月,奥克兰市也通过了《监视及社区安全法案》,成为第三个禁止人脸识别的美国城市。

不过,这并不意味着,AI落地的场景,尤其是教育领域,不被公众理解和接受。比如说,在建设智慧校园的部分,将人脸识别等可用于校园安全的部分。尤其是面对低龄阶段的学生群体,基于家长信息建立并维持访客白名单,从而可确保学生由家长而非陌生人接送。

今年,科技伦理的议题又再度回归大众,国内科技巨头腾讯公司提出了“科技向善”的价值观。BrainCo在声明也表示要坚持“科技向善”原则。然而,到底什么是“善”,他们却给公众留下了一个“悬念”。或许,这个答案会在愈演愈烈的冲突和平衡之间得出。(本文首发钛媒体,作者|李程程)

转载请注明出处、作者和本文链接
声明:文章内容仅供参考、交流、学习、不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 以科技之名,以环保之名,以爱之名,以拥堵之名,以疏解之名……

    回复 2019.11.04 · via iphone
  • 更可怕的是,高科技用来监视老百姓思想和行动。

    回复 2019.11.03 · via android
  • 小白鼠?还是大智慧?

    回复 2019.11.03 · via android
  • 因为中国教育行业没有钱,只要资金入场,想干啥都可以

    回复 2019.11.03 · via android
  • 什么黑科技

    回复 2019.11.04 · via android

快报

更多

13:18

工信部:1-2月规模以上电子信息制造业增加值同比增长14.6%

13:15

OpenAI向派拉蒙、环球和华纳兄弟探索等展示其视频生成技术Sora

13:14

固态电池概念走强,三祥新材4天3板

13:13

5.5G、通信板块午后异动,盛路通信涨停

13:03

机构:2023年中国光电显示产业投资金额约3068亿元,同比下降15.6%

13:01

民生银行李彬:预期2024年全行业净息差将延续下降趋势,公司净息差将持续承压

13:00

中国石油总裁黄永章:确保发展传统油气能源同时积极打造“第二曲线”

12:58

韩国半导体产量创14年来最大增幅

12:57

美股第一季度以强势收官,市值暴增4万亿美元

12:56

推进零碳电力转型,周小川强调需设定清晰的激励政策

12:37

全国首个城中村改造立法,《广州市城中村改造条例》批准通过

12:33

张坤隐形重仓股罕见大变化:建仓新秀丽、普拉达等消费品

12:32

小米汽车专利可自动调整卫星天线

12:30

临港管委会与国开行上海分行等投融资机构成立宽禁带半导体产业链产投同“芯”联盟

12:30

乌干达和西班牙科研人员合作研制出抗蜱疫苗

12:28

外媒炒作“中国药企未经同意将美知识产权转移到中国”,中国使馆驳斥

12:25

小米汽车F码最高炒至5万元

12:25

周鸿祎:将开源360智脑7B模型,支持50万字长文本输入

12:23

国家药监局局长李利在海南调研药品监管工作

12:22

民生银行黄红日:2024年资产质量面临宏观经济不确定性及房地产实际恢复状况双重压力

222
6
221

扫描下载App