original

重新认识科技B面:当技术能做的越来越多,如何把好方向盘?

张帅_

张帅_

· 9月15日

“人,是科技的尺度。”

播放 暂停

重新认识科技B面:当技术能做的越来越多,如何把好方向盘?

00:00 11:00

《发明的伦理——技术与人类的未来》一书指出:“新涌现的技术已经不仅仅是一系列无生命的工具,也不仅仅是相互联结、辅助完成任务的系统,而是重新划分了自我与他人、自然与人工之间的界限。技术发明已经渗入了我们的身体、思想和社会交往,改变了我们与其他人和非人的关系”。

这阐述的便是科技与伦理的思辨。每一次新的技术革命,都伴随着改造社会的力量,与之相对应地,技术改造社会的力量愈是庞大,所引起的反对声音也就愈发汹涌。

卢德运动(图片来自百度百科)

卢德运动(图片来自百度百科)

工业革命期间,英国先进的自动纺织机取代了大批手工业者,愤怒的工人们掀起了以“捣毁机器、抵制新技术”为主题的卢德运动;著名科幻小说《弗兰肯斯坦》描绘了用科技制造怪人的故事,让人心生寒意;两次世界大战中,技术用于战争带来了触目惊心的后果。

如果说此前的技术进步,更多体现在物理层面改造社会,那么如今的技术进步,大数据结合人工智能算法等,能够在不知不觉间影响到更多范围,科技的发展更应该置于伦理的审视之下。

于个人、企业和国家而言,科技创新就像一辆越开越快的车,提升速度固然重要,但更重要的是——不要偏离车道,尤其在万事万物都在数字化的当下,是时候着重探讨数字时代科技与伦理的一体两面。

尺度

在技术发展尚不充分的情况下,行业人士总是关心技术能做什么,当技术能做的超过部分人的想象,行业人士转而担心技术能不做什么,这便是科技与伦理交织发展的双螺旋,其中的尺度该如何界定?

“人,是科技的尺度。”阿里巴巴首席技术官、集团科技伦理治理委员主席程立给出了他的观点,“阿里巴巴二十多年来发展的基石是科技创新,在探索科技前沿的同时,我们对科技创新的边界保持警惕,谨慎对待自身的技术能力和影响力,时刻提醒科技应以人为本。”

他还提到,“科技创新是发动机、油门,科技伦理就是方向盘、安全带、刹车。在车速低的时候安全带、刹车不那么重要,车速高的时候方向盘、刹车、安全带就非常重要,油门和发动机重要性反而在降低。当科技创新起到越来越重要的作用,必须要重视科技伦理本身”。

以健康码举例,健康码是紧急状态下技术发挥创新作用的重要体现,红黄绿三种颜色代表三种状态,为疫情防控提供了参考依据,大大简化了工作量。

少有人知道的是,某市健康码曾试图推出渐变式健康码,依据不同维度的综合数据,包括个人健康等数据,给予一个人深浅不同颜色的健康码,旋即引起争议。

“我们更多在讨论技术上可不可行,或者如何赋予这个能力,但技术可以做到把数据记录都亮出来,但是社会上可能不一定能接受,某些场景下会造成伤害,所以我们反而要限制这样的能力,而不是一味强调技术的可能性。”复旦大学数字与移动治理实验室主任郑磊提醒到。

数字化技术的发展和整个社会关系绑定,所以数字化必然会改变很多的生产关系,特别是人工智能的技术带来了深刻的影响。

上海社科院互联网研究中心主任、上海赛博网络安全产业创新研究院院长惠志斌教授谈及了人工智能技术发展与法律法规的新挑战,首先,人工智能时代的来临,可能面临法律伦理的挑战,《个人信息保护法》和《数据安全法》在去年相继落地,中国快速进入了一个数据合规的时代,在这个时代下,企业、社会公众如何认知数字隐私。

其次,法律伦理应该做什么?围绕人工智能,相关的法律伦理有没有同步在发展,如果要等人工智能技术真正从弱人工智能时代到强人工智能、通用人工智能时代,再去考虑这个问题,那个时候肯定已经迟了。

最后,在中国,人工智能、大数据发展如火如荼,数字化浪潮不可逆,数字化转型确实是各个国家竞争最前沿的方向,未来会改变整个世界格局。但是围绕数据要素、数据资源所构建的生产关系,可能会决定一个国家或者经济体的未来发展趋势。

“生产力和生产关系是要匹配的,生产力决定生产关系,生产关系又会影响生产力的发展。阿里巴巴对于科技伦理的思考和行动开了个好头,一个企业生态体越来越重视技术责任,这种责任本身就体现了对生产关系的一些尊重。”惠志斌教授表示。

责任

新的时代,呼唤新的数字责任治理体系。目前科技伦理现状复杂,部分技术先于伦理,带来了隐患和风险,如何克服传统规范体系的滞后性、将伦理原则纳入人工智能发展战略,以系统思想提供伦理规范、法律规制和技术支撑,任重而道远。

清华大学苏世民书院院长薛澜表示,过去中国引进国外的新技术,也引进了新的治理模式,现在中国走在技术前沿,其治理体系在新时代需要一个重大调整,监管方和企业变成利益共同体,去解决共同未知的问题。

北京大学中国社会与发展研究中心主任邱泽奇提出,从工业革命开始,谁是技术的先行者,谁就是技术红利的获得者,这个逻辑今天没有变。如果我们把社会价值引入其中,最终自洽就是既要用技术约束技术的恶,同时要用社会价值引导技术向善。

阿里巴巴成立科技伦理治理委员会即是一次新的尝试,没有人知道完全正确的答案是什么,但总要有人为之付诸实践,阿里巴巴是国内领先的互联网和技术型企业,也走到了科技与伦理的十字路口。

“科技伦理治理委员会要做技术创新的守门人,以人为本,以社会价值为导向,以伦理道德为边界,构建科技企业社会责任。”程立表示。

在国内头部科技企业中,阿里巴巴第一个成立科技伦理治理委员会,并引入7位外部顾问委员,强化三方监督。委员会提出“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六大科技伦理准则,重点推动算法治理、隐私保护、伦理制度建设等工作,探索相关前沿技术,提升公司整体科技自省和自律的水平。

阿里巴巴认为,数字经济时代的科技企业需要谨慎对待自身技术能力及影响力,对科技创新的边界时刻保持警醒,阿里巴巴成立科技伦理治理委员会,旨在让每一位阿里技术人践行“好科技”的目标,推动公司治理体系升级,促进ESG战略落地。

据介绍,阿里已经围绕用户隐私保护、算法治理等重点议题展开具体行动。根据《个人信息保护法》的要求,阿里在集团各业务组织设置了专门的个人信息保护负责人,全面贯彻落实“数据采集最小必要原则”、“用户知情和决定权最大化”,以及“全方位安全保障能力最强化”三个方向,来规范全生命周期中的隐私保护和数据安全。

比如,今年淘宝推出“隐私号码保护”服务,针对开通服务的用户,在交易过程中,淘宝将全程对消费者的真实手机号码予以隐藏,商家、物流服务商均通过“虚拟号”联系消费者,最大限度保障个人隐私不被泄露。

博弈

阿里巴巴对科技伦理的理解过程,反映出中国大多数企业对技术的态度变化。程立介绍,早期阿里的技术团队,核心价值观技术创造新商业,商业创新是阿里技术人员认为技术产生的最大价值,随着平台责任越来越大的时候,阿里巴巴拥有了更广的视角,看到了更多的视野,也必须解决更多的问题。

这种博弈思维不止发生在阿里巴巴身上,也逐渐蔓延到千千万万的企业,形成一股讨论科技伦理的新思潮,目前很多企业的认知相距阿里巴巴有一定距离,但是在大趋势的影响下,企业对于科技伦理的思考和行动或许会提前。

阿里巴巴证实了一件事,科技伦理不只是政府和相关机构的责任,在技术迭代浪潮受益其中的科技企业,也应该发挥自己的价值,科技企业不能坐享其成,只享受技术进步带来的商业价值,不去承担该承担的责任。

“每一位阿里巴巴工程师都要想办法用科技解决社会有价值的问题,我们关心环境,关心社会公平和正义,APP怎么能够做到信息无障碍,如何帮助政府解决青少年社会问题,通过乡村科技技术帮助缩小城乡差距等,好科技人人受益,人人共享。”程立说。

因此,阿里一方面做科技创新,一方面思考科技伦理的影响,程立说,“求真务实,我们需要坐而论道去思考,不能空谈;知行合一,做的和说的必须一致;敬畏之心,很多问题不能非常简单地用过去的想法去理解它,而是要能够真正用全新的视角去思考,对它有敬畏之心。”

程立表示,在这个过程中我们要时时自省,没有一家企业,没有一个科研实体能够每件事情都做对,很多事情的影响也许要过几年,甚至很长时间才能发现,在此过程中也不能停留在对自己过去的认知,企业必须非常开放讨论伦理问题、伦理落地,研究方面要跟学界一起研究,需要自律,需要他律,积极拥抱监督、监管。

科技创新自诞生以来,对现实产生的冲击一浪高过一浪,但是每一次伦理总能予以纠偏,实现技术的正向发展,在没有人关注的角落,依然有人性最底层的善意在释放,类似阿里巴巴成立科技伦理治理委员会等努力,正在修正科技创新发展的方向。

(本文首发钛媒体APP  作者 | 张帅)

本文系作者张帅_授权钛媒体发表,并经钛媒体编辑,转载请注明出处、作者和本文链接
本文观点仅代表作者本人,钛媒体平台仅对用户提供信息及决策参考,本文不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

”支持原创,赞赏一下“
钛粉29232 钛小773590 钛粉07914 钛粉65687 钛粉61539 钛粉60785
545人已赞赏 >
545换成打赏总人数545人赞赏钛媒体文章
关闭弹窗

挺钛度,加点码!

  • ¥ 5
  • ¥ 10
  • ¥ 20
  • ¥ 50
  • ¥ 100

支付方式

确认支付
关闭弹窗

支付

支付金额:¥6

关闭弹窗
sussess

赞赏金额:¥ 6

赞赏时间:2020.02.11 17:32

关闭弹窗 关闭弹窗
  • 钛媒体APP头像钛媒体APP,钛媒体官方账号,,null重新认识科技B面:当技术能做的越来越多,如何把好方向盘?

    2022-09-15 21:35 via netease

Oh! no

您是否确认要删除该条评论吗?

注册邮箱未验证

我们已向下方邮箱发送了验证邮件,请查收并按提示验证您的邮箱。

如果您没有收到邮件,请留意垃圾邮件箱。

更换邮箱

您当前使用的邮箱可能无法接收验证邮件,建议您更换邮箱

账号合并

经检测,你是“钛媒体”和“商业价值”的注册用户。现在,我们对两个产品因进行整合,需要您选择一个账号用来登录。无论您选择哪个账号,两个账号的原有信息都会合并在一起。对于给您造成的不便,我们深感歉意。