第一波黑客已经用大模型搞网络攻击了 | To B产业观察

只做大模型安全,无法解决大模型安全问题,AI安全需要从系统性全局视角,共建生态。

图片系AI生成

图片系AI生成

在新技术和产业的发展史上,安全始终是一门伴生技术,总是先有攻击,再有防护,大模型也不例外。

“新的技术必然带来新的安全问题和安全需求,但是挑战又在于攻击者往往快我们一步发现安全风险,发动攻击,因此要求我们带来更快地响应和改变。”亚信安全高级副总裁陈奋表示。

直到今天,大模型的落地场景依然有限,行业人士会考虑新技术不成熟、投入产出比、没有好的应用方向等因素,但黑客们只需要一个理由,用大模型做新的矛,能攻破更高价值的盾。

攻击方式决定了防守方式,网络安全公司标配大模型也成为必选项。

全球安全公司快速行动起来,微软在5月份正式商用了Security Copilot,谷歌去年发布了网络安全专有大模型,网络安全巨头Paloalto、CROWDSTRIKE均在其安全运营平台集成了大模型的安全运营能力。

相关数据显示,在中国,80%以上的网络安全公司都在将大模型技术集成到网络安全产品中,30%的公司已经开始做大模型安全的研究,也出现了一些安全创业的浪潮。

新的安全攻防战

ChatGPT发布之后,以大模型为代表AGI技术让全球的黑客开始狂欢,AGI技术驱动了网络攻击和网络犯罪的升级,过去一个黑客生产一个攻击病毒需要数月时间,现在通过AGI的工具可能几分钟就能生成,黑客攻击的效率和范围大大提高。

大模型对于编程语言的理解能力也非常强,攻击者可以利用大模型迅速发现软件漏洞,同时还有一波急功近利的黑客,利用AI算法在视频中做人脸伪造,产生了新一波网络诈骗犯罪案件。

亚信安全还发现,攻击者的攻击目标从传统资产盯上了AI算力基础设施和大模型AI算力基础设施主要是高价值的GPU集群,对攻击者来说具有巨大的诱惑力,短短一年时间,针对大模型的攻击手段已经涌现出数十种不同的类型。

年初美国一个数千台服务器的算力集群被攻破,被拿去挖比特币,黑客只要发现有利可图,很快就会盯上这些高价值的资产,甚至大模型本身也有可能被利用。

亚信安全还复现了一次攻击行为,通过向大模型提交一个经过特殊构造的攻击样本,攻击样本不是正常的提示词,而是很复杂的语言,这时候再提交正常的请求,在过程中亚信安全还特意把攻击停止,但哪怕停止攻击以后,同样的一个请求,大模型需要60秒以上才能返回结果,是原来所需时间的20倍以上。

可以想象,如果未来核心应用都是大模型驱动的AI原生应用,类似攻击将会让大模型算力消耗急剧上升,从而出现拒绝攻击,用户核心业务将陷入瘫痪,这只是一个相对比较基础的攻击。

未来家庭和个人用户,也可能成为攻击目标,假如人工智能的渗透率足够高,电脑、手机、家电和汽车都是智能的,甚至未来每个家庭都有一个人工智能,黑客不会放过这一块“肥肉”。

“从现在开始,网络安全的攻防从原来人和人之间的对抗,已经升级到AI和AI之间的对抗,只有AI驱动的网络安全防护检测技术才能识别AI驱动的黑客攻击技术。”陈奋表示。

“安全大模型”,是不是蹭热点?

如同千行百业都正在被大模型改造和重塑,大模型技术未来将推动网络安全产品全面革新,可能带来网络安全产品设计范式的彻底变化,从威胁检测到产品体验,再到安全运营,如果没有大模型的加持,一家安全公司可能就难言竞争力。

但是,“安全大模型”概念的泛化,也难免陷入蹭热点之嫌,以至于有质疑安全大模型是新瓶装旧酒。

安全公司使用AI技术早有先例,例如用AI做垃圾邮件检测,用机器学习算法做漏洞自动化修复,AI还能实现自动化的运营分析,安全策略生成,并提供告警评估和攻击研判等。

一位安全行业人士表示,很多安全公司去年着急发布GPT应用,产品构建并不完整,有企业只想着在单点场景使用,比如在安全运营里快速集成GPT对语言的理解,因为安全事件也是一种语言,更多是落在这种场景上。

亚信安全没有第一时间发布大模型,更多是在思考大模型能否变成产品的原生能力。亚信安全想把大模型能力变成产品的内生能力,现在可能还达不到,但这是其发展思路。

所以亚信安全没有一开始就让产品线马上集成大模型,而是因为花了更多时间建设底层通用框架,做好MaaS服务平台,再叠加上面的智能体框架。安全公司有很多产品线,如果每条产品线路都要单独去思考怎么集成大模型,会带来很多资源浪费。

在此基础上,亚信安全正式发布了网络安全行业领域自研大模型——信立方,其能力分为五个层次,第一层是算力调度平台;第二层是在微调开源大模型和闭源大模型基础上做智能的混合调度;第三层是在大模型基础之上做MaaS服务层,让上层的安全应用能够快速调度大模型,同时MaaS服务的API架构完全参考OpenAI的标准,从而能够快速使用全球开源工具的生态。

第四层是网络安全Agent灵活架构,亚信安全在参考开源基础上重构了亚信安全的智能体开发框架,在该框架上,所有产线团队能够快速集成整个安全大模型能力。第五层是多个场景的安全智能体应用。

同时,亚信安全进一步发布“信计划XPLAN”,包含两部分:Security For AI和AI For Security。Security For AI主要聚焦在保护算力安全的基础设施,以及保护大模型的安全,AI For Security主要聚焦在网络安全行业的垂直大模型的研发以及在上面做网络安全的智能体以及安全应用。

AI安全需要系统视角

中国工程院院士、清华大学智能产业研究院(AIR) 院长张亚勤表示,大模型的到来意味着构建了一个全新的生态,大模型将成为新的操作系统,PC互联网、移动互联网都形成了与之匹配的生态,人工智能时代的生态规模移动互联网要高至少一个数量级。

与之相对应地,行业内部趋于达成一个共同认知——只做大模型安全,无法解决大模型安全问题,AI安全需要从系统性全局视角,共建生态。

亚信安全高级副总裁兼CDO吴湘宁表示,大模型产业链非常长,周边业态会更加丰富,真正做大模型的厂商不会多,未来可能集中在几家头部厂商,而利用大模型的企业或者行业会越来越多,这就对安全方面提出了新的要求。

图片系AI生成

图片系AI生成

“仅把大模型安全做得好比较有限,举一个简单例子,原来隐私计算应用的场景非常狭小,更多是一些部委、金融和企业数据交换过程中做一些查询,但是未来如果所有的企业都要把数据送到算力上去算的话,想象空间就非常大,整个生态链打开以后,可能很多技术使用场景都会发生改变。”他说。

多项安全生态合作与成果也在逐渐显露。网络勒索响应与治理中心暨猎狐计划正式启动,由亚信安全、中国联通江苏分公司、四川省数字产业有限责任公司、人民数据管理有限公司联合发起,建立区域性和行业性的网络勒索响应与治理中心,形成常态化一体化的网络勒索安全运营,这也是安全生态共建的一个典型。

此外,东数西算安全联合创新中心也发布了新成果,亚信安全与四川能投、西云算力等厂商合作,在大模型安全、隐私计算、算网调度、全栈云安全均有技术突破。这些成果将推动东西部算力和数据资源的安全调度和流通,促进人工智能和数据产业的发展。

亚信安全也与鸿蒙生态达成合作,双方将深度投入鸿蒙生态建设,结合终端安全能力,为用户提供更加安全、可靠的终端环境,保障用户的信息安全。

在技术、政策、法规、社会共识等多方面的共同努力,将成为大模型安全生态构建的长久方向。(本文首发于钛媒体APP,作者 | 张帅,编辑 | 盖虹达)

转载请注明出处、作者和本文链接
声明:文章内容仅供参考、交流、学习、不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容

扫描下载App