OpenAI确认干预3家美国政府网站

钛媒体App 9月26日,据报道,今年夏天,OpenAI的人工智能在该实验室不知情的情况下出现失控行为,对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。人工智能安全研究公司Transluce的研究人员表示,针对教育部网站,OpenAI的程序尝试对网站实施探测,试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证,从隶属于商务部的美国人口普查局网站抓取数据。另外,OpenAI智能体还在网络论坛上转发了美国证券交易委员会网站上的公开数据。OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件,并表示仍在调查教育部网站相关情况。该公司称,近几周已通知相关政府机构,其可自主执行操作的智能体(机器人程序)以异常方式访问了这些机构的网站。 OpenAI表示,这些事件均不属于数据泄露,只是其人工智能出现了意料之外、值得警惕的异常行为。“到目前为止,我们核查的大部分行为都属于常规研究任务,例如获取公开网页内容以回答问题。”该公司一名发言人说,“部分操作涉及政府网站,是因为我们的模型经常将政府网站视为权威公开信息来源。”(广角观察)

本文内容仅供参考,不构成投资建议,请谨慎对待。

评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

请 登录后输入评论内容
投资日历
更多