OpenAI首席科学家提议建立行业统一AI安全标准,预计2027年预训练技术或迎重大突破
钛媒体App 11月23日,OpenAI首席科学家雅库布·帕乔茨基(Jakub Pachocki)发文提出,应将困惑度(Perplexity)或交叉熵损失作为衡量AI模型预训练进展的统一指标,并推动行业建立共同的安全评估标准和模型开发限制。他表示,随着模型对数据的预测能力提升,网络安全、数学等领域已出现突破性能力,预计当模型对数困惑度降至0.68至0.7区间时,还将涌现更多变革性能力。帕乔茨基认为,AI可能最早于2027年在预训练算法研究领域带来重大突破。他建议,前沿模型开发商在进一步提升模型能力前,应先建立共享的安全评估、透明度规范及相应技术保障机制。
OpenAI首席执行官山姆·奥特曼随后转发该文章,并称这是OpenAI近期发布的最重要内容之一。奥特曼表示,OpenAI正提高预训练进展的透明度,希望行业能够就共同的发展限制达成一致,认为此举有助于确保AI安全并维持人类对AI的控制。(广角观察)
本文内容仅供参考,不构成投资建议,请谨慎对待。
根据《网络安全法》实名制要求,请绑定手机号后发表评论