NVIDIA Nemotron 3 Ultra登陆SageMaker JumpStart,一键部署助力智能代理高效运行

2026.06.05 07:12
亚马逊云科技宣布NVIDIA Nemotron 3 Ultra模型在SageMaker JumpStart上线,支持一键部署。该模型采用混合MoE架构,总参数5500亿,活跃550亿,上下文100万token,推理快5倍、成本降30%,适用于代理协调等场景。

亚马逊云科技今日宣布,NVIDIA Nemotron 3 Ultra开源大语言模型已在Amazon SageMaker JumpStart平台正式上线,支持用户一键部署。该模型采用混合Transformer-Mamba MoE架构,总参数达5500亿,活跃参数为550亿,上下文长度可覆盖100万token,推理速度较传统方案快5倍,代理类工作负载成本降低30%,且针对NVFP4格式做了专门优化。

得益于MoE架构设计,该模型每次仅激活550亿参数,即便在百万token的长上下文场景下仍能保持高吞吐量,适用于代理协调、代码生成、深度研究分析以及复杂企业工作流等多种场景。用户可通过SageMaker Studio界面或Python SDK快速部署该模型,部署前需具备相应的AWS账户、权限及GPU配额,使用完毕后建议及时删除部署端点,避免产生持续费用。

作品声明:内容由AI生成

快报

更多

2026-07-23 23:06

国内期货主力合约涨多跌少,燃料油、苯乙烯涨超3%

2026-07-23 22:55

谷歌未来支出承诺飙升至8110亿美元

2026-07-23 22:54

APEC数字和人工智能部长会议通过成都声明

2026-07-23 22:53

亚马逊股价下跌5%,创2月6日以来最大盘中跌幅

2026-07-23 22:47

美众议院再次通过决议要求停止对伊朗军事行动

2026-07-23 22:42

交易员预计英国央行年底前加息50个基点的可能性为100%

2026-07-23 22:41

爱奇艺发布“+你,更快乐”创作者平台品牌,上线“Q+”入口加码AIGC生态

2026-07-23 22:40

以方称美国已通知以色列计划扩大对伊袭击

2026-07-23 22:35

博杰股份:稳步推进AI服务器相关检测设备的产品布局

2026-07-23 22:34

美股油气股集体上涨,阿帕奇石油涨近4%

2026-07-23 22:34

忻天舒将担任Stellantis集团中国和亚太地区负责人

2026-07-23 22:33

美国上周EIA天然气库存增加320亿立方英尺

2026-07-23 22:24

绩后触发获利了结,德州仪器一度跌近7%

2026-07-23 22:23

张雪峰女儿接手三家公司,峰学蔚来回应继承权安排缘由

2026-07-23 22:17

纳指跌幅扩大至2%

2026-07-23 22:01

王虹、邓煜获菲尔兹奖,中国数学实现历史性突破

2026-07-23 21:56

中加举行第三次高级别国家安全与法治对话

2026-07-23 21:53

特斯拉股价跌幅扩大至12%

2026-07-23 21:52

美股光通信、云计算服务商概念股上涨,Hut 8涨超8%

2026-07-23 21:46

美股军工股表现强势,洛克希德马丁绩后大涨逾10%