大模型的门槛,正在从“买不起一台机器”变成“能不能把几台普通机器连起来”。微软最新推出的USB4 RDMA开发者预览,试图用一根线缆回答这个问题:当单台Windows 11电脑装不下一个大模型时,多台电脑能否像一台机器一样共同工作?
2026年11月19日,微软宣布以开发者预览形式推出基于USB4的远程直接内存访问功能。在相应硬件、系统和软件支持下,多台Windows 11设备可以通过USB4线缆直连,交换内存中的数据,并协同调用各自的GPU算力运行AI模型。与传统数据中心方案相比,这条路线不要求额外部署专用RDMA网卡或网络交换机,目标是把原本属于服务器集群的一部分能力,下沉到桌面电脑和迷你主机组成的小型节点网络中。
一根USB4线,连接的不只是外设
RDMA的关键并不是“让电脑互相传文件”,而是在系统和驱动支持下,尽量减少传统网络协议栈带来的拷贝与处理开销,让一台设备更直接地访问另一台设备的内存。对于大模型推理来说,模型参数、KV缓存和中间激活需要在不同计算节点之间频繁流动。通信延迟越高,GPU越容易等待数据,增加节点之后的理论算力也就越难兑现。
公开报道援引预览测试称,USB4 RDMA的小消息往返延迟约为28至50微秒,约是同一USB4链路上以太网UDP方式的四分之一。这个结果的意义不在于USB4突然变成了数据中心网络,而在于它让低成本设备之间的内存交换,开始接近可以被模型并行利用的水平。
预览材料所展示的初步案例也指向同一个方向。三台AMD迷你电脑联合运行量化Qwen3-235B模型,公开结果约为18.5至22词元每秒;四台酷睿Ultra设备运行GPT-OSS-120B,最高达到54.2词元每秒。对于无法由一台消费级电脑完整容纳的模型,几台设备的内存和GPU被拼接成了一个临时计算池。
这不是把三台电脑简单相加。真正的难点,是让模型切分、内存访问和GPU调度的成本低于新增算力带来的收益。USB4 RDMA解决的是通信通道,至于模型如何切、任务如何调度、不同芯片如何协作,仍然要交给运行时、推理框架和开发者处理。
微软把服务器集群的“铲子”带到了桌面
为什么这件事值得关注?因为大模型推理正在形成一种新的硬件矛盾。模型规模增长得比单台个人电脑的显存和内存更快,但数据中心级GPU的价格、功耗和供应,又把大多数开发者挡在门外。过去,解决方案是购买云端GPU,或者搭建带有高速互联的服务器集群。微软这次尝试的,是在两者之间开辟一条更窄、但可能更便宜的路。
在服务器世界里,RDMA并不新鲜。它长期服务于高性能计算、分布式存储和AI训练,通常依赖低延迟网络、适配器和交换设备。USB4 RDMA的变化,是把通信介质从机房网络换成了电脑上已经存在的高速接口。用户不必先建设一套独立网络,再把计算节点接入其中,而是可以从几台具备合适接口和软件条件的Windows设备开始。
这让USB4从“连接显示器、硬盘和扩展坞”的外设接口,获得了新的角色。它不再只是把外部设备接到电脑上,也可能成为电脑之间交换计算资源的总线。对微软而言,这释放出一种平台化信号:硬件接口由产业链普及,操作系统负责把底层能力变成开发者可以调用的系统能力,应用框架再把它包装成具体的AI体验。
但这条路并不意味着个人电脑马上会变成廉价超级计算机。模型并行对通信的敏感程度很高,层间切分、专家路由和缓存同步都会制造额外开销。节点数量越多,故障点越多,线缆拓扑、驱动版本、内存容量和GPU架构差异也会放大调试成本。速度数字能证明“可行”,不能证明“普适”。
性能提升不是线性增长,第四台机器也可能带来等待
从公开测试结果看,USB4 RDMA最有价值的地方,是让“大模型能跑起来”,而不是保证“机器越多越快”。三台AMD设备运行量化Qwen3-235B时,公开结果大致落在18.5至22词元每秒的区间。这种差异本身就说明,硬件配置、软件栈和测试方法会影响最终表现。
另一组GPT-OSS-120B测试更能说明问题。四台酷睿Ultra设备的最高解码速度达到54.2词元每秒,公开资料还显示,三台设备的结果约为49.4词元每秒,首次生成时间则从约1.1秒升至约1.2秒。新增一台机器带来了吞吐改善,却没有让所有等待时间都缩短。由于这些数字来自公开报道中的测试描述,不宜视为适用于所有设备的统一基准。
这正是分布式推理与本地推理的分水岭。吞吐量适合衡量批量任务和持续生成,首词延迟却更接近用户的体感。多机协同可以提高总体处理能力,但每一次跨节点通信都可能增加同步等待。对于聊天、代码补全等交互场景,少量节点、稳定拓扑和合理的模型切分,可能比盲目增加机器更重要。
因此,USB4 RDMA更像是一套“把闲置算力组织起来”的工具。家中几台迷你主机、工作室里的多台开发机,或者企业内部一批配置相近的终端,都可能被临时组合起来运行更大的开放模型。它把算力扩容从采购服务器,部分转化为连接设备和配置软件。
真正的竞争在系统软件,而不是线缆
硬件接口只是入口。要让这项能力从演示走向可用,微软还需要解决一长串系统问题,包括设备发现、权限控制、拓扑管理、内存注册、故障恢复、驱动兼容以及不同GPU之间的调度。开发者也需要在模型框架中处理张量并行、流水线并行和专家模型的路由。
这意味着受益者不会只有微软。AMD、英特尔等芯片厂商可以借此展示“多台中端设备协同运行大模型”的价值,模型框架和推理引擎开发者则有机会把USB4 RDMA封装成更低门槛的后端。对于用户而言,最理想的状态不是手动配置每一条链路,而是插上线缆后,系统自动识别可用节点,推理框架根据内存和算力完成切分。
如果这种体验能够形成,PC产业的竞争尺度也会改变。过去人们比较单台电脑有多少显存、多少核、多少TOPS,未来可能还要比较它能否加入一个本地算力池。电脑的价值不再完全由单机峰值决定,也由它在网络中的协作效率决定。
不过,开发者预览本身就是一个重要限定。它意味着接口、驱动、系统要求和性能表现仍可能变化,普通用户不能把预览能力等同于稳定产品。尤其是大模型推理对内存容量、量化格式和框架支持要求很高,USB4端口存在并不自动意味着设备具备完整的RDMA协同能力。
微软真正押注的,是“个人算力集群”
这项技术短期内不会替代云端GPU。云服务拥有更成熟的网络、调度和运维体系,适合大规模训练与高并发推理。USB4 RDMA更可能服务于另一类需求:开发者希望在本地运行更大的开放模型,企业希望减少敏感数据上云,硬件爱好者希望用现有设备搭建低成本实验环境。
它也不会自动消除芯片差距。高速互联只能减少通信瓶颈,无法弥补GPU算力、内存带宽和软件生态的差异。节点之间越不对称,调度就越复杂,慢节点越可能拖住整体性能。对用户来说,买四台不同品牌、不同架构的电脑再用线缆连接,未必比购买一台配置均衡的设备更划算。
但从产业信号看,微软正在把“计算资源可以被组合”引入Windows开发者生态。过去,个人电脑是一个封闭的终端,性能上限由机箱里的芯片决定。现在,微软希望它成为一个可加入、可退出、可编排的节点。电脑之间的边界,开始像网络边界一样变得可编程。
接下来需要观察的,不是某一次演示能跑出多少词元,而是微软是否会提供稳定的系统接口、清晰的硬件认证和主流推理框架支持。如果开发者必须自行解决全部驱动和拓扑问题,这项能力只能停留在实验室。如果微软把它做成Windows的一部分,USB4就可能从“高速接口”升级为“个人AI集群的基础设施”。
大模型时代,最贵的未必是算力本身,而是让算力彼此等待。微软用USB4 RDMA做的尝试,是把几台普通电脑变成一台不太普通的机器。它距离云端集群仍有距离,却已经提出了一个足够重要的问题:当每个人手边都有多台设备时,下一台AI电脑,是否根本不必是一台电脑?






快报