微软高管汉塞尔曼开源 gputaskman:给 GPU 内部装一个 htop

2026.11.06 16:24
2026 年 11 月 6 日,微软与 GitHub 副总裁斯科特·汉塞尔曼发布开源工具 gputaskman,可按进程实时显示 GPU 显存、温度、功耗、编解码活动与 PCIe 流量,并识别本地运行的大语言模型及其权重、KV cache 细分。这一早期实验项目直指 Windows 任务管理器和英伟达监视器在进程级 GPU 行为分析上的空白,也折射出本地 AI 普及后操作系统监控能力的滞后。

你的 GPU 到底在忙什么?Windows 任务管理器只会冷冷地告诉你“15 GB 已用”,却不肯说这 15 GB 是被模型权重吃掉了,还是被浏览器、桌面合成器悄悄瓜分。2026 年 11 月 6 日,微软与 GitHub 副总裁斯科特·汉塞尔曼把答案做成了一个开源工具:gputaskman。它像 htop 一样钻进 GPU 内部,按进程把显存、温度、功耗、编解码活动和 PCIe 流量摊开给你看,还能认出你本地跑的大语言模型,告诉你每个模型的权重、KV cache 和计算缓冲各占了多少。

这不是微软官方产品,而是一个挂在汉塞尔曼个人 GitHub 账号下的开源项目。但恰恰是这种“个人项目”的身份,让它比任何官方工具都更直白地戳中了一个正在变大的痛点:当本地 AI 从极客玩具变成日常负载,操作系统却还停留在“显卡很忙,但不知道在忙什么”的盲盒时代。

现象:任务管理器给不了的进程级答案

gputaskman 的定位非常具体。它的 README 开篇就写着一句口号:“An htop for what's inside your GPU, not just how full it is.”(它是 GPU 内部世界的 htop,而不只是告诉你显存有多满。)紧接着是一段自问自答,几乎可以当作这个工具的诞生宣言:“Task Manager says '15 GB used.' This tries to answer: by what? Model weights? KV cache? Your browser? The desktop compositor? And why is so much GPU memory in system RAM?”

这四个问号,正是 Windows 任务管理器和英伟达监视器长期留下的空白。今天的 Windows 任务管理器固然能在进程列表里显示 GPU 占用,英伟达的 nvidia-smi 也能列出进程,但它们都只回答了“谁在用”,回答不了“用来干什么”——模型权重占了多少、KV cache 涨了多少、计算缓冲又是谁的。结果就是,一个在本地跑 Ollama 的用户看到显存红了,仍然不知道是哪个模型、哪一层缓存、哪个后台进程在吃资源。

gputaskman 试图补上这一层。它面向 Windows、Linux、WSL 和 Apple Silicon Mac 平台,以终端 UI 的形式,把每个进程的 GPU 显存占用和引擎活动,与已加载的运行时、映射的模型文件、LLM 缓冲细分对应起来。据 DoNews 报道,它能监控的指标还包括 GPU 使用率、显存、温度、功耗、编解码活动、PCIe 流量,以及对本地运行的大语言模型进程及其详细参数的识别。

从汉塞尔曼自己的动机也能看出这个需求的普遍性。2026 年 11 月 3 日,他在 X 上写道:“There's a lot going on in my GPU. I'm making a GPU Taskman to get insights to where my GPU memory is going.”(我的 GPU 里发生了太多事。我正在做一款 GPU Taskman,想搞清楚显存都去哪儿了。)三天后,工具开源发布。

为什么是现在,为什么是本地 AI

gputaskman 出现的时机并不偶然。两三年前,普通用户的 GPU 负载主要是游戏和渲染,来源单一,任务管理器的“总占用”基本够用。但过去一年多,本地大语言模型推理快速普及,Ollama、LM Studio、LLaMA.cpp 让在消费级显卡上跑大模型成为常态,Unsloth 一类的工具又把微调门槛压得更低。

负载一变,监控需求就变了。游戏占满显存是理所当然的,但本地 AI 是多进程、多运行时、多模型文件的混合体:一个推理请求可能牵动 Python 解释器、CUDA 运行时、模型权重文件、KV cache 增长,还可能和浏览器、桌面合成器共享同一块 GPU。这时候,“显存还剩多少”已经不够,用户需要知道“是谁、在干什么、还能撑多久”。

gputaskman 把范围划得很清楚:它只看本地 GPU 工作负载——决策模型、视觉、语音、LLM 推理、训练和微调、图形、视频都在范围内;CPU-only、NPU-only 和云端负载则不在范围内。这个边界本身就是一种判断:本地侧的 GPU 可观测性,已经到了需要一个专门工具来填补的阶段。

它能做什么,不能做什么

开源项目的诚实,往往体现在它对自己局限性的说明上。gputaskman 在 README 里明确写道:“Early, experimental software. Device and process counters are measurements; classifications and GGUF-derived breakdowns are estimates.”(早期实验软件。设备和进程计数器是测量值;分类和 GGUF 派生的细分是估算。)它还特意提醒:一个 PyTorch 或 CUDA 的 DLL 本身并不能识别一个模型,也不能证明某个进程正在训练;一个被映射的文件,也不等于该模型已经驻留在 GPU 上或被实际使用。

据 DoNews 报道,工具目前处于早期实验阶段,部分硬件下温度刷新存在延迟。这些说明不是客套,而是这类底层监控工具的真实处境:不同厂商、不同驱动、不同操作系统版本的接口差异极大,要做到跨平台、跨硬件的一致准确性,本身就是个深坑。

但这并不削弱它的价值。gputaskman 的模块划分已经相当完整:pdh.py 和 dxgi.py 负责 Windows 计数器和适配器枚举,linux.py 走 NVML 并处理容器 PID 匹配与 WSL 检测,macos.py 用 IOKit 和 libproc 做 Apple Silicon 上的按进程 GPU 时间与内存映射,nvml.py、adl.py、amdsmi.py 分别对应 NVIDIA 和 AMD 的设备读取,procinfo.py 做运行时与进程发现,stores.py 对接 Ollama、LM Studio、Hugging Face 的模型存储,gguf.py 解析模型元数据,llm.py 做 buffer 日志和本地服务器探测。

它不是套了个壳的 nvidia-smi,而是一套真正跨后端、能关联进程与模型的可观测性方案。发布形式也降低了尝试门槛:Releases 页面提供 windows-x64 和 windows-arm64 两个便携 ZIP,解压即用,不需要 Python、uv、CUDA Toolkit 或任何安装步骤。实测硬件包括 RTX 4080 SUPER、Windows ARM64 上的 RTX Spark N1X,以及 AMD Radeon 860M Graphics。

它也有明确的克制。README 写道:“This does not dump VRAM or enumerate a game's textures.”(它不 dump 显存,也不枚举游戏纹理。)这既是对能力的界定,也是对隐私和安全边界的自我约束——它看的是“谁在用、用了多少”,而不是“用的是什么内容”。

开源个人项目,为什么值得大厂关注

gputaskman 目前挂在汉塞尔曼的个人 GitHub 账号下,不是微软官方产品。但汉塞尔曼的身份让这件事多了几层意味:他是微软与 GitHub 副总裁,也是开发者社区里最有影响力的布道者之一。LinkedIn 资料显示,他自 2026 年 1 月起担任微软 VP、技术团队成员。

一个微软高管以个人名义开源这样一个工具,本身就是一种信号。它说明在微软内部视角里,Windows 端的 GPU 可观测性确实存在缺口,而这个缺口因为本地 AI 的普及正在被放大。X 上有用户看到这个项目后的第一反应是:“Now it makes me want that kind of information in the built-in task manager.”(这让我想要内置任务管理器里也有这种信息。)这句评论,可能就是微软产品团队最该听进去的一句话。

更大的背景是,GPU 监控正在从“开发者工具”变成“大众需求”。云侧有 Datadog 这类厂商推出 GPU 监控工具,帮平台工程和 ML 团队优化 AI 基础设施成本、避免过度采购;Yandex 开源了能节省 GPU 资源的 LLM 训练工具。而在用户本地这一端,gputaskman 填补的是一个更贴近日常体验的空位:我不是要优化集群成本,我只是想知道为什么我的笔记本风扇在狂转、显存为什么红了。

AI 时代的任务管理器,应该长什么样

gputaskman 还远未成熟。早期实验阶段、部分硬件温度刷新延迟、构建尚未签名、没有安装程序——这些都是它作为个人开源项目的现实约束。但它指出的方向是明确的:在 AI 负载成为日常的时代,操作系统级别的资源监控必须从“总量可见”进化到“进程级、用途级可见”。

短期内,gputaskman 更可能作为一个受欢迎的开源工具和社区标准存在,它的模块设计、GGUF 解析、模型商店对接,都可能被更多工具借鉴。长期看,真正的赢家应该是把它的能力吸收进操作系统的公司——无论是微软把这类视图做进 Windows 任务管理器,还是其他平台跟进。

对普通用户的建议很直接:如果你经常在本地跑大模型,gputaskman 值得现在就试用;它不需要安装,解压即用,能帮你第一次真正看清自己的 GPU 里发生了什么。对大厂产品团队的建议更直接:用户已经用脚投票了,他们想要的不是又一个 nvidia-smi,而是一个能回答“被谁用了、为什么”的任务管理器。

当 AI 从云端落到每个人的电脑里,操作系统欠用户的不只是一个数字,而是一份能看懂的账单。gputaskman 的意义不在于它已经有多完美,而在于它第一次把“我的 GPU 到底在忙什么”这个问题,摆到了任务管理器的桌面上。

作品声明:内容由AI生成

快报

更多

2026-11-06 23:03

国内商品期市夜盘收盘涨跌参半,非金属建材涨幅居前

2026-11-06 23:01

美股中概股普遍上涨,百济神州涨超5%

2026-11-06 22:53

纳斯达克综合指数涨幅扩大至2%

2026-11-06 22:52

韩财政部召开半导体专家座谈会:AI需求未见萎缩,中长期增长依然有效

2026-11-06 22:43

费城半导体指数涨6%

2026-11-06 22:33

美股开盘:三大指数涨跌不一,芯片、光通信板块反弹明显

2026-11-06 22:24

白宫经济顾问哈塞特:数据中心仍有很大发展空间,即使建设放缓美国经济仍可保持强劲增长

2026-11-06 22:06

台积电考虑制造先进内存芯片以吸引更多AI投入

2026-11-06 21:58

中铝国际:拟签署约65.56亿元几内亚氧化铝项目EPC总承包合同

2026-11-06 21:57

郑栅洁主任主持召开民营企业座谈会,围绕抓好年内经济工作落实、研究明年政策举措听取意见建议

2026-11-06 21:39

检察机构就西班牙高铁线路涉嫌资金欺诈启动调查

2026-11-06 21:32

交易员加大了对美联储12月加息的押注

2026-11-06 21:32

现货黄金跌逾1%

2026-11-06 21:31

美国10月失业率为4.1%,不及预期

2026-11-06 21:30

美国10月非农就业人数增加16.5万人,远超市场预期

2026-11-06 21:20

阿联酋投资者集团将成OpenAI新一轮融资最大投资方,软银和Coatue拟各投资数亿美元

2026-11-06 21:19

AI股遭遇大跌后,Anthropic IPO估值预期降至1.2万亿至1.3万亿美元

2026-11-06 21:17

11月6日美股盘前要闻

2026-11-06 21:15

特斯拉将停止Cybertruck生产转向人工智能

2026-11-06 21:13

美国银行:对美股仍维持避险立场