2026 年 11 月 6 日,微软与 GitHub 副总裁 Scott Hanselman 在 GitHub 发布开源项目 gputaskman,这是一款终端界面、类似 htop 的跨平台 GPU 任务管理工具;它补足 Windows 自带任务管理器、NV 监控工具的短板,不只是展示显存总占用,而是按进程拆分资源消耗,并且专门针对本地大模型推理做识别,能够区分模型权重、KV Cache、计算缓冲区,对本地部署 Ollama、LM Studio 的开发者非常实用;项目采用 MIT 协议开源,属于早期实验项目,并非微软官方正式产品,源码与便携包已经上架 GitHub Releases,同时支持 JSON 输出,方便接入自动化脚本采集监控数据。下面把基础信息、核心能力、平台适配、对比差异、使用要点全部整理清楚。
一、项目基础信息清单
- 发布时间:2026‑11‑06
- 作者:Scott Hanselman(微软、GitHub 副总裁)
- 项目性质:个人实验项目,不属于微软官方正式产品
- 开源协议:MIT
- 界面形态:终端 TUI,风格对标 htop
- 获取渠道:GitHub 仓库,提供 Windows 便携预编译包,也支持源码自行构建
- 适用范围:仅监控本地 GPU 负载,不支持云端算力、纯 NPU、纯 CPU 任务监控
- 底层接口:Windows GPU 计数器、NVML、AMD 监控接口、Metal(Apple Silicon)
二、核心监控能力
- 进程级指标:逐进程展示 GPU 利用率、显存占用、时钟频率、功耗、芯片温度
- 总线与编解码:PCIe 流量、硬件视频编码器、解码器实时活跃度
- LLM 专项识别:识别 GGUF 等模型文件,区分权重占用、KV Cache、临时计算缓冲,标注量化方式、运行时;支持 Ollama、LM Studio、PyTorch 本地推理任务
- 多卡汇总:多 GPU 环境下可以切换查看不同设备负载
- 导出能力:支持 JSON 结构化输出,适合自动化监控、日志采集脚本
- 运行时识别:识别 CUDA、Vulkan、Metal 等活跃运行环境
三、平台与硬件适配一览
| 平台 | 支持硬件 | 限制说明 |
|---|---|---|
| Windows | NVIDIA、AMD | 数据完整性最好 |
| Linux / WSL | NVIDIA | 暂未完善 AMD 支持 |
| macOS | Apple Silicon(M 系列) | 部分指标读取受限 |
四、和主流监控工具对比
| 工具 | 界面 | 显存细分 | LLM 识别 | 跨平台 |
|---|---|---|---|---|
| gputaskman | 终端 TUI | 按进程拆分,区分权重 / KV Cache | 原生支持本地大模型识别 | Windows / Linux / macOS |
| Windows 任务管理器 | GUI | 仅总量,缺少进程级精细拆分 | 无模型识别 | 仅 Windows |
| NVIDIA SMI / NVTOP | 终端 | 显存、引擎负载 | 无法识别 LLM 内部缓冲 | NVIDIA 限定 |
| GPUView | 图形化追踪 | 面向 ETW 事件追踪,适合深度性能排查 | 无自动模型识别 | Windows |
五、上手简要步骤
- 直接运行预编译包:前往 GitHub Releases,下载 Windows 便携版本,无需安装,双击即可启动终端界面
- 源码编译运行
- JSON 导出:带上输出参数,将指标输出为 JSON,对接脚本、告警系统
- 交互操作:终端内支持排序、切换 GPU、筛选进程,查看单任务详情
git clone https://github.com/shanselman/gputaskman.git cd gputaskman uv run --locked gputaskman
六、当前局限与注意事项
- 项目处于早期实验阶段,部分 LLM 的权重、KV Cache 数值属于估算值,并非硬件级精确计量
- 不同平台、不同显卡能拿到的指标不一致,Apple Silicon、Linux AMD 的可用读数更少
- 不会读取、Dump GPU 显存原始内容,不存在内存嗅探风险
- 不支持云 GPU、远程集群、纯 NPU 任务监控
- 温度、功耗读数偶尔存在刷新停滞、跳变等小 bug
七、产业层面意义
随着本地大模型部署普及,很多用户遇到显存莫名占满,但传统工具只能看到总量,分不清是模型权重、上下文缓存还是其他程序抢占;gputaskman 瞄准这个痛点,作为轻量开源工具降低本地 AI 调优门槛;同时它也为操作系统原生 GPU 监控指明需求方向,Scott Hanselman 在社交平台暗示,这类细粒度显存分析未来有可能反哺 Windows 官方任务管理器的迭代思路。
【相关 FAQ】
问题 1:gputaskman 是微软官方发布的正式工具吗?
回答 1:不是,gputaskman 是微软副总裁 Scott Hanselman 的个人实验开源项目,托管在其个人 GitHub,采用 MIT 协议,不等同于微软官方正式产品。
问题 2:gputaskman 相比 NVIDIA SMI,最大优势是什么?
回答 2:它可以识别本地运行的大模型,把显存拆分为模型权重、KV Cache、计算缓冲区,并且是交互式终端,像 htop 一样实时刷新,对本地 LLM 调试更友好。
问题 3:gputaskman 支持苹果 Mac 吗?
回答 3:支持 Apple Silicon Mac,可以读取 M 系列 GPU 的基础负载,但是相比 Windows,可获取的监控指标更少。
问题 4:gputaskman 能不能用来监控云端 GPU?
回答 4:不能,gputaskman 的定位是本地 GPU 任务监控,只读取本机显卡,不支持远程云算力、NPU 负载采集。
【参考资料】
[2026-11-06](微软高管汉塞尔曼开源 gputaskman:给 GPU 内部装一个 htop)钛媒体
[2026-11-06](Microsoft Engineer's New Open-Source Tool "GPU Taskman")Windows Report
[2026-11-09](微软 GitHub 副总裁开源 gputaskman GPU 监控工具)系统之家
[2026-11-06](GPU Taskman: Per-Process VRAM Tool)ElevenForum
[2026-11-06](gputaskman GitHub 项目主页)
【免责声明】
本文信息基于项目 GitHub 页面与海外科技媒体报道;gputaskman 属于早期实验软件,功能、读数准确性会随版本迭代持续优化;该工具不提供任何官方技术保障;本文仅作为开发者资讯汇总,不构成生产环境部署建议。
本文来自作者[驰光链路]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/kjyw/202611/941.html
评论列表(4条)
我是乌兰科技网的签约作者“驰光链路”!
希望本篇文章《微软高管推出开源终端 GPU 监控工具 gputaskman,主打本地 LLM 显存细粒度拆解》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:2026 年 11 月 6 日,微软与 GitHub 副总裁 Scott Hanselman 在 GitHub 发布开源项目 gputaskman,这是一款终端界面、类似 htop 的跨平台 GPU 任务管理工具;它补足 Windows 自带任务管理器、NV 监控工具的短板,不只是展示显存总占用,而是按进程拆分资源消耗,并且专门针对本地大模型推理做识别,能够区分模型权重、KV Cache、计算缓冲区,对本地部署 Ollama、LM Studio 的开发者非常实用;项目采用 MIT 协议开源,属于早期实验项目,并非微软官方正式产品,源码与便携包已经上架 GitHub Releases,同时支持 JSON 输出,方便接入自动化脚本采集监控数据。下面把基础信息、核心能力、平台适配、对比差异、使用要点全部整理清楚。