微软高管推出开源终端 GPU 监控工具 gputaskman,主打本地 LLM 显存细粒度拆解

2026 年 11 月 6 日,微软与 GitHub 副总裁 Scott Hanselman 在 GitHub 发布开源项目 gputaskman,这是一款终端界面、类似 htop 的跨平台 GPU 任务管理工具;它补足 Windows 自带任务管理器、NV 监控工具的短板,不只是展示显存总占用,而是按进程拆分资源消耗,并且专门针对本地大模型推理做识别,能够区分模型权重、KV Cache、计算缓冲区,对本地部署 Ollama、LM Studio 的开发者非常实用;项目采用 MIT 协议开源,属于早期实验项目,并非微软官方正式产品,源码与便携包已经上架 GitHub Releases,同时支持 JSON 输出,方便接入自动化脚本采集监控数据。下面把基础信息、核心能力、平台适配、对比差异、使用要点全部整理清楚。

一、项目基础信息清单

  • 发布时间:2026‑11‑06
  • 作者:Scott Hanselman(微软、GitHub 副总裁)
  • 项目性质:个人实验项目,不属于微软官方正式产品
  • 开源协议:MIT
  • 界面形态:终端 TUI,风格对标 htop
  • 获取渠道:GitHub 仓库,提供 Windows 便携预编译包,也支持源码自行构建
  • 适用范围:仅监控本地 GPU 负载,不支持云端算力、纯 NPU、纯 CPU 任务监控
  • 底层接口:Windows GPU 计数器、NVML、AMD 监控接口、Metal(Apple Silicon)

二、核心监控能力

  • 进程级指标:逐进程展示 GPU 利用率、显存占用、时钟频率、功耗、芯片温度
  • 总线与编解码:PCIe 流量、硬件视频编码器、解码器实时活跃度
  • LLM 专项识别:识别 GGUF 等模型文件,区分权重占用、KV Cache、临时计算缓冲,标注量化方式、运行时;支持 Ollama、LM Studio、PyTorch 本地推理任务
  • 多卡汇总:多 GPU 环境下可以切换查看不同设备负载
  • 导出能力:支持 JSON 结构化输出,适合自动化监控、日志采集脚本
  • 运行时识别:识别 CUDA、Vulkan、Metal 等活跃运行环境

三、平台与硬件适配一览

平台支持硬件限制说明
WindowsNVIDIA、AMD数据完整性最好
Linux / WSLNVIDIA暂未完善 AMD 支持
macOSApple Silicon(M 系列)部分指标读取受限

四、和主流监控工具对比

工具界面显存细分LLM 识别跨平台
gputaskman终端 TUI按进程拆分,区分权重 / KV Cache原生支持本地大模型识别Windows / Linux / macOS
Windows 任务管理器GUI仅总量,缺少进程级精细拆分无模型识别仅 Windows
NVIDIA SMI / NVTOP终端显存、引擎负载无法识别 LLM 内部缓冲NVIDIA 限定
GPUView图形化追踪面向 ETW 事件追踪,适合深度性能排查无自动模型识别Windows

五、上手简要步骤

  1. 直接运行预编译包:前往 GitHub Releases,下载 Windows 便携版本,无需安装,双击即可启动终端界面
  2. 源码编译运行
  3. JSON 导出:带上输出参数,将指标输出为 JSON,对接脚本、告警系统
  4. 交互操作:终端内支持排序、切换 GPU、筛选进程,查看单任务详情

git clone https://github.com/shanselman/gputaskman.git cd gputaskman uv run --locked gputaskman

六、当前局限与注意事项

  • 项目处于早期实验阶段,部分 LLM 的权重、KV Cache 数值属于估算值,并非硬件级精确计量
  • 不同平台、不同显卡能拿到的指标不一致,Apple Silicon、Linux AMD 的可用读数更少
  • 不会读取、Dump GPU 显存原始内容,不存在内存嗅探风险
  • 不支持云 GPU、远程集群、纯 NPU 任务监控
  • 温度、功耗读数偶尔存在刷新停滞、跳变等小 bug

七、产业层面意义

随着本地大模型部署普及,很多用户遇到显存莫名占满,但传统工具只能看到总量,分不清是模型权重、上下文缓存还是其他程序抢占;gputaskman 瞄准这个痛点,作为轻量开源工具降低本地 AI 调优门槛;同时它也为操作系统原生 GPU 监控指明需求方向,Scott Hanselman 在社交平台暗示,这类细粒度显存分析未来有可能反哺 Windows 官方任务管理器的迭代思路。

【相关 FAQ】

问题 1:gputaskman 是微软官方发布的正式工具吗?

回答 1:不是,gputaskman 是微软副总裁 Scott Hanselman 的个人实验开源项目,托管在其个人 GitHub,采用 MIT 协议,不等同于微软官方正式产品。

问题 2:gputaskman 相比 NVIDIA SMI,最大优势是什么?

回答 2:它可以识别本地运行的大模型,把显存拆分为模型权重、KV Cache、计算缓冲区,并且是交互式终端,像 htop 一样实时刷新,对本地 LLM 调试更友好。

问题 3:gputaskman 支持苹果 Mac 吗?

回答 3:支持 Apple Silicon Mac,可以读取 M 系列 GPU 的基础负载,但是相比 Windows,可获取的监控指标更少。

问题 4:gputaskman 能不能用来监控云端 GPU?

回答 4:不能,gputaskman 的定位是本地 GPU 任务监控,只读取本机显卡,不支持远程云算力、NPU 负载采集。

【参考资料】

[2026-11-06](微软高管汉塞尔曼开源 gputaskman:给 GPU 内部装一个 htop)钛媒体

[2026-11-06](Microsoft Engineer's New Open-Source Tool "GPU Taskman")Windows Report

[2026-11-09](微软 GitHub 副总裁开源 gputaskman GPU 监控工具)系统之家

[2026-11-06](GPU Taskman: Per-Process VRAM Tool)ElevenForum

[2026-11-06](gputaskman GitHub 项目主页)

【免责声明】

本文信息基于项目 GitHub 页面与海外科技媒体报道;gputaskman 属于早期实验软件,功能、读数准确性会随版本迭代持续优化;该工具不提供任何官方技术保障;本文仅作为开发者资讯汇总,不构成生产环境部署建议。

本文来自作者[驰光链路]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/kjyw/202611/941.html

赞 (5)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 驰光链路
    驰光链路 2026年11月10日

    我是乌兰科技网的签约作者“驰光链路”!

  • 驰光链路
    驰光链路 2026年11月10日

    希望本篇文章《微软高管推出开源终端 GPU 监控工具 gputaskman,主打本地 LLM 显存细粒度拆解》能对你有所帮助!

  • 驰光链路
    驰光链路 2026年11月10日

    本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索

  • 驰光链路
    驰光链路 2026年11月10日

    本文概览:2026 年 11 月 6 日,微软与 GitHub 副总裁 Scott Hanselman 在 GitHub 发布开源项目 gputaskman,这是一款终端界面、类似 htop 的跨平台 GPU 任务管理工具;它补足 Windows 自带任务管理器、NV 监控工具的短板,不只是展示显存总占用,而是按进程拆分资源消耗,并且专门针对本地大模型推理做识别,能够区分模型权重、KV Cache、计算缓冲区,对本地部署 Ollama、LM Studio 的开发者非常实用;项目采用 MIT 协议开源,属于早期实验项目,并非微软官方正式产品,源码与便携包已经上架 GitHub Releases,同时支持 JSON 输出,方便接入自动化脚本采集监控数据。下面把基础信息、核心能力、平台适配、对比差异、使用要点全部整理清楚。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们