11月6日,微软与GitHub副总裁斯科特·汉塞尔曼以个人名义开源GPU监控工具gputaskman,定位是GPU内部世界的htop。它可以按进程展示显存、使用率、温度、功耗、时钟频率、编解码活动及PCIe流量,还能识别本地大语言模型进程,显示模型、运行时、权重、量化方式、层数和显存占用。 为什么