GPU Task Manager (gputaskman) wurde in den Versionen v0.4.2 und v0.4.3 veröffentlicht.
Das experimentelle, quelloffene Terminal-Tool ist eine Art “htop für die GPU”: Es zeigt pro Prozess den GPU-Speicher und die Engine-Auslastung an und versucht, geladene LLMs samt Speicheraufteilung zu erkennen. Es läuft unter Linux (NVIDIA sowie AMD und Intel), Windows, WSL und macOS.
Version 0.4.2 bringt unter anderem vLLM- und llama-server-Metriken, AMD-Unterstützung in WSL sowie einen Offline-Playback aufgezeichneter GPU-Sessions. Version 0.4.3 ersetzt unter Windows bei Intel- und Qualcomm-GPUs die “N/A”-Zeile durch die GPU-Auslastung.
Neuerungen in Version 0.4.2 (sinngemäß):
- Shows vLLM request and KV-cache gauges from
/metrics, as the runtime reports them- Reports KV-cache usage and request concurrency from llama-server
/metrics- Adds AMD GPU support in WSL via ROCm AMD SMI
- Adds a
gputaskmansummary command for record files- Adds interactive offline playback of a recorded GPU session
- Adds Xe per-process fdinfo memory and cycle accounting
- Reads Xe primary-GT frequency and throttle sysfs values
- Normalizes Windows backslashes when formatting Handy model paths
- Changes report output to integer percentages and shortens the Intel VRAM caveat
Neuerungen in Version 0.4.3 (sinngemäß):
Windows Intel/Qualcomm: replace the all-N/A device line with GPU % and one reason (Windows reports no temperature, power, clocks or PCIe for these GPUs). JSON unchanged.

Quelle: GitHub