Featured image of post GPU Task Manager: Terminal-Tool zur GPU-Überwachung in v0.4.2 und v0.4.3 veröffentlicht

GPU Task Manager: Terminal-Tool zur GPU-Überwachung in v0.4.2 und v0.4.3 veröffentlicht

GPU Task Manager (gputaskman) wurde in den Versionen v0.4.2 und v0.4.3 veröffentlicht.

Das experimentelle, quelloffene Terminal-Tool ist eine Art “htop für die GPU”: Es zeigt pro Prozess den GPU-Speicher und die Engine-Auslastung an und versucht, geladene LLMs samt Speicheraufteilung zu erkennen. Es läuft unter Linux (NVIDIA sowie AMD und Intel), Windows, WSL und macOS.

Version 0.4.2 bringt unter anderem vLLM- und llama-server-Metriken, AMD-Unterstützung in WSL sowie einen Offline-Playback aufgezeichneter GPU-Sessions. Version 0.4.3 ersetzt unter Windows bei Intel- und Qualcomm-GPUs die “N/A”-Zeile durch die GPU-Auslastung.

Neuerungen in Version 0.4.2 (sinngemäß):

  • Shows vLLM request and KV-cache gauges from /metrics, as the runtime reports them
  • Reports KV-cache usage and request concurrency from llama-server /metrics
  • Adds AMD GPU support in WSL via ROCm AMD SMI
  • Adds a gputaskman summary command for record files
  • Adds interactive offline playback of a recorded GPU session
  • Adds Xe per-process fdinfo memory and cycle accounting
  • Reads Xe primary-GT frequency and throttle sysfs values
  • Normalizes Windows backslashes when formatting Handy model paths
  • Changes report output to integer percentages and shortens the Intel VRAM caveat

Neuerungen in Version 0.4.3 (sinngemäß):

Windows Intel/Qualcomm: replace the all-N/A device line with GPU % and one reason (Windows reports no temperature, power, clocks or PCIe for these GPUs). JSON unchanged.

GPU Task Manager

Quelle: GitHub

PlayingTux – Playing Games on Linux - since 1995.