GPU Task Manager (gputaskman) wurde in der Version v0.4.1 veröffentlicht.

Das experimentelle, quelloffene Terminal-Tool ist eine Art “htop für die GPU”: Es zeigt pro Prozess den GPU-Speicher und die Engine-Auslastung an und versucht, geladene LLMs samt Speicheraufteilung zu erkennen. Es läuft unter Linux (NVIDIA sowie AMD und Intel), Windows, WSL und macOS.

Die Neuerungen in Version 0.4.1 (sinngemäß):

• Detects custom model-path arguments and tracks where they came from (#49)
• Reports Intel GPU activity using Windows WDDM counters (#53)
• Shows NVIDIA GPUs in TCC mode on Windows (#37)
• Keeps Intel integrated WDDM memory out of VRAM reporting (#54)
• Reports recording I/O failures cleanly (#58)
• Identifies loaded Foundry Local models on Snapdragon (#62)
• Reports Qualcomm GPU memory as shared RAM (#63)
• Reads the Windows GPU driver version from PnP (#64)
• Fixes integrated GPU process memory reporting (#65)

Quelle: GitHub