Grundlagen der GPU-Verwaltung und -Optimierung für LLMOps-Ingenieure

Meistern Sie die wesentlichen Techniken zur Überwachung, Optimierung und Skalierung von GPU-Ressourcen, um die Leistung und Kosteneffizienz von LLM-Workloads in der Produktion zu maximieren.
...

Grundlagen der GPU-Architektur und Leistungsüberwachung

Unit 1: GPU-Grundlagen für LLMs

Unit 2: GPU-Leistungsüberwachung mit NVIDIA SMI

Unit 3: Effizientes GPU-Speichermanagement

Erweiterte GPU-Optimierung und Skalierung für LLMs

Unit 1: Tiefenprofiling von LLM-Workloads

Unit 2: Skalierung von LLMs über mehrere GPUs

Unit 3: GPU-Hardware und Cloud-Auswahl