CPU vs. GPU: Was wofür? – Hardware-Wissen für Server und KI

CPU vs. GPU: Was wofür? – Hardware-Wissen für Server und KI

CPU oder GPU? Diese Frage stellt sich bei jedem Server-Kauf – und spätestens bei KI-Projekten wird sie entscheidend. Dieser Artikel erklärt die grundlegenden Unterschiede, zeigt, wofür welche Einheit gedacht ist, und hilft bei der richtigen Entscheidung für Server, Workstation oder KI-Rechner.

Die Grundidee: Wenige starke Kerne vs. viele parallele

Eine CPU (Central Processing Unit) hat wenige, aber sehr leistungsfähige Kerne (typisch 4–64) mit hohem Takt (3–5 GHz). Sie ist auf sequenzielle Aufgaben optimiert: Entscheidungen, Verzweigungen, komplexe Logik. Eine GPU (Graphics Processing Unit) hat tausende kleine Kerne (z.B. 10.000+ bei aktuellen Modellen), die parallel arbeiten – ideal für Aufgaben, die sich in viele unabhängige Teilrechnungen zerlegen lassen.

Wofür ist die CPU unverzichtbar?

• Webserver, Datenbanken (MariaDB/MySQL), Application-Server.
• Betriebssystem, Scheduling, I/O, Netzwerk-Stack.
• Kompilieren, Scripting, Verschlüsselung (mit AES-NI).
• Alle Aufgaben mit starken Abhängigkeiten und Verzweigungen.

Eine Datenbank-Query ist selten massiv parallel – sie braucht schnelle Einzelkerne, viel RAM und niedrige Latenz. Deshalb skaliert MariaDB eher über CPU-Takt und RAM als über Kernezahl.

Wofür ist die GPU unverzichtbar?

• KI/LLM-Inference: Transformer-Modelle sind Matrizen-Multiplikationen in Serie – perfekt für GPUs.
• KI-Training: Noch mehr Parallelität; hier entscheidet die GPU-Generation über Wochen oder Tage Rechenzeit.
• Grafik/Rendering: 3D, Video-Encoding (NVENC), Bildbearbeitung.
• Wissenschaftliches Rechnen: Simulationen, numerische Lineare Algebra (CUDA, ROCm, OpenCL).

Ein modernes LLM wie ein 7B-Parameter-Modell läuft auf einer CPU zwar – aber 10–50× langsamer als auf einer GPU. Für interaktive Nutzung ist CPU-only praktisch unbrauchbar.

Der Speicher entscheidet: VRAM ist die Währung

Bei KI ist nicht die Rechenleistung allein der Flaschenhals, sondern der VRAM. Ein LLM mit 7 Milliarden Parametern braucht in 16-Bit-Genauigkeit rund 14 GB Speicher – allein für die Gewichte. Faustregel für LLM-Inference:

• 8 GB VRAM: Modelle bis ~4B (quantisiert), z.B. Llama-3-8B mit 4-Bit-Quantisierung.
• 16 GB VRAM: 7–13B Modelle komfortabel, 30B quantisiert.
• 24 GB VRAM: 30–70B Modelle quantisiert (z.B. RTX 4090, RTX 5090).
• 48 GB+ (Pro-GPUs): 70B+ in voller Präzision, Training kleinerer Modelle.

Praxis-Tipp: Wer LLMs lokal betreiben will, kauft zuerst VRAM, dann Rechenleistung. Details zu konkreten GPUs: Hardware-Spezifikationen und der Artikel KI & Automatisierung.

CPU-only Server vs. GPU-Server

Für klassische Web- und Datenbank-Server reicht eine moderne CPU mit viel RAM – GPUs wären Verschwendung. Typische Beispiele:

• Webhosting (2–4 vCPU, 8–16 GB RAM): 100–300 €/Jahr, deckt Joomla/WordPress ab.
• DB-Server (4–8 vCPU, 32–64 GB RAM): schnelle Einzelkerne, NVMe-Speicher.
• KI-Inference (GPU 16–24 GB VRAM): ab ~0,50–1,50 €/h bei Cloud-Anbietern oder 1.500–3.000 € Hardware einmalig.

Wer nur gelegentlich KI braucht, mietet GPU-Zeit in der Cloud statt zu kaufen – Strom, Kühlung und Wartung entfallen. Wer täglich inferiert oder gar trainiert, amortisiert eine eigene GPU schnell. Vergleich dazu: RAM & Storage richtig wählen.

Benchmarks richtig lesen

Benchmarks sind nur mit Kontext aussagekräftig:

• PassMark/Cinebench: CPU-Gesamtleistung – gut für Vergleiche, sagt wenig über Datenbank-Latenz.
• Tokens/s bei LLMs: Der einzige relevante Wert für Inference; gemessen mit dem eigenen Modell, nicht mit generischen Scores.
• PCIe-Anbindung: Eine GPU an PCIe 3.0 x8 ist bei KI spürbar langsamer als an PCIe 4.0/5.0 x16 – der Bus ist Teil der Performance.

Wichtig: Werte aus Werbung („TOPS") nie mit realen Workloads verwechseln. Eigene Messung schlägt jeden Marketing-Wert.

Konkrete GPU-Empfehlungen nach Budget

Damit die Theorie praktisch wird – eine Einordnung nach Anspruch (Stand 2026, Preise als Richtwerte):

Wichtig: Die Preise für Consumer-GPUs schwanken stark (KI-Nachfrage!). Vor dem Kauf aktuelle Preise vergleichen – und die Stromrechnung nicht vergessen: Eine 450-W-GPU läuft nicht umsonst. Für gelegentliche Nutzung ist Cloud-GPU (z.B. über HanseKI/KIZAP) oft günstiger als eine teure Karte, die 95 % der Zeit idle steht.

Mehrere GPUs: NVLink, Multi-GPU und die Praxis

Ein Modell, das nicht in eine GPU passt, kann auf mehrere verteilt werden:

• Modell-Parallelität: Die Layer werden auf GPUs aufgeteilt (z.B. 70B auf 2×48 GB). Verbindung über NVLink (NVIDIA) oder PCIe – NVLink ist deutlich schneller.
• Tensor/Pipeline-Parallelität: Bei Training und sehr großen Modellen; Framework (vLLM, llama.cpp, DeepSpeed) übernimmt die Verteilung.
• Praktische Grenze: Ohne NVLink skaliert die Leistung suboptimal – 2 GPUs sind nicht automatisch 2× so schnell.

Für die meisten Anwendungen gilt: Eine große GPU schlägt zwei mittlere – weniger Overhead, weniger Strom, weniger Komplexität. Erst ab 70B+ wird Multi-GPU interessant.

Entscheidungsmatrix

• Webhosting, E-Mail, kleine Datenbanken → CPU-Server, kein GPU-Bedarf.
• Große Datenbank, viele gleichzeitige Nutzer → CPU mit hohem Takt + viel RAM.
• Lokale LLMs, Bildgenerierung, Video → GPU mit möglichst viel VRAM.
• Training eigener Modelle → High-End-GPU oder Cloud-GPU (siehe HanseKI/KIZAP-Setup).

Fazit

CPU und GPU sind keine Konkurrenten, sondern Spezialisten: Die CPU rechnet sequenziell und steuert, die GPU wuchtet parallele Massenberechnungen. Für den Server-Alltag zählt die CPU, für KI die GPU – und der VRAM ist die harte Grenze. Wer beides richtig einordnet, kauft weder zu wenig noch zu viel. Vertiefung zu Speicher und Datenträgern: RAM & Storage richtig wählen.

Verwandte Artikel: RAM & Storage richtig wählen · KI & Automatisierung · Systemadministration