TPU (Tensor Processing Unit) ist ein von Google entwickelter ASIC (Application-Specific Integrated Circuit), der speziell für Machine Learning und neuronale Netze gebaut wurde. Anders als eine allgemeine GPU oder CPU ist die TPU auf Matrixmultiplikationen und Tensoroperationen optimiert.
Warum eine eigene KI-Hardware?
Neuronale Netze (siehe Deep Learning) bestehen hauptsächlich aus Matrixmultiplikationen. Eine TPU bündelt Tausende kleine Recheneinheiten mit lokalem Speicher (SRAM), sodass Daten nicht ständig durch die Speicherhierarchie wandern. Ergebnis: deutlich höhere Durchsatz pro Watt für Trainings- und Inferenz-Workloads.
TPU-Generationen & Einsatz
- TPU v1-v4, v5e, v6 (Trillium): Über Google Cloud als Cloud TPU nutzbar.
- Training großer Modelle (z.B. Gemini, frühe Transformer-Forschung) lief auf TPU-Pods.
- Konkurrenz: GPU-Cluster (NVIDIA) und andere KI-Chips (AWS Trainium, Cerebras).
Praxis-Tipps
- Für Hobby-KI reicht meist eine GPU — TPUs lohnen sich ab großem Maßstab (Cloud-Mietmodelle).
- TPUs erfordern oft Framework-Anpassung (z.B. JAX/TensorFlow statt PyTorch-Standardpfade).