KI-T-Shirt-Size

KI-T-Shirt-Size · Größenübersicht

Die Größen im Vergleich

Die Einschätzung hängt davon ab, wofür die KI eingesetzt wird. Ein M für Video ist nicht automatisch dasselbe wie ein M für einen Chat-Assistenten.

Model Training

Full Fine-Tuning, Training und Pretraining eigener Modelle.

XS
GPU-Speicher (VRAM)1× 80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
S
GPU-Speicher (VRAM)2× 80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
M
GPU-Speicher (VRAM)4× 80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
L
GPU-Speicher (VRAM)8× 80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)Multi-Node
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
XXL
GPU-Speicher (VRAM)GPU-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)AI/HPC-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

LLM Fine-Tuning

LoRA, QLoRA und Adapter-Fine-Tuning bestehender Modelle.

XS
GPU-Speicher (VRAM)16–24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
S
GPU-Speicher (VRAM)24–48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
M
GPU-Speicher (VRAM)48–80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
L
GPU-Speicher (VRAM)2× 80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)4× 80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)8× 80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
3XL
GPU-Speicher (VRAM)Training-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

Generative Media

Bild- und Videogenerierung sowie anspruchsvolle Medienverarbeitung.

XS
GPU-Speicher (VRAM)16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
M
GPU-Speicher (VRAM)48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
L
GPU-Speicher (VRAM)80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)2× 80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)GPU-Pool
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)Media-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

Multimodal / Vision

Bildanalyse, Vision-Language-Modelle und multimodale Anwendungen.

XS
GPU-Speicher (VRAM)16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
M
GPU-Speicher (VRAM)48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
L
GPU-Speicher (VRAM)80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)Multi-GPU
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)GPU-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

RAG / Knowledge AI

Dokumentenanalyse, Wissenssuche und Unternehmenswissen.

XS
GPU-Speicher (VRAM)12–16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)16–24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
M
GPU-Speicher (VRAM)24–48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
L
GPU-Speicher (VRAM)48–80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)Multi-GPU
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)GPU-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

AI Agents

Agenten, Tool-Calling und automatisierte KI-Workflows.

XS
GPU-Speicher (VRAM)12–16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)16–24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
M
GPU-Speicher (VRAM)24–48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
L
GPU-Speicher (VRAM)48–80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)Multi-GPU
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)Inference-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

Speech AI

Speech-to-Text, Text-to-Speech und Voice-Anwendungen.

XS
GPU-Speicher (VRAM)8–16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
M
GPU-Speicher (VRAM)24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
L
GPU-Speicher (VRAM)48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
XL
GPU-Speicher (VRAM)80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)GPU/CPU-Pool
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)Realtime-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

Batch AI

Embeddings, Klassifikation und große Datenmengen.

XS
GPU-Speicher (VRAM)8–16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)16–24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
M
GPU-Speicher (VRAM)24–48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
L
GPU-Speicher (VRAM)48–80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)GPU-Pool
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)Compute-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

Conversational AI

Chat, Assistenten, Coding und interaktive LLM-Anwendungen.

XS
GPU-Speicher (VRAM)12–16 GB
GPU-Speicherbandbreite · je GPUca. 0,3–1,5 TB/s je GPU
S
GPU-Speicher (VRAM)16–24 GB
GPU-Speicherbandbreite · je GPUca. 0,5–2,0 TB/s je GPU
M
GPU-Speicher (VRAM)24–48 GB
GPU-Speicherbandbreite · je GPUca. 1,0–3,0 TB/s je GPU
L
GPU-Speicher (VRAM)48–80 GB
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XL
GPU-Speicher (VRAM)80 GB+
GPU-Speicherbandbreite · je GPUca. 1,5–3,5 TB/s je GPU
XXL
GPU-Speicher (VRAM)Multi-GPU
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar
3XL
GPU-Speicher (VRAM)GPU-Cluster
GPU-Speicherbandbreite · je GPUModellabhängig; nicht pauschal schätzbar

Bandbreiten sind grobe, modellabhängige Richtwert-Spannen. Bei mehreren GPUs ist die Bandbreite nicht einfach zu einer Gesamtzahl addierbar. Für eine konkrete Planung müssen GPU-Modell und Systemaufbau feststehen.