KI-T-Shirt-Size
GROBE INDIKATION NICHT VERBINDLICHE TECHNISCHE DIMENSIONIERUNG

Grobindikation

Model Training
L

Model Training – L

Full Fine-Tuning, Training und Pretraining eigener Modelle.

Erkannte Workload-Klassen: Model Training, Batch AI

GPU-Speicher (VRAM)8× 80 GB+Grobe Kapazitätsklasse für Modell und Kontext
GPU-Speicherbandbreiteca. 1,5–3,5 TB/s je GPUGrobe Richtwert-Spanne je GPU

Warum? hohe Nutzungsintensität, produktiver Einsatz, Model Training, mehrere Workload-Klassen.

Verwendete Angaben

ZielgruppeKleines Team
Gesamt-User10–50
Gleichzeitig aktive Nutzer (Schätzung)1–10
IntensitätHäufig
PhaseKritischer Produktivbetrieb
EinsatzbereicheFull Fine-Tuning / Training eigener Modelle, Batch AI / Embeddings / Klassifikation

Einordnung: Die Bandbreite ist eine grobe Orientierung für einzelne GPU-Modelle, keine zugesicherte Leistung. Bei mehreren GPUs werden die Werte nicht einfach addiert. Das konkrete Modell, die Verbindung zwischen GPUs und die tatsächliche Anwendung beeinflussen die erreichbare Leistung. Für eine genaue Auslegung braucht es zusätzlich Modell, Anfragen, Kontext und ein gewünschtes Antworttempo.

Neue Bewertung