GROBE INDIKATION
NICHT VERBINDLICHE TECHNISCHE DIMENSIONIERUNG
Grobindikation
RAG / Knowledge AI
M
RAG / Knowledge AI – M
Dokumentenanalyse, Wissenssuche und Unternehmenswissen.
Erkannte Workload-Klassen: Conversational AI, RAG / Knowledge AI, AI Agents
GPU-Speicher (VRAM)24–48 GBGrobe Kapazitätsklasse für Modell und Kontext
GPU-Speicherbandbreiteca. 1,0–3,0 TB/s je GPUGrobe Richtwert-Spanne je GPU
Warum? RAG/Wissensverarbeitung, mehrere Workload-Klassen.
Verwendete Angaben
ZielgruppeUnternehmensweit
Gesamt-User1.000–10.000
Gleichzeitig aktive Nutzer (Schätzung)10–100
IntensitätGelegentlich
PhaseProof of Concept / Experiment
EinsatzbereicheChat / KI-Assistent, Dokumente analysieren / RAG, KI-Agenten / Automatisierung
Einordnung: Die Bandbreite ist eine grobe Orientierung für einzelne GPU-Modelle, keine zugesicherte Leistung. Bei mehreren GPUs werden die Werte nicht einfach addiert. Das konkrete Modell, die Verbindung zwischen GPUs und die tatsächliche Anwendung beeinflussen die erreichbare Leistung. Für eine genaue Auslegung braucht es zusätzlich Modell, Anfragen, Kontext und ein gewünschtes Antworttempo.
Neue Bewertung