Lokale KI

Welche Modelle laufen mit 16 GB VRAM?

Ob ein Modell auf deinem Rechner läuft, entscheidet zuerst der Speicher der Grafikkarte: Die Modelldatei muss in den VRAM passen, mit Reserve für das Kontextfenster und die Laufzeit. Die Stufen unten sind allein aus dem Speicher berechnet; die Softwareunterstützung (CUDA, ROCm, Vulkan) ist ein eigenes Thema.

20erfasste Produkte

Qwen3.5 9BKomfortabel

Lokale KI

Welche Modelle laufen mit 16 GB VRAM?

VRAM: 16 GB

Größtes komfortabel laufendes Modell: Qwen3.5 9B

Qwen3.5 0.8B1 GB PaketKomfortabel
Qwen3.5 2B2.7 GB PaketKomfortabel
Qwen3.5 4B3.4 GB PaketKomfortabel
Qwen3.5 9B6.6 GB PaketKomfortabel
gpt-oss-20b14 GB Paket · der Hersteller nennt mindestens 16 GB SpeicherLäuft
Qwen3.5 27B17 GB PaketEingeschränkt
Qwen3.5 35B24 GB PaketEingeschränkt
gpt-oss-120b65 GB Paket · der Hersteller nennt mindestens 80 GB SpeicherNicht geeignet
Qwen3.5 122B81 GB PaketNicht geeignet

KomfortabelPlatz für die Modelldatei und einen langen Kontext
LäuftPasst; das Kontextfenster muss eventuell kurz bleiben
EingeschränktZu wenig Speicher; ein Teil des Modells wandert ins System-RAM und läuft langsam
Nicht geeignetAuf dieser Karte kein Modell, das auf der GPU läuft

Regel: das 1.5-Fache des Bedarfs an Speicher ist Komfortabel, das 1.15-Fache Läuft, das 0.6-Fache Eingeschränkt; der Bedarf ist die Größe des Standardpakets oder das vom Hersteller genannte Minimum, wo es eines gibt (ein genanntes Minimum gilt bei genau diesem Wert als passend). Paketgrößen aus der Ollama-Bibliothek, Minima aus der Aussage des Herstellers; gelesen am 2026-09-11. Quellen: ollama.com/library/qwen3.5, ollama.com/library/gpt-oss, openai.com/index/introducing-gpt-oss

Alle Karten und Modelle