Werbung: Dieser Beitrag enthält Affiliate-Links (mit * markiert). Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich.
Kurz gesagt
Für lokale KI mit Ollama zählt beim Laptop vor allem eine Zahl: der Grafikspeicher (VRAM). Er entscheidet, welche Modelle komplett auf der Grafikkarte laufen und damit schnell sind. Prozessor, Gehäuse und Bildschirm sind zweitrangig.
Die Faustregel:
- 4 GB: kleine Modelle bis 3B laufen flott, alles darüber wird langsam.
- 6 GB: 4B-Modelle passen, 7B/8B nur knapp.
- 8 GB: 7B- und 8B-Modelle laufen komplett auf der Grafikkarte. Das ist das sinnvolle Minimum für einen neuen Laptop.
- 12 bis 16 GB: auch 14B-Modelle passen.
Wichtig: Ich besitze selbst nur einen Laptop mit GTX 1050 (4 GB). Die Werte für 4 GB habe ich gemessen. Alles darüber sind Kaufkriterien und Faustregeln, keine Testergebnisse.
Warum der Grafikspeicher so wichtig ist
Ein Sprachmodell muss beim Antworten ständig komplett gelesen werden. Liegt es ganz im Grafikspeicher, geht das sehr schnell. Passt es nicht hinein, legt Ollama einen Teil in den normalen Arbeitsspeicher, und den Rest muss der Prozessor rechnen. Dann bricht das Tempo ein.
Das sieht man an meinen Messungen auf der GTX 1050 mit 4 GB:
| Modell | Größe | Auf der Grafikkarte | Tempo |
|---|---|---|---|
| llama3.2:1b | 1,4 GB | 100 % | 44,9 Token/s |
| llama3.2:3b | 2,2 GB | 100 % | 24,0 Token/s |
| qwen3:4b-instruct | 3,0 GB | 75 % | 14,5 Token/s |
| qwen2.5:7b | 4,7 GB | 48 % | 6,5 Token/s |
Sobald ein Modell nicht mehr ganz hineinpasst, wird es mit jedem Gigabyte langsamer. Ein 7B-Modell schafft auf meiner Karte nur noch ein Viertel des Tempos von llama3.2:3b. Alle zehn gemessenen Modelle stehen im Artikel Ollama auf der GTX 1050.
Tipp: Auf kleinen Karten lässt Ollama Grafikspeicher ungenutzt. Mit einer Einstellung liefen bei mir 4B-Modelle bis zu 51 % schneller. Wie das geht, steht in Ollama nutzt deine 4-GB-Grafikkarte nicht voll. Probier das, bevor du etwas kaufst.
Welche Modelle bei wie viel Grafikspeicher laufen
Die Tabelle folgt derselben Faustregel wie der Rechner auf diesem Blog: Ein Modell läuft flott, wenn der Grafikspeicher mindestens etwa 0,8 GB größer ist als das Modell. Den Rest braucht Ollama für den Gesprächsverlauf. Gemeint sind die üblichen 4-Bit-Modelle, wie Ollama sie standardmäßig lädt.
| Grafikspeicher | Läuft komplett auf der Grafikkarte | Beispiele |
|---|---|---|
| 4 GB | bis etwa 3B | llama3.2:3b, qwen2.5:3b (gemessen) |
| 6 GB | bis etwa 4B, 7B/8B knapp | qwen3:4b, gemma3:4b; qwen2.5:7b nur mit kurzem Verlauf |
| 8 GB | 7B und 8B | qwen2.5:7b, qwen2.5-coder:7b, llama3.1:8b |
| 12 GB | bis etwa 14B | qwen2.5:14b |
| 16 GB | 14B mit viel Luft | qwen2.5:14b mit langem Verlauf |
| 24 GB | bis etwa 32B, knapp | qwen2.5:32b |
Ob dein jetziges oder ein geplantes Gerät reicht, zeigt der Rechner Läuft das bei mir? für die gängigen Modelle.
Welche Laptop-Grafikkarte wie viel Grafikspeicher hat
Hier liegt die größte Falle: Der Name der Grafikkarte sagt wenig darüber, wie viel Grafikspeicher sie hat. Eine teurere Karte kann genauso viel haben wie eine billigere.
Aktuelle Generation (RTX 50, Laptop):
| Grafikkarte | Grafikspeicher |
|---|---|
| RTX 5050 Laptop | 8 GB |
| RTX 5060 Laptop | 8 GB |
| RTX 5070 Laptop | 8 GB |
| RTX 5070 Ti Laptop | 12 GB |
| RTX 5080 Laptop | 16 GB |
| RTX 5090 Laptop | 24 GB |
Vorgänger (RTX 40, Laptop), oft günstiger oder gebraucht:
| Grafikkarte | Grafikspeicher |
|---|---|
| RTX 4050 Laptop | 6 GB |
| RTX 4060 Laptop | 8 GB |
| RTX 4070 Laptop | 8 GB |
| RTX 4080 Laptop | 12 GB |
| RTX 4090 Laptop | 16 GB |
Ältere Geräte (RTX 30, Laptop), meist gebraucht:
| Grafikkarte | Grafikspeicher |
|---|---|
| RTX 3050 / 3050 Ti Laptop | 4 GB (manche 3050 auch 6 GB) |
| RTX 3060 Laptop | 6 GB |
| RTX 3070 / 3070 Ti Laptop | 8 GB |
| RTX 3080 Laptop | 8 GB oder 16 GB |
| RTX 3080 Ti Laptop | 16 GB |
Was daraus folgt:
- RTX 5050, 5060 und 5070 haben alle 8 GB. Für die Frage, welche Modelle laufen, gibt es zwischen ihnen keinen Unterschied. Die teurere Karte rechnet schneller, aber sie lädt keine größeren Modelle.
- Der große Sprung kommt erst mit der RTX 5070 Ti (12 GB). Erst ab hier passen 14B-Modelle.
- RTX 4050 (6 GB) gegen RTX 4060 (8 GB): Für lokale KI lohnt sich der Schritt zur 4060, weil damit 7B/8B-Modelle sicher komplett hineinpassen.
- Gebraucht: Eine RTX 3080 Laptop gibt es mit 8 oder mit 16 GB. Die 16-GB-Fassung ist für KI viel interessanter. Schau ins Datenblatt, nicht nur auf den Namen.
Die Fallen beim Kauf
1. Die Leistung der Grafikkarte (TGP). Hersteller dürfen derselben Grafikkarte unterschiedlich viel Strom geben. NVIDIA erlaubt bei der RTX 5060 Laptop zum Beispiel 45 bis 100 Watt. Eine schwach eingestellte Karte in einem dünnen Gerät ist spürbar langsamer als dieselbe Karte in einem dicken Gaming-Laptop. Die Wattzahl steht oft im Datenblatt oder in ausführlichen Tests zum genauen Modell. Am Grafikspeicher ändert sie nichts, nur am Tempo.
2. Verlöteter Arbeitsspeicher. Viele neue Laptops haben fest verlöteten Arbeitsspeicher. Er lässt sich später nie mehr erweitern. Für lokale KI sind 16 GB das Minimum, besser 32 GB oder steckbare Module.
3. Nur eine SSD und kein freier Steckplatz. Modelle brauchen schnell viele Gigabyte, bei mir 36,7 GB für 16 Modelle. Ein zweiter M.2-Steckplatz ist viel wert. Von einem USB-Stick oder NAS zu laden ist möglich, aber beim ersten Laden 5- bis 12-mal langsamer, wie ich gemessen habe.
4. Keine NVIDIA-Grafikkarte. Ollama läuft am einfachsten mit NVIDIA-Karten. Mit Grafikkarten anderer Hersteller habe ich keine Erfahrung. Wenn du so ein Gerät im Blick hast, prüf vorher, ob Ollama die Karte unterstützt.
5. Nur „integrierte Grafik“. Steht im Datenblatt nur Intel- oder AMD-Grafik ohne eigene Grafikkarte, laufen Modelle über Prozessor und Arbeitsspeicher. Das geht, aber deutlich langsamer. Was dann möglich ist, steht in Ollama ohne Grafikkarte.
Achtung: Grafikspeicher und verlöteter Arbeitsspeicher lassen sich bei Laptops nachträglich nicht ändern. Prüf beides im Datenblatt, bevor du bestellst.
Welche Stufe passt zu dir?
Preise nenne ich bewusst nicht, weil sie sich ständig ändern. Die Stufen helfen trotzdem beim Einordnen:
- Ich will erst mal ausprobieren: Ein vorhandener Laptop mit 4 GB reicht für Modelle bis 3B. So habe ich auch angefangen.
- Ich will 7B-/8B-Modelle flüssig nutzen, zum Beispiel zum Programmieren: Gerät mit 8 GB, also RTX 4060, 5050 oder 5060. Gebraucht auch RTX 3070.
- Ich will größere Modelle (14B): Gerät mit 12 oder 16 GB, also ab RTX 5070 Ti, RTX 4080 oder gebraucht RTX 3080 mit 16 GB.
- Ich will das Maximum im Laptop: RTX 5090 Laptop mit 24 GB. Für die meisten ist das übertrieben.
Eine weitere Auswahl: Notebooks bei notebooksbilliger.de*
Gebraucht oder neu?
Ein gebrauchter Gaming-Laptop mit RTX 3070 oder RTX 3080 kann für KI mehr Grafikspeicher bieten als ein neues Einsteigergerät. Achte dann besonders auf Akku, Lüfter und Zustand. Worauf es dabei ankommt, steht in Gebrauchter Laptop für lokale KI.
Wenn du am Black Friday (27. November) kaufen willst: Die typischen Fallen bei Angeboten habe ich in Laptop für lokale KI kaufen: Fallen am Black Friday gesammelt.
Fazit
Schau beim Laptop-Kauf für lokale KI zuerst auf den Grafikspeicher, dann auf den Arbeitsspeicher, dann auf alles andere. 8 GB Grafikspeicher sind das sinnvolle Minimum für ein neues Gerät, weil damit die beliebten 7B- und 8B-Modelle komplett auf der Grafikkarte laufen. Mehr Grafikspeicher gibt es erst ab der RTX 5070 Ti, nicht schon bei der RTX 5070.
Bevor du kaufst, lohnt sich ein Blick in die Übersicht zum Aufrüsten. Oft holst du aus deinem jetzigen Gerät noch mehr heraus, als du denkst.
Unsere Partner
Werbung: Die Banner und Knöpfe hier sind Partnerlinks. Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.

Hi, ich bin Cengiz.
Auf meinem alten Gaming-Laptop mit GTX 1050 (4 GB) habe ich mir einen eigenen KI-Assistenten mit Sprachsteuerung gebaut – mit Ollama und Open WebUI, ganz lokal. Hier schreibe ich auf, was auf älterer Hardware wirklich läuft und was nicht. Jeder Artikel ist von mir geprüft und freigegeben.
Mehr über mich und den Blog · ▶ Meine Videos auf YouTube

