Werbung: Dieser Beitrag enthält Affiliate-Links (mit * markiert). Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.
Ollama ohne Grafikkarte: Geht das überhaupt?
Dein alter Laptop hat keine starke Grafikkarte oder nur einen schwachen Grafikchip? Kein Problem. Du kannst Sprachmodelle wie Llama oder Phi auch rein über den Hauptprozessor (CPU) laufen lassen.
Ollama erkennt automatisch, wenn keine passende GPU vorhanden ist, und nutzt stattdessen den Arbeitsspeicher (RAM) deines Geräts. Mein Laptop ist ein MSI GP72M mit Intel i7-7700HQ, 32 GB RAM und einer GTX 1050 mit 4 GB. Darauf läuft zum Beispiel qwen2.5-coder:7b in meinem normalen Ollama-Betrieb mit etwa 5,5 Tokens pro Sekunde. Dabei hilft die kleine Grafikkarte noch mit – ganz ohne Grafikkarte musst du mit spürbar weniger Tempo rechnen.
Das bedeutet allerdings: Der Arbeitsspeicher wird zur wichtigsten Komponente für deine lokale KI.
Wie viel RAM brauchst du für welche Modellgröße?
Kleine Sprachmodelle gibt es in verschiedenen Gewichtsklassen. Die Größe wird meist in Milliarden Parametern (B) angegeben. Je größer das Modell, desto mehr RAM ist nötig. Mit meinen 32 GB RAM laufen bei mir auch 7B-Modelle wie qwen2.5-coder:7b.
- 1B bis 3B Modelle: Diese kleinen Modelle begnügen sich mit wenig Speicher. Das Modell llama3.2:3b ist in Ollama zum Beispiel rund 2 GB groß. Dazu kommt der Speicher, den Windows oder Linux selbst brauchen.
- 7B oder 8B Modelle: Diese Modelle liefern bereits deutlich bessere Antworten. Dafür brauchst du jedoch spürbar mehr Arbeitsspeicher.
Achtung: Ist das Modell größer als dein freier Arbeitsspeicher, bricht Ollama meist mit einer Fehlermeldung ab – oder Windows lagert auf die Festplatte aus, und alles wird extrem langsam. Prüfe vorher, wie viel RAM nach dem Start von Betriebssystem und Browser noch frei ist.
Willst du wissen, ob ein bestimmtes Modell auf deiner Hardware läuft? Nutze einfach den Rechner Läuft das bei mir?.
Arbeitsspeicher unter Windows und Linux prüfen
Bevor du ein Modell herunterlädst, solltest du nachsehen, wie viel RAM aktuell frei ist.
Unter Windows öffnest du den Task-Manager mit der Tastenkombination Strg + Shift + Esc. Klicke auf den Reiter Leistung und wähle Arbeitsspeicher. Dort siehst du, wie viel RAM insgesamt verbaut ist und wie viel davon gerade genutzt wird.
Unter Linux hilft dir das Terminal weiter. Gib einfach diesen Befehl ein:
free -h
Der Befehl zeigt dir sofort den gesamten und den aktuell freien Arbeitsspeicher in einer lesbaren Größe an.
Wann lohnt sich ein Upgrade?
Wenn du merkst, dass dein Laptop bei kleinen Modellen bereits an seine Grenzen stößt, lässt sich bei vielen älteren Geräten der Arbeitsspeicher unkompliziert erweitern.
Achte beim Kauf darauf, welcher Speichertyp zu deinem Mainboard passt.
Weitere Auswahl: 16 GB DDR4 SO-DIMM Arbeitsspeicher* oder Notebook-Arbeitsspeicher bei ALTERNATE*
Tipp: Schraube den Laptop vor dem Kauf einmal auf oder schaue in das Handbuch. Manchmal sind beide Steckplätze bereits belegt und du musst zwei alte Module gegen größere austauschen.
Unsere Partner
Werbung: Die Banner und Knöpfe hier sind Partnerlinks. Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.

Hi, ich bin Cengiz.
Auf meinem alten Gaming-Laptop mit GTX 1050 (4 GB) habe ich mir einen eigenen KI-Assistenten mit Sprachsteuerung gebaut – mit Ollama und Open WebUI, ganz lokal. Hier schreibe ich auf, was auf älterer Hardware wirklich läuft und was nicht. Jeder Artikel ist von mir geprüft und freigegeben.
Mehr über mich und den Blog · ▶ Meine Videos auf YouTube

