Werbung: Dieser Beitrag enthält Affiliate-Links (mit * markiert). Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich.
Du möchtest lokale KI auf einem älteren oder gebrauchten Laptop nutzen, weißt aber nicht, welche Hardware du wirklich brauchst? Der Kauf eines gebrauchten Geräts kann eine günstige Möglichkeit sein, um Sprachmodelle mit Programmen wie Ollama direkt auf dem eigenen Rechner laufen zu lassen.
Aus eigener Erfahrung mit einem älteren Laptop mit einer NVIDIA GTX 1050 (4 GB VRAM), einem i7-7700HQ und 32 GB RAM lässt sich einiges darüber sagen, welche Komponenten bei lokaler KI den größten Unterschied machen. Für den Kauf würde ich auf diese Punkte achten: Eine NVIDIA-Grafikkarte mit mindestens 6 GB, besser 8 GB VRAM; mindestens 16 GB RAM, besser 32 GB; SSD mit mindestens 500 GB. Die genaue Grafikkarte steht meist im Datenblatt oder in der Produktbeschreibung.
Die wichtigste Komponente: Der Grafikspeicher (VRAM)
Wenn du lokale Sprachmodelle betreibst, ist die Grafikkarte (GPU) der entscheidende Faktor für die Geschwindigkeit. Das zeigt sich direkt an den Messwerten, wie du in meiner Messtabelle Ollama auf der GTX 1050 sehen kannst. Kleinere Modelle bis etwa 2,2 GB Speicherbedarf laufen flüssig komplett auf der Grafikkarte.
Ein kleineres Modell wie llama3.2:1b erreicht flüssige 45 Token pro Sekunde. Auch llama3.2:3b läuft mit rund 24 Token pro Sekunde noch sehr gut. Sobald Modelle jedoch größer werden, wie etwa ein Modell mit 4 Milliarden Parametern, passen sie nicht mehr vollständig in den Grafikspeicher der GTX 1050 mit 4 GB und müssen teilweise auf den langsameren Arbeitsspeicher ausweichen.
Bei mir lief qwen3:4b-instruct automatisch nur mit 14,5 Token/s, weil Ollama auf der 4-GB-Karte Platz frei lässt. Mit der Einstellung num_gpu 99 lief es komplett auf der Grafikkarte mit 18,2 Token/s. Mehr dazu liest du in meinem Beitrag Ollama nutzt deine 4-GB-Grafikkarte nicht voll.
Achtung: Größere Modelle mit 7B oder 8B Parametern erreichen auf einer 4-GB-Grafikkarte oft nur noch etwa 6,5 Token pro Sekunde, da ein Großteil der Berechnungen auf dem Hauptprozessor stattfindet.
Warum Arbeitsspeicher (RAM) trotzdem wichtig ist
Auch wenn die Grafikkarte die Hauptarbeit leistet, ist ausreichend Arbeitsspeicher entscheidend. Eine großzügige Ausstattung mit 32 GB RAM sorgt dafür, dass auch größere Modelle überhaupt geladen werden können – selbst wenn sie dann langsamer laufen.
Wenn du prüfen möchtest, ob dein aktuelles System oder ein in Aussicht stehendes Gerät für bestimmte Modelle ausreicht, hilft dir der Rechner Läuft das bei mir?. Dort siehst du schnell, ob die Hardware zu deinen Wunschmodellen passt.
Worauf du beim Kauf eines gebrauchten KI-Laptops achten solltest
Beim Kauf gebrauchter Hardware für lokale KI gibt es eine klare Rangliste der Prioritäten:
- Grafikkarte (VRAM): Das ist der absolute Flaschenhals. Für kleinere Modelle reichen 4 GB VRAM aus. Wer größere 7B- oder 8B-Modelle flüssig und komplett auf der GPU nutzen möchte, sollte nach Geräten mit mindestens 8 GB VRAM Ausschau halten. Welche Grafikkarte wie viel VRAM hat, zeigt die Kaufberatung nach Grafikspeicher.
- Arbeitsspeicher (RAM): Achte darauf, dass der Arbeitsspeicher erweiterbar ist. 16 GB sind eine gute Basis, 32 GB oder mehr geben dir Luft nach oben für größere Modelle.
- Prozessor (CPU): Der Prozessor unterstützt die Grafikkarte, wenn der VRAM nicht ausreicht. Ein älterer i7 oder vergleichbare AMD-Prozessoren reichen für den Einstieg völlig aus.
- Akku und Zustand: Da gebrauchte Laptops oft älter sind, solltest du den Zustand des Akkus und die Kühlung im Blick behalten. KI-Berechnungen fordern die Hardware.
Eine Auswahl findest du bei Gaming-Notebooks bei ALTERNATE* oder Notebooks bei notebooksbilliger.de*.
Mit dem richtigen Verständnis der eigenen Hardware-Grenzen steht dem Einstieg in die lokale KI auf einem älteren oder gebrauchten Laptop nicht im Weg. Passe die Modellgröße einfach an deinen vorhandenen VRAM an, optimiere Einstellungen wie num_gpu und teste dich Schritt für Schritt an die Leistungsgrenzen deines Systems heran.
Unsere Partner
Werbung: Die Banner und Knöpfe hier sind Partnerlinks. Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.

Hi, ich bin Cengiz.
Auf meinem alten Gaming-Laptop mit GTX 1050 (4 GB) habe ich mir einen eigenen KI-Assistenten mit Sprachsteuerung gebaut – mit Ollama und Open WebUI, ganz lokal. Hier schreibe ich auf, was auf älterer Hardware wirklich läuft und was nicht. Jeder Artikel ist von mir geprüft und freigegeben.
Mehr über mich und den Blog · ▶ Meine Videos auf YouTube

