Werbung: Dieser Beitrag enthält Affiliate-Links (mit * markiert). Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.
Dein lokaler KI-Assistent soll nicht nur tippen, sondern auch sehen, was auf deinem Schreibtisch passiert? Das geht überraschend einfach. Mit einer passenden Webcam und einem kleinen Sprachmodell, das Bilder verarbeiten kann (ein sogenanntes Vision-Modell), machst du deinen Laptop zu einem echten Seh-Assistenten.
Wie das auf einem älteren Gerät mit einer Grafikkarte mit 4 GB VRAM funktioniert, welche Grenzen du beachten musst und worauf es bei der Hardware ankommt, erfährst du hier Schritt für Schritt.
Das richtige Modell für kleine Grafikkarten
Normale Sprachmodelle verstehen nur Text. Für Bilder brauchst du ein multimodales Modell, das Text und Grafik gleichzeitig verarbeitet. Auf einer GTX 1050 mit 4 GB VRAM hat sich das Modell moondream (mit einer Größe von rund 1,7 GB) bewährt.
Das Modell läuft direkt über Ollama auf deinem Rechner. Da der Arbeitsspeicher deiner Grafikkarte knapp bemessen ist, musst du zu kleineren Modellvarianten greifen. Diese sind so optimiert, dass sie auch auf älterer Hardware starten, brauchen aber etwas Geduld bei der Antwortzeit.
Tipp: Prüfe vorab, ob dein System die Anforderungen für das gewünschte Modell erfüllt. Nutze dafür den Rechner Läuft das bei mir?.
Die Webcam als Bildquelle einbinden
Damit dein Assistent ein Bild von seiner Umgebung bekommt, brauchst du eine Möglichkeit, Fotos aufzunehmen. Das kann direkt über ein kleines Skript auf deinem Laptop passieren oder über einen Messenger wie Telegram, an den du ein Foto schickst.
Dein lokaler Bot nimmt das Foto entgegen, schickt es an Ollama und das Vision-Modell beschreibt, was auf dem Bild zu sehen ist oder beantwortet deine Fragen dazu.
Achtung: Achte darauf, dass du keine sensiblen Daten oder private Dokumente unbedacht vor die Linse hältst, auch wenn alles komplett lokal und offline auf deinem Rechner verarbeitet wird.
Worauf solltest du bei der Hardware achten? Eine einfache Full-HD-Webcam reicht völlig aus, solange sie scharfe Bilder liefert und sich unkompliziert ansteuern lässt.
Weitere Auswahl: USB-Webcam Full HD* oder Webcams bei ALTERNATE*.
Grenzen bei 4 GB VRAM
Eine Grafikkarte mit 4 GB Videospeicher stößt bei Bild- und Textmodellen schnell an ihre Grenzen. Das Laden von Bildern erfordert zusätzliches RAM und VRAM. Bei moondream dauert der erste Start inklusive Laden etwa 13 Sekunden. Sobald das Modell im Speicher liegt, geht es schneller: Dann wartet man etwa 3 Sekunden, und die Antwort folgt mit einer Geschwindigkeit von rund 42 Tokens pro Sekunde.
Ein wichtiger Punkt bei diesem Modell: moondream versteht praktisch nur Englisch. Auf deutsche Fragen reagiert es oft mit Unsinn. Zudem passieren kleine Fehler – es beschrieb beispielsweise einen Mann auf einem Stuhl und nannte den Stuhl im nächsten Moment leer. Sehr große Bilder wurden bisher nicht getestet. Reduziere im Zweifel die Auflösung der Webcam-Bilder vor der Übergabe an die KI, damit die Verarbeitung flüssig bleibt.
Praktische Schritte für den Einstieg
- Installiere das Modell moondream über Ollama:
ollama run moondream
- Verbinde deine Webcam mit dem Laptop und nimm ein Foto auf (zum Beispiel über die Windows-Kamera-App).
- Übergib das Bild direkt in der PowerShell an das Modell:
ollama run moondream "Describe this image. C:\Pfad\zum\Bild.jpg" --verbose
Mit dieser Einrichtung hast du einen ganz persönlichen Assistenten, der nicht nur deine Fragen beantwortet, sondern deine Welt auch mit eigenen Augen sieht – komplett lokal und ohne Cloud.
Unsere Partner
Werbung: Die Banner und Knöpfe hier sind Partnerlinks. Kaufst du darüber etwas, bekomme ich eine kleine Provision – der Preis bleibt für dich gleich. Als Amazon-Partner verdiene ich an qualifizierten Verkäufen.

Hi, ich bin Cengiz.
Auf meinem alten Gaming-Laptop mit GTX 1050 (4 GB) habe ich mir einen eigenen KI-Assistenten mit Sprachsteuerung gebaut – mit Ollama und Open WebUI, ganz lokal. Hier schreibe ich auf, was auf älterer Hardware wirklich läuft und was nicht. Jeder Artikel ist von mir geprüft und freigegeben.
Mehr über mich und den Blog · ▶ Meine Videos auf YouTube

