OmniRoute: Kostenlose Cloud-KIs in Open WebUI bündeln
Ein lokaler KI-Assistent auf dem alten Laptop ist großartig für den Datenschutz. Doch manchmal stößt das kleine Sprachmodell an seine Grenzen – besonders bei kniffligen Programmieraufgaben oder komplexen Fragen.
Die Lösung: Kostenlose Cloud-Anbieter anzapfen, aber ohne das unübersichtliche Hin und Her zwischen verschiedenen Web-Oberflächen. Genau hier hilft ein cleveres Werkzeug namens OmniRoute.
Was ist OmniRoute?
OmniRoute ist ein lokaler Router, der auf deinem Rechner läuft. Du hinterlegst dort die Zugänge zu verschiedenen kostenlosen Cloud-Anbietern wie Groq oder OpenRouter.
OmniRoute bündelt diese Anbieter hinter einer einzigen Adresse. Für deine Open WebUI sieht das Ganze dann aus wie ein einziges, extrem stabiles Modell. Fällt ein Anbieter aus oder ist das tägliche Limit erreicht, springt automatisch der nächste ein.
Die Installation
Voraussetzung ist eine funktionierende Node.js-Umgebung auf deinem Rechner. Die Installation erfolgt im Terminal mit folgendem Befehl:
npm install -g omniroute
Nach der Installation öffnest du PowerShell unter Windows oder ein normales Terminal und gibst einfach omniroute ein, gefolgt von Enter. Der Server startet auf Port 20128 und das Dashboard ist unter http://localhost:20128 erreichbar.
Einen anderen Port stellst du bei Bedarf mit dem Befehl omniroute --port 3000 ein. Wichtig: Das Terminalfenster muss geöffnet bleiben, solange OmniRoute im Hintergrund laufen soll.
Schritt 1: Anbieter verbinden
Im ersten Schritt legst du kostenlose Konten bei den gewünschten Anbietern an, erzeugst dort API-Schlüssel und trägst sie im Dashboard von OmniRoute unter dem Menüpunkt „Anbieter“ ein.
Bewährt haben sich Anbieter wie Groq (zum Beispiel mit openai/gpt-oss-120b) oder OpenRouter mit einem entsprechenden :free-Modell.
Wichtiger Sicherheitshinweis zu OpenRouter: Setze im Account ein hartes Limit von 1 $ und hinterlege keine echten Zahlungsdaten. So ist absolut sichergestellt, dass niemals Kosten entstehen können.
Stolperfalle 1: „imported“ statt „system“
Achte beim Hinzufügen der Modelle auf die Kennzeichnung im Dashboard: * imported bedeutet, das Modell ist beim Anbieter tatsächlich aktuell verfügbar. * system stammt aus einer fest eingebauten, oft veralteten internen Liste. Das führt häufig zu Fehlern wie „not available in the active live catalog“.
Nimm daher ausschließlich „imported“-Modelle und verzichte auf automatische Einstellungen („auto“).
Stolperfalle 2: Anbieter, die nicht mitspielen
Nicht jeder kostenlose Dienst läuft immer rund. Es kann vorkommen, dass ein Anbieter den Dienst verweigert (etwa mit Fehler 402 wie „credits exhausted“), leere Antworten liefert oder das gewünschte Modell schlicht fehlt.
Solche wackligen Kandidaten schaltest du im Dashboard am besten direkt wieder ab, um Fehlermeldungen zu vermeiden.
Schritt 2: Kombination mit Priorität anlegen
Unter dem Menüpunkt „Kombinationen“ erstellst du eine neue Gruppe – nennen wir sie einfach „allrounder“. Als Strategie wählst du Priorität:
- Groq (läuft zuerst)
- OpenRouter (springt ein, wenn Groq leer ist)
Ist das Tageslimit des ersten Anbieters aufgebraucht, übernimmt der nächste nahtlos.
Schritt 3: Einbindung in Open WebUI
Jetzt verknüpfst du den Router mit deiner lokalen Benutzeroberfläche.
- Gehe in Open WebUI als Administrator in die Einstellungen und weiter zu Verbindungen.
- Füge eine neue OpenAI-kompatible API hinzu.
- Trage als URL
http://localhost:20128/v1ein. - Nutze als API-Schlüssel den Schlüssel aus dem API-Manager von OmniRoute.
- Verwende als Präfix-ID
Omniund als Modell-IDallrounder.
Das gebündelte Super-Modell taucht in deiner Auswahlliste nun als Omni.allrounder auf.
Sicherheit und Datenschutz
Da hier Cloud-Dienste im Spiel sind, solltest du ein paar Sicherheitsregeln beachten.
Lokale Absicherung
Passe die Konfigurationsdatei .env von OmniRoute an:
OMNIROUTE_SERVER_HOST=127.0.0.1
REQUIRE_API_KEY=true
Damit stellst du sicher, dass ausschließlich dein eigener Rechner auf den Router zugreifen kann. Verzichte auf öffentliche Tunnel wie Cloudflare, Tailscale oder Ngrok und ändere unbedingt das Standard-Passwort des Dashboards. Binde außerdem keine Bezahl-Abos per Browser-Anmeldung ein – das verstößt oft gegen Nutzungsregeln und kann zur Kontosperre führen.
Was passiert mit deinen Daten?
Cloud-Modelle laufen auf fremden Servern. Nutze sie daher am besten nur für allgemeine Fragen, bei denen der Datenschutz eine untergeordnete Rolle spielt.
Persönliche Notizen, Erinnerungen, Lernunterlagen oder sensible Dateien bleiben nach wie vor bei deinen rein lokalen Modellen. Aus diesem Grund wurden Wissensspeicher, Notizen, Dateiuploads und der Terminal-Zugriff für die Cloud-Schiene deaktiviert.
Fazit
Mit ein wenig Einrichtung holst du dir ein starkes Cloud-Modell zum Nulltarif in deine gewohnte Open WebUI und behältst gleichzeitig die volle Kontrolle.
Vergiss nicht: Die Gratis-Kontingente haben feste Tageslimits. Ist alles aufgebraucht, hilft entweder etwas Geduld bis zum nächsten Tag – oder du greifst einfach wieder auf dein lokales Sprachmodell zurück.