Docker: Connectivity-Probleme? (Ollama WebUI)

[WulfmanGER]

Hallo in die Runde,

es ist zum verrückt werden. Ich spiele gerade mit Ollama rum (Windows-Installation) und wollte dafür ein Webinterface haben -> Open WebUI (ehemals Ollama WebUI). Open WebUI läuft via Docker (Desktop). Ich hab den Open WebUI-Container gelöscht, erstellt, gelöscht, erstellt, gelöscht ... anfangs verschiedene Settings, am ende immer die gleichen und dann ... es klappte (mit Einstellungen die >5x vorher nicht geklappt haben....)

Das Problem war nicht das erreichen des Open WebUI - das klappte auf Anhieb. Das Problem war das erreichen der Ollama-Instanz vom WebUI aus. Dafür gebe ich im WebUI die IP vom Ollama-Webserver an und fertig. 127.0.0.1:11434. Die zweite Instanz läuft auf einen schnelleren System (was aber nicht immer an ist) - hier musste ich die IP per Umgebungsvariable auf die Lokale LAN-IP wechseln. Aktuell hab ich auch für die Lokale Instanz die Umgebungsvariable auf Lokale IP gestellt.

Wie gesagt: nach x mal neuinstallation des Container: es klappte! Ich konnte sowohl mit Ollama "lahm", Ollama "schnell" und Stable Diffusion "schnell" arbeiten.

Ich hatte gestern etwas geändert was aber nicht direkt mit Open WebUI zu tun hat. Vorher lief es über eine Subdomain (Apache Vhost ProxyPass) via HTTP - das hab ich auf HTTPS geschwenkt. Seitdem läuft es nicht mehr. An der Konfig von Docker/Webui hab ich nichts geändert. Es läuft aber auch nicht mehr beim direkten Aufrufen des WebUI (ip:3000)

Ich komme zwar ins WebUI, aber wenn ich Ollama auswähle sagt er mir das ein Verbinden nicht möglich ist.

Jetzt hab ich gelesen das es bei Docker passieren kann das diese keine Connectivity nach draußen hat. Aber ich komme doch von draußen auf den Docker-Container. Passt ja nicht mit der Aussage. Die Aussage kommt aber bei exakt den gleichen Problem was ich eben habe. Ich kann das WebUI erreichen, aber von dort die Ollam-Webserver nicht. Man sollte jetzt vom Container mal Pingen ob es klappt - aha? Das mach ich wie?

Mir fällt da leider nicht wirklich was zu ein - ausser 20x den Container neu installieren mit der Hoffnung das es plötzlich klappt ... und wenn das wieder passiert ... und wieder. Einmal hab ich es ja so zum laufen bekommen - ist doch keine Lösung. Würde gerne die Ursache des Problems beheben

Ideen?

 

[zeaK]

Ich arbeite sonst nur mit Docker auf Linuxkisten darum keine Ahnung ob das Docker Desktop kann - wenn du dort ne Shell hast um Commands einzugeben dann kannst du mit

docker ps

Dir deine Container-ID anzeigen lassen und dann mittels

docker exec -it id_vom_container /bin/bash

In den Container wechseln. Ggf. musst du statt /bin/bash auch nur /bin/sh o.ä. nutzen (je nachdem was für n Unterbau dein Container hat).
Im Container dann einfach mit ping ip deinen anderen Server/PC etc. anpingen.

 

[WulfmanGER]

Oh man

Hab das Problem gefunden ....

Scheinbar hat Docker eine Einstellung die FALSCH war (Layer 8-Problem...) nicht so wirklich übernommen - trotz Neustart etc. - Dann heute früh - aufeinmal wurde die Einstellung übernommen und sorgt für Connectivity-Probleme

Hier die Lösung (im Log stand noch ein "no route to host" - mal was für die Suchmaschinenbots)
Ich hatte Docker Desktop installiert und SOFORT dieses Docker Subnet geändert. Ich hab das falsch verstanden und hab hier das Subnet meines LANs eingetragen. Das ist falsch. Aber es hat bis gestern Abend/heute früh geklappt grübel. Dann hab ich den Webserver (apache, vhost, proxypass) von http auf https umgestellt (was ja keine Wirkung auf docker hat!) -> und ab dann war ende. Jetzt hab ich gerade das Subnet geändert - von LAN-IP +1 im dritten Oktett ... klappt ..........

Ich rall es nicht

PS: ... "klappt" ... jetzt hab ich ein problem mit Ollama. Sobald ich es anchatte -> crashed es ... gut aber das ist eine andere Baustelle und hat nichts mit Docker zu tun => EDIT: ich muss es nicht verstehen. Es lag wieder an falscher Einstellung (PATH) - die GPU wird nicht unterstützt. Hab ich aber wo es geklappt hatte, schon ausgewählt gehabt - ohne Probleme...

docker ps

Dir deine Container-ID anzeigen lassen und dann mittels

docker exec -it id_vom_container /bin/bash

hab ja Docker Desktop - das hat eine WSL2-Integration - dein weg klappt damit.
Nur kennt der Container kein PING ... macht das pingen nicht so wirklich möglich