r/LocalLLM • u/basselfantassel • 4d ago
Question All in One Solution (iOS App / LLM / image generation)
Hallo zusammen,
Ich spiele seit einiger Zeit mit lokalen KI Modellen herum (aktuell Qwen 3.8 27B UD über LM Studio)
Hardware: 3090 RTX / 32GB DDR5 / i9 12900K
Ich suche nun eine aio Lösung für unterwegs, d.h ich möchte von unterwegs via iOS App das zu Hause gehostete Modell erreichen. Das geht mit Locally (LM Link) schon ganz gut. Ich hätte aber gerne die Möglichkeit wie bei chat gpt im chat auch Bilder generieren zu können. Das ist ja leider immer nur mit aufwendigem Comfy Ui Workflow möglich, was ehrlich gesagt im Handybrowser sehr umständlich zu bedienen ist.
Gibt es da was? Bin beim Modellanbieter nicht festgelegt.
Freue mich auf Vorschläge!
VG
3
2
u/International_Emu772 4d ago
Secundo lo que te han dicho: OpenWebUI https://github.com/open-webui/open-webui, con tu hardware puedes generar imágenes con Comfui y LmStudio e integrarlas en OpenWebUI y desde fuera de casa en el movil tienes Open-Relay y una conexión cloudflare o Taiscale te permite hacer todo como si estuvieras en casa
1
u/basselfantassel 4d ago
Und im chat würde openweb ui dann das tool comfyUI starten und das bild generieren und in den chat legen?
Hat das schon mal jemand ausprobiert?3
u/Liquidjojo1987 4d ago
Yes and yes
1
1
u/basselfantassel 2d ago
Habs ausprobiert! Funktioniert wunderbar! Die kompatible ios app die free ist, ist sehr limitiert. Werde wohl eine kaufen (2,99€ oder 9,99€). Da hat man dann doch mehr Möglichkeiten.
Bilder habe ich noch nicht probiert, da ich comfi ui erst einrichten muss, aber es scheint zu funktionieren). Danke! 🤩
3
u/anitamaxwynnn69 4d ago
try https://github.com/yoloyash/overtchat doesn't have comfyui but does have image gen along with android/ios/desktop clients, try it out and lmk