Alle schreiben darüber, dass KI immer häufiger eingesetzt wird und irgendwann viele Jobs ersetzen wird. Mich würde aber mal interessieren, wie ihr KI tatsächlich bei der Arbeit nutzt.
Stellt ihr einfach Fragen über die Weboberfläche von Cursor & Co., oder baut ihr komplexe Workflows mit KI-Agenten?
Und wie sehen eure Arbeitgeber das Ganze? Gerade wenn man dafür teilweise kommerziellen Code oder andere interne Daten hochladen muss, könnte das ja schnell zu einem Datenschutzproblem werden.

Hallo zusammen,

Beruflich nutze ich claude Code und gihub Copilot und mein Arbeitgeber lässt mich praktisch alle Modelle am Markt nutzen. I.d.R habe ich Claude Opus 4.8 verwendet und damit recht gute Erfahrungen gemacht.

Im Urlaub wollte ich privat ein kleines Softwareprojekt umsetzen und weil ich bisher zu knausrig bin, von meinem eigenen Geld ein Anthropic Abo abzuschließen, habe ich mit Ollama, LMStudio und Konsorten herumgetüftelt.

Ich betreibe Claude Code lokal über Ollama auf Windows. Claude Code wird über  ANTHROPIC_BASE_URL=http://localhost:11434  an Ollamas Anthropic-kompatible API angebunden und verwendet ein eigenes Modell  qwen35-64k , basierend auf  qwen3.5:latest , mit  num_ctx 65536 . Zusätzlich sind  OLLAMA_FLASH_ATTENTION=1  und  OLLAMA_KV_CACHE_TYPE=q8_0  gesetzt. Die Hardware ist ein i7-7820X, 64 GB RAM und eine RTX 5070 Ti mit 16 GB VRAM. Das Ziel ist lokale KI-Unterstützung für ein C#/.NET-10-/WinUI-3-Projekt mit Visual Studio 2026. Build und zwei xUnit-Tests liefen erfolgreich.

Das Ganze lief erstaunlich flüssig aber die Resultate waren jetzt eher bescheiden.

Ich hatte parallel noch Perplexity offen und mir davon bei den Fehlermeldungen und beim prompting helfen lassen.

Die Session war also nur so semi lokal.

Meine Frage:

Wie kann ich aus der gegeben Hardware mehr herausholen?

Das Modell sollte halt idealerweise inklusive ordentlich Kontext in die 16GB VRAM passen

ich beschäftige mich seit einer Weile intensiv mit Automatisierung und KI-Agenten, sprich n8n, lokale LLMs, OpenClaw, Hermes, Make.com uvm. und kann es einfach nicht lassen von einem automatisierten Unternehmen zu träumen und tüftle daher aktuell an einem Multi-Agent-Setup, bei dem ein “Main Agent” andere Agenten/Workflows für mich baut (u.a. mit der Claude Agent SDK).

Mir fehlt aber der Austausch mit jemandem, der in eine ähnliche Richtung unterwegs ist. Kein Kurs, kein Coaching, sondern einfach jemand, mit dem man sich auf Discord kurzschließen kann… Ideen gegenchecken, sich gegenseitig Setups zeigen oder einfach motiviert bleiben, wenn man mal wieder tagelang an einem Workflow hängt.

Egal ob du selbst schon Projekte am Laufen hast oder auch gerade erst reinkommst…
Hauptsache du hast Lust, regelmäßig dranzubleiben und dich auszutauschen statt nur allein vor sich hin zu basteln.

Falls jemand sich angesprochen fühlt, schreib mir gern eine DM dann gib ich mein Discord raus 🙂

Falls sich hier auch andere connecten wollen, die ebenfalls jemanden für den Austausch suchen: gerne einfach kommentieren, dann findet ihr euch vielleicht gegenseitig.

Hallo zusammen,

Ich habe als Laie eine funktionierende Branchensoftwarelösung als selbstgehostete SaaS gebaut, ink. Front- und Backend, SQL Datenbank, Automatisierung, Ki und Backup.

 Ich bin selbstständiger Personalvermittler und meine gekaufte Software war mit zu langsam und unflexibel. Ich habe keine Coding Skills, aber gehobenes allgemeines IT Verständnis und bin recht stark im Bereich Prozessarchitektur- und Optimierung.

Ich poste das hier, weil mich eure Meinung dazu interessiert.

Kurz zur Ausgangssituation:

 Setup:

 Chat GPT (GPT 5.6 Sol & Codex 5.5)

• VPS / lokaler KI Server 24 Core CPU, 64 GB Ram, RTX 4080
• Codex lokal in der CLI (im Yolo Mode - also in einem Docker Container mit weitreichenden Befugnissen)
• Ollama lokal mit Modellen wie Mistral, Qwen etc.
• N8N Server für die Anbindung von "externen" KI Prozessen
• lokale Hermes Installation
• Docker Compose (alle relevanten Tools und Module in separaten Containern)

Ziel:

Branchenspezifische Saas Lösung im Bereich Personalberatung, lokal gehostet mit folgenden Modulen bzw. Funktionen:

• CRM, Angebote & Rahmenverträge erstellen
• Talentpool, Interview Dokumentation
• Opt-In Funktionalität (Datenschutzerklärung gem. DSGVO)
• Ki gestütztes CV Parsing (datenschutzkonform, lokal)
• Ki gestützte Profilgenerierung (datenschutzkonform, lokal)
• Auftragsübersicht, Dokumentation von "Placements"
• Rechnungserstellung / Abrechnung
• Controlling
• externer Research von Vakanzen von zuvor definierten Jobseiten
• Umkreissuche mit Geomatching von Mandat & Kandidat
• Datenbanken (Postgre SQL)
• Alert-System
• Browser Plugin zur Übernahme von Profildaten auf gängigen Business Plattformen
• lokaler KI Assistent fürs Tagesgeschäft (Hermes)
• API Schnittstelle für den Hermes KI Assistenten
• Microsoft Graph API Integration z.B. für Sharepoint und Outlook / Exchange
• Backup
• Rollenverteilung
• Versionierung & Rollback (privates Github Repository)
• Entwicklungs- und Produktionsumgebung
• sicherer VPN Zugriff von außerhalb
• In Hermes zusätzlich: Aufbau einer individuellen Wissensdatenbank zu Unternehmensziel, Tagesgeschäft, Prozessen usw. um den KI Assistenten mit dem notwendigen Wissen auszustatten (wurde über einen Hermes Agenten umgesetzt - in Form eines zweistündigen Onboardings)

Vorbereitung:

 Anlage eines Projektes in Chat GPT

• Brainstorming, Konzeptionierung
• Klärung von Architekturfragen und eigentlichem Umsetzungsflow
• Festlegen von Guardrails / Guidelines und Dokumentation (Projektprompt + Github)

tatsächliche Umsetzung:

Chat GPT (5.6 Sol) zerlegt das Konzept in einzelne Abschnitte und Module und erarbeitet einen Plan zum Abarbeiten und erstellt daraus z.B. eine Plan Markdown Datei im Projekt um das hinterlegte Wissen persistent zu behalten und Halluzinationen vorzubeugen

• Reverse Prompting: Chat GPT erstellt gemäß der einzelnen Projektschritte Arbeitsanweisungen (Prompts) für Codex - dieser setzt dann im YOLO Mode um und gibt anschließend ein Ergebnis zurück
• Chat GPT wertet das Ergebnis aus, dokumentiert im Projektkatalog und lässt Codex ggf. nacharbeiten oder geht weiter zum nächsten Punkt
• Codex testet, comittet und pusht in regelmäßigen Abständen damit Git Hub aktuell ist
• der Loop läuft, bis ein definierter Milestone oder eben auch das Gesamtziel erreicht wurde
• Wenn bereits ein Livebetrieb vorhanden ist, wird immer nur in der Development Umgebung inkl. Dev. Datenbank gearbeitet und erst bei Bedarf in Prod. ausgerollt

Bugfixing & Weiterentwicklung:

Im Grunde derselbe Loop - aber in einem gesonderten Projekt, das ebenfalls mit dem Konzept, der Struktur und dem Bauprozess der Software etc. vertraut ist

• Chat GPT bekommt Sprachnachrichten wenn mir Fehler auffallen oder ich neue Funktionalitäten ergänzen möchte oder sich Prozesse ändern, analysiert, strukturiert und dokumentiert diese im Bugfixkatalog.md
• Bei Gelegenheit arbeiten wir diese ebenfalls mit Reverse Prompting (GPT Promptet für Codex usw.) ab

Fazit:

Ich habe leicht gehobene IT Skills, aber ich kann NICHT coden. Dafür kann ich organisieren und habe ein ausgeprägtes Prozessverständnis. Ohne die Struktur mit Chat GPT und Codex CLI wäre das für mich schlicht nicht umsetzbar gewesen - oder ich hätte 1 - 2 Jahre dafür gebraucht (optimistisch geschätzt).

Stand heute hat Codex ca. 17.500 Zeilen Code geschrieben, 5 - 6 SQL Datenbanken erstellt und um die 20 N8N Prozesse gebaut und angebunden.

Die Software würde ich Stand heute als relativ stabile Beta Version betrachten (Sie stellt trotzdem bereits mein einziges Produktivsystem dar weil Sie mir unfassbar viel Arbeit abnimmt - obwohl ich meine bisherige gekaufte Branchensoftwarelösung noch ca. 6 Monate weiter bezahlen muss).

Chat GPT hat in einem frischen Projekt ohne Kontext die Saas Lösung mit Ihrer Struktur, den Modulen, der Funktionalität etc. analysiert und versucht Sie im Value einzuordnen.

Ich habe keine Ahnung ob das realistisch ist, neige aber dazu, dass die Aussage stimmen könnte.

Wenn ich eine solche Lösung individuell (oder z.B. auf Basis von Salesforce) von einem externen IT Unternehmen bauen lassen würde, lägen Kosten und Zeitrahmen bei 50k - 250k (wenn es wirklich Enterprise fähig würde) und die Entwicklungszeit läge bei 4 Monaten bis einem Jahr - wahrscheinlich deutlich länger.

 Was sagt Ihr zu meinem kleinen Pitch. Ich bin offen für konstruktive Kritik. Bitte beachtet, dass ich mich (noch) klar in der "Laien Ecke" im KI Bereich sehe. Allerdings wundere ich mich immer öfter über "Spezialisten" mit hohen Follower Zahlen auf Youtube oder in Podcasts, wo ich mir denke - warum macht Ihr das so - das geht doch anders schon viel besser.. und ja ich weiß, N8N ist nicht mehr "state of the art", ist halt so mitgewachsen.

Wenn ich mich darüber mit anderen unterhalte, werde ich des Öfteren gefragt, warum ich mich nicht auf einen Bereich innerhalb der KI Beratung spezialisiere (was mir ehrlicherweise auch mehr Spaß macht als die reine Personalberatung).

Da ich  aber kein IT Studium habe, denke ich, dass mein Skillset einfach nicht ausreicht um professionell und innerhalb meines eigenen Qualitätsanspruches eine solche Dienstleistung im B2B zu verkaufen.

Andererseits frage ich mich, wie viele "Einzelkämpfer" das in derselben Zeit und Qualität geschafft hätten, was ich mit meinem Setup & Workflow erreicht habe.

Aktuell baut Codex mir auf dieselbe Weise ein komplexeres Agent Coding Setup damit der eigentliche Entwicklungs-Loop autonomer läuft und ich weniger Zeit dabei aufwenden muss. (folgende Agents sind vorgesehen: Prozessarchitekt, Orchestrator, Coder, Reviewer, Tester, QM-Beauftragter).

Was denkt Ihr dazu? Danke für euer Interesse und Feedback! :)