Das Modell ist das Einfache.
Die Daten im Haus zu behalten
ist, woran Projekte scheitern.
Private RAG, KI-Agenten und Dokumentenverarbeitung, die auf Infrastruktur laufen, die Sie kontrollieren, entworfen und gehärtet von einem Sicherheitsingenieur, nicht aus undurchsichtigen Cloud-APIs zusammengesteckt. Zwanzig produktive Systeme stehen hinter den Patterns.
Zwanzig produktive Systeme. Ein Ingenieur. Laufende Infrastruktur, keine Mockups.
Self-hosted auf europäischer Infrastruktur. Jede Zahl unten gehört zu laufenden Systemen, Fallstudien oder wiederverwendbarer Flotten-Infrastruktur.
Acht Patterns, bereits in Produktion getestet.
Keine generische Leistungsliste. Das sind die Patterns, die die Flotte immer wieder nutzt: Private KI, RAG, Agenten, Dokumente und Automatisierung.
Semantische Dokumentensuche
Produktives RAG über Enterprise-Content, SOPs, Handbücher, Verträge, Richtlinien. Hybrid-Retrieval, Reranking, Quellenangaben auf jede Antwort. Dokumentbewusstes Chunking, das Klausel- und Abschnittsgrenzen respektiert, OCR-Fallback für gescannte PDFs und schema-validierte Antworten, das Modell kann keine Klausel erfinden, die nicht im Quelldokument steht.
Individuell trainierte Modelle
Domain-spezifische LoRA-Adapter via LlamaFactory trainiert, gemerged + GGUF-konvertiert, über lokales Ollama bedient. Pro App ein passendes Modell.
Mehrstufige Workflows
Klassifizieren, weiterleiten, entwerfen, ausführen, Agenten-Workflows auf zustandslosen Reducern und Event-Logs. Beobachtbar, fortsetzbar, idempotent bei Retry.
KI in Business-Apps
KI direkt in den vorhandenen Apps, semantische Suche im CRM, Copilot-Panels im Dashboard, automatisierte Rollups in Reports. Läuft über einen gemeinsamen CLI-Bridge.
Self-hosted Flotte
20+ Docker-Apps in einer self-hosted Flotte, pro App eigenes Netz, gehärtete Container, Log-Rotation, Health-Checks. Kein Vendor-Lock-in by construction. Jede App besitzt ihr eigenes Postgres-16-Schema und einen Least-Privilege-DB-User, Capabilities werden am Container abgeworfen, NextAuth v5 oder gehärtetes Custom-JWT je nach Workload, dieselbe Hygiene bei App 20 wie bei App 1.
Sicherheit von Anfang an
Security-Engineering unter der KI-Arbeit, Secrets nur in Env, Capability-Drop in Containern, Prompt-Injection-Defense, Audit-Trails. Nicht nachträglich angeschraubt.
Prototype-to-Production
Ein lauffähiger Docker-Prototyp in etwa einer Woche, dann über die folgenden Wochen produktionsreif gehärtet. So hat jedes System im Portfolio angefangen.
Sprach- & Audio-KI
Live-Transkription, Offline-Diktat, Meeting-Copiloten. On-Device whisper.cpp + Electron-Tray, Audio verlässt das Laptop nicht.
Was ich gebaut habe.
Durchgängig.
Produktionssysteme, entworfen, deployed und durchgängig betrieben. Klare Architektur, beobachtbarer Betrieb und kein Blackbox-Service in der Mitte.
Portfolio ansehen →Echte Systeme, nicht Folien.
Sechs der zwanzig Systeme, jedes mit eigener Fallstudie: Architektur, Entscheidungen, was schiefging.
LLM Fine-TuningLoRA-Adapter mit LlamaFactory trainiert, gemerged, GGUF-konvertiert, über lokales Ollama bedient.
Pension AIMonte-Carlo-Rentenplanung über echte Holdings, pgvector-Retrieval darunter.
Tax Document AIOCR + LLM-Buchhaltung für KMU, gescannte Belege werden saubere, abfragbare Daten.
KI-integriertes CRMSemantische Suche und ein Copilot-Panel in einem produktiven CRM, über eine Bridge geroutet.
Meeting CopilotLive-transkribierter Desktop-Assistent, whisper.cpp on-device, Audio bleibt auf dem Laptop.
Quant Research TerminalLive-IBKR-Marktdaten, Signal-Scanner, Trade-Journal und ein KI-Prozess-Coach.
Was in diesem Quartal gelandet ist.
Produktive Arbeit geht bedacht voran. Das hat sich in den letzten Wochen geändert.
Geteilte Infrastruktur über die ganze Flotte.
Zwanzig Apps laufen nicht in Isolation. Sie teilen wiederverwendbare Infrastruktur, die einmal gebaut und über die Flotte hinweg verbessert wird.
Claude Max or local Ollama, per app.
A single Node HTTP server on the host (127.0.0.1:7777) shells out to claude -p so any of the 17 wired apps can route LLM calls through my Claude Max plan, or fall back to local Ollama. One env var flips the provider per app.
One knowledge service, many collections.
Qdrant on 127.0.0.1:6333 with nomic-embed-text (768-dim) reached through the bridge, auto-chunker, dedup-by-hash, reranker, per-app collection naming. CRM, pension, tax, cyreg, and the doc-AI trio all use it.
Specialised models per domain.
Custom-trained LoRA adapters built with LlamaFactory, merged + GGUF-converted, and pushed to local Ollama via a Modelfile generator. Each app picks the model that fits, security-tuned for fwchange, doc-tuned for the legal/maritime/construction trio.
Die andere Hälfte der Praxis.
rogueai.de ist das KI-Portfolio; die Enterprise-Netzwerk-Sicherheitsarbeit lebt auf einer eigenen Seite: Firewall-Change-Management, NIS2-Readiness, Multi-Vendor-Migrationen und KRITIS-Programme.
fwchange.com besuchen →Häufige Fragen.
Direkte Antworten auf das, was als Erstes gefragt wird.
Notizen aus der Arbeit.
Der Blog dokumentiert, was gerade entsteht und wo es klemmt: RAG, Agenten-Design, LoRA-Training, Sichtbarkeit in der KI-Suche und der EU AI Act in der Praxis. Aus produktiver Arbeit heraus.