Wie ein Private-KI-Pilot wirklich abläuft, Woche für Woche

Ein Private-KI-Pilot ist eine kurze, klar umrissene Zusammenarbeit, die einen funktionierenden KI-Assistenten über einen Ihrer Dokumentensätze setzt, vollständig auf Infrastruktur, die Sie kontrollieren, und ihn dann an einem echten Workflow beweist, bevor irgendetwas skaliert. Er dauert rund drei Wochen. Ein Dokumentensatz, ein messbarer Workflow, und keine Daten verlassen Ihr Perimeter. Er ist bewusst keine Demo, kein Plattform-Rollout und kein Sechs-Monats-Bau.

Dieser enge Zuschnitt ist der ganze Punkt. Die MIT-Studie von 2025 mit 300 KI-Deployments fand, dass 95% der generativen KI-Pilotprojekte keinen messbaren Ertrag lieferten, und die Projekte, die sich auszahlten, waren die eng umrissenen mit einem Spezialisten, nicht die ausufernden internen Eigenbauten. Gartner erwartet, dass bis Ende 2025 30% der generativen KI-Projekte nach dem Proof of Concept abgebrochen werden. Ein richtig gemachter Pilot ist der günstigste Weg, auf der richtigen Seite dieser Zahlen zu landen, bevor Sie ein echtes Budget binden. Hier steht, was jede Woche wirklich passiert, was tendenziell bricht und was „fertig“ tatsächlich bedeutet.

Vor Woche eins: Den Umfang schmerzhaft eng schneiden

Der größte Indikator für einen Piloten, der funktioniert, ist ein Umfang, der eng genug ist, um ihn wirklich fertigzustellen. Vor jeder Zeile Code wählen wir einen Dokumentensatz und einen Workflow, den ein echter Mensch oft tut und insgeheim verabscheut.

Das bedeutet einen Ordner, eine Freigabe oder einen Export: Verträge, Richtlinien, Arbeitsanweisungen, Schadenakten, Fallnotizen. Und einen Workflow mit einer Basislinie, gegen die Sie messen können, etwa „eine Richtlinienfrage zu beantworten kostet eine Nachwuchskraft derzeit zwanzig Minuten Suche“. Alles andere wird geparkt, schriftlich. Die 95%-Quote ist größtenteils ein Umfangsproblem im Technik-Kostüm. Gartner führt den Rest auf schwache Datenqualität und unklaren Geschäftswert zurück, was dieselbe Krankheit ist. Ein Pilot schlägt sie, indem er sich weigert, mehr als eine Sache zu tun. Es ist dieselbe Lektion hinter warum die meisten KI-Projekte vor der Produktion scheitern.

Woche 1: Die Daten lokal hereinholen

Woche eins ist Ingestion, und nichts ruft eine dritte Partei auf. Ihre Dokumente wandern in einen Speicher auf Hardware, die Sie kontrollieren, werden verarbeitet und durchsuchbar. Hier zeigt sich die unordentliche Realität echter Dokumente, nicht das Modell.

Gescannte PDFs brauchen OCR. Uneinheitliche Formate brauchen Bereinigung. Dokumente werden in Chunks zerlegt und in einen selbst-gehosteten Vektorspeicher eingebettet. Die ehrliche Wahrheit von Woche eins ist, dass sie Klempnerei ist, keine Magie, und die Dinge, die brechen, sind banal: ein Drittel der PDFs sind Scans ohne Textebene, die Berechtigungen auf der Freigabe sind ein Durcheinander, und die Hälfte der „wichtigen“ Dokumente entpuppt sich als Duplikate, die niemand bemerkt hatte. Das lokal richtig zu machen, mit null Egress, ist der Großteil der Sicherheitsgeschichte schon erledigt. Die Retrieval-Mechanik dahinter ist dieselbe wie in einer produktiven RAG-Pipeline, und die Dokumentenseite steht in OCR plus LLM-Dokumentenverarbeitung.

Woche 2: Die Antworten vertrauenswürdig machen

Woche zwei verwandelt Retrieval in Antworten, die Sie verteidigen können. Jede Antwort zitiert die genaue Passage, aus der sie stammt, und jede Frage und Antwort landet in einem unveränderlichen Audit-Log. In regulierter Arbeit ist eine Antwort ohne nachvollziehbare Quelle schlimmer als keine Antwort, weil jemand danach handeln wird.

Die Regel ist einfach: keine Quelle, keine Behauptung. Wir testen es gegen einen echten Fragensatz, geschrieben von den Menschen, die die Arbeit tun, nicht gegen drei herausgepickte Demo-Fragen. Wir härten das Retrieval gegen Anweisungen, die in den Dokumenten selbst versteckt sind, was ein echter Angriff ist, sobald ein Assistent alles im Ordner lesen kann, behandelt in RAG gegen Prompt-Injection absichern. Was hier bricht, ist vorhersehbar: selbstbewusste Antworten, die auf nichts beruhen, Retrieval, das die eine relevante Klausel still verfehlt, und das gelegentlich vergiftete Dokument. Diese zu fangen ist die Aufgabe, und deshalb ist Evaluierung, bevor Sie dem System vertrauen von Anfang an eingebaut, nicht am Ende drangeschraubt.

Woche 3: Vor echte Nutzer stellen und messen

Woche drei gibt den Assistenten den Menschen, die den Workflow tatsächlich tun, und misst ihn gegen die Basislinie, die Sie aufgeschrieben haben, bevor es Code gab. Akzeptanz und Randfälle entscheiden das Ergebnis, nicht die Demo.

Echte Nutzer stellen die Fragen, die Sie nie erwartet haben. Die ehrlichen Signale sind einfach: wie viel Zeit der Workflow jetzt kostet, ob die Antworten standhalten, wenn jemand zur zitierten Quelle durchklickt, und wie viele echte Randfälle herausfallen. Die häufigste Überraschung ist Vertrauen. Menschen glauben dem Assistenten nicht, bis sie ein Zitat anklicken und auf genau dem Absatz landen, den er benutzt hat. Sobald sie das tun, ändert sich das Verhalten, und dieser eine Moment entscheidet meist, ob aus einem Piloten ein Rollout wird.

Wie „fertig“ aussieht

Ein Pilot ist fertig, wenn Sie einen funktionierenden Assistenten über einem echten Dokumentensatz haben, ein gemessenes Ergebnis gegen die Basislinie, eine dokumentierte Architektur und ein klares Go oder No-Go. Das ist, was „bereit für einen Piloten, nicht für eine Pressemitteilung“ in der Praxis bedeutet. Sie enden mit Evidenz statt mit Bauchgefühl. Ein Go bedeutet, Sie wissen genau, was Skalierung kostet und warum. Ein No-Go bedeutet, Sie haben drei Wochen und ein kleines Budget investiert, um es herauszufinden, statt sechs Monate und ein großes. Beides sind Gewinne, und das ist der Teil, den die meisten Anbieter nie erwähnen.

Was ein Pilot bewusst nicht ist

Ein Pilot ist kein Plattform-Rollout, keine Modell-Vergleichsübung und kein Kauf einer sechsstelligen Appliance. All das herauszuhalten ist genau das, was ihn pünktlich fertig werden lässt. Er läuft als Software auf Ihrer eigenen Hardware oder Private Cloud, also ohne Kapitalauslage und ohne Vendor-Lock-in, was die Designentscheidung hinter der Private-KI-Plattform selbst ist. Und er wird bewusst mit einem Spezialisten gefahren. Dieselbe MIT-Forschung fand, dass rein interne Eigenbauten etwa ein Drittel so oft gelingen wie Projekte mit einem externen Partner. Ein enger Pilot mit jemandem, der es schon getan hat, ist der langweilige Weg mit den besten Chancen.

Passt es zu Ihrem Team?

Ein Private-KI-Pilot passt, wenn Sie ein reguliertes oder datensensibles Team sind, einen dokumentenlastigen Workflow haben, der wirklich wehtut, und für drei Wochen Zugriff auf einen Dokumentensatz geben können. Das deckt einen Großteil der Finanzbranche unter DORA und MiFID II ab, Versicherungen, Gesundheitswesen, Rechts- und Beratungsdienstleistungen, datensensible kleine und mittlere Unternehmen sowie den öffentlichen Sektor.

Weiterführende Lektüre: siehe den Private-KI-Ansatz hinter Vaultic, EU-Datensouveränität für KI, selbst-gehostete KI versus Cloud-APIs und wie man ein KI-System vor der Produktion testet.