KI-Engineering & Architektur

Die meisten KI-Vorhaben scheitern nicht, weil das Modell schwach ist. Sie scheitern, weil niemand das System um das Modell herum entworfen hat: wie Kontext zusammengesetzt und budgetiert wird, wie Wissen abgerufen und aktuell gehalten wird, wie Ausgaben geprüft werden — und wie das Ganze läuft, wenn der Demo-Laptop zugeklappt ist.

Warum das jetzt zählt

Große Sprachmodelle sind inzwischen Standardware. Der Unterschied liegt in der Engineering-Disziplin. Eine sauber gebaute Retrieval-Pipeline auf einem mittelgroßen offenen Modell schlägt regelmäßig ein Spitzenmodell, das mit einem schlecht zusammengestellten Kontextfenster gefüttert wird — zu einem Bruchteil der Kosten und mit Daten, die Ihre Infrastruktur nie verlassen. Tokenisierung, Chunking-Strategie, Metadatendesign und Kontextreihenfolge sind keine Implementierungsdetails; sie sind die Architektur.

Dasselbe gilt für Agenten. Werkzeugnutzende Systeme können echte Arbeit automatisieren, aber nur, wenn ihr Handlungsrahmen, ihre Berechtigungen, ihr Gedächtnis und ihre Fehlermodi explizit entworfen wurden. Ein Agent, der „meistens funktioniert“, ist in einer regulierten Umgebung ein Risiko.

Wie ich vorgehe

Ich beginne mit Ihren Daten und Ihren Rahmenbedingungen, nicht mit der Referenzarchitektur eines Anbieters. Das heißt messen: Token-Verteilungen über Ihre Dokumente, Retrieval-Qualität bei Fragen, die Ihre Leute tatsächlich stellen, Latenz und Kosten pro Aufgabe unter realistischer Last. Daraus wählen wir die kleinste Architektur, die die Anforderung erfüllt — oft einfacher, als der Markt suggeriert.

Jedes System, das ich baue, wird mit einer Evaluationsumgebung ausgeliefert. Nur so lässt sich feststellen, ob eine Prompt-Änderung, ein Modellwechsel oder eine neue Datenquelle die Dinge besser oder schlechter gemacht hat — und genau dieses Artefakt wird Ihre Risikofunktion einfordern.

Wo es üblicherweise beginnt

Vorhaben starten meist mit einem zwei- bis vierwöchigen Assessment eines bestehenden Piloten oder eines geplanten Anwendungsfalls: Was braucht es, damit das produktionsreif, souverän und messbar wird? Die Antwort ist ein Entscheidungsmemo mit Architektur, Budget und Plan — das wir anschließend gemeinsam umsetzen können.