Unsere eigene KI-Infrastruktur

Eine Steuerzentrale für KI-⁠Agenten

Unsere eigene Steuerzentrale für KI-⁠Agenten in 34 Projekten: Projekt-⁠Manifeste, Modell-⁠Routing, Laufprotokolle und ein Gedächtnis in Git, alles an einem Ort.

Ausgangslage
KI-⁠Agenten in 34 Projekten, jedes mit eigenen Skripten und ohne Protokoll darüber, was ein Agent getan hat.
Was wir gebaut haben
Eine Steuerzentrale mit Projekt-⁠Manifesten, Modell-⁠Routing, Laufprotokollen und Gedächtnis in Git.
Was sich geändert hat
Jeder Lauf ist protokolliert und nachprüfbar. Ein neues Projekt braucht einen Manifest-⁠Eintrag, kein neues Skript.
  1. Manifeste beschreiben jedes Projekt, damit ein Agent weiß, woran er arbeitet. Wozu: Agenten starten jedes Mal mit dem richtigen Kontext.

  2. Entscheidet, welches Modell welche Aufgabe übernimmt. Wozu: Jede Aufgabe geht an das Modell, das sie am besten kann.

  3. Startet die Agenten und behält ihre Läufe im Blick. Wozu: Ein Ort, um die Arbeit zu starten, zu verfolgen und zu stoppen.

  4. Ein Agent arbeitet an einer Aufgabe. Wozu: Mehrere Aufgaben laufen parallel, ohne zu warten.

  5. Jeder Lauf wird protokolliert; das Gedächtnis liegt in Git. Wozu: Jedes Ergebnis lässt sich später nachvollziehen und prüfen.

Abb. 05 Regeln und Routing speisen die Steuerzentrale. Sie startet die Läufe, und jeder Lauf landet im Protokoll.

Ausgangslage

Wir setzen KI-Agenten in einem Portfolio von 34 aktiven Projekten ein. Ohne zentrale Steuerung brauchte jedes Projekt eigene Skripte, um zu entscheiden, welches Modell eine Aufgabe übernimmt, und es gab kein verlässliches Protokoll darüber, was ein Agent getan hatte.

Was wir gebaut haben

Eine Steuerzentrale: ein Ort, der die Arbeit unserer KI-Agenten startet, verteilt und protokolliert. Ein Manifest beschreibt jedes Projekt, damit ein Agent weiß, woran er arbeitet; eine Routing-Schicht wählt für jede Art von Aufgabe das Modell. Jeder Lauf wird protokolliert, und das Gedächtnis liegt in Git, direkt neben dem Code, den die Arbeit verändert hat. Das ist genauso Business-Software und Datenverarbeitung wie KI-Automation.

Was sich geändert hat

Jeder Lauf eines Agenten ist protokolliert und lässt sich nachträglich prüfen. Ein neues Projekt wird im Manifest eingetragen, statt ein eigenes Skript zu bekommen.

Gebaut mit

  • Manifeste, die jedes Projekt beschreiben
  • Modell-Routing für jede Art von Aufgabe
  • Ein Protokoll für jeden Lauf eines Agenten
  • Gedächtnis in Git statt in einer Datenbank

Haben Sie einen ähnlichen Ablauf?

30-⁠Minuten-⁠Gespräch buchen