KI-Agentensysteme brauchen ein anderes Betriebsmodell

icon

password

LinkedIn-Post erstellen

LinkedIn Post

type

Post

status

Published

date

Sep 11, 2026

slug

produktionsreife-ki-agentensysteme

summary

KI-Agentensysteme erhalten Ziele und entscheiden über Teile des Weges. Produktionsreife verlangt deshalb mehr als funktionierende Technik: dauerhafte Aufsicht, fachliche Kompetenz und klare Verantwortlichkeiten.

Ein Ziel verändert den Charakter der Software

Klassische Software automatisiert einen definierten Weg. Regeln, Zustände und Ausnahmen werden möglichst genau beschrieben. Das System führt aus, was zuvor festgelegt wurde. Seine Qualität lässt sich daran messen, ob die spezifizierten Funktionen unter den vorgesehenen Bedingungen korrekt arbeiten.

Ein KI-Agentensystem erhält ein Ziel und entscheidet innerhalb gesetzter Grenzen über Teile des Weges. Es wählt Informationen aus, plant Zwischenschritte und setzt Werkzeuge ein. Ähnliche Aufträge können deshalb zu unterschiedlichen Handlungsketten führen. Kontext, Daten und Modell beeinflussen, welchen Weg das System nimmt.

Die technische Prüfung einzelner Funktionen bleibt wichtig. Hinzu kommt die Bewertung des gesamten Verhaltens: Passt der gewählte Weg zur Aufgabe? Bleibt das System innerhalb seines Mandats? Reagiert es angemessen auf Unsicherheit und widersprüchliche Informationen?

Autonomie verlagert Arbeit in den Betrieb

Dieser Handlungsspielraum macht KI-Agentensysteme attraktiv. Menschen müssen weniger Schritte vorgeben und ausführen. Dafür entstehen neue Aufgaben bei Evaluation und Aufsicht. Die Organisation muss erkennen können, ob das System ein Ziel falsch interpretiert, Grenzen überschreitet oder eine fehlerhafte Handlungskette beginnt.

Fehler müssen sich stoppen und möglichst rückgängig machen lassen. Ebenso wichtig ist die Frage, wer Auffälligkeiten beurteilt und Änderungen am Mandat freigibt.

Autonomie ist kein kostenloser Produktivitätsgewinn. Sie tauscht menschliche Ausführung gegen dauerhafte Prüfung und Aufsicht.

Je mehr Befugnisse ein KI-Agentensystem erhält, desto höher wird der Aufwand, seinen Einsatz abzusichern. Diese Arbeit fällt dauerhaft an. Modelle verändern sich, Datenbestände wachsen und Arbeitsabläufe entwickeln sich weiter. Menschen erteilen neue Arten von Aufträgen und nutzen das System in Situationen, die während der Entwicklung nicht vorgesehen waren.

Aufsicht braucht feste Rollen und Kapazitäten

Während der Entwicklung begleitet ein Projektteam das KI-Agentensystem meist eng. Auffälligkeiten werden schnell bemerkt, Fachleute prüfen Ergebnisse und technische Teams können unmittelbar reagieren. Nach der Einführung verändert sich diese Situation. Das Projektteam löst sich auf oder wendet sich dem nächsten Vorhaben zu. Die fachliche Kontrolle soll dann häufig neben dem Tagesgeschäft stattfinden.

Genau dort entsteht ein Betriebsrisiko. Technische Betriebsführung kann Verfügbarkeit, Fehlerraten und Kosten überwachen. Ob eine Entscheidung im fachlichen Kontext plausibel ist, lässt sich damit noch nicht beurteilen. Dafür braucht es Menschen mit ausreichender Domänenkompetenz. Sie müssen Ergebnisse hinterfragen, Grenzfälle einordnen und Befugnisse bei Bedarf ändern können.

Evaluation und Aufsicht gehören deshalb in das Betriebsmodell. Sie benötigen klare Zuständigkeiten sowie fest eingeplante Kompetenzen und Kapazitäten. Ohne diese Verankerung betreibt das Unternehmen ein System, dessen Verhalten formell freigegeben wurde, aber im Alltag kaum jemand kontinuierlich prüfen kann.

Mit der technischen Lösung beginnt der Aufbau des Betriebs

Eine erste technische Lösung lässt sich heute oft mit überschaubarem Aufwand entwickeln. Leistungsfähige Modelle, verfügbare Schnittstellen und bestehende Plattformen verkürzen die Umsetzung. Eine sichtbar funktionierende Lösung vermittelt dadurch schnell den Eindruck, der größere Teil der Arbeit sei erledigt.

Dahinter steckt die Logik klassischer Softwareprojekte. Dort rückt der Produktionsbetrieb näher, sobald die Funktionen getestet sind. Bei einem KI-Agentensystem belegt die technische Lösung zunächst, dass es eine ausgewählte Aufgabe bearbeiten kann. Offen bleibt, wie es sich bei unvollständigen Informationen, seltenen Grenzfällen und längeren Handlungsketten verhält.

Hier wird aus dem Entwicklungsprojekt eine dauerhafte Betriebsaufgabe. Mit dem Abschluss der technischen Umsetzung beginnt der Aufbau eines passenden Betriebsmodells. Die Organisation muss Qualitätsmaßstäbe anwenden, ungewöhnliches Verhalten erkennen und aus Fehlern lernen können. Rechte und Grenzen müssen sich anpassen lassen, ohne dass jede Änderung zu einem neuen Einführungsprojekt wird.

Produktionsreife umfasst Technik und Organisation

Ein KI-Agentensystem ist produktionsreif, wenn seine Funktionen ausreichend getestet sind und die Organisation seinen Handlungsspielraum dauerhaft beherrscht. Dazu gehören begrenzte Zugriffsrechte, nachvollziehbare Aktionen und geregelte Eskalationswege. Fachbereiche, Technik und Führung übernehmen dabei unterschiedliche Teile derselben Verantwortung.

Die technische Lösung zeigt, dass ein KI-Agentensystem Aufgaben ausführen kann. Der Produktionsbetrieb zeigt, ob die Organisation sein Mandat, seine Grenzen und seine Folgen beherrscht. Mit diesem Übergang beginnt die organisatorische Arbeit am dauerhaften Betrieb.

Quelle

MIT Center for Information Systems Research: AI Value Creation: Five Provocative Propositions