Summary
Wer setzt KI-Agenten Grenzen? Die IT, die Fachabteilung oder die Führung? Die Antwort in Kürze: alle drei, aber jede auf ihrer Ebene. Responsible kann auch ein Agent sein, accountable bleibt immer ein Mensch. Meine These ist, dass sich damit unsere Rollen im Projekt verschieben, hin zum Beauftragen, Abgrenzen und Beaufsichtigen. Und dass genau diese Kompetenzen jetzt wichtiger werden.
Wie kam es zu diesem Beitrag?
Am 29. Oktober habe ich auf LinkedIn gefragt, wer in Organisationen festlegt, was ein KI-Agent darf. Anlass waren mehrere Meldungen, bei denen jeweils der die Grenze zog, der den Schaden fürchtete. Ein gemeinsames Regelwerk war nicht zu sehen.
Eine Woche vorher hatte das Project Management Institute (PMI) auf seinem Global Summit in Detroit einen neuen Kurs vorgestellt. Er soll Projektfachleuten das Wissen und das Urteilsvermögen vermitteln, KI-Agenten verantwortungsvoll abzugrenzen, zu überwachen und zu steuern. Ich habe das in meinem Beitrag KI und die Zukunft der PM-Zertifizierung kurz eingeordnet. Hier gehe ich einen Schritt weiter. Was heißt das konkret für unsere Rollen und Kompetenzen?
Was ist an Agenten eigentlich neu?
Das PMI beschreibt es so: Agenten werden von Assistenten zu Akteuren. Also zu Systemen, die Schritte ausführen, Entscheidungen treffen und Arbeit erledigen. Ein Chat-Assistent liefert einen Text. Ein Agent verschickt ihn, legt das Ticket an oder ändert den Plan.
Damit wird aus einer Werkzeugfrage eine Delegationsfrage. Und Delegation kennen wir Projektmanager gut.
Wie weit die Praxis ist, zeigt eine Umfrage, die das PMI zitiert. Im SAP LeanIX Agentic AI Survey 2026 gaben 98 Prozent der Unternehmen an, KI-Agenten einzusetzen oder es zu planen. Nur 17 Prozent hatten Einblick, wie gut und wie regelkonform ihre Agenten arbeiten. 48 Prozent hatten keine klaren Rollen und Verantwortlichkeiten für deren Steuerung. Befragt wurden gut 200 IT-Fachleute, und es ist die Umfrage eines Softwareanbieters. Die Richtung ist trotzdem deutlich.
Ich habe das im Kleinen selbst erlebt. Als ich im Frühjahr meinen KI-Assistenten Max eingeführt habe, war die größte Herausforderung nicht die Technik. Es war, sein Verhalten schriftlich festzulegen. Für alle Aktionen mit Außenwirkung gilt seitdem: erst zeigen, dann warten, dann handeln. Im Kern war das die Einarbeitung eines neuen Mitarbeiters. Mit Rollenbeschreibung, Regeln und Eskalationspfaden.
Wer setzt KI-Agenten Grenzen?
Zurück zur Frage aus dem LinkedIn-Post. IT? Fachabteilung? Führung?
Meiner Meinung nach greift jede der drei Antworten allein zu kurz. Die Grenzen liegen auf drei Ebenen.
- Die IT setzt die technischen Grenzen. Zugänge, Rechte, Protokollierung, ein Notaus.
- Die Fachabteilung und das Projekt setzen die inhaltlichen Grenzen. Welche Aufgabe, welche Daten, welches Ergebnis, ab wann ein Mensch prüft.
- Die Führung setzt den Rahmen. Wie viel Risiko akzeptabel ist, wer geradesteht, was nie ohne Freigabe passiert.
Die einschlägigen Regelwerke sehen das ähnlich. Das NIST AI Risk Management Framework verlangt, dass Rollen, Verantwortlichkeiten und Kommunikationswege zu KI-Risiken dokumentiert und allen klar sind (GOVERN 2.1). Im zugehörigen Playbook steht das Projektmanagement ausdrücklich in der Liste dieser Rollen. Und nach GOVERN 2.3 übernimmt die Geschäftsleitung die Verantwortung für Entscheidungen über KI-Risiken.
Der EU AI Act wird konkreter, allerdings nur für Hochrisiko-Systeme. Nach Artikel 26 müssen Betreiber die menschliche Aufsicht Personen übertragen, die die nötige Kompetenz, Ausbildung und Befugnis haben. Artikel 14 beschreibt, was diese Personen können sollen.
- Fähigkeiten und Grenzen des Systems verstehen.
- Sich bewusst sein, dass man dem Ergebnis leicht zu sehr vertraut (Automation Bias).
- Ergebnisse übergehen oder rückgängig machen.
- Das System anhalten.
Die meisten Agenten im Projektalltag dürften keine Hochrisiko-Systeme sein. Als Maßstab taugen die vier Punkte meiner Meinung nach trotzdem.
Ein Teilnehmer meines Workshops hat es im März auf den Punkt gebracht: „Accountable ist immer der Mensch. Responsible kann Mensch oder KI sein – abhängig von Aufgabe und Komplexität.“ In der RACI-Logik heißt das, ein Agent kann ein R bekommen. Ein A nie.
Welche Rollen verschieben sich?
Die Projektleitung wird zur Auftraggeberin und Aufseherin von Agenten. Ein Agent braucht einen Auftrag mit Ziel, Abgrenzung, Qualitätskriterien und Eskalationsweg. Also genau das, was wir für jedes Arbeitspaket ohnehin festlegen sollten. Neu ist das Tempo. Ein Agent liefert in Minuten, die Prüfung muss hinterherkommen.
Der Product Owner ist laut Scrum Guide dafür verantwortlich, den Wert des Produkts zu maximieren. Und er ist „eine Person, kein Gremium“. Ein Agent kann Backlog-Einträge vorschlagen, schärfen und vorsortieren. Die Entscheidung über die Reihenfolge bleibt beim Product Owner. Auch das ist eine Grenze, die man ausdrücklich ziehen sollte.
Beim PMO sehe ich die größte Verschiebung. Wer heute Vorlagen, Methoden und Berichte verantwortet, wird meiner Einschätzung nach künftig auch die Standards für Agenten verantworten. Ein Verzeichnis, welche Agenten in welchen Projekten mit welchen Rechten laufen. Einheitliche Regeln für Freigaben. Eine Auswertung, wo Agenten danebenlagen.
Lenkungsausschuss und Portfolio-Board sollten entscheiden, wie viel Autonomie ein Agent bekommt. Das ist eine Risikoentscheidung wie die Freigabe eines Budgets. Sie gehört deshalb in die Gremien und nicht allein in die IT.
Welche Kompetenzen werden wichtiger?
Kurz gesagt weniger selbst erstellen, mehr beauftragen und prüfen. Vier Kompetenzen stechen heraus.
- Abgrenzen. Einen Auftrag so schneiden, dass ein Agent ihn erledigen kann. Und klar sagen, was er nicht tun darf.
- Beaufsichtigen. Stichproben ziehen, Protokolle lesen, Warnsignale erkennen, rechtzeitig eingreifen.
- Urteilen. Ein plausibles Ergebnis von einem richtigen unterscheiden.
- Kommunizieren. Stakeholdern erklären, was ein Agent getan hat und wer dafür geradesteht.
Wirklich neu ist davon wenig. Die ICB4, nach der heute zertifiziert wird, beschreibt 28 Kompetenzelemente für Projekte. Viele passen direkt, etwa „Governance, Strukturen und Prozesse“, „Leistungsumfang und Lieferobjekte“, „Chancen und Risiken“, „Führung“, „Persönliche Kommunikation“ und „Stakeholder“.
Die ICB5 behält das „Eye of Competence“ bei. Künstliche Intelligenz ist dort eines von fünf Querschnittsthemen, und mit Digital Enablement kommt ein neues Kompetenzelement hinzu. Auch das PMI verlangt für seinen Agentenkurs ausdrücklich keine Programmierkenntnisse.
Ich bin fest davon überzeugt, dass Agenten zu führen vor allem bekannte Kompetenzen in neuer Anwendung braucht. Wer gut delegieren, abgrenzen und nachfragen kann, hat einen Vorsprung. Wer bisher alles selbst gemacht hat, wird umlernen müssen.
Wie fängt man an?
Ein paar Punkte, die ich für jedes Projekt mit Agenten empfehle.
- Für jeden Agenten einen kurzen Steckbrief anlegen. Auftrag, Daten, Rechte, Grenzen, verantwortlicher Mensch.
- Einen Menschen als Accountable benennen. Mit Namen, nicht mit Abteilung.
- Rechte klein anfangen. Lesen vor Schreiben, Schreiben vor Senden.
- Aktionen mit Außenwirkung nur nach Freigabe.
- Ein Notaus festlegen. Wer darf den Agenten stoppen, und wie schnell geht das?
- Fehler sammeln und auswerten. Wo lag der Agent daneben, was haben wir geändert?
- Agenten ins Risikoregister aufnehmen und im Lenkungsausschuss berichten.
Interessant finde ich, dass auch der PMI-Kurs mit einem einseitigen „Stakeholder Brief“ zum eigenen Agenten endet. Das ist im Grunde derselbe Steckbrief.
Und wer es gründlicher mag, macht ein Pre-Mortem. Stellen Sie sich vor, ein Agent hat in Ihrem Projekt etwas Teures angerichtet. Wer hat ihm welche Rechte gegeben? Und warum hat es keiner gemerkt?
Was bedeutet das für die nächsten Jahre?
Ab hier ist es meine Einschätzung, keine gesicherte Entwicklung.
PMI-Chef Johannes Heinlein erwartet, dass Projektfachleute für die Steuerung autonomer Systeme unverzichtbar werden. Das ist eine Erwartung, keine Tatsache. Ich teile sie mit einer Einschränkung. Es gilt nur, wenn wir die Rolle aktiv einnehmen. Sonst regelt es die IT allein. Oder niemand, wie die 48 Prozent aus der LeanIX-Umfrage nahelegen.
Für die Zertifizierung heißt das, sie wird prüfen müssen, ob jemand Agenten sinnvoll beauftragen und beaufsichtigen kann. Damit sind wir wieder bei der Frage aus meinem ICB5-Beitrag. Dokument oder Gespräch? Urteilsvermögen zeigt sich eher im Gespräch.
Delegieren war schon immer Teil unseres Berufs. Neu ist, dass der Beauftragte nie müde wird und oft erst nachfragt, wenn wir es ihm ausdrücklich auftragen.
Wer ist in Ihrem Projekt accountable für den ersten Agenten? Und weiß diese Person es schon?
Gerne meinen kostenlosen Newsletter abonnieren. Und auf Mastodon, Threads, Bluesky, LinkedIn und Instagram mitlesen.
Quellen
- PMI: AI Fluency Plus Human Judgment – Project Management Institute Helps a Growing Profession Deliver Greater Value. Pressemitteilung, 22.10.2026 – https://www.pmi.org/about/press-media/2026/project-management-institute-helps-a-growing-profession-deliver-greater-value
- SAP LeanIX: Agentic AI Survey 2026 – https://www.leanix.net/en/download/agentic-ai-survey-2026
- NIST: Artificial Intelligence Risk Management Framework (AI RMF 1.0), GOVERN-Funktion, Januar 2023 – https://airc.nist.gov/airmf-resources/airmf/5-sec-core/ · Playbook GOVERN 2.1 – https://airc.nist.gov/airmf-resources/playbook/govern/
- Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 14 und 26 – https://artificialintelligenceact.eu/article/14/ · https://artificialintelligenceact.eu/article/26/
- Ken Schwaber, Jeff Sutherland: Der Scrum Guide, November 2020 – https://scrumguides.org/scrum-guide.html
- IPMA: Council of Delegates Communiqué (ICB5), 04.10.2026 – https://ipma.world/news/ipma-cod-communique-3/
- PM-ZERT: Taxonomie Projektmanagement ICB 4.0 (R09-1), V05, gültig ab 01.08.2026 – https://www.pm-zert.de/fileadmin/pm_zert_upload/Zertifizierung/Projektmanagement/Ab_September_2024/R09-1_Taxonomie-Projektmanagement.pdf

