Brain first oder AI only
Wie viel Autonomie können wir Agentic AI geben?
Agentic AI kann heute vollständige Anwendungen selbstständig entwickeln und bereitstellen. Wie viel Verantwortung wir ihr übertragen sollten, hängt jedoch von Zweck, Kritikalität und Lebensdauer der Software ab. Denn zwischen „Brain first“ und „AI only“ liegt kein Widerspruch, sondern die Frage, wie viel Autonomie für die jeweilige Software angemessen ist.
Vor einiger Zeit war ich auf der Suche nach einer Planning-Poker-App, mit der Scrum-Teams den Aufwand ihrer Storys gemeinsam schätzen können. Beim Planning Poker geben alle Teammitglieder ihre Einschätzung zunächst verdeckt ab. Anschließend werden unterschiedliche Bewertungen besprochen, bis das Team zu einer gemeinsamen Einschätzung kommt.
Unser Unternehmen hatte dafür noch keine eigene Lösung. Angebote gibt es im Internet zwar mehr als genug, viele davon werden jedoch durch aufdringliche Werbebanner und unnötige Ablenkungen so beeinträchtigt, dass sie sich für den professionellen Einsatz nur bedingt eignen.
Also kam mir die Idee, mithilfe einer Agentic AI und nur wenigen Prompts eine einfache, aber vollständige Planning-Poker-App entwickeln zu lassen. Nur 45 Minuten später war die Anwendung einsatzbereit: Der Agent hatte die App umgesetzt, die notwendige AWS-Umgebung eingerichtet und die Lösung dort ausgerollt.
Das Ergebnis: Am Vormittag hatte ich spontan mit der Entwicklung begonnen. Direkt nach der Mittagspause nutzte ich das fertige Tool bereits, um gemeinsam mit dem Team die Aufwände für eine Angebotskalkulation zu schätzen.
Vertretbar war dieser Ansatz für mich aufgrund des begrenzten Risikoraums: Die App unterstützte keinen kritischen Geschäftsprozess, speicherte keine Daten dauerhaft und ließ sich bei Bedarf leicht ersetzen. Genau deshalb war „AI only“ in diesem Fall ein angemessener Ansatz.
Die naheliegende Schlussfolgerung wäre, dieses Vorgehen einfach auf die professionelle Entwicklung von Individualsoftware zu übertragen. Aber Individualsoftware beginnt nicht mit dem Schreiben von Code. Zunächst müssen die Geschäftsprozesse verstanden und häufig gemeinsam mit dem Fachbereich definiert werden. Entwicklerinnen und Entwickler müssen fachliche Zusammenhänge teilweise konzernweit verstehen und Ausnahmen, Abhängigkeiten und Risiken erfassen, bevor daraus eine tragfähige Softwarelösung entstehen kann.
Kann Agentic AI auch dort IT-Architektur, Design und Umsetzung übernehmen? Oder hängt der sinnvolle Grad ihrer Autonomie von Art und Lebensdauer der Software ab?
Drei Kategorien, drei Grade der AI-Autonomie
Für mich lassen sich Softwarevorhaben dafür in drei Kategorien einteilen. Die Grenzen sind nicht immer trennscharf, aber die Einteilung hilft bei der Entscheidung, wie viel Verantwortung ich einer Agentic AI übertragen würde.
Langfristige strategische Systeme unterstützen individuelle, wettbewerbsdifferenzierende Geschäftsprozesse über viele Jahre und benötigen deshalb eine von erfahrenen Menschen verantwortete IT-Architektur. Professionelle Interimslösungen unterstützen ebenfalls produktive und geschäftskritische Prozesse, sind aber von Anfang an nur für einen begrenzten Übergangszeitraum vorgesehen, sodass die AI mehr Verantwortung für IT-Architektur und Design übernehmen kann. Ein typisches Beispiel für eine Interimslösung ist eine Ergänzung zu einer bestehenden Legacy-Anwendung, die neue Anforderungen bereits umsetzt, bis das alte System wenige Jahre später vollständig durch eine neu entwickelte Lösung abgelöst wird. Ad-hoc-Anwendungen (Utility Apps) lösen dagegen klar abgegrenzte Hilfsaufgaben außerhalb der eigentlichen produktiven Geschäftsprozesse und eignen sich deshalb besonders für eine weitgehend autonome Entwicklung durch Agentic AI.
Mit kürzerer Lebensdauer, geringerem Schadenspotenzial und leichterer Ersetzbarkeit kann der Autonomiegrad der AI steigen. Die Verantwortung für den Einsatz und seine Folgen bleibt jedoch in allen drei Kategorien beim Menschen.
Unsere BCxP-Leitplanken für AI-gestützte Softwareentwicklung
Bei BettercallPaul gilt für alle produktiv eingesetzten Systeme zunächst Brain first. AI ist für uns kein Selbstzweck, sondern muss einen erkennbaren Mehrwert für den Kunden und seine Geschäftsprozesse schaffen – Focus on Customer Value. Ebenso gilt Architecture Matters: IT-Architektur und Design entscheiden darüber, ob eine Investition nicht nur heute funktioniert, sondern auch morgen noch betrieben, gewartet und weiterentwickelt werden kann.
Dabei soll AI unsere Expertise und Produktivität verstärken, nicht unsere Verantwortung ersetzen – Amplify, Don’t Replace. Und unabhängig vom Grad der AI-Unterstützung gilt immer: Human is Responsible. Wir können nicht eine AI entwickeln lassen und uns später überrascht zeigen, wenn die Software unzuverlässig oder nicht mehr wartbar ist. Bei produktiven Systemen wären im schlimmsten Fall nicht nur mehrere Monate Arbeit, sondern erhebliche Investitionen verloren.
Die Leitplanken müssen aber nicht in jedem Projekt gleich eng sein. Bei einem System, das zehn Jahre oder länger einen kritischen Geschäftsprozess tragen soll, müssen Menschen Architekturprinzipien, Qualitätsziele und tragende Entscheidungen bewusst vorgeben. Bei einer Interimslösung, die von Anfang an nur für zwei bis fünf Jahre vorgesehen ist, kann der Agent deutlich mehr Freiheit erhalten.
Das verlangt auch von menschlichen IT-Architektinnen und -Architekten ein Umdenken. Sie müssen akzeptieren können, dass eine von der AI entworfene Architektur vielleicht nicht exakt der Lösung entspricht, die sie selbst gewählt hätten – und möglicherweise an einigen Stellen nicht ganz so elegant ist. Wenn sie die Anforderungen an Sicherheit, Ausfallsicherheit und Betrieb erfüllt und für die geplante Lebensdauer angemessen ist, kann ihr Geschwindigkeitsvorteil wichtiger sein als die architektonisch bestmögliche Lösung. So erhält der Kunde für den geplanten Einsatzzeitraum den vollen Nutzen zu geringeren Kosten und nach kürzerer Entwicklungszeit.
Bei Ad-hoc-Anwendungen können wir dem Agenten schließlich weitgehend Vollmacht geben. Brain first gilt hier vor allem bei der Einordnung: Ist die Anwendung wirklich nur ein unterstützendes Werkzeug? Hängt kein produktiver Geschäftsprozess von ihr ab? Bleiben Risiken, Daten und mögliche Auswirkungen überschaubar? Erst wenn diese Fragen überzeugend beantwortet sind, ist „AI only“ der passende Ansatz.
Mehr Raum für echten Kundennutzen
Agentic AI ermöglicht es uns, Software schneller und kostengünstiger zu entwickeln und uns stärker auf das zu konzentrieren, was unsere Kunden langfristig voranbringt: optimierte Geschäftsprozesse, neue Geschäftsmodelle und echte Wettbewerbsvorteile.
Nicht alles kann bis zur Mittagspause fertig sein. Aber Agentic AI verschiebt die Grenze dessen, was möglich ist.
Fragen? Lust auf Austausch? Oder beschäftigt euch gerade die Frage, wie viel Verantwortung ihr Agentic AI in der Softwareentwicklung übertragen könnt und solltet?
Jörn beschäftigt sich intensiv damit, wie Agentic AI Softwareentwicklung verändert und wo menschliche Erfahrung, klare Leitplanken und bewusste Architekturentscheidungen weiterhin entscheidend sind. Denn wie viel Autonomie sinnvoll ist, hängt nicht allein davon ab, was technisch möglich ist, sondern auch von Zweck, Kritikalität und Lebensdauer einer Software.
Wenn ihr darüber sprechen möchtet, wo „Brain first, AI accelerated“ gefragt ist, wann AI deutlich mehr Verantwortung übernehmen kann und wie sich der passende Autonomiegrad für ein Softwarevorhaben bestimmen lässt, dann ist Jörn der richtige Ansprechpartner.
Neugierig geworden? Jörn freut sich auf eure Nachricht!
Hinweis:
Das Headerbild dieses Artikels und die Grafik „AI-Autonomie braucht Leitplanken“ wurden mithilfe Künstlicher Intelligenz erstellt.
Und falls du dir diesen Artikel hast vorlesen lassen: Die Audioversion wurde mithilfe einer KI-generierten Stimme erstellt.
