KI ersetzt kein Fachwissen und keine Verantwortung

Nicht „einfach prompten und fertig“

KI kann Vorschläge erzeugen, Varianten vergleichen, Boilerplate schreiben, Tests vorbereiten und bei der Fehlersuche helfen. Qualität entsteht aber nicht aus der Menge generierten Codes. Sie entsteht durch Anforderungen, Zuständigkeiten, überprüfbare Schnittstellen, reproduzierbare Tests und eine Person, die ein Ergebnis ablehnen kann.

Ohne technisches Verständnis kann ein plausibler Vorschlag besonders gefährlich sein: Er kompiliert vielleicht, berücksichtigt aber Randfälle, Datenflüsse, Berechtigungen, Barrierefreiheit oder das bestehende System nicht. Die entscheidende Fähigkeit ist dann nicht, möglichst viel generieren zu lassen, sondern die Ausgabe in einen kontrollierten Entwicklungsprozess einzuordnen.

Produktivität hängt vom Kontext ab

Feldexperimente mit insgesamt 4.867 Softwareentwickelnden bei Microsoft, Accenture und einem weiteren Unternehmen fanden im Mittel mehr erledigte Aufgaben mit einem KI-Coding-Assistenten; weniger erfahrene Teilnehmende zeigten größere Zuwächse. Eine andere randomisierte Studie mit 16 erfahrenen Open-Source-Entwicklern und 246 Aufgaben in ihnen vertrauten Projekten fand dagegen längere Bearbeitungszeiten mit frühen 2025er KI-Werkzeugen.

Die Studien messen unterschiedliche Werkzeuge, Aufgaben und Umgebungen. Sie widersprechen sich deshalb nicht einfach. Gemeinsam zeigen sie: „KI macht Entwicklung schneller“ ist ohne Kontext keine belastbare Aussage. Erfahrung, Codebasis, Aufgabenart, Prüfaufwand und Messgröße verändern das Ergebnis.

Verantwortung lässt sich nicht an das Modell abgeben

Das NIST AI Risk Management Framework verlangt klar definierte Rollen für menschliche Aufsicht sowie dokumentierte Test-, Evaluations-, Verifikations- und Validierungsprozesse. Für generative KI empfiehlt NIST unter anderem Faktenprüfung, regelmäßige adversariale Tests und die Einbeziehung von Fachpersonen und Nutzenden.

Für praktische Entwicklung heißt das:

• Eine Person verantwortet Anforderungen und Freigabe.
• Generierte Änderungen werden wie fremder, nicht vertrauenswürdiger Code geprüft.
• Tests decken nicht nur den Normalfall, sondern Missbrauch, Fehlerzustände und Datenschutz ab.
• Quellen, Annahmen und Grenzen werden dokumentiert.
• Sensible Entscheidungen bekommen einen menschlichen Übergabepunkt.
• Ein bestandener Test wird nicht mit vollständiger Sicherheit verwechselt.

Was das für unsere Arbeit bedeutet

KI wird als Werkzeug in einem menschlich gesteuerten Prozess eingesetzt. Sie kann Recherche strukturieren, Code vorschlagen oder Varianten sichtbar machen. Fachliche Aussagen werden gegen Quellen geprüft; Websiteänderungen gegen Tests, Hashes und reale Darstellung; sensible Produktentscheidungen bleiben menschliche Entscheidungen.

Das ist kein Qualitätsbeweis an sich. Es ist ein überprüfbarer Arbeitsanspruch. Wo Tests, Quellen oder reale Geräte fehlen, wird der Status nicht als abgeschlossen ausgegeben.

KI baut ein belastbares System nicht „von selbst“. Sie vergrößert, was der Prozess bereits kann – einschließlich seiner Lücken.

Fachliche Grenze

Die Forschung verändert sich schnell. Einzelne Produktivitätsstudien erlauben keine allgemeine Aussage über alle Modelle, Teams oder Qualitätsdimensionen. Geschwindigkeit, Codequalität, Wartbarkeit, Sicherheit und Nutzerfolgen sind verschiedene Messgrößen. Ein verantwortlicher Einsatz muss sie getrennt prüfen.