75 Agenten, Skills, Regeln… Einziger Job: dem Code misstrauen.

Das war für mich das Spannendste an einem ganzen Tag voller KI-Themen.

Ich war eben auf einer Veranstaltung von SThree in Düsseldorf. Tim Dorbandt von der Loptr GmbH hat erzählt, wie er agentic Coding für sich produktivtauglich macht. Also nicht „schau mal, die KI baut mir in 3 Minuten ein Tool“, sondern Software, die man tatsächlich in Produktion lassen kann.

Ich hatte ehrlich gesagt was anderes erwartet.

Ich dachte, es geht darum, die KI schneller und autonomer zu machen. Mehr Output, weniger Mensch, einfach laufen lassen. War aber nicht der Kern.

Der ganze Aufwand steckt nämlich gar nicht im Loslassen, sondern im Drumherum. Eine ganze Armada aus Agenten, Skills und Regeln, die gegenprüfen, auf Qualität, Kontinuität, Security achten und so lange misstrauen, bis das Ergebnis wirklich trägt.

Und da musste ich an einen Praktikanten denken.

So einen, der am ersten Tag voller Tatendrang gleich das ganze System umbaut. Schnell, total überzeugt von sich, und keiner im Team weiß, ob das morgen noch funktioniert. Genau so ist eine KI, die du einfach drauflos programmieren lässt.

Ich beobachte das gerade überall: Alle starren auf die Geschwindigkeit. „Schau, wie schnell das geht.“ Aber Geschwindigkeit war noch nie das Problem. Das Problem ist Vertraun, das man sich nicht erarbeitet hat.

Eine KI wird nicht produktivtauglich, weil sie schnell ist. Sondern weil jemand einen Rahmen baut, in dem man ihren Ergebnissen überhaupt vertrauen kann. Struktur, Kontrolle, das ehrliche „wir schauen da nochmal drauf“.

Und ja, das kostet. Genauso wie es bei Menschen kostet, Vertrauen aufzubauen, statt einfach jeden machen zu lassen.

Aber ohne diesen Rahmen läuft am Ende kein Produkt in Produktion. Da läuft dann ein Risiko.

Komme wieder ein Stück schlauer nach Hause. Genau dafür geht man auf sowas.

Danke Karim Ali Abou Serea und Dustin Hoffmann für die Organisation und das Hosting dieser tollen Veranstaltung.

💬 Lasst ihr eure KI beim Coden einfach laufen — oder baut ihr euch erst die „Misstrauens-Maschinerie“ drumherum, bevor was in Produktion geht?