Ein Satz hat mich diese Woche zum Nachdenken gebracht. Dr.-Ing. Maurice Preidel, ein befreundeter KI-Experte, hat mich zu Recht daran erinnert: Beschreibe der KI das gewünschte Ergebnis – nicht den Weg dorthin.
Und eigentlich mache ich das oft auch schon genau so. Für mein kleines autonomes Roboter-Engineering-Projekt habe ich mir das sogar als ein Leitbild gesetzt. Trotzdem definiere ich weiterhin bestimmte Leitplanken und Abläufe selbst. Und dafür gibt es gute Gründe – vielschichtiger, als es auf den ersten Blick scheint.
Einer davon: Vertrauen entsteht nicht von allein. In meinem Artikel „KI im Engineering braucht Regeln – und Vertrauen” habe ich es so formuliert:
Verantwortung braucht Verständnis: Welche Daten, Regeln, Kontexte, Prüfungen und Freigaben waren an einem Ergebnis beteiligt?
Anders gesagt: Ich muss der KI nicht jeden technischen Schritt vorschreiben. Aber ich brauche so etwas wie eine “Minimum Viable Governance” – genug Struktur, damit der Prozess nachvollziehbar, überprüfbar und verantwortbar bleibt.
Mit Maurice tausche ich mich dazu bald ausführlicher aus. Ich bin gespannt, wo unsere Perspektiven sich decken – und wo nicht.
Der Weg zur KI-Aufgabe muss nicht immer vorgeschrieben sein – aber ganz ohne Leitplanken geht es auch nicht. Es braucht ein Mindestmaß an Struktur, damit Ergebnisse nachvollziehbar und verantwortbar bleiben.
