ARCHITEKTUR
KI braucht eine Systemarchitektur
Das Modell ist ein Baustein. Das System darum herum bleibt eine technische Aufgabe.
Vom Baustein zum System
Die Arbeit an Radar, automatisierten Tests und vernetzten Systemen hat meinen Blick dafür geschärft, wie Komponenten zusammenspielen. Ein beeindruckender Baustein ist noch kein verlässliches Gesamtsystem. Diese Unterscheidung hilft auch beim Einsatz von Sprachmodellen.
Grenzen dort setzen, wo sie sich prüfen lassen
KI-gestützte Arbeit braucht festgelegte Eingaben, zulässige Aktionen, Prüfverantwortung und einen Umgang mit Fehlern. Herkömmlicher Code kann bestimmte Grenzen durchsetzen. Tests können bekannte Fälle durchspielen. Menschen müssen weiterhin entscheiden, ob das Ergebnis zur Aufgabe passt und was andernfalls geschieht.
Annahmen und Grenzen prüfbar machen
Ein strukturierter Ablauf macht ein Modell nicht unfehlbar. Er kann Annahmen und Fehlerstellen besser prüfbar machen. Darum geht es: verstehen, welche Teile kontrolliert sind, welche mit Wahrscheinlichkeiten arbeiten und welche Entscheidungen bei einer verantwortlichen Person bleiben.