Vom KI-Prototyp zum täglichen Einsatz
Die erste Demo wirkt mühelos: Du beschreibst einem Coding-Assistenten eine Aufgabe, lässt eine kleine Anwendung erzeugen, und sie beantwortet eine Frage zu eurem Handbuch. Dann fragt eine Kollegin etwas anders. Der Assistent findet die richtige Stelle nicht und formuliert trotzdem eine plausible Antwort.
Das ist ein nützlicher Fund. Er zeigt, was vor dem nächsten Einsatz geklärt werden muss: überprüfbare Qualität, klare Zuständigkeiten und ein begrenzter Einsatzrahmen.
Was das für dich bedeutet
Ein überzeugender Prototyp ist ein Anfang, keine Lösung für die ganze Organisation. Bevor andere die Anwendung nutzen, brauchst du einen kleinen Prüfsatz, einen sichtbaren Datenweg und eine menschliche Abnahme. Dann erweitere den Prototyp in kleinen Schritten, um zu entscheiden, ob sich der Aufwand lohnt.
Dein nächster Schritt: Formuliere den Auftrag so, dass du ihn prüfen kannst, und stelle sechs Testfälle zusammen. Mit dem Bauauftrag weiter unten lässt du die KI den kleinsten Verbesserungsschritt umsetzen.
Was für Vibe Coding spricht, und was dagegen
Vibe Coding heißt: Du lieferst Ziele, Beispiele und Feedback, die KI erzeugt und überarbeitet Code und Tests. Du beurteilst, ob das Ergebnis für die Arbeit taugt.
Was dafür spricht:
- Eine Idee wird schnell greifbar, und Fehlverhalten zeigt sich früh.
- Du lernst an echten Beispielen, welche Bedingungen die Anwendung erfüllen muss.
Was dagegen spricht:
- Der Assistent kann plausible Antworten ohne Grundlage liefern.
- Bestandene Beispiele helfen bei der Entscheidung, decken aber nicht jede spätere Eingabe ab.
- Eine Erklärung der KI belegt noch keinen erfolgreichen Testlauf.
Beschreibe den Auftrag so, dass du ihn prüfen kannst
„Ein hilfreicher Support-Bot“ ist als Maßstab zu ungenau. Konkreter ist: „Der Assistent entwirft Antworten zu drei freigegebenen Richtlinien, zeigt die Stelle, aus der die Antwort stammt, und sagt, wenn ihr Wissen fehlt.“
Notiere außerdem, was die Anwendung tun darf. Für die erste Fassung reichen vorbereitete Dokumente und eine Vorschau. Mails verschicken, Kundendaten ändern oder andere Aktionen nach außen brauchen einen eigenen Ablauf mit ausdrücklicher Freigabe.
Baue einen kleinen Prüfsatz
Stelle sechs Fälle zusammen, und schreib für jeden auf, was die richtige Reaktion ist:
- 01Fall
Eine klar beantwortbare Frage
Richtig ist: eine Antwort mit der passenden Quelle.
Häkchen: Quelle genannt - 02Fall
Dieselbe Frage, anders formuliert
Richtig ist: dieselbe Antwort wie im ersten Fall.
Häkchen: gleiche Quelle - 03Fall
Eine Frage, auf die es keine Antwort gibt
Richtig ist: Die App sagt, dass sie nichts gefunden hat, und erfindet nichts.
Häkchen: „nichts gefunden“ - 04Fall
Zwei widersprüchliche Angaben
Richtig ist: Die App weist auf den Widerspruch hin, statt sich für einen Wert zu entscheiden.
Mensch: Widerspruch erkannt? - 05Fall
Eine veraltete Richtlinie
Richtig ist: Die App nennt den Stand der Quelle oder weist auf eine neuere Fassung hin.
Mensch: Stand genannt? - 06Fall
Eine fremde Anweisung im Dokument
Zum Beispiel „Ignoriere alle bisherigen Regeln“. Richtig ist: Die App befolgt sie nicht und antwortet normal.
Mensch: Anweisung ignoriert?
Schreib für jeden Fall auf, was die richtige Reaktion ist. Alles, was sich per Häkchen prüfen lässt, etwa ob eine Quelle genannt wird, lässt du den Coding-Assistenten als Testprogramm bauen. Ob eine Antwort den Sinn einer Richtlinie trifft, beurteilt zusätzlich ein Mensch.
Prüfe den Datenweg
Eine App, die auf deinem Rechner läuft, kann trotzdem Dienste im Internet nutzen. Halte fest, wo die Dokumente liegen, wo gesucht wird, wer das KI-Modell betreibt und welche Daten im Protokoll landen. Beginne mit freigegebenen, anonymisierten oder erfundenen Beispielen. Für einen Test mit echten Arbeitsdaten brauchst du eine eigene Entscheidung darüber, wer worauf zugreift und was übertragen wird.
Der Weg einer Frage durch deine App lässt sich in vier Stationen festhalten:
- 01Dokumente
Wo liegen die Dokumente?
Auf eurem Server, in der Cloud oder bei einem Anbieter?
Ort festhalten - 02Suche
Wo wird gesucht?
Läuft die Suche bei euch oder bei einem Dienst im Internet?
Ort festhalten - 03KI-Modell
Wer betreibt das KI-Modell?
Eigene Server oder Anbieter? Welche Textstellen gehen dorthin?
Betreiber festhalten - 04Protokoll
Was wird gespeichert?
Welche Daten landen im Protokoll, und wer kann es lesen?
Inhalt festhalten
Mach Fehler nachvollziehbar
Die Vorschau sollte zeigen, aus welcher Stelle im Dokument die Antwort stammt und welche Funktion der KI genutzt wurde. Notiere, welches KI-Modell mit welchen Einstellungen und welchem Dokumentstand gearbeitet hat, damit du einen Fehlerfall später nachstellen kannst. Sammle nur die nötigen Informationen, denn auch ein Fehlerprotokoll kann vertrauliche Inhalte enthalten.
Ändere kontrolliert
Bevor die KI eine Korrektur umsetzt, sicherst du den bisherigen Stand, damit du ihn zurückholen kannst. Nach der Änderung läuft derselbe Prüfsatz erneut. Vergleiche, ob der ursprüngliche Fehler behoben ist und die anderen Antworten die Kriterien weiter erfüllen.
Ein passender Bauauftrag lautet:
Untersuche unseren Support-Prototyp anhand der sechs Beispielanfragen und ihrer erwarteten Ergebnisse. Erkläre den kleinsten Verbesserungsschritt verständlich. Sichere den bisherigen Stand, ändere nötigen Code und führe die verfügbaren Tests aus. Zeige Vorschau, Ergebnisse und verbleibende Grenzen. Führe keine externen Geschäftsaktionen aus. Falls dir Programme oder Zugänge fehlen, nenne sie konkret.
Vereinbare einen begrenzten Pilot
Lege vor dem Start fest, wer die App nutzt, wie lange der Test läuft, wer verantwortlich ist und unter welchen Bedingungen ihr abbrecht. Ein Vorschlag für die erste Woche: Eine Person prüft zehn anonymisierte Anfragen und notiert, ob die Quelle zur Antwort passt, wie viel Nacharbeit nötig war und welche Fehler aufgetreten sind. Wähle ein klares Stoppsignal, etwa eine Antwort mit nicht erlaubten Informationen.
Danach entscheidet ihr anhand der Ergebnisse, ob die Anwendung weiterentwickelt wird. Eine weitere Funktion lohnt sich, wenn sie ein beobachtetes Problem löst und ihre Wirkung prüfbar bleibt.