RAG oder was macht deine KI auf der Suche
Du fragst eine KI nach dem aktuellen Stand eines Themas, und sie antwortet mit Quellen. Hat sie im Internet nachgeschaut? Oder aus ihrem Gedächtnis geantwortet? Oder in deinen eigenen Dokumenten gesucht? Alle drei kommen vor, und sie sehen von außen ähnlich aus.
Ein Sprachmodell weiß zunächst nur, was es beim Training gelesen hat, und dieser Stand ist irgendwann veraltet. Für alles Aktuelle oder Eigene muss die Anwendung dem Modell zusätzliche Informationen mitgeben. Sie holt sie aus dem Internet (Websuche) oder aus einer ausgewählten Dokumentensammlung wie deinem Handbuch. Fachleute nennen das Prinzip dahinter RAG (Retrieval-Augmented Generation, „Antwort mit vorherigem Abruf“). Im engeren Sinn ist mit RAG meist die Suche in eigenen Dokumenten gemeint. Die Websuche gehört im weiten Sinn dazu, wird aber oft anders benannt. In beiden Fällen führt nicht das Modell selbst die Suche aus: Die Anwendung sucht und legt dem Modell die Fundstellen vor, aus denen es antwortet.
Warum das für dich zählt: Je nach Weg stammt die Antwort aus anderen Quellen, und du musst sie anders prüfen. Dieser Beitrag zeigt dir, woran du die Wege erkennst und welcher zu welcher Aufgabe passt.
Was das für dich bedeutet
Fang mit der einfachsten Lösung an und geh nur eine Stufe weiter, wenn die vorherige nicht reicht.
- 01Anweisung
Einen Text kürzen oder umschreiben
Gib der KI den Text und sag ihr genau, was sie tun soll.
Klarer Prompt - 02Kontext
Eine Frage zu einem kurzen Dokument
Lade das Dokument direkt in den Chat.
Dokument im Chat - 03Eigene Dokumente
Immer wieder Fragen zu vielen Dokumenten
Eine Software sucht zuerst die passenden Stellen und gibt sie der KI mit.
RAG - 04Internet
Aktuelle Infos aus dem Netz
Nutze eine KI mit Websuche und schau dir die Quellen an.
Websuche - 05Eure Software
Aktuelle Daten, etwa ein Bestellstatus
Verbinde die KI mit dem System. Am Anfang darf sie nur nachlesen.
Tool, nur lesend - 06Fester Ablauf
Ein Ablauf, der immer gleich ist
Lass ein Programm bauen, das die Schritte der Reihe nach abarbeitet.
Workflow - 07Eigene Entscheidung
Die KI soll selbst entscheiden, was als Nächstes kommt
Teste das zuerst gegen den festen Ablauf. Bringt es wirklich etwas?
Begrenzter Agent
Dein nächster Schritt: Such dir eine Aufgabe aus deinem Alltag. Schreib auf, wie eine normale Anfrage aussieht, was schiefgehen kann und was am Ende herauskommen soll. Lass die KI die kleinste passende App bauen und vorführen. So siehst du, ob die zusätzliche Technik wirklich etwas bringt.
Prompting: der Auftrag an die KI
Um einen Text zu kürzen oder eine Antwort umzuformulieren, genügt oft eine klare Anweisung an die KI, der sogenannte Prompt. Beschreibe, für wen der Text ist, was die KI tun soll, welche Informationen sie hat und wie das Ergebnis aussehen soll. Prüfe den Entwurf anschließend selbst.
Was dafür spricht: Du brauchst keine zusätzliche Software. Ein kurzes Handbuch, das du einmal befragst, kannst du der KI direkt geben, sofern Länge und Datenschutz passen.
Was dagegen spricht: Bei vielen oder wechselnden Dokumenten reicht das nicht mehr.
RAG: passende Informationen vor der Antwort finden
RAG steht für Retrieval-Augmented Generation. Die App sucht passende Stellen in deinen Dokumenten und gibt sie zusammen mit deiner Frage an die KI. Das KI-Modell muss dafür nicht neu trainiert werden. AWS · RAG-Grundlagen
Im Support-Beispiel findet die App die Richtlinie zur Versanddauer, die KI formuliert daraus einen Antwortentwurf und nennt die Fundstelle.
Was dafür spricht: Für viele wiederkehrende Fragen zu einer größeren Dokumentensammlung kann das sinnvoll sein. Die Quellenangabe erleichtert die Kontrolle.
Was dagegen spricht: Eine Quellenangabe garantiert keine richtige Antwort. Du musst prüfen, ob die Stelle aktuell ist und zur Frage passt. Die Qualität hängt davon ab, wie gut die Dokumente aufbereitet und aktuell sind und ob jede Person nur die Dokumente sieht, die sie sehen darf.
Websuche: was die KI im Internet tatsächlich tut
Bei einer Websuche entscheidet das Modell anhand deiner Frage, ob es nachschlagen muss, und formuliert eine Suchanfrage. Die Suche selbst führt der Anbieter aus. Danach antwortet das Modell auf Grundlage der Treffer und nennt die Quellen. Nach der Dokumentation von Anthropic sucht Claude bei Informationen, die aktuell sind oder sich ändern, etwa Nachrichten oder Preisen, und antwortet bei stabilem Wissen direkt. Anthropic · Web-Search-Tool
Der Unterschied zu RAG im engeren Sinn: Bei RAG legst du fest, welche Dokumente durchsucht werden. Bei der Websuche bestimmt die Suchmaschine, was als Treffer kommt. Wer eine App baut, kann die Suche begrenzen: wie oft gesucht wird und welche Webseiten erlaubt oder gesperrt sind.
Was dafür spricht:
- Die KI kann Informationen nutzen, die nach ihrem Trainingsstand entstanden sind.
- Die Antwort enthält Quellen mit Link, die du nachlesen kannst.
Was dagegen spricht:
- Die Qualität der Treffer schwankt, denn Webseiten sind unterschiedlich verlässlich.
- Eine Quellenangabe garantiert keine richtige Antwort, du musst sie weiter prüfen.
- Teile deiner Frage gehen als Suchanfrage nach außen. Schreibe vertrauliche Details deshalb nicht in Fragen, die eine Websuche auslösen können.
- Bei Anthropic kostet die Websuche zusätzlich zu den Nutzungskosten des KI-Modells 10 US-Dollar pro 1.000 Suchen (laut Dokumentation, Stand 25.10.2026).
Tools: wenn die KI auf Daten oder Funktionen zugreift
„Wie lange dauert der Standardversand?“ beantwortet eine Richtlinie. „Wo ist meine Bestellung?“ braucht dagegen die aktuellen Daten zu genau dieser Bestellung. Dafür muss die KI mit eurem Bestellsystem verbunden sein. Eine solche Verbindung heißt in der KI-Welt „Tool“ (Werkzeug). Was die KI damit darf, richtest du in der App und im angebundenen System ein. Eine Anweisung allein gibt der KI weder Zugang noch Rechte.
Was dafür spricht: Die Antwort beruht auf den aktuellen Daten statt auf einem Dokument.
Was dagegen spricht: Jede Verbindung bringt Rechte und Testfälle mit. Fang zum Lernen mit erfundenen Daten an und mit einer Verbindung, die nur lesen darf.
Workflow oder Agent: wer bestimmt den nächsten Schritt?
Bei einem festen Ablauf (Workflow) steht die Reihenfolge der Schritte vorher fest. Ein Agent entscheidet selbst, welchen Schritt er als Nächstes geht und welche Werkzeuge er dafür nutzt. So unterscheidet es auch die Dokumentation von LangGraph, einem Programmpaket für solche Abläufe. LangGraph · Workflows und Agenten
Was für einen festen Ablauf spricht: Für „Suche eine Richtlinie, formuliere einen Entwurf, zeige die Quelle“ genügt häufig eine feste Reihenfolge.
Was für einen begrenzten Agenten spricht: Er wird interessant, wenn die App je nach Anfrage zwischen freigegebenen Werkzeugen wählen und Rückfragen stellen soll.
Was gegen einen Agenten spricht: Je mehr er selbst entscheidet, desto mehr Fälle musst du testen.
Der Coding-Agent hat eine andere Rolle: Er hilft dir, die App und ihre Tests zu bauen. Der Agent in der App bearbeitet später die Anfragen innerhalb der Grenzen, die du ihm gesetzt hast.
Lokal oder extern: wo läuft welcher Teil?
Wo ein Teil läuft, ist eine eigene Entscheidung. RAG kannst du mit einem KI-Modell beim Anbieter oder mit einem selbst betriebenen Modell nutzen, und auch feste Abläufe und Agenten sind nicht an einen Ort gebunden.
Zeichne Suche, KI-Modell, Werkzeuge und Protokoll getrennt auf und notiere, wo jeder Teil läuft. Läuft nur die Bedienoberfläche auf deinem Rechner und gehen Textstellen an das KI-Modell eines Anbieters, ist die Verarbeitung dieser Inhalte nicht lokal. Wer das Modell selbst betreibt, muss Technik, Lizenzbedingungen, Wartung und Zuständigkeiten klären.
Der Anbieter Lyzr beschreibt sein Sovereign-Angebot als Kombination aus einer Plattform für Agenten und der Technik für das KI-Modell. Das ist ein Beispiel dafür, dass diese Entscheidungen getrennt zu treffen sind. Was im konkreten Angebot wirklich enthalten ist, musst du dort prüfen. Lyzr · Sovereign AI
Quellen und Einordnung
Geprüft am 23.10.2026, die Anthropic-Dokumentation am 25.10.2026. Support-Beispiele und Entscheidungshilfe sind eigene didaktische Ableitungen. Lyzr ist eine Anbieterquelle; die Grundlagen sind zusätzlich mit offizieller Dokumentation eingeordnet.