Stell dir vor, deine Mitarbeiter koennten per Chat jede interne Information abfragen — aus Handbuechern, E-Mails, Produktdokumentationen, Schulungsunterlagen und der Wissensdatenbank. Ohne mühsames Suchen, ohne Ordnerstrukturen, ohne Tickets an die IT. Genau das ermöglicht die Kombination aus RAG (Retrieval-Augmented Generation) und Enterprise Search.
Dieser Artikel erklaert, was RAG ist, wie es funktioniert, warum es besonders fuer Technologie-Unternehmen interessant ist — und wie du es DSGVO-konform auf deutschen Servern einsetzen kannst.
Was ist RAG — und warum brauchst du es?
RAG steht fuer Retrieval-Augmented Generation. Auf Deutsch: Durch Abruf angereicherte Generierung. Es ist ein Architekturmuster, das zwei KI-Fähigkeiten kombiniert: Die Fähigkeit, relevante Informationen in einer Datenbank zu finden (Retrieval), und die Fähigkeit, aufgrund dieser Informationen Texte zu formulieren (Generation).
Ein einfaches Beispiel: Ein Mitarbeiter fragt: "Wie hoch ist das Urlaubsbudget für das vierte Quartal?" Ohne RAG müsste er entweder die richtige Datei auf dem Laufwerk finden oder eine E-Mail an die Personalabteilung schreiben. Mit RAG durchsucht das System automatisch alle relevanten Dokumente, findet die passende Stelle und formuliert eine Antwort — in Sekunden.
Der entscheidende Unterschied zu einem reinen Chatbot ohne RAG: Die Antwort basiert auf deinen Daten, nicht auf dem allgemeinen Wissen der KI. Das macht die Antworten präziser, aktueller und zuverlässiger — gerade bei unternehmensspezifischen Inhalten.
Wie funktioniert RAG in der Praxis?
RAG arbeitet in vier Schritten, die fuer den Nutzer unsichtbar sind.
Schritt 1: Indexierung. Deine Dokumente (PDFs, Word-Dateien, E-Mails, HTML-Seiten) werden eingelesen und in einem Vektor-Index abgelegt. Dabei wird jeder Inhalt in numerische Vektoren umgewandelt, die die semantische Bedeutung abbilden. Zwei thematisch ähnliche Dokumente liegen im Vektorraum nah beieinander.
Schritt 2: Retrieval. Wenn ein Mitarbeiter eine Frage stellt, wird diese ebenfalls in einen Vektor umgewandelt. Das System sucht im Vektor-Index nach den Dokumenten, die der Frage semantisch am naechsten sind — nicht nach Stichworten, sondern nach Bedeutung.
Schritt 3: Augmentation. Die gefundenen Dokumente werden als Kontext an ein Sprachmodell übergeben. Das Modell bekommt die Anweisung: "Beantworte die Frage ausschließlich basierend auf diesen Dokumenten. Wenn die Antwort nicht in den Dokumenten enthalten ist, sage das."
Schritt 4: Generierung. Das Sprachmodell formuliert eine präzise Antwort, die auf den gelieferten Quellen basiert. Inklusive Quellenangabe, damit der Nutzer die Herkunft jeder Aussage nachvollziehen kann.
Die besondere Stärke: Anders als ein traditionelles Suchsystem, das nur Dokumente auflistet, gibt RAG eine konkrete Antwort. Der Mitarbeiter bekommt nicht "10 Ergebnisse zum Durchklicken", sondern direkt die benötigte Information.
Enterprise Search — der Unterschied zur einfachen Volltextsuche
Enterprise Search geht über RAG hinaus und ist oft die Vorstufe: Es durchsucht sämtliche internen Datenquellen — Dateiserver, E-Mails, CRM, ERP, Wiki — zentral und einheitlich. Während RAG den Chat-basierten Zugriff auf diese Inhalte ermöglicht, sorgt Enterprise Search dafür, dass überhaupt alle Quellen erfasst und indexiert sind.
Die Kombination beider Technologien ist besonders wertvoll fuer Unternehmen mit:
Grossen Dokumentenmengen: Mehrere tausend PDFs, Handbuecher oder technische Dokumentationen, die taeglich wachsen. Ein produzierendes Unternehmen mit 50.000 Konstruktionszeichnungen kann diese per Chat durchsuchbar machen — ohne dass ein Mitarbeiter wissen muss, in welchem Ordner sie abgelegt sind.
Hoher Mitarbeiterfluktuation: Wissen geht verloren, wenn Mitarbeiter das Unternehmen verlassen. RAG erfasst und bewahrt dieses Wissen in einer durchsuchbaren Wissensdatenbank.
Komplexen Produkten oder Dienstleistungen: Je komplexer das Produkt, desto mehr Dokumentation ist noetig. Vertriebsmitarbeiter können per Chat die passende Produktbeschreibung, Zertifizierung oder Kompatibilitaetsinformation abrufen.
Internationalen Teams: Mehrere Sprachen bedeuten mehrere Versionen derselben Information. RAG beherrscht multilinguale Suche und liefert unabhängig von der Abfragesprache die passende Information.
DSGVO-konform auf deutschen Servern
Ein haeufiges Argument gegen KI im Unternehmen ist der Datenschutz. Bei RAG ist das kein Widerspruch. Die Architektur erlaubt eine vollstaendig DSGVO-konforme Umsetzung:
Deutsche Server (Hetzner DE) mit verschlüsselter Datenverarbeitung. Die Daten verlassen niemals deinen Verantwortungsbereich. Das Sprachmodell kann on-premise betrieben werden (z.B. Llama 3 auf eigener Hardware) oder über API-Zugriffe mit Data Processing Agreement (DPA). Alle indices und Vektordatenbanken liegen auf deinen Servern. Es gibt einige Open-Source-Komponenten, die das besonders wirtschaftlich machen: n8n self-hosted als Workflow-Engine, Qdrant oder Chroma als Vektordatenbank und verschiedene Open-Source-Sprachmodelle.
Fuer Unternehmen mit besonders hohen Sicherheitsanforderungen gibt es vollstaendig lokale Installationen ohne jeglichen externen API-Zugriff. Das ist aufwaendiger, aber machbar — und ich berate dich gern zu den Optionen.
Was kostet RAG?
Die Kosten für ein RAG-System sind überschaubarer als viele denken. Der Einstieg beginnt typischerweise mit einem KI-Pilot (3.999 Euro), der einen konkreten Use Case in vereinbarter Zeit als funktionierenden Prototypen umsetzt. Die laufenden Kosten für den Betrieb liegen meist zwischen 100 und 500 Euro pro Monat, abhängig von der Anzahl der Dokumente und der Nutzungsintensitaet.
Fuer größere Rollouts mit mehreren Abteilungen und Tausenden von Dokumenten ist eine Custom Integration (ab 9.999 Euro) die richtige Wahl. Diese beinhaltet die vollstaendige Einrichtung der Vektordatenbank, die Indexierung aller relevanten Quellen, die Integration in bestehende Systeme sowie Schulung und Dokumentation.
Der erste Schritt
Der effizienteste Weg zu RAG beginnt mit einem konkreten Anwendungsfall. Statt zu versuchen, das gesamte Firmenwissen auf einmal zu erfassen, starten wir mit einer klar definierten Datenquelle — zum Beispiel deinen FAQ-Dokumenten, Produkthandbuechern oder Schulungsunterlagen.
Im kostenlosen Discovery Call ermitteln wir, welcher Use Case den groessten Mehrwert verspricht, welche Datenquellen priorisiert werden sollten, welche Architektur zu deinen Anforderungen passt und welche Foerdermittel du beantragen kannst (ZIM bis zu 55 Prozent, BAFA 50-80 Prozent).