So sieht das im Alltag aus
- „Wie bearbeiten wir Reklamationen?“
- „Welche Kündigungsfrist hat der Wartungsvertrag mit Firma Müller?“
- „Was kostet der Einbau laut aktueller Preisliste?“
- „Was muss ein neuer Kollege in der ersten Woche wissen?“
Die KI antwortet in ganzen Sätzen und nennt die Dokumente, aus denen die Antwort stammt.
Wie es technisch funktioniert
Das Verfahren heißt RAG. Vereinfacht in drei Schritten:
- Einlesen: Die Dokumente werden in Abschnitte zerlegt und in einem Suchindex abgelegt, der Bedeutungen versteht, nicht nur Wörter.
- Suchen: Bei einer Frage findet das System die passenden Abschnitte, auch wenn andere Wörter verwendet werden.
- Antworten: Das Sprachmodell liest diese Abschnitte und formuliert daraus eine Antwort mit Quellenangabe.
Bei lokaler KI passiert alles auf Ihrem eigenen Server. Index und Dokumente verlassen das Haus nicht.
Welche Dokumente eignen sich?
- Gut: Textdokumente, PDFs mit Text, Handbücher, Richtlinien, Verträge, Angebote, Protokolle.
- Mit Vorbereitung: Gescannte PDFs brauchen Texterkennung (OCR). Tabellen und Preislisten funktionieren, wenn sie sauber aufgebaut sind.
- Schwierig: Reine Bilder, Zeichnungen und handschriftliche Notizen. Für Belege siehe Rechnungen und Belege auslesen.
Ordnung zahlt sich aus
Die KI findet, was in der Ablage liegt, auch Veraltetes. Liegen drei Versionen der Preisliste nebeneinander, kann die Antwort aus der falschen stammen. Vor dem Start lohnt sich deshalb ein Blick in die Ordner: Alte Versionen archivieren, klare Dateinamen, ein Ordner pro Thema.
Rechte und Grenzen
- Rechte: Jede Person sollte nur Antworten aus Dokumenten bekommen, die sie auch selbst öffnen darf. Mehr unter Ein KI-Server für das ganze Team.
- Quellen prüfen: Bei wichtigen Entscheidungen, etwa zu Fristen oder Preisen, das genannte Dokument kurz öffnen. RAG senkt das Risiko von Halluzinationen deutlich, schließt es aber nicht aus.
- Zählen und Auswerten: Fragen wie „Wie viele Angebote haben wir 2025 geschrieben?“ beantwortet RAG schlecht. Dafür sind Datenbanken und Auswertungen besser.
Was heißt das für Ihr Unternehmen?
- Wissen, das in Ordnern steckt, wird für alle Mitarbeitenden schnell auffindbar.
- Neue Kolleginnen und Kollegen arbeiten sich schneller ein, erfahrene werden seltener unterbrochen.
- Mit lokaler KI ist das auch für vertrauliche Unterlagen wie Verträge möglich.
Mit AIrak fragt Ihr Team die eigenen Unterlagen ganz normal, aus Dateiablagen, Nextcloud oder SharePoint. Die Dokumente bleiben dabei auf der Box in Ihrem Haus. Mehr zu AIrak