Wie funktioniert ein Sprachmodell?
Im Kern macht ein Sprachmodell etwas erstaunlich Einfaches: Es sagt voraus, welches Wort als Nächstes am besten passt. Dann das nächste. Und das nächste. So entsteht Satz für Satz eine Antwort. Wie Sprachmodelle in das große Feld der künstlichen Intelligenz passen, lesen Sie unter Was ist KI?
Damit das gut klappt, wurde das Modell vorher mit einer gewaltigen Menge Text trainiert: Bücher, Webseiten, Fachartikel, Programmcode. Dabei hat es keine Fakten auswendig gelernt wie ein Lexikon. Es hat Muster gelernt: wie Sprache aufgebaut ist, welche Begriffe zusammengehören, wie ein höflicher Brief klingt oder wie man ein Problem Schritt für Schritt löst.
Das Ergebnis wirkt oft so, als würde die KI wirklich verstehen. Technisch gesehen rechnet sie Wahrscheinlichkeiten aus, allerdings auf einem Niveau, das für viele Büroaufgaben verblüffend gut funktioniert.
Was sind Tokens?
Sprachmodelle lesen Text nicht Buchstabe für Buchstabe und auch nicht Wort für Wort, sondern in kleinen Stücken, den Tokens. Ein Token ist oft ein kurzes Wort oder ein Wortteil. Das Wort „Rahmenvertrag“ wird zum Beispiel in mehrere Tokens zerlegt.
Tokens begegnen Ihnen an zwei Stellen: Cloud-Anbieter rechnen oft nach Tokens ab, und jedes Modell kann nur eine bestimmte Menge Tokens auf einmal verarbeiten. Diese Menge heißt Kontextfenster. Sie bestimmt, wie lang ein Dokument sein darf, das die KI in einem Rutsch liest.
Was Sprachmodelle gut können
- Texte schreiben und verbessern: E-Mails, Angebote, Stellenanzeigen, Rechtschreibung und Ton.
- Zusammenfassen: lange Schreiben, Protokolle oder Verträge in wenigen Punkten.
- Übersetzen: in viele Sprachen, meist auf gutem Niveau.
- Informationen finden und erklären: besonders gut, wenn die KI auf Ihre eigenen Dokumente zugreifen kann.
- Strukturieren: aus Notizen eine Liste machen, aus einer Besprechung ein Protokoll mit Aufgaben.
Wo die Grenzen liegen
Halluzinationen: Weil ein Sprachmodell immer die wahrscheinlichste Fortsetzung schreibt, klingt die Antwort auch dann überzeugend, wenn sie falsch ist. Es erfindet dann zum Beispiel ein Urteil, eine Quelle oder eine Zahl. Das nennt man Halluzination. Wie Sie damit umgehen, lesen Sie unter Halluzinationen erkennen.
Wissensstand: Ein Modell kennt nur, was in seinen Trainingsdaten stand. Neuere Ereignisse kennt es nicht, es sei denn, man gibt ihm aktuelle Informationen mit.
Kein Firmenwissen: Ihre Preislisten, Verträge und Abläufe kennt ein allgemeines Sprachmodell nicht. Es kann nur raten.
Rechnen und Zählen: Sprachmodelle sind Sprachkünstler, keine Taschenrechner. Bei Zahlen lohnt sich ein zweiter Blick.
Wie kommt die KI an Ihr Firmenwissen?
Damit eine KI Fragen zu Ihrem Unternehmen beantworten kann, muss man ihr nicht alles neu beibringen. Üblich ist ein anderer Weg: Bei jeder Frage sucht ein Programm zuerst die passenden Stellen in Ihren Dokumenten heraus und gibt sie dem Sprachmodell mit. Das Modell formuliert daraus die Antwort und kann die Quelle nennen. Fachleute nennen das RAG (Retrieval Augmented Generation). Mehr dazu unter Was ist RAG?
Der Vorteil: Die Antworten stützen sich auf Ihre echten Unterlagen, Halluzinationen werden deutlich seltener, und Sie können jede Aussage im Originaldokument nachprüfen.
Was heißt das für Ihr Unternehmen?
- Ein Sprachmodell ist ein starkes Werkzeug für Text, aber kein allwissendes Orakel. Wichtige Fakten bleiben Prüfsache.
- Richtig nützlich wird KI im Betrieb erst mit Zugriff auf Ihre eigenen Dokumente.
- Genau dabei stellt sich die Frage, wo diese Dokumente verarbeitet werden: bei einem Cloud-Anbieter oder im eigenen Haus. Mehr dazu unter Lokale KI vs. Cloud-KI.
AIrak, die KI-Box von Tecrak, arbeitet nach genau diesem Prinzip: Sie antwortet aus Ihren Dokumenten, nennt die Quelle und läuft vollständig in Ihrem Firmennetz. Mehr zu AIrak