Warum funktioniert KI offline?
Ein Sprachmodell hat sein Wissen beim Training gelernt und in seinen Gewichten gespeichert. Für eine Antwort muss es nichts nachschlagen, sondern nur rechnen. Bei Cloud-KI passiert das Rechnen im Rechenzentrum des Anbieters, bei lokaler KI auf Ihrem eigenen Gerät. Das Internet ist dafür nicht nötig.
Für wen ist das sinnvoll?
- Berufsgeheimnisträger: Kanzleien, Steuerberatung, Arztpraxen, Therapie.
- Behörden und öffentliche Einrichtungen mit strengen Vorgaben.
- Produktion und Entwicklung: Konstruktionsdaten und Rezepturen, oft in abgeschotteten Netzen.
- Standorte mit schlechter Verbindung: Die KI arbeitet auch, wenn das Internet ausfällt.
Drei Stufen von „offline“
| Stufe | Was das heißt | Updates |
|---|---|---|
| Lokal | Die KI rechnet im Haus, das Gerät darf aber für Updates ins Internet. | automatisch oder per Fernwartung |
| Abgeschottet | Keine Verbindung nach außen, nur zeitweise für geplante Updates freigeschaltet. | in einem festen Wartungsfenster |
| Vollständig getrennt | Das Netz hat nie eine Verbindung zum Internet (englisch air-gapped). | per Datenträger vor Ort |
Für die meisten Unternehmen reicht die erste Stufe: Ihre Daten verlassen das Haus nicht, und Updates kommen trotzdem bequem an.
Was offline wegfällt
- Internetsuche: Die KI kennt nur ihr Trainingswissen und Ihre eigenen Dokumente, keine aktuellen Nachrichten.
- Cloud-Dienste: Anbindungen an Microsoft 365 oder andere Online-Dienste funktionieren nur mit Verbindung. Interne Mailserver und Dateiablagen gehen weiterhin.
- Automatische Updates: Sicherheits- und Modellupdates müssen geplant eingespielt werden.
Updates nicht vergessen
Offline heißt nicht wartungsfrei. Auch ein abgeschotteter KI-Server braucht neue Software- und Modellversionen. Legen Sie fest, wer sie wann einspielt, zum Beispiel einmal im Monat. Mehr dazu unter Sicherheit lokaler KI-Server.
Was heißt das für Ihr Unternehmen?
- KI ohne Internet ist technisch kein Problem, wenn sie lokal läuft.
- Für Berufsgeheimnisträger und abgeschottete Netze ist das oft die einzige Form, in der KI überhaupt infrage kommt.
- Planen Sie, wie Updates trotzdem regelmäßig ankommen.
AIrak läuft ganz ohne Internetverbindung. Mails, Dokumente, Protokolle und Übersetzungen bleiben in Ihrem eigenen Netz. Wie Updates bei Ihnen ankommen sollen, stimmen wir mit Ihnen ab. Mehr zu AIrak