Was heißt „offen“ bei KI-Modellen?
Bei klassischer Open-Source-Software ist der komplette Quellcode frei. Bei KI-Modellen veröffentlichen die Anbieter meist die Gewichte, also das fertig trainierte Modell, aber nicht die Trainingsdaten. Deshalb spricht man genauer von Open-Weight-Modellen. Für den Einsatz im Unternehmen ist das kein Nachteil: Entscheidend ist, dass Sie das Modell auf eigener Hardware betreiben dürfen.
Die bekanntesten Modellfamilien
- Llama von Meta: weit verbreitet, viele Größen, eigene Lizenz mit Nutzungsbedingungen.
- Mistral aus Frankreich: europäischer Anbieter, mehrere Modelle unter der offenen Apache-2.0-Lizenz.
- Qwen von Alibaba: sehr leistungsfähig, auch in Deutsch, viele Varianten unter Apache 2.0.
- Gemma von Google: kompakte Modelle, die auch auf kleinerer Hardware gut laufen.
- gpt-oss von OpenAI: offene Modelle des ChatGPT-Anbieters.
- DeepSeek: Modelle eines chinesischen Anbieters, besonders stark beim logischen Schlussfolgern.
Neue Versionen erscheinen alle paar Monate. Welches Modell gerade am besten passt, hängt von Aufgabe, Sprache und Hardware ab.
Wie gut sind offene Modelle?
Die größten Cloud-Modelle liegen bei sehr anspruchsvollen Aufgaben weiterhin vorn. Der Abstand ist aber in den letzten Jahren stark geschrumpft. Für typische Büroaufgaben wie Schreiben, Zusammenfassen, Übersetzen und Fragen zu eigenen Dokumenten reichen aktuelle offene Modelle in den meisten Fällen gut aus.
Größe: was die Milliarden bedeuten
Modelle werden nach ihrer Anzahl an Parametern benannt, etwa 8B oder 70B (B für englisch billion, Milliarden). Faustregel: Größere Modelle sind klüger, brauchen aber mehr Grafikspeicher und rechnen langsamer. Für ein Unternehmen ist meist ein mittelgroßes Modell der beste Kompromiss. Was das für die Hardware bedeutet, lesen Sie unter Hardware für lokale KI.
Worauf Sie achten sollten
- Lizenz: Nicht jedes offene Modell darf uneingeschränkt kommerziell genutzt werden. Apache 2.0 und MIT sind unkompliziert, andere Lizenzen haben Bedingungen.
- Herkunft: Läuft ein Modell lokal, gehen keine Daten an den Hersteller, egal aus welchem Land er kommt. Trotzdem können Modelle je nach Herkunft bei manchen Themen anders antworten.
- Deutschkenntnisse: Nicht alle Modelle schreiben gleich gutes Deutsch. Vorher testen lohnt sich.
- Updates: Neue Modellversionen bringen oft deutliche Verbesserungen. Jemand sollte sie prüfen und einspielen.
Was heißt das für Ihr Unternehmen?
- Offene Modelle machen KI im eigenen Haus möglich, ohne Abhängigkeit von einem Cloud-Anbieter.
- Die Auswahl, Einrichtung und Pflege der Modelle braucht Know-how. Das können Sie selbst übernehmen oder abgeben.
- Weil Sie das Modell wechseln können, bleiben Sie flexibel, wenn ein besseres erscheint.
Bei AIrak wählen wir passende offene Modelle für Sie aus und spielen neue Versionen als Update ein. Sie müssen sich darum nicht kümmern. Mehr zu AIrak