Mistral Large 4: Offene Gewichte machen aus der API-Vorschau ein Modell für eigene Server

Anfang Oktober ließ sich Mistral Large 4 nur über eine öffentliche API-Vorschau testen. Seit dem 29. Oktober stellt Mistral auch die Gewichte einer weiterentwickelten Fassung bereit. Unternehmen können das Modell damit auf eigener Infrastruktur betreiben und anpassen, statt für die Inferenz auf Mistrals Dienst angewiesen zu sein. Der Schritt ist mehr als ein neuer Download: Erst mit den Gewichten lassen sich Betrieb, Zugriffskontrolle und Änderungen am Modell selbst planen. Mistrals Ankündigung der Vorschau und die Mitteilung zur Freigabe der Gewichte beschreiben die beiden Entwicklungsstände.

Viel Modell, aber nur ein Teil arbeitet pro Token

Large 4 nimmt Text und Bilder entgegen und erzeugt Text. Es ist ein Mixture-of-Experts-Modell mit rund einer Billion Parametern. Laut Modellkarte sind pro Token rund 49 Milliarden Parameter aktiv; einschließlich Einbettungen und Ausgabeschichten nennt Mistral 52 Milliarden. Ein Router wählt für jeden Token vier von 128 spezialisierten Experten aus, hinzu kommt ein gemeinsam genutzter Experte. So muss nicht bei jedem Rechenschritt das gesamte Modell ausgeführt werden. Für den Eigenbetrieb müssen die umfangreichen Gewichte dennoch gespeichert und auf geeignete Hardware verteilt werden.

Auch der Zugriff auf lange Eingaben ist nicht einfach eine Frage der maximalen Fenstergröße. Der Decoder verbindet eine komprimierte Darstellung früherer Token mit einem Auswahlmechanismus, der gezielt frühere Positionen für die Aufmerksamkeit heranzieht. Bilder verarbeitet ein separater Pixtral-Encoder, dessen Merkmale der Textdecoder nutzen kann. Das technische Porträt von Hugging Face beschreibt beide Sparmechanismen und die Bildverarbeitung. Die Modellkarte nennt ein Kontextfenster von bis zu einer Million Token; das bedeutet allerdings nicht, dass jede verfügbare Serverkonfiguration dieses Fenster auch anbietet.

Was sich gegenüber der Vorschau geändert hat

Mistral spricht nicht bloß von einer Freigabe unveränderter Vorschaugewichte. Nach eigenen Angaben hat das Unternehmen das Modell mit weiterem Reinforcement Learning verbessert und drei Stufen für den Denkaufwand eingeführt: „low“, „medium“ und „high“. Die niedrigste Stufe ersetzt den bisherigen Modus ohne ausdrückliches Reasoning; „high“ ist die Standardeinstellung. Wer Agenten betreibt, kann den Rechen- und Tokenaufwand damit je nach Aufgabe steuern. Ob sich die niedrigere Stufe für einen konkreten Workflow lohnt, muss ein Test mit den eigenen Aufgaben zeigen. Quelle: Mistral.

Die von Mistral veröffentlichten Messwerte zeigen zugleich, warum Ergebnisse der frühen Vorschau nicht mit denen der freigegebenen Fassung vermischt werden sollten. Für Terminal-Bench 4.0 nennt das Unternehmen nun 41 Prozent statt 28 Prozent in der Vorschau und 30 Prozent weniger Ausgabetoken. Auf dem Artificial Analysis Coding Agent Index führt Mistral für die neue Fassung 48 Prozent sowie durchschnittlich 47 Prozent weniger Token pro Aufgabe als beim dort verglichenen GLM-5.3 an. Diese Zahlen stammen aus der aktuellen Veröffentlichung; sie beschreiben bestimmte Benchmarks und Einstellungen, nicht automatisch die Qualität eines Agenten in einer beliebigen Entwicklungsumgebung. Die Ankündigung vom 6. Oktober bezog sich dagegen auf den damaligen Preview-Stand.

Für Sicherheitsanwendungen ist die Unterscheidung besonders wichtig. Mistral meldet für die freigegebene Fassung 51 Prozent im gesamten Artificial Analysis Cyber Index und weist zugleich auf ein mögliches Missbrauchspotenzial bei realen Angriffen hin. Die zuvor genannten 82 Prozent bezogen sich auf einen einzelnen Test zum Reproduzieren und Beheben einer Schwachstelle, nicht auf den Gesamtindex. Für Unternehmen, die Schwachstellen automatisiert untersuchen lassen, bleiben daher technische Zugriffsbeschränkungen, isolierte Testumgebungen und menschliche Prüfung der Patches nötig. Quellen: aktuelle Freigabe und Preview-Ankündigung.

Eigenbetrieb braucht Speicher, passende Laufzeit und Lizenzprüfung

Mistral bietet offizielle FP8-Gewichte und eine NVFP4-Variante an. Die Modellkarte nennt vLLM als empfohlene Laufzeit und verweist auch auf SGLang, Transformers und llama.cpp. Hugging Face zeigt beispielsweise eine bereitstellbare Konfiguration auf acht H200-GPUs mit bis zu 131.000 Token Kontext und 16 gleichzeitigen Anfragen. Das ist eine konkrete Serverkonfiguration, nicht das volle nominelle Millionen-Token-Fenster. Selbst stark quantisierte GGUF-Fassungen bleiben groß: Für eine 2-Bit-Variante nennt Hugging Face einen Apple-Silicon-Ultra-Rechner mit 512 GB gemeinsamem Speicher. Wie schnell das Modell tatsächlich antwortet, hängt unter anderem von Quantisierung, Kontextlänge, Batch-Größe und Hardware ab. Quelle: Hugging Face.

Die Gewichte stehen außerdem nicht unter unverändertem MIT. Die Mistral Ecosystem Open-Weight License erlaubt grundsätzlich Nutzung, Anpassung und Weitergabe mit einem Hinweis auf die Lizenz. Wer jedoch als Unternehmen selbst oder über verbundene Firmen ein Model-as-a-Service-Geschäft betreibt, muss vor einer kommerziellen Nutzung eine gesonderte Lizenz mit Mistral schließen. Die Lizenz definiert diesen Fall anhand des Zugriffs Dritter auf das Modell oder abgeleitete Fassungen, etwa über eine API mit nennenswertem Einfluss auf Eingaben oder Parameter. Interne Nutzung ist von dieser besonderen Regel ausgenommen. Gerade Anbieter gehosteter Modelle sollten die konkrete Architektur ihres Angebots deshalb vorab rechtlich prüfen.

Fazit

Die Veröffentlichung macht Mistral Large 4 für Teams interessant, die ein leistungsfähiges multimodales Modell auf eigener Infrastruktur einsetzen oder für ihre Aufgaben anpassen wollen. Wer bereits die API-Vorschau getestet hat, sollte die neue Fassung getrennt evaluieren: Modellverhalten, Denkstufen und gemeldete Coding-Ergebnisse haben sich verändert. Offene Gewichte beseitigen dabei weder den hohen Infrastrukturaufwand noch die Lizenzgrenze für Model-as-a-Service-Angebote. Für eine belastbare Entscheidung zählen Tests mit den eigenen Codebeständen, Sicherheitsregeln und realistischen Kontextlängen mehr als ein einzelner Benchmarkplatz.