LFM3: Liquid AI bringt sechs kleine Modelle für Text, Bild, Sprache und Entscheidungen

Ein Sprachmodell auf dem Laptop, ein Modell für Kamerabilder und ein drittes für gesprochene Anfragen: Wer KI direkt auf Geräten betreiben will, muss bislang oft mehrere Komponenten kombinieren. Liquid AI hat am 27. Oktober mit LFM3 eine Familie aus sechs Modellen veröffentlicht, die solche Aufgaben auf einer gemeinsamen Grundlage abdecken soll. Die Gewichte stehen zum Download bereit; daneben bietet das Unternehmen die Modelle über seine API an. Es handelt sich nicht um ein einziges Modell, das jede Aufgabe gleich gut erledigt, sondern um spezialisierte Varianten mit unterschiedlichen Ein- und Ausgaben. (Liquid AI, Modellübersicht)

Eine gemeinsame Architektur, verschiedene Aufgaben

Die Grundlage ist LFM3-1.7B-Base. Aus ihr gehen ein Textmodell, ein Bild- und Videomodell, ein Audiomodell, ein Modell für kombinierte Bild-, Video- und Audioeingaben sowie zwei Entscheidungsmodelle hervor. Die sechs anwendungsfertigen Varianten bewegen sich ungefähr in der Größenklasse von zwei Milliarden Parametern. Das Textmodell LFM3-1.7B ist beispielsweise auf lokale Agenten, Werkzeugaufrufe und strukturierte Ausgaben zugeschnitten. LFM3-VL-2B verarbeitet Bilder und Videos und antwortet als Text; LFM3-Omni-2B kann zusätzlich Audio entgegennehmen und Sprache ausgeben. Die d1-Varianten liefern statt einer frei formulierten Antwort strukturierte Entscheidungen zu vorgegebenen Fragen. (Modellübersicht, Omni-Modellkarte)

Technisch kombiniert der gemeinsame Sprachkern drei Verfahren zur Verarbeitung von Tokenfolgen. Von seinen 24 Schichten verwenden 13 kurze, gesteuerte Faltungen, fünf richten ihre Aufmerksamkeit auf ein gleitendes Fenster von 256 Token und sechs können den gesamten bisherigen Kontext berücksichtigen. Kurze Faltungen und lokale Aufmerksamkeit begrenzen den Aufwand für viele Verarbeitungsschritte; die globalen Schichten erhalten die Möglichkeit, weiter entfernte Informationen einzubeziehen. Hinzu kommen unter anderem eine Steuerung einzelner Attention-Köpfe und eine angepasste Positionskodierung. Liquid AI beschreibt die Architektur als Ergebnis einer Suche, bei der auch die Ausführung auf verschiedenen Geräten berücksichtigt wurde. (Liquid AI)

Für Bild und Sprache kommen eigene Encoder hinzu. Beim Videomodell werden aufeinanderfolgende Einzelbilder in einer gemeinsamen zeitlichen Einheit eingebettet; das Audiomodell verwendet einen Encoder für Sprache und den Codec LiquidCodec für die Sprachausgabe. Damit können Entwickler je nach Aufgabe ein kleineres Spezialmodell wählen, statt immer Bild, Ton und Text zugleich zu verarbeiten. (Modellübersicht)

Was Entwickler damit anfangen können

Für eine Anwendung, die Rechnungsfotos ausliest, ist die Bildvariante naheliegend. Eine lokale Sprachoberfläche kann das Audiomodell nutzen; wer eine gesprochene Frage zu einem Bild beantworten möchte, benötigt die Omni-Variante. Die Entscheidungsmodelle eignen sich etwa dazu, eine Supportanfrage gleichzeitig auf Erstattungswunsch, zuständiges Team und Dringlichkeit zu prüfen. Liquid AI stellt dafür Fine-Tuning-Beispiele bereit und gibt an, dass sich jedes Modell auf einer einzelnen GPU anpassen lässt. Welche GPU und welcher Speicherbedarf für einen konkreten Trainingslauf nötig sind, hängt jedoch von Modell, Daten und Trainingsmethode ab. (Modellübersicht)

Die Varianten sind nicht einfach austauschbar. Das Textmodell hat laut Modellkarte ein Kontextfenster von 256.000 Token für Eingabe und Ausgabe zusammen; bei der Bildvariante sind es 128.000, beim Omni-Modell 32.000 Token. Wer lange Dokumente mit Bildern oder Audio verarbeitet, darf daher die größte Zahl aus der Ankündigung nicht pauschal auf die ganze Familie übertragen. Auch die Softwarewege unterscheiden sich: Die Modellkarten nennen für LFM3-1.7B unter anderem Transformers, GGUF für llama.cpp und MLX; für LFM3-Omni-2B werden Transformers und ein GGUF-Pfad genannt, während SGLang dort laut Karte Textausgabe bereitstellt. (Text-Modellkarte, Bild-Modellkarte, Omni-Modellkarte)

Leistungsangaben und Lizenz setzen Grenzen

Liquid AI berichtet, dass das Textmodell seinen Vorgänger LFM2.5-2.6B bei ausgewählten Aufgaben übertrifft, obwohl es weniger Parameter hat. Für das Bildmodell nennt das Unternehmen einen höheren Durchschnittswert über 62 eigene Benchmark-Auswertungen als für LFM2.5-VL-3B. Solche Ergebnisse zeigen, wo der Hersteller Fortschritte sieht; über die Leistung in einer betrieblichen Dokumenten- oder Agentenpipeline entscheiden aber auch Quantisierung, Eingabedaten, Laufzeit und die Fehlertoleranz des Anwendungsfalls. Die Text-Modellkarte rät ausdrücklich von komplexem mehrstufigem Schlussfolgern und agentischem Programmieren mit dem kleinen Modell ab. (Modellübersicht, Text-Modellkarte, Bild-Modellkarte)

Offen verfügbare Gewichte bedeuten zudem nicht uneingeschränkte kommerzielle Nutzung. Die LFM Open License v1.0 erlaubt kommerzielle Nutzung im Rahmen ihrer Bedingungen nur für Rechtsträger unterhalb einer jährlichen Umsatzschwelle von zehn Millionen US-Dollar; oberhalb dieser Schwelle ist kommerzielle Nutzung durch die Lizenz nicht gedeckt. Unternehmen sollten diese Bedingung vor einem Rollout ebenso prüfen wie die Lizenzhinweise bei Weitergabe abgeleiteter Modelle. (Lizenztext)

Fazit

LFM3 macht spezialisierte, lokal betreibbare KI für Text, Bild, Sprache und feste Entscheidungsaufgaben in einer gemeinsamen Modellfamilie greifbar. Interessant ist das vor allem dort, wo geringe Modellgröße und Kontrolle über die eigene Verarbeitung wichtiger sind als maximale allgemeine Leistungsfähigkeit. Für die Auswahl zählt allerdings die konkrete Variante: Ein 256.000-Token-Textkontext, Sprachausgabe und strukturierte Entscheidungen sind keine Eigenschaften, die jedes Familienmitglied zugleich besitzt. Vor dem produktiven Einsatz sollten Teams ihre eigenen Aufgaben testen, den jeweiligen Inferenzpfad prüfen und die kommerziellen Lizenzbedingungen klären.

Quellen

Nach oben scrollen