Ollama kann Text jetzt nicht mehr nur erzeugen, sondern auch vorlesen. Mit der am 24. Oktober vorgestellten Sprachfunktion bindet das Projekt die Phonon-Modelle von Gradium ein. Entwickler können damit etwa die Antwort eines lokalen Chatmodells direkt als Sprache ausgeben oder über eine lokale HTTP-Schnittstelle Audiodaten für ihre Anwendung abrufen. Zum Start unterstützt Ollama die Funktion auf Apple-Silicon-Macs; Windows und Linux sollen folgen. Die Ankündigung und die Release Notes zu Version 0.40.11 beschreiben denselben neuen Einsatzbereich.
Vom Text zur Audiodatei
Phonon ist eine Familie kleiner Text-to-Speech-Modelle, die Gradium bereits unabhängig von Ollama bereitstellt. Das englische Standardmodell in Ollama nutzt Phonon 31M; für Deutsch gibt es unter anderem phonon:40m-de, daneben eine mehrsprachige 40M-Variante. Die Modellbezeichnungen stehen für rund 31 beziehungsweise 40 Millionen Parameter des Sprachmodells, ohne den Audiocodec. Die Ollama-Modellseite führt die verfügbaren Varianten und Sprachen auf.
Technisch erzeugt Phonon nicht sofort eine fertige Wellenform. Ein Flow-Matching-Transformer berechnet aus dem Text schrittweise latente Audiorepräsentationen, jeweils für einen Abschnitt von 80 Millisekunden. Anschließend macht der Decoder des Mimi-Codecs daraus hörbares Audio. Weil das Modell die Abschnitte fortlaufend liefert, kann die Wiedergabe beginnen, bevor der gesamte Text verarbeitet ist. So beschreibt Gradium die Architektur in den Modellkarten für Englisch und Deutsch.
Auf der Kommandozeile lässt sich ein Text mit ollama run phonon "Hello from Ollama." sprechen. Auch die Ausgabe eines Chatmodells kann per Pipe an Phonon gehen; Ollama startet die Wiedergabe laut eigener Dokumentation nach dem ersten Satz beziehungsweise den ersten Sätzen. Wer Sprache in eine Anwendung einbauen will, kann stattdessen den OpenAI-kompatiblen Endpunkt /v1/audio/speech auf dem lokalen Ollama-Server ansprechen. Die Antwort wird während der Erzeugung übertragen: standardmäßig als WAV-Datei mit 24 kHz, 16 Bit und einem Kanal, alternativ als rohe PCM-Daten. Ein SDK lässt sich deshalb grundsätzlich über eine andere Basis-URL anbinden; ob eine bestehende Integration ohne weitere Anpassung funktioniert, hängt von den verwendeten API-Optionen ab. Die Sprachdokumentation nennt etwa nicht unterstützte Ausgabeformate und Geschwindigkeitsparameter ausdrücklich als Fehlerfälle.
Tempo ist nicht dasselbe wie Sprachqualität
Ollama berichtet für ein MacBook Pro mit M5 Max von einer Beschleunigung durch Apples MLX-Framework. Bei der Erzeugung eines 45 Sekunden langen englischen Sprachstücks erreichte die Ollama-Implementierung nach eigenen Messungen das 113-Fache der Echtzeitgeschwindigkeit; Gradiums Referenzlaufzeit kam in diesem Aufbau auf das 84-Fache. Die Werte sind Mediane aus zehn Läufen, allerdings verwendeten die getesteten Laufzeiten unterschiedliche Zahlenformate für die Modellgewichte. Sie beschreiben daher genau diesen Testaufbau und keinen allgemeinen Vorsprung auf beliebiger Mac-Hardware. Beim Wortfehlerraten-Test mit 200 englischen Sätzen und Whisper large-v3 als Transkriptionsmodell nennt Ollama für seine Implementierung 1,2 Prozent. Das misst die Erkennbarkeit der erzeugten Wörter unter diesen Bedingungen, nicht Natürlichkeit, Betonung oder die Qualität deutscher Stimmen. Die Messbedingungen stehen in Ollamas Ankündigung.
Für lokale Assistenten und Vorlesefunktionen ist die Kombination trotzdem interessant: Textmodell und Sprachausgabe können auf demselben Rechner laufen, und eine Anwendung muss den zu sprechenden Text nicht allein für die Synthese an einen externen Dienst schicken. Wer das in einem Produkt einsetzen möchte, muss allerdings die konkrete Modellvariante prüfen. Das englische 31M-Modell steht unter Apache 2.0; die 40M-Modelle, darunter die deutsche und die mehrsprachige Version, stehen unter CC BY-NC 4.0 und sind damit nicht ohne Weiteres für kommerzielle Anwendungen nutzbar. Diese Unterscheidung bestätigen sowohl die Ollama-Modellübersicht als auch Gradiums Phonon-Seite.
Fazit
Mit Phonon ergänzt Ollama seinen lokalen Modellbetrieb um eine praktisch nutzbare Sprachausgabe samt Streaming-API. Für deutschsprachige Prototypen ist phonon:40m-de der naheliegende Einstieg. Vor einem produktiven Einsatz sollten Teams die tatsächliche Sprachqualität mit eigenen Texten, die Latenz auf ihrer Hardware und vor allem die Lizenz des gewählten Modells prüfen. Die neue Ollama-Integration ist zunächst eine Funktion für Apple-Silicon-Macs, keine plattformübergreifende Freigabe der Sprachausgabe.