Neue KI-Transkriptionsmodelle: Schnell, datensicher — und mit überraschenden Möglichkeiten

Bei der Umwandlung gesprochener Sprache in Text spielt der Schutz vertraulicher Informationen eine entscheidende Rolle. Dies gilt insbesondere für Inhalte aus sensiblen Bereichen wie medizinischen Konsultationen, rechtlichen Gesprächen oder nicht öffentlichen Interviews. In solchen Fällen besteht ein erhöhtes Risiko, wenn Audiodaten zur Verarbeitung an externe Server übertragen werden. Um diese Risiken zu vermeiden, rücken Lösungen in den Vordergrund, die direkt auf dem jeweiligen Endgerät betrieben werden können und keine permanente Internetverbindung benötigen.

Vor diesem Hintergrund hat das französische Unternehmen Mistral AI neue Modelle zur automatisierten Transkription vorgestellt. Diese wurden so entwickelt, dass sie aufgrund ihrer kompakten Struktur lokal eingesetzt werden können. Die Nutzung ist auf unterschiedlichen Plattformen möglich, darunter Smartphones, Laptops sowie cloudbasierte Umgebungen. Ziel der Entwicklung ist es, Anwendern eine bessere Kontrolle über ihre Daten zu geben und gleichzeitig eine sehr schnelle Verarbeitung von Audiosignalen zu gewährleisten.

Zu den neuen Lösungen zählt das Modell Voxtral Mini Transcribe 2. Nach Angaben von Pierre Stock, der bei Mistral AI als Vizepräsident für wissenschaftliche Abläufe tätig ist, wurde dieses Modell bewusst sehr klein gehalten, ohne dabei auf Leistungsfähigkeit zu verzichten. Ergänzend dazu wurde das Modell Voxtral Realtime vorgestellt, das speziell für Transkriptionen in Echtzeit konzipiert ist und damit eine ähnliche Funktion erfüllt wie Live-Untertitel bei Übertragungen.

Die lokale Verarbeitung der Audiodaten bringt mehrere Vorteile mit sich. Zum einen erhöht sie die Datensicherheit, da sensible Inhalte das Gerät nicht verlassen müssen. Zum anderen werden Verzögerungen reduziert, da der zeitaufwendige Transfer von Audiodateien an entfernte Rechenzentren entfällt. Die Umwandlung von Sprache in Text erfolgt unmittelbar dort, wo die Aufnahme entsteht, beispielsweise auf einem Laptop, einem Smartphone oder auch auf tragbaren Geräten wie Smartwatches.

Gerade bei Anwendungen in Echtzeit ist eine sehr geringe Latenz von zentraler Bedeutung. Mistral AI gibt an, dass Voxtral Realtime eine Verzögerung von weniger als 200 Millisekunden erreicht. Dadurch werden gesprochene Inhalte nahezu synchron in Textform dargestellt und die sonst häufig auftretenden Verzögerungen von mehreren Sekunden vermieden.

Voxtral Realtime wird über die Programmierschnittstelle von Mistral AI sowie über die Plattform Hugging Face angeboten. Dort steht auch eine Demonstrationsumgebung zur Verfügung, mit der sich die Funktionsweise testen lässt. Nach Unternehmensangaben unterstützt das Modell aktuell 13 verschiedene Sprachen.

Auch Voxtral Mini Transcribe 2 ist über die API von Mistral AI verfügbar und kann zusätzlich im firmeneigenen AI Studio genutzt werden. In Tests erwies sich das Modell als schnell und zuverlässig, wobei es vereinzelt zu Ungenauigkeiten bei Eigennamen kam. Mistral AI weist darauf hin, dass solche Schwächen durch gezielte Anpassungen reduziert werden können, indem das Modell auf spezifische Begriffe, Namen oder Fachterminologie trainiert wird.

Die Entwicklung besonders kleiner und zugleich leistungsfähiger KI-Modelle stellt laut Pierre Stock eine anspruchsvolle Aufgabe dar. Neben der kompakten Größe und der hohen Verarbeitungsgeschwindigkeit müsse auch die Genauigkeit stimmen. In diesem Zusammenhang verweist Mistral AI auf Benchmark-Ergebnisse, die im Vergleich zu anderen Lösungen geringere Fehlerraten zeigen. Nach Einschätzung des Unternehmens genügt es nicht, Modelle lediglich zu verkleinern. Entscheidend sei vielmehr, dass kompakte Systeme eine Qualität erreichen, die mit deutlich größeren Modellen vergleichbar ist.