Tłumaczenie automatyczne · Oryginał angielski

Voxtral Mini 3B 2507

Ta pierwsza strona Soniqo dokumentuje Voxtral Mini 3B 2507 z lokalnej implementacji speech-swift / speech-core. Zestawy Hugging Face są połączone poniżej po notach integracyjnych.

Strona wewnętrzna pierwsza

Karty do lądowania i menu doków wskazują najpierw tutaj; model źródłowy i linki do pakietów pozostają dostępne na tej stronie.

At a Glance

Wzór	Voxtral Mini 3B 2507
Rola	Wysokowydajna wielojęzyczna przemowa offline-to-text
Wstecz	Native MLX na Apple Silicon
Wyjście	Transkrypcja tekstu w formacie plain- text
Języki	angielski, francuski, niemiecki, hiszpański, włoski, portugalski, holenderski i hindi
Licencja	Apache-2.0
Status	Opublikowane pakiety FP16, INT5 i INT8; INT5 jest domyślny
Źródło	Mistral Voxtral Mini 3B 2507
Produkt Swift	`VoxtralASR`
CLI / runtime	`speech transcribe --engine voxtral`

Stosowanie

Poniższy fragment jest odzwierciedleniem bieżącego speech-swift API lub polecenia zdemaskowanego przez repo.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5

Punkt odniesienia

Mierzony na 2026- 07-22 nad 80 angielski FLEURS odczyty mowy ogółem 759.56 sekundy, na Apple M5 Pro z 48 GB pamięci uruchomionej macOS 26.5.2. Każdy wariant działał we własnym procesie z budowy wydania.

Wariant	Paleta	WER	Δ WER	Średnia RTF	Ogólny × RT	Odcisk stopy
FP16	8.71 GiB	4.633%	—	0.1305	8.05×	10,568 MiB
INT5	3.77 GiB	4.744%	+ 0.110 pp	0.0739	14.47×	6,012 MiB
INT8	5.18 GiB	4.578%	- 0.055 pp.	0.0906	11.79×	7,233 MiB

Fizyczny ślad to odpowiednia do zastosowania postać pamięci unified, ponieważ MLX może zapamiętywać pliki wagowe. FLEURS to angielski odczyt mowy: liczby te nie twierdzą parytetu na konwersacji, telefon, hałas lub głośniki ciężkie audio.

Wzory linków

Uwagi do wdrożenia

Przewód audio resemples mono Float32 PCM do 16 kHz i opakowania do 30 sekundy audio na żądanie.
INT5 jest domyślny: na zatwierdzonym angielskim biegu FLEURS użyto wiązki 3.77 GiB, fizycznego śladu 6,012 MiB oraz średniej 0.0739 RTF.
Dekoder projektuje tylko końcowy stan szybki przez głowicę modelu modelu modelu 131,072- token, redukując model kwantyzed- RTF bez zmiany transkrypcji.
MLX nie posiada jądra affine INT7; jako obsługiwaną opcję wysokiej jakości należy użyć INT8.
Audio jest dodawane do całych 30-sekundowych fragmentów i sprzężone w jeden sygnał, tak więc proxy i pamięci pamięci podręcznej dekoderowej rosną wraz z liczbą fragmentów. Segment bardzo długie nagrania, aż ścieżka chunk- merge istnieje.
To silnik niestrumieniowy.