Maskinoversættelse · Engelsk original

Voxtral Mini 3B 2507

Denne første part Soniqo side dokumenter Voxtral Mini 3B 2507 fra den lokale speech-swift / speech-core implementering. Hugging Face bundter er knyttet nedenfor efter integration noter.

Intern side først

Landingskort og docs menuer peger nu her først; kildemodel og bundlink er stadig tilgængelige fra denne side.

På en Glance

Model	Voxtral Mini 3B 2507
Rolle	Højnøjagtighed flersproget offline speech- to- tekst
Backend	Native MLX på Apple Silicon
Output	Plain- text transcription
Sprog	Engelsk, fransk, tysk, spansk, italiensk, portugisisk, hollandsk og hindi
Licens	Apache-2.0
Status	Published FP16, INT5 og INT8 bundter; INT5 er standard
Kilde	Mistral Voxtral Mini 3B 2507
Swift produkt	`VoxtralASR`
CLI / runtime	`speech transcribe --engine voxtral`

Anvendelse

Snuppet nedenfor afspejler den aktuelle speech-swift API eller kommando udsat af repo.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5

Benchmark

Målt på 2026- 07-22 over 80 English FLEURS read- tale udtalelser i alt 759.56 sekunder, på en Apple M5 Pro med 48 GB hukommelse kører macOS 26.5.2. Hver variant kørte i sin egen proces fra en udgivelse build.

Variant	Bundle	WER	Δ WER	Gennemsnitlig RTF	Samlet × RT	Fodaftryk
FP16	8.71 GiB	4.633%	—	0.1305	8.05×	10,568 MiB
INT5	3.77 GiB	4.744%	+ 0.110 pp	0.0739	14.47×	6,012 MiB
INT8	5.18 GiB	4.578%	- 0.055 pp	0.0906	11.79×	7,233 MiB

Fysisk fodaftryk er deployment- relevante unified- memory figur, fordi MLX kan huske-map vægtfiler. FLEURS er engelsk læse tale: disse tal ikke hævder paritet på konversationel, telefon, støjende, eller speger-tunge lyd.

Model Links

Gennemførelsesnoter

Audio frontend resamples mono Float32 PCM til 16 kHz og pakker op til 30 sekunder lyd per anmodning.
INT5 er standard: på den validerede engelske FLEURS køre det brugt en 3.77 GiB bundt, 6,012 MiB fysisk fodaftryk, og 0.0739 betyder RTF.
Dekoder projekter kun den endelige prompt tilstand gennem 131,072- token language- model hoved, reducere kvantificerede-model RTF uden at ændre udskrifter.
MLX har ingen INT7 affinkerne; brug INT8 som den understøttede højere kvalitet option.
Audio er polstret til hele 30-sekunders stykker og sammenkædet i en prompt, så hurtig og dekoder- cache hukommelse vokser med antallet af stykker. Segment meget lange optagelser indtil en chunk- fletning sti eksisterer.
Det er en ikke-streaming motor.