Automatische vertaling · Engels origineel

Voxtral Mini 3B 2507

Deze eerste partij Soniqo paginadocumenten Voxtral Mini 3B 2507 van de lokale speech-swift / speech-core implementatie. Hugging Face bundels zijn hieronder gekoppeld na de integratienotities.

Interne pagina eerste

Landingskaarten en docs menu's wijzen nu eerst hier; bronmodel en bundel links blijven beschikbaar van deze pagina.

Bij een Glance

Model	Voxtral Mini 3B 2507
Rol	Meertalige offline spraak-naar-tekst met hoge nauwkeurigheid
Backend	Inheems MLX op Apple Silicon
Uitvoer	Transscriptie naar gewone tekst
Talen	Engels, Frans, Duits, Spaans, Italiaans, Portugees, Nederlands en Hindi
Licentie	Apache-2.0
Status	Gepubliceerd FP16, INT5 en INT8 bundels; INT5 is de standaard
Bron	Mistral Voxtral Mini 3B 2507
Swift product	`VoxtralASR`
CLI / looptijd	`speech transcribe --engine voxtral`

Gebruik

Het onderstaande knipsel spiegelt de huidige speech-swift API of commando blootgesteld door de repo.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5

Benchmark

Gemeten op 2026-07-22 over 80 Engels FLEURS read-speech uitingen tot in totaal 759,56 seconden, op een Apple M5 Pro met 48 GB geheugen draait macOS 26.5.2. Elke variant liep in zijn eigen proces vanaf een release build.

Variant	Bundel	WER	Δ WER	Gemiddelde RTF	Totaal ×RT	Voetafdruk
FP16	8,71 GiB	4.633%	—	0.1305	8.05×	10,568 MiB
INT5	3.77 GiB	4.744%	+0,110 pp	0.0739	14.47×	6,012 MiB
INT8	5.18 GiB	4.578%	-0,055 pp	0.0906	11.79×	7.233 MiB

Fysieke voetafdruk is de inzetrelevante unified-memory figuur, omdat MLX geheugen-map gewichtsbestanden kan bevatten. FLEURS is Engels gelezen spraak: deze nummers beweren geen pariteit op conversatie, telefoon, lawaaierig of luidsprekerzwaar geluid.

Modellinks

Opmerkingen over de uitvoering

De audio frontend hersamples mono Float32 PCM tot 16 kHz en pakt maximaal 30 seconden audio per verzoek.
INT5 is de standaard: op het gevalideerde Engels FLEURS draait het een 3,77 GiB-bundel, 6,012 MiB fysieke voetafdruk, en 0,0739 gemiddelde RTF.
De decoder projecteert alleen de laatste promptstatus via de 131,072-token taalmodelkop, waardoor het gequantized-model RTF wordt verminderd zonder transcripten te wijzigen.
MLX heeft geen INT7 affine kernel; gebruik INT8 als de ondersteunde optie van hogere kwaliteit.
Audio is gepolsterd tot 30 seconden brokken en samengevoegd tot één prompt, dus prompt en decoder-cache geheugen groeien met het aantal brokken. Segment zeer lange opnames totdat een brok-merge pad bestaat.
Dit is een niet-streaming motor.