Traduzione automatica · Originale inglese

Voxtral Mini 3B 2507

Questo primo partito Soniqo documenti pagina Voxtral Mini Mini 3B. 2507 dal locale speech-swift / speech-core implementazione. Hugging Face i fasci sono collegati di seguito dopo le note di integrazione.

Pagina iniziale

Le carte di atterraggio e i menu Docs ora puntano qui prima; il modello di sorgente e i link di fascio rimangono disponibili da questa pagina.

In un solco

Modello	Voxtral Mini 3B 2507
Role	Alta precisione multilingue vocale-to-text offline
Indietro	MLX nativo su Apple Silicon
Produzione	Trascrizione del testo
Lingue	Inglese, Francese, Tedesco, Spagnolo, Italiano, Portoghese, Olandese e hindi
Licenza	Apache-2.0
Stato	Pubblicato FP16, INT5 e INT8 bundle; INT5 è il default
Fonte	Mistral Voxtral Mini 3B 2507
Prodotto Swift	`VoxtralASR`
CLI / runtime	`speech transcribe --engine voxtral`

Uso

Lo snippet seguente rispecchia l'attuale speech-swift API o comando esposto dal repo.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5

Benchmark

Misurato il 2026-07-22 su 80 Inglese FLEURS read-speech pro totalizzando 759.56 secondi, su un Apple M5 Pro con 48 GB di memoria che esegue macOS 26.5.2. Ogni variante ha corso nel proprio processo da una costruzione di rilascio.

Variante	Bundle	WER	Δ WER	Mean RTF	Complessivamente ×RT	Impronte per il montaggio
FP16	8.71 GiB	4.633%	—	0.1305	8.05×	10,568 MiB
INT5	3.77 GiB	4.744%	+0.110 pp	0.0739	14.47×	6,012 MiB
INT8	5.18 GiB	4.578%	-0.055 pp	0.0906	11.79×	7,233 MiB

L'impronta fisica è la figura unificato-memoria di distribuzione-rilevante, perché MLX può memoria-mappare file di peso. FLEURS è il discorso di lettura inglese: questi numeri non rivendicano la parità su conversazione, telefono, rumoroso, o audio altoparlante-pesante.

Link di modello

Note di attuazione

L'audio frontend rimonta mono Float32 PCM a 16 kHz e confeziona fino a 30 secondi di audio per richiesta.
INT5 è l'impostazione predefinita: sull'inglese convalidato FLEURS eseguirlo ha usato un fascio 3,77 GiB, impronta fisica 6,012 MiB e 0,0739 significa RTF.
Il decoder proietta solo lo stato del prompt finale attraverso il 131,072-token lingua-modello testa, riducendo quantizzato-modello RTF
MLX non ha INT7 kernel affine; utilizzare INT8
L'audio è imbottito a pezzi interi di 30 secondi e concatenato in un solo prompt, così la memoria rapida e decoder-cache cresce con il numero di pezzi.
Questo è un motore non a monte.