Voxtral Mini 3B 2507

Esta página de Soniqo documenta Voxtral Mini 3B 2507 tal como está implementado en speech-swift / speech-core. Los enlaces a Hugging Face aparecen debajo de las notas de integración.

Primero página interna

Las tarjetas y menús apuntan primero aquí; los enlaces al modelo fuente y a los bundles siguen disponibles en esta página.

Resumen

Modelo	Voxtral Mini 3B 2507
Rol	High-accuracy multilingual offline speech-to-text
Backend	Native MLX on Apple Silicon
Salida	Plain-text transcription
Idiomas	English, French, German, Spanish, Italian, Portuguese, Dutch, and Hindi
Licencia	Apache-2.0
Estado	Published FP16, INT5, and INT8 bundles; INT5 is the default
Fuente	Mistral Voxtral Mini 3B 2507
Producto Swift	`VoxtralASR`
CLI / runtime	`speech transcribe --engine voxtral`

Uso

El fragmento siguiente refleja la API o el comando actual expuesto por speech-swift.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

Enlaces del modelo

Notas de implementación

The audio frontend resamples mono Float32 PCM to 16 kHz and packs up to 30 seconds of audio per request.
INT5 is the default: on the validated English FLEURS run it used a 3.77 GiB bundle, 6,012 MiB physical footprint, and 0.0739 mean RTF.
The decoder projects only the final prompt state through the 131,072-token language-model head, reducing quantized-model RTF without changing transcripts.
MLX has no INT7 affine kernel; use INT8 as the supported higher-quality option.
This is a non-streaming engine. Benchmark results cover English read speech, not conversational or speaker-heavy audio.