Voxtral Mini 3B 2507

この Soniqo ページは、ローカルの speech-swift / speech-core 実装にある Voxtral Mini 3B 2507 を説明します。Hugging Face バンドルへのリンクは統合メモの後にあります。

まずサイト内ページへ

ランディングカードとドキュメントメニューは先にこのページへ向け、ソースモデルとバンドルのリンクは本ページ内に残します。

概要

モデル	Voxtral Mini 3B 2507
役割	High-accuracy multilingual offline speech-to-text
バックエンド	Native MLX on Apple Silicon
出力	Plain-text transcription
言語	English, French, German, Spanish, Italian, Portuguese, Dutch, and Hindi
ライセンス	Apache-2.0
状態	Published FP16, INT5, and INT8 bundles; INT5 is the default
ソース	Mistral Voxtral Mini 3B 2507
Swift プロダクト	`VoxtralASR`
CLI / ランタイム	`speech transcribe --engine voxtral`

使い方

以下のスニペットは、現在の speech-swift リポジトリが公開している API またはコマンドに合わせています。

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

モデルリンク

実装メモ

The audio frontend resamples mono Float32 PCM to 16 kHz and packs up to 30 seconds of audio per request.
INT5 is the default: on the validated English FLEURS run it used a 3.77 GiB bundle, 6,012 MiB physical footprint, and 0.0739 mean RTF.
The decoder projects only the final prompt state through the 131,072-token language-model head, reducing quantized-model RTF without changing transcripts.
MLX has no INT7 affine kernel; use INT8 as the supported higher-quality option.
This is a non-streaming engine. Benchmark results cover English read speech, not conversational or speaker-heavy audio.