Terjemahan mesin · Versi asli bahasa Inggris

Voxtral Mini 3B 2507

Pesta pertama ini. Soniqo dokumen halaman Voxtral Mini 3B 2507 dari lokal speech-swift / speech-core implementasi. Hugging Face bundel dihubungkan di bawah ini setelah catatan integrasi.

Halaman Internal Pertama

Mendarat kartu dan menu dokumen sekarang menunjuk di sini pertama; model sumber dan bundel link tetap tersedia dari halaman ini.

Pada sebuah Glance

Model	Voxtral Mini 3B 2507
Peran	Akurasi tinggi multibahasa luring speech- to-text
Backend	MLX asli di Apple Silicon
Keluaran	Transkripsi teks-biasa
Bahasa	Inggris, Perancis, Jerman, Spanyol, Italia, Portugis, Belanda, dan Hindi
Lisensi	Apache-2.0
Status	Penerbitan FP16, INT5 dan bundel INT8; INT5 adalah baku
Sumber	Mistral Voxtral Mini 3B 2507
Produk Swift	`VoxtralASR`
CLI / waktu jalan	`speech transcribe --engine voxtral`

Gunakan

snippet di bawah cermin yang sekarang speech-swift API atau perintah yang terkena repo tersebut.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5

Benchmark

Diukur pada 2026-07-22 di atas 80 Inggris FLEURS read- ucapan topalling ucapan 759.56 detik, pada Apple M5 Pro dengan 48 GB dari kehabisan memori macOS 26.5.2Setiap varian berlari dalam proses sendiri dari sebuah bangunan rilis.

Varian	Bundle	WER	Δ WER	Berarti RTF	Overall × RT	Jejak kaki
FP16	8.71 GiB	4.633%	—	0.1305	8.05×	10,568 MiB
INT5	3.77 GiB	4.744%	+ 0.110 pp	0.0739	14.47×	6,012 MiB
INT8	5.18 GiB	4.578%	-0.055 pp	0.0906	11.79×	7.233 MiB

Jejak fisik adalah penyebarannya. Sosok ingatan yang relevan, karena... MLX mungkin mengingat-peta berkas berat badan. FLEURS adalah bahasa Inggris yang membaca pidato: angka-angka ini tidak mengklaim parity pada percakapan, telepon, berisik, atau speaker- audio berat.

Taut Model

Catatan Implementasi

Antarmuka audio memperkecil sampel mono Float32 PCM ke 16 kHz dan berkemas ke 30 detik audio per permintaan.
INT5 adalah baku: pada pengesahan bahasa Inggris FLEURS jalankan itu digunakan a 3.77 GiB bundle, 6,012 Jejak fisik MIB, dan 0.0739 berarti RTF.
Proyek decoder hanya negara cepat terakhir melalui 131,072-token lesu-model kepala, mengurangi quantized- model RTF tanpa mengubah transkrip.
MLX tidak ada INT7 affine kernel; gunakan INT8 sebagai pilihan high-quality yang didukung.
Audio padded ke seluruh potongan 30-detik dan konkatenasi menjadi satu prompt, sehingga prompt dan decodercache memori tumbuh dengan jumlah potongan. Segment sangat panjang rekaman sampai jalur chunk- ada.
Ini adalah mesin non-streaming.