Voxtral Mini 3B 2507
หน้านี้ของ Soniqo อธิบาย Voxtral Mini 3B 2507 ตาม implementation ใน speech-swift / speech-core ส่วนลิงก์ Hugging Face อยู่ใต้หมายเหตุการใช้งาน
เข้าหน้าในเว็บก่อน
การ์ดหน้าแรกและเมนูเอกสารจะชี้มาที่หน้านี้ก่อน ส่วนลิงก์ไปยัง source model และ bundle ยังอยู่ในหน้านี้
ภาพรวม
| โมเดล | Voxtral Mini 3B 2507 |
|---|---|
| บทบาท | High-accuracy multilingual offline speech-to-text |
| Backend | Native MLX on Apple Silicon |
| Output | Plain-text transcription |
| ภาษา | English, French, German, Spanish, Italian, Portuguese, Dutch, and Hindi |
| License | Apache-2.0 |
| สถานะ | Published FP16, INT5, and INT8 bundles; INT5 is the default |
| Source | Mistral Voxtral Mini 3B 2507 |
| Swift product | VoxtralASR |
| CLI / runtime | speech transcribe --engine voxtral |
การใช้งาน
snippet ด้านล่างตรงกับ API หรือคำสั่งปัจจุบันใน speech-swift
# INT5 is the default.
speech transcribe recording.wav --engine voxtral
# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr
# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5เบนช์มาร์ก
วัดเมื่อ 2026-07-22 จากคำพูดอ่านภาษาอังกฤษ FLEURS 80 ประโยค (รวม 759.56 วินาที) บน Apple M5 Pro หน่วยความจำ 48 GB ระบบ macOS 26.5.2 แต่ละ variant รันในโปรเซสของตัวเองจาก release build
| Variant | Bundle | WER | Δ WER | Mean RTF | Overall ×RT | Footprint |
|---|---|---|---|---|---|---|
| FP16 | 8.71 GiB | 4.633% | — | 0.1305 | 8.05× | 10,568 MiB |
| INT5 | 3.77 GiB | 4.744% | +0.110 pp | 0.0739 | 14.47× | 6,012 MiB |
| INT8 | 5.18 GiB | 4.578% | -0.055 pp | 0.0906 | 11.79× | 7,233 MiB |
physical footprint คือค่าหน่วยความจำรวมที่เกี่ยวข้องกับการนำไปใช้จริง เพราะ MLX อาจ memory-map ไฟล์น้ำหนักโมเดล FLEURS เป็นเสียงอ่านภาษาอังกฤษ ตัวเลขเหล่านี้จึงไม่ได้อ้างว่าเทียบเท่ากับเสียงสนทนา เสียงโทรศัพท์ เสียงรบกวน หรือเสียงที่มีผู้พูดจำนวนมาก
ลิงก์โมเดล
หมายเหตุ implementation
- The audio frontend resamples mono Float32 PCM to 16 kHz and packs up to 30 seconds of audio per request.
- INT5 is the default: on the validated English FLEURS run it used a 3.77 GiB bundle, 6,012 MiB physical footprint, and 0.0739 mean RTF.
- The decoder projects only the final prompt state through the 131,072-token language-model head, reducing quantized-model RTF without changing transcripts.
- MLX has no INT7 affine kernel; use INT8 as the supported higher-quality option.
- Audio is padded to whole 30-second chunks and concatenated into one prompt, so prompt and decoder-cache memory grow with the number of chunks. Segment very long recordings until a chunk-merge path exists.
- This is a non-streaming engine.