תרגום מכונה · המקור באנגלית
Voxtral Mini 3B 2507
זה קודם כל Soniqo מסמכים Voxtral Mini 3B 2507 מהמקומי speech-swift / speech-core יישום Hugging Face
דף ראשון
כרטיסי נחיתה ותפריטי docs מצביעים כאן קודם; מודל מקור וקישורי החבילה נותרים זמינים מהעמוד הזה.
ב-Glance
| מודל מודל | Voxtral Mini 3B 2507 |
|---|---|
| תפקידים | דיבור לא מקוון רב-קולי - לטקסט |
| חזרה | Native MLX על Apple Silicon |
| Output | המונחים:text tagion |
| שפות | אנגלית, צרפתית, גרמנית, ספרדית, איטלקית, פורטוגלית, הולנדית, והינדודי |
| רישיון רישיון רישיון | Apache-2.0 |
| סטטוס | פורסם FP16, INT5 ו INT8חבילות; INT5 הוא ברירת המחדל |
| מקור Source | Mistral Voxtral Mini 3B 2507 |
| Swift מוצר | VoxtralASR |
| CLI / Runtime | speech transcribe --engine voxtral |
שימוש בשימוש
החטיפה מתחת למראות את speech-swift API או פקודה שנחשפו על ידי ה-Repo.
# INT5 is the default.
speech transcribe recording.wav --engine voxtral
# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr
# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5
Benchmark
עקבו אחרי 2026-07-22 מעל 80 אנגלית אנגלית FLEURS המונחים: speech Statements Totalling 759.56 שניות על Apple M5 Pro עם 48 GB של זיכרון ריצה macOS 26.5.2כל גרסה רץ בתהליך שלה מיצירת שחרור.
| משתנה | Bundle | WER | Δ WER | RTF | ×RT | טביעת רגל |
|---|---|---|---|---|---|---|
| FP16 | 8.71 GiB | 4.633% | — | 0.1305 | 8.05× | 10,568 MiB |
| INT5 | 3.77 GiB | 4.744% | +0.110 pp | 0.0739 | 14.47× | 6,012 MiB |
| INT8 | 5.18 GiB | 4.578% | 0.055 pp | 0.0906 | 11.79× | 7,233 MiB |
טביעת הרגל הגופנית היא דמות בעלת משקל מאוחד, כי MLX עשוי קבצי משקל של זיכרון-מפה. FLEURS הוא דיבור אנגלי: מספרים אלה אינם טוענים הסתברות על שיחה, טלפון, רועש, או דובר-שמע כבד.
מודל קישורים
הערות יישום
- חזית השמע מפצה את מונו Float32 PCM עד 16 kHz וחבילות עד 30 שניות של אודיו לכל בקשה.
- INT5 הוא ברירת המחדל: על אנגלית מאומתת FLEURS לרוץ זה השתמש חבילה 3.77 GiB, 6,012 MiB טביעת רגל פיזית, ו 0.0739 אומר RTF.
- הפעוט מארגן רק את המצב המהיר הסופי דרך ראש מודל ה-131,072-טוקן שפה, הפחתת מודל הקוונטי RTF ללא שינוי תמלילים.
- MLX אין INT7 גרעין של אפרין; השתמש INT8 כאפשרות האיכותית הנתמכת.
- אודיו הוא מוצמד לכל 30 פיסות שניות ונדבק לתוך זרם אחד, כך זיכרון מהיר ופענח-קכי גדל עם מספר החתיכות. Segment ארוכה מאוד עד שתוואי נתח קיים.
- זהו מנוע לא-זרם.