Konekäännös · Englanninkielinen alkuperäinen
Voxtral Mini 3B 2507
Tämä ensimmäinen osapuoli Soniqo sivuasiakirjat Voxtral Mini 3B 2507 paikalliselta speech-swift / speech-core implementation. Hugging Face -paketit ovat yhteydessä alla olevien integrointihuomautusten jälkeen.
Laskeutumiskortit ja dokumentit ovat nyt tässä ensin; lähdemalli ja nippulinkit ovat saatavilla tältä sivulta.
Katselu
| Malli | Voxtral Mini 3B 2507 |
|---|---|
| Rooli | Korkean tarkkuuden monikielinen offline-puhe-to-text |
| Taustaosa | Natiivi MLX Apple Silicon |
| Tuotos | Tekstin transkriptio |
| Kieli | Englanti, ranska, saksa, espanja, italia, portugali, hollanti ja hindi |
| Lisenssi | Apache-2.0 |
| Tila | Julkaistu FP16, INT5 ja INT8 niput; INT5 on oletus |
| Lähde | Mistral Voxtral Mini 3B 2507 |
| Swift -tuote | VoxtralASR |
| CLI / ajoaika | speech transcribe --engine voxtral |
Käyttö
Alla oleva nappula peilaa virta speech-swift API tai repon paljastamaa komentoa.
# INT5 is the default.
speech transcribe recording.wav --engine voxtral
# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr
# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5
Vertailuarvo
Mitattu 2026-07-22 yli 80 englannin kielellä FLEURS lukupuheen ilmaisut yhteensä 759.56 sekuntia, Apple M5 Pro 48 Gt muistia macOS 26.5.2. Jokainen variantti juoksi omassa prosessissaan release-rakennuksesta.
| Variantti | Bundle | WER | Δ WER | Keskiarvo RTF | Kokonaisarvo ×RT | Jalanjälki |
|---|---|---|---|---|---|---|
| FP16 | 8.71 GiB | 4.633% | — | 0.1305 | 8.05× | 10.568 MiB |
| INT5 | 3.77 GiB | 4.744% | +0,110 s. | 0.0739 | 14.47× | 6,012 MiB |
| INT8 | 5.18 GiB | 4.578% | -0,055 s. | 0.0906 | 11.79× | 7,233 MiB |
Fyysinen jalanjälki on käyttöönoton kannalta merkityksellinen yhtenäinen muistikuva, koska MLX saattaa olla muistikarttatiedostoja. FLEURS on englanninkielinen lukupuhe: nämä numerot eivät vaadi yhdenvertaisuutta keskustelu-, puhelin-, melu- tai kaiutinääniäänellä.
Malli Linkit
Täytäntöönpano Huomioita
- Äänirintaman uusintanäytteet ovat mono Float32 PCM-16 kHz ja sisältävät enintään 30 sekuntia ääntä pyyntöä kohti.
- INT5 on oletus: validoidulla englannin kielellä FLEURS se käytti 3,77 GiB-nippua, 6,012 MiB:n fyysistä jalanjälkeä ja 0,0739 keskiarvoa RTF.
- Dekooderiprojektit ovat vain lopullinen pikatilaus 131,072-kytketyn kielimallin avulla, mikä vähentää kvantitoitua mallia RTF muuttamatta transkriptejä.
- MLX ei ole INT7 rikas ytimen käyttö INT8 tuettuna laadukkaampana vaihtoehtona.
- Ääni on pehmustettu koko 30 sekunnin paloja ja concatented osaksi yksi nopea, niin nopea ja dekooderi-välimuisti kasvaa useita paloja. Segmentti hyvin pitkiä nauhoituksia kunnes pala-merkitä polku on olemassa.
- Tämä on ei-streaming moottori.