Traducere automată · Originalul în engleză

Voxtral Mini 3B 2507

Această primă parte Soniqo documente de pagină Voxtral Mini 3B 2507 de la local speech-swift / speech-core punere în aplicare. Hugging Face pachete sunt legate mai jos după notele de integrare.

Prima pagină internă

Carduri de aterizare și meniuri docs punct acum aici primul; model sursă și link-uri de pachet rămân disponibile de la această pagină.

La o strălucire

Model	Voxtral Mini 3B 2507
Rol	Difuzarea multilingvă de înaltă precizie offline-to-text
Platformă	Native MLX on Apple Silicon
Ieșire	Transcriere text simplu
Limbi	Engleză, Franceză, Germană, Spaniolă, Italiană, Portugheză, Olandeză și Hindi
Licență	Apache-2.0
Stare	Publicat FP16, INT5 și INT8 pachete; INT5 este implicit
Sursă	Mistral Voxtral Mini 3B 2507
Swift produs	`VoxtralASR`
CLI / timpul de funcționare	`speech transcribe --engine voxtral`

Utilizare

Fragmentul de mai jos reflectă curentul speech-swift API sau comanda expusă de repo.

# INT5 is the default.
speech transcribe recording.wav --engine voxtral

# Select another published precision and pass a language hint.
speech transcribe recording.wav --engine voxtral --model int8 --language fr

# --model also accepts a Hugging Face model ID or a local directory.
speech transcribe recording.wav --engine voxtral --model /models/voxtral/int5

Criteriu de referință

Măsurată la 2026-07-22 peste 80 de engleză FLEURS declaraţii de citire în total 759,56 secunde, pe un Apple M5 Pro cu 48 GB de memorie care rulează macOS 26.5.2. Fiecare variantă a rulat în propriul proces dintr-o clădire de eliberare.

Variantă	BundleCity in Germany	WER	Δ WER	Media RTF	Total ×RT	Amprentă de picior
FP16	8.71 GiB	4.633%	—	0.1305	8.05×	10,568 MiO
INT5	3.77 GiB	4.744%	+0.110 pp	0.0739	14.47×	6,012 MiB
INT8	5.18 GiB	4.578%	-0.055 pp	0.0906	11.79×	7,233 MiO

Amprenta fizică este figura unificat-memorie relevantă pentru implementare, deoarece MLX poate memora-map de greutate fișiere. FLEURS este discursul de citire în limba engleză: aceste numere nu pretind paritate pe conversație, telefon, zgomotos, sau difuzor-greu audio.

Modele de legături

Note de punere în aplicare

Reeșantionul audio frontal reeșantionează mono Float32 PCM până la 16 kHz și împachetează până la 30 de secunde de audio per cerere.
INT5 este implicit: pe limba engleză validată FLEURS rula a folosit un pachet GiB 3,77, 6,012 MiB amprenta fizică, și 0,0739 înseamnă RTF.
Decodorul proiectează doar starea de urgenţă finală prin intermediul modelului de limbaj de 131,072-token, reducând modelul cuantizat RTF fără modificări ale transcrierilor.
MLX nu are un nucleu afin INT7; utilizează INT8 ca opțiune de calitate superioară susținută.
Audio este căptușit în bucăți întregi de 30 de secunde și concatenat într-un prompt, astfel încât memoria promptă și decodor-cache crește cu numărul de bucăți. Segment înregistrări foarte lungi până când există o cale bucată-mată.
Acesta este un motor non-streaming.