Traducere automată · Originalul în engleză

MOSS Transcribe diarize 0,9B

MOSS Transcribe Diarize 0.9B generează împreună text transcriere, timbru temporal și etichete anonime pentru vorbitor. speech-swift oferă acum un suport nativ 128K MLX pentru înregistrări lungi, alături de forma scurtă existentă CoreML.

Offline, nu streaming

Înregistrarea completă trebuie să fie disponibilă înainte de începerea producției. Nu se publică niciun punct de control de streaming pentru acest model MOSS și nu emite nicio transcriere parțială în timpul înregistrării.

La o strălucire

Model	MOSS Transcribe diarize 0,9B
Rol	Transcrierea și diarizarea articulațiilor offline cu etichete de difuzor generate de model și marcaje temporale
Platforme	MLX cu jetoane dinamice de context 131,072; CoreML cu o stare fixă 1,024-token
Ieșire	Transcriere simplă plus segmente de difuzor cu timbru temporal
Limbi	În amonte, cererile 50+ limbi străine; modelul său de card nu publică o listă exhaustivă
Licență	Apache Licență 2.0
Stare	Disponibil prin `speech transcribe --engine moss` și produsul `MossTranscribe` Swift
Sursă	OpenMOSS-Team/MOSS-Transcribe-Diarize
Swift produs	`MossTranscribe`
CLI / timpul de funcționare	`speech transcribe --engine moss`

Utilizare

CoreML INT8 rămâne compatibilitatea implicită. Selectați MLX pentru comportamentul context lung din amonte; INT5 este implicit MLX.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Modele de legături

Cum funcţionează calea 128K

Encodorul încă procesează bucăți de 30 secunde de Whisper. Timpul de funcționare concatenizează fiecare înglobare audio rezultat într-o singură promptă înainte de decodare, astfel încât etichetele difuzorului să poată utiliza contextul de înregistrare complet. Jetoane transcrip sunt apoi generate automat; bază de trecere bază nu înseamnă generarea simultană de jetoane.

INT5 vs INT8

Variantă	ASR WER / CER	ASR RTF	ASR vârf RSS	Diarizare DER / JER	Diarizare RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiO	28.02% / 25.79%	0.085

INT5 este recomandat MLX implicit: cele două fişiere greutate totală 987.0 MiB în loc de 1,200.1 MIB, cu un 0.28-punct English WER costul şi efectiv egal DER pe această felie de cinci fişiere. Criteriul de referinţă folosit identice FP16 greutăţi audio, decodare lacome, şi FP16 KV caches.

ASR este primul dispozitiv de testare de 80 de clipuri de la google/fleurs. Fişierele de diarizare sunt de la CC-BY-4.0 Oglindă de testare VoxConverse; ele nu sunt felia de dezvoltare Community-1 utilizată de reperul separat CoreML.

Limite și memorie

Audio consumă 12,5 jetoane de context pe secundă, deci 90 de minute este de aproximativ 67.500 de jetoane audio înainte de instrucțiuni și de ieșire transcriere.
La acest număr audio-token, estimarea analitică KV-cache este 7.74 GB FP16 sau 4.11 GB INT8, înainte de greutăți și tensori temporare.
Un control mai devreme de scurt-fixare conservat de ieșire structurată cu INT8 KV cache. Controalele curente omite etichetele difuzorului; utilizați FP16 KV pentru producția structurată. INT4 cache a scăzut timp și a repetat un cuvânt pe poarta de calitate anterioară, astfel încât nu este expus.
Modelul din amonte susține 50+ limbi și până la aproximativ 90 de minute. Comparația corespunzătoare speech-swift acoperă în prezent engleză ASR și cinci înregistrări englezești VoxConverse.
Etichetele speaker sunt anonime în fiecare fișier și nu sunt identități persistente ale vorbitorului.

MLX cache tampon

De la încărcare în greutate prin transcriere, MLX limitează cache-ul reutilizabil la nivel proces-buffer la nivelul mai mic de 2 GiB și 25% de fizic RAM. Limitele inferioare ale apelantului, inclusiv 0 pentru a dezactiva cache, se păstrează. MOSS și Qwen3-ASR partajează acest buget; eliberarea modelului final restabilește limita anterioară a apelantului cu excepția cazului în care apelantul l-a schimbat în timpul utilizării.

Acest lucru limitează tamponele reutilizabile neutilizate, nu memoria totală. Tensorii KV live și datele audio încă cresc cu lungimea înregistrării; greutățile și alte alocări de timp de execuție necesită memorie suplimentară.

Utilizați cache-ul KV pentru difuzor structurat FP16 KV pentru ieșire. Curent INT8 Controalele KV omit etichetele difuzorului cu ambele variante de greutate pe timpul de funcționare original și limitat; plafonul tampon-cache nu rezolvă această problemă de calitate separată.