Traduzione automatica · Originale inglese

MOSS Transcribe Diarize 0.9B

MOSS Transcribe Diarize 0.9B genera congiuntamente testo trascritto, timestamp e etichette anonime di altoparlante. speech-swift fornisce ora un nativo 128K MLX runtime per registrazioni lunghe insieme alla forma corta esistente CoreML

Offline, non streaming

La registrazione completa deve essere disponibile prima dell'inizio della generazione. Nessun checkpoint in streaming viene pubblicato per questo modello MOSS e non emette alcuna trascrizione parziale durante la registrazione.

In un solco

Modello	MOSS Transcribe Diarize 0.9B
Role	Trascrizione e diarizzazione con articolazione Offline con etichette e timestamp per diffusori generati dal modello
Gli indietreggi	MLX con 131.072 token di contesto dinamico; CoreML con uno stato fisso 1,024-token
Produzione	Trascrizione di pianura più segmenti di altoparlanti timestamped
Lingue	A monte rivendica 50+ lingue; la sua carta modello non pubblica un elenco esaustivo
Licenza	Apache Licenza 2.0
Stato	Disponibile tramite trascrizione `speech transcribe --engine moss` e `MossTranscribe` Swift
Fonte	OpenMOSS-Team/MOSS-Transcribe-Diarize
Prodotto Swift	`MossTranscribe`
CLI / runtime	`speech transcribe --engine moss`

Uso

CoreML INT8 rimane il default della compatibilità. Selezionare MLX per il comportamento a lungo-contesto a monte; INT5 è il default MLX

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Link di modello

Come funziona il percorso 128K

L'encoder elabora ancora i pezzi 30 di seconda dimensione di Whisper. Il runtime concatena ogni embedding audio risultante in un prompt prima di decodifica, così le etichette di altoparlante possono utilizzare il contesto di registrazione completo. I token di trascrizione vengono poi generati in modo autoregressivo; "single pass" non significa generazione di token simultanea.

INT5 vs INT8

Variante	ASR WER / CER	ASR RTF	ASR picco RSS	Diarizzazione DER / JER	Diarizzazione RTF
MLX INT5	8.55% / 6.36%	0.028	1,196	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1.407 MiB	28.02% / 25.79%	0.085

INT5 è il consigliato MLX default: i suoi due file di peso totale 987.0 MiB invece di 1,200.1 MiB, con un 0.28-point English WER costo e efficacemente uguale DER su questa fetta di cinque file. Il benchmark utilizzato identico FP16 pesi audio, decodifica avida, e FP16 Le cache dei KV.

L'apparecchio ASR è il primo clip di prova 80 Inglese-US google/fleurs. I file di diarizzazione sono da CC-BY-4.0 Specchio di prova VoxConverse; non sono la fetta di sviluppo Community-1 utilizzata dal benchmark CoreML separato.

Limiti e memoria

L'audio consuma 12.5 token di contesto al secondo, quindi 90 minuti sono circa 67.500 token audio prima delle istruzioni e dell'output trascrizione.
A quel conteggio audio-token, la stima analitica KV-cache è 7.74 GB FP16 o 4.11 GB INT8, prima dei pesi e dei tensori temporanei.
Un'uscita strutturata conservata con INT8 KV cache. I controlli attuali omettono etichette dei diffusori; usare FP16 KV per l'output strutturato. INT4 cache ha lasciato cadere i timestamp e ha ripetuto una parola sul cancello di qualità precedente, quindi non è esposta.
Il modello a monte sostiene le lingue 50+ e fino a circa i minuti 90. Il confronto speech-swift abbinato copre attualmente le registrazioni ASR in inglese e cinque in inglese VoxConverse.
Le etichette dei diffusori sono anonime all'interno di ogni file e non sono identità di diffusori persistenti.

MLX buffer cache

Dal caricamento del peso attraverso la trascrizione, MLX limita la sua cache di processo-wide reusable-buffer al più piccolo di 2 GiB e 25% di fisico RAM. Limiti di caller inferiori, compresi 0 per disabilitare il caching, sono conservati. MOSS e Qwen3-ASR

I tensori Live KV e i dati audio crescono ancora con la lunghezza di registrazione; i pesi e le altre allocazioni runtime richiedono una memoria aggiuntiva.

Utilizzare la cache KV predefinita FP16 KV per l'output strutturato dell'altoparlante. Corrente INT8 KV controlla le etichette dei diffusori con entrambe le varianti di peso sui tempi di esecuzione originali e tappati; il soffitto buffer-cache non risolve questo problema di qualità separato.