Maskinoversættelse · Engelsk original

MOSS Transcribe Diarize 0.9B

MOSS Transcribe Diarize 0.9B genererer i fællesskab udskrift af tekst, tidsstempler og anonyme højttaler etiketter. speech-swift giver nu en indfødt 128K MLX runtime for lange optagelser sammen med den eksisterende kortform CoreML backend.

Offline, ikke streaming

Den komplette optagelse skal være tilgængelig før generationen begynder. Ingen streaming checkpoint er offentliggjort for denne MOSS model, og det udsender ingen partiel udskrift, mens optagelsen.

På en Glance

Model	MOSS Transcribe Diarize 0.9B
Rolle	Offline fælles transskription og diarisering med modelgenereret højttaler etiketter og tidsstempler
Baggrunds	MLX med 131,072 dynamiske kontekst tokens; CoreML Med en fast 1,024- token tilstand
Output	Almindelig udskrift og tidsstemplede højttalersegmenter
Sprog	Upstream krav 50 + sprog; dens model kort ikke offentliggøre en udtømmende liste
Licens	Apache Licens 2.0
Status	Tilgængelig gennem `speech transcribe --engine moss` og `MossTranscribe` Swift produkt
Kilde	OpenMOSS- Team / MOSS- Transcribe- Diarize
Swift produkt	`MossTranscribe`
CLI / runtime	`speech transcribe --engine moss`

Anvendelse

CoreML INT8 forbliver kompatibilitetsstandard. Vælg MLX for opstrøms langkontekstadfærd; INT5 er MLX standard.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Model Links

Hvordan 128K stien virker

Encoderen behandler stadig Whisper- sized 30- second chunks. Runtime sammenkobler hver resulterende lyd indlejring i en prompt før dekodning, så højttaleretiketter kan bruge den komplette optagelse kontekst. Udskriftstokens genereres derefter autoregressivt; "single pass" betyder ikke samtidig token generation.

INT5 vs INT8

Variant	ASR WER / CER	ASR RTF	ASR peak RSS	Diarisering DER / JER	Diarisering RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiB	28.02% / 25.79%	0.085

INT5 er den anbefalede MLX standard: dens to vægtfiler total 987.0 MiB i stedet for 1,200.1 MIB, med en 0.28- punkt engelsk WER omkostninger og effektivt lig med DER på denne five- fil skive. benchmark brugt identiske FP16 lydvægte, grådige dekodning, og FP16 KV caches.

ASR stativ er den første 80 Engelske-US test klip fra google / fleursDiariseringsfilerne er fra CC-BY-4.0 VoxConverse-prøvespejl; de er ikke Community-1 udviklingsskive, der anvendes af det separate CoreML benchmark.

Grænser og hukommelse

Audio bruger 12,5 konteksts tokens per sekund, så 90 minutter er omkring 67.500 lyd tokens før instruktioner og udskrift output.
Ved det lyd- token tal er det analytiske KV- cache estimat 7.74 GB FP16 eller 4.11 GG INT8, før vægte og midlertidige sensors.
En tidligere kortbindingskontrol bevaret struktureret output med INT8 KV cache. Aktuelle kontroller udelade højttaleretiketter; bruge FP16 kV til struktureret output. INT4 cache faldt tidsstempler og gentog et ord på den tidligere kvalitet gate, så det ikke er udsat.
Den opstrømsmodel hævder 50+ sprog og op til omkring 90 minutter. Den matchede speech-swift sammenligning dækker i øjeblikket engelsk ASR og fem engelske VoxConverse optagelser.
Højttaleretiketter er anonyme i hver fil og er ikke vedvarende højttaleridentiteter.

MLX buffercache

Fra vægtbelastning gennem transskription, MLX begrænser sin proces- bred genbrug- buffer cache til den mindste af 2 GiB og 25% af fysisk RAM. Lavere opkaldsgrænser, herunder 0 at deaktivere caching, er bevaret. MOSS og Qwen3-ASR deler dette budget; frigiver den endelige model genopretter den kaldende persons forudgående grænse, medmindre den kaldende ændrer det under brug.

Dette begrænser ubrugte genanvendelige buffere, ikke total hukommelse. Live KV-tensorer og lyddata vokser stadig med registrering længde; vægte og andre runtime tildelinger kræver yderligere hukommelse.

Brug standard FP16 KV cache til struktureret højttaler output. Nuværende INT8 kV kontrollerer udelade højttaler etiketter med både vægtvarianter på de oprindelige og begrænset runtime; buffer- cache loft ikke løse dette separate kvalitet problem.