Maskinöversättning · Engelskt original

MOSS Transcribe Diarize 0.9B

MOSS Transcribe Diarize 0.9B genererar gemensamt transkripttext, timestamps och anonyma högtalaretiketter. speech-swift ger nu en infödd 128K MLX tiden för långa inspelningar tillsammans med den befintliga kortformen CoreML backend.

Offline, inte streaming

Den fullständiga inspelningen måste vara tillgänglig innan generationen börjar. Ingen strömmande checkpoint publiceras för denna MOSS modell, och det avger ingen partiell utskrift medan inspelningen.

På en Glance

Modell	MOSS Transcribe Diarize 0.9B
Rollen	Offline gemensam transkription och diarisering med modellgenererade högtalaretiketter och tidsstämplar
Backends	MLX med 131,072 dynamiska kontexttokens; CoreML med ett fast 1,024-token tillstånd
Output	Plain transkript plus timestamped högtalarsegment
Språk	Upstream hävdar 50+ språk; dess modellkort publicerar inte en uttömmande lista
Licens	Apache Licens 2.0
Status	Tillgänglig genom `speech transcribe --engine moss` och `MossTranscribe` Swift produkt
Källa	OpenMOSS-Team/MoSS-Transcribe-Diarize
Swift produkt	`MossTranscribe`
CLI / runtime	`speech transcribe --engine moss`

Användning

CoreML INT8 förblir kompatibilitetsstandarden. Välj MLX för det uppströms långkontextbeteende; INT5 är MLX standard.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Modelllänkar

Hur 128K-banan fungerar

Encoderen bearbetar fortfarande Whisper-stora 30-sekunders bitar. Runtime concatenates varje resulterande ljud inbäddning i en prompt innan avkodning, så högtalare etiketter kan använda hela inspelningskontexten. Transcript tokens genereras sedan autoregressivt; "single pass" betyder inte samtidig token generation.

INT5 vs INT8

Variant	ASR WER / CER	ASR RTF	ASR topp RSS	Diarization DER / JER	Diarization RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiB	28.02% / 25.79%	0.085

INT5 är den rekommenderade MLX standard: dess två viktfiler totalt 987.0 MiB i stället för 1,200.1 MiB, med en 0.28-punkts engelska WER kostnad och effektivt lika DER på denna fem-fil skiva. Benchmark använde identiska FP16 ljudvikter, girighetsavkodning och FP16

ASR fixturen är den första 80 English-US testklipp från Google/Fleursdiarization filer är från CC-BY-4.0 VoxConverse testspegel; de är inte Community-1 utvecklingsskivor som används av den separata CoreML riktmärke.

Begränsningar och minne

Audio konsumerar 12.5 kontext tokens per sekund, så 90 minuter handlar om 67,500 ljudtokens före instruktioner och utskrift.
Vid det ljudtokenräkningen är den analytiska KV-cache-uppskattningen 7.74 GB FP16 eller 4.11 gb INT8, före vikter och tillfälliga tensorer.
En tidigare kortfixturkontroll bevarad strukturerad produktion med INT8 KV cache. Current checks omit högtalaretiketter; använd FP16 KV för strukturerad utgång. INT4 cache släppte tidsstämplar och upprepade ett ord på den tidigare kvalitetsporten, så det är inte exponerat.
Den uppströms modellen hävdar 50+ språk och upp till cirka 90 minuter. Den matchade speech-swift jämförelsen täcker för närvarande engelska ASR och fem engelska VoxConverse inspelningar.
Högtalare etiketter är anonyma inom varje fil och är inte ihållande högtalaridentiteter.

MLX buffert cache

Från viktbelastning genom transkription begränsar MLX dess processomfattande återanvändbar buffert cache till mindre av 2 GiB och 25% av fysisk RAM. Lägre caller gränser, inklusive 0 för att inaktivera cachning, bevaras. MOSS och Qwen3-ASR dela denna budget; frigöra den slutliga modellen återställer in ryttarens tidigare gräns om inte ringaren ändrade den under användningen.

Detta begränsar oanvända återanvändbara buffertar, inte totalt minne. Live KV tensorer och ljuddata växer fortfarande med inspelningslängd; vikter och andra driftstilldelningar kräver ytterligare minne.

Använd standarden FP16 KV cache för strukturerad högtalarutgång. Current INT8 KV checkar omit högtalaretiketter med båda viktvarianterna på originalet och capped runtimes; buffert-cache taket inte fixar denna separata kvalitetsfråga.