Maskinoversettelse · Engelsk original

MOSS Transcribe Diarize 0.9B

MOSS Transcribe Diarize 0.9B genererer i fellesskap transkripsjonstekst, tidsstempler og anonyme høyttalermerker. speech-swift gir nå en opprinnelig 128K MLX kjøretid for lange opptak sammen med eksisterende kortform CoreML motor.

Frakoblet, ikke streaming

Den fullstendige opptaken må være tilgjengelig før generasjonen begynner. Ingen streamingkontrollpunkt er publisert for denne MOSS modellen, og det sender ingen delvis transkripsjon under opptak.

På en glanse

Modell	MOSS Transcribe Diarize 0.9B
Rolle	Frakoblet felles trankripsjon og diarisering med modellgenerert høyttaler etiketter og tidsstempler
Motorer	MLX med 131.072 dynamiske kontekstsymboler; CoreML med en fast 1.024-token tilstand
Utgang	Enkel transkripsjon pluss tidsstemplede høyttalersegmenter
Språk	Upstream hevder 50+ språk; dets modellkort publiserer ikke en uttømmende liste
Lisens	Apache Lisens 2.0
Status	Tilgjengelig gjennom `speech transcribe --engine moss` og `MossTranscribe` Swift produktet
Kilde	OpenMOSS-Team/MOSS-Transcribe-Diarize
Swift produkt	`MossTranscribe`
CLI/kjøretid	`speech transcribe --engine moss`

Bruk

CoreML INT8 forblir kompatibilitetsstandarden. Velg MLX for den oppstrøms lange kontekstadferden; INT5 er MLX standard.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Modelllenker

Hvordan 128K-stien fungerer

Koderen prosesserer fortsatt Whisper-størrelse 30 sekunders biter. Runtime-delene konkatenterer hver resulterende lyd innesluttet i én hurtig før dekoding, slik at høyttaler-etiketter kan bruke den komplette opptakskonteksten. Transcript-tokens genereres deretter autoregressivt; \"enkelt pass\" betyr ikke samtidig tokengenerasjon.

INT5 vs INT8

Variant	ASR WER / CER	ASR RTF	ASR topp RSS	Diarisering DER / JER	Diarisering RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiB	28.02% / 25.79%	0.085

INT5 er anbefalt MLX standard: to vektfiler totalt 987.0 MiB i stedet for 1,200.1 MiB, med 0.28-punkt engelsk WER kostnad og effektivt lik DER på denne fem-fils skiven. Benchmark brukt identiske FP16 lyd vekter, grådig decoding, og FP16 KV- cache.

ASR fixture er de første 80 English-US testklipp fra google/fleurs. Diariseringsfilene er fra CC-BY-4.0 VoxConverse testspeil; de er ikke Community-1 utviklingsskiten som brukes av separat CoreML referanse.

Grenser og minne

Audio forbruker 12.5 kontekst tokens i sekundet, så 90 minutter handler om 67,500 lydtokens før instruksjoner og transkripsjonsutgang.
På det lydtoken teller, er det analytiske KV-cache-estimatet 7.74 GB FP16 eller 4.11 GB INT8, før vekter og midlertidige tensorer.
En tidligere kortrettingskontroll som er bevart strukturert med INT8 KV-buffer. Nåværende kontroller utelater høyttalermerker; bruk FP16 KV for strukturert utgang. INT4 cache droppet tidsstempler og gjentatte et ord på den tidligere kvalitetsporten, så det er ikke eksponert.
Oppstrømsmodellen hevder 50+ språk og opp til 90 minutter. Den matchede speech-swift sammenligningen dekker for tiden engelsk ASR og fem engelske voxConverse-opptak.
Høyttalermerker er anonyme i hver fil og er ikke vedvarende høyttaleridentiteter.

MLX bufferbuffer

Fra vektlasting gjennom transkripsjon, MLX begrenser dens prosess-videre gjenbrukbar-buffer til det mindre av 2 GiB og 25% av fysisk RAM. Nedre oppringningsgrenser, inkludert 0 for å deaktivere caching, er bevart. MOSS og Qwen3-ASR deler dette budsjettet; å frigjøre den endelige modellen gjenoppretter samtalerens tidligere grense med mindre samtaleren endres under bruk.

Dette begrenser ubrukte rebrukbare buffere, ikke totalminne. Live KV tensors og lyddata vokser fortsatt med opptakslengde; vekter og andre løpstidstildelinger krever ekstra minne.

Bruk standard FP16 KV-buffer for strukturert høyttalerutgang. Nåværende INT8 KV sjekker ut høyttaleretiketter med både vektvarianter på originale og cappede løpstider; buffer-cache-taket løser ikke dette separate kvalitetsproblemet.