Automatische vertaling · Engels origineel

MOSS Transcriberen Diarize 0.9B

MOSS Transcribe Diarize 0.9B genereert gezamenlijk transcripttekst, tijdstempels en anonieme luidsprekerlabels. speech-swift biedt nu een native 128K MLX runtime voor lange opnames naast de bestaande short-form CoreML backend.

Offline, niet streamen

De volledige opname moet beschikbaar zijn voordat de generatie begint. Er wordt geen streaming checkpoint gepubliceerd voor dit MOSS model, en het zendt geen partieel transcript uit tijdens de opname.

Bij een Glance

Model	MOSS Transcriberen Diarize 0.9B
Rol	Offline gezamenlijke transcriptie en diarisatie met model-gegenereerde luidspreker labels en tijdstempels
Backends	MLX met 131,072 dynamische contexttekens; CoreML met een vaste 1.024-token-status
Uitvoer	Platte transcript plus tijd gestempelde speaker segmenten
Talen	Upstream claimt 50+ talen; haar modelkaart publiceert geen uitputtende lijst
Licentie	Apache Licentie 2.0
Status	Beschikbaar via `speech transcribe --engine moss` en `MossTranscribe` Swift product
Bron	OpenMOSS-Team/MOSS-Transcribe-Diarize
Swift product	`MossTranscribe`
CLI / looptijd	`speech transcribe --engine moss`

Gebruik

CoreML INT8 blijft de compatibiliteitsstandaard. Selecteer MLX voor het upstream lang-contextgedrag; INT5 is de MLX standaard.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Modellinks

Hoe werkt het 128K pad?

De encoder verwerkt nog steeds Whisper-sized 30-seconde brokken. De runtime concateert elke resulterende audio inbedding in één prompt voordat decoderen, zodat luidspreker labels kunnen gebruik maken van de volledige opname context. Transcript tokens worden dan automatisch gegenereerde; .single pass.. betekent niet gelijktijdige token generatie.

INT5 vs INT8

Variant	ASR WER / CER	ASR RTF	ASR piek RSS	Diarization DER / JER	Diarisatie RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiB	28.02% / 25.79%	0.085

INT5 is de aanbevolen MLX standaard: de twee gewichtsbestanden totaal 987.0 MiB in plaats van 1.200.1 MiB, met een 0.28-punts Engels WER kosten en effectief gelijk aan DER op dit vijf-bestandsdeel. De benchmark gebruikt identieke FP16 audiogewichten, hebzuchtige decodering, en FP16 KV caches.

De ASR armatuur is de eerste 80 Engels-US testclips van google/fleurs. De diarizatiebestanden zijn afkomstig van de CC-BY-4.0 VoxConverse testspiegel; ze zijn niet de Community-1 ontwikkelingsschijf die wordt gebruikt door de afzonderlijke CoreML benchmark.

Grenzen en geheugen

Audio verbruikt 12.5 context tokens per seconde, dus 90 minuten is ongeveer 67.500 audio tokens voor instructies en transcript output.
Bij dat aantal audio-token is de analytische schatting van KV-cache 7,74 GB FP16 of 4,11 GB INT8, vóór gewichten en tijdelijke tensors.
Een eerdere korte-fixatie controle bewaarde gestructureerde uitvoer met INT8 KV-cache. Huidige controles laten de luidsprekerlabels weg; gebruik FP16 KV voor gestructureerde uitvoer. INT4 cache liet de tijdstempels vallen en herhaalde een woord op de eerdere kwaliteit poort, dus het is niet blootgesteld.
Het upstream model claimt 50+ talen en tot ongeveer 90 minuten. De overeenkomende speech-swift vergelijking heeft momenteel betrekking op Engels ASR en vijf Engelse VoxConverse-opnames.
Speaker labels zijn anoniem binnen elk bestand en zijn geen hardnekkige luidspreker identiteiten.

MLX buffercache

Van het laden van gewicht door transcriptie beperkt MLX zijn procesbrede herbruikbare buffercache tot het kleinere van 2 GiB en 25% van fysieke RAM. Lagere bellerlimieten, inclusief 0 om caching uit te schakelen, worden bewaard. MOSS en Qwen3-ASR delen dit budget; het vrijgeven van het definitieve model herstelt de limiet van de beller, tenzij de beller het tijdens het gebruik heeft gewijzigd.

Dit beperkt ongebruikte herbruikbare buffers, niet het totale geheugen. Live KV-tensors en audiogegevens groeien nog steeds met opnamelengte; gewichten en andere runtime-toewijzingen vereisen extra geheugen.

Gebruik de standaard FP16 KV-cache voor gestructureerde speakeruitvoer. Huidige INT8 KV controleert luidsprekerlabels met beide gewichtsvarianten op de oorspronkelijke en afgetopte runtimes weglaten; het buffer-cacheplafond lost dit aparte kwaliteitsprobleem niet op.