Strojový překlad · Anglický originál
MOSS Transcribe Diarize 0.9B
MOSS Transcribe Diarize 0.9B společně generuje přepis textu, časových razítek a anonymních štítků reproduktorů. speech-swift nyní poskytuje rodné 128K MLX runtime pro dlouhé nahrávky vedle stávající krátké formy CoreML backend.
Kompletní záznam musí být k dispozici před zahájením generace. Pro tento model MOSS není zveřejněn žádný streamingový kontrolní bod a při nahrávání nevydává žádný částečný přepis.
V Glance
| Vzor | MOSS Transcribe Diarize 0.9B |
|---|---|
| Úloha | Offline společný přepis a diarizace s modelově generovanými štítky reproduktorů a časovými razítky |
| Backends | MLX s dynamickými kontextovými tokeny 131,072; CoreML se stabilním stavem 1,024- token |
| Výstup | Jednoduchý přepis plus časové segmenty reproduktorů |
| Jazyky | Upstream tvrdí 50 + jazyků; jeho vzor karty nezveřejňuje vyčerpávající seznam |
| Licence | Apache licence 2.0 |
| Stav | K dispozici prostřednictvím speech transcribe --engine moss a MossTranscribe Swift produkt |
| Zdroj | OpenMOS- Team / MOSS- Transcribe- Diarize |
| Swift produkt | MossTranscribe |
| CLI / runtime | speech transcribe --engine moss |
Použití
CoreML INT8 zůstává výchozí kompatibilitou. Zvolte MLX pro chování na vzestupu dlouhotrvající kontext; INT5 je výchozí MLX.
# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss
# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx
# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8Modelové odkazy
- MLX INT5 svazek
- MLX INT8 svazek
- CoreML INT8 svazek
- CoreML FP16 svazek
- Dokumenty modelu speech-swift
- Dokumenty pro inference speech-swift
- Referenční hodnota MLX INT5 / INT8
- Technická zpráva
Jak funguje 128K cesta
Enkodér stále zpracovává 30-sekundové kousky Whisper- size. Runtime zkombinuje každé výsledné audio vkládání do jednoho tlačítka před dekódováním, takže štítky reproduktoru mohou použít kompletní nahrávací kontext. Transcript tokeny jsou poté generovány autoregregentně; "single pass" neznamená souběžnou token generaci.
INT5 vs INT8
| Varianta | ASR WER / CER | ASR RTF | ASR špičkový RSS | Diarizace DER / JER | Diarizace RTF |
|---|---|---|---|---|---|
| MLX INT5 | 8.55% / 6.36% | 0.028 | 1,196 MiB | 28.05% / 26.56% | 0.065 |
| MLX INT8 | 8.27% / 5.98% | 0.032 | 1,407 MiB | 28.02% / 25.79% | 0.085 |
INT5 je doporučený MLX výchozí: jeho dva váhové soubory celkem 987.0 MiB místo 1,200.1 MiB, s 0.28- Bod angličtina. WER náklady a účinně stejné DER na tomto pěti-file plátku. Referenční hodnota používá identické FP16 zvukové závaží, hamižné dekódování a FP16 KV cache.
ASR je první 80 Anglicko-US zkušební klipy z google / fleurs. Diarizační soubory jsou z CC-BY-4.0 Zkušební zrcátko VoxConverse; nejsou vývojovým řezem Community-1 používaným samostatným měřítkem CoreML.
Mezní hodnoty a paměť
- Audio spotřebovává 12,5 kontextových tokenů za sekundu, takže 90 minut je asi 67,500 zvukových tokenů před instrukcemi a přepisem výstupu.
- Při tomto audio-tokenu je analytickým odhadem KV- cache 7.74 GB FP16 nebo 4.11 BG INT8, před hmotností a dočasnými tenzory.
- Starší kontrola stručnosti zachovaná strukturovaný výstup s cache INT8 KV. Aktuální kontroly vynechávají štítky reproduktorů; pro strukturovaný výstup použijte FP16 kV. INT4 cache upustila časové razítka a zopakovala slovo na starší kvalitní bráně, takže není vystavena.
- Vnější model tvrdí, 50+ jazyky a až do cca 90 minut. Srovnání speech-swift v současné době pokrývá anglické ASR a pět anglických VoxConverse nahrávek.
- Štítky reproduktorů jsou v každém souboru anonymní a nejsou trvalou identitou reproduktoru.
MLX cache pufru
Od zatížení přes transkripci, MLX omezuje svou proceso- široký reusable - buffer cache na menší 2 GiB a 25% fyzického RAM. Nižší limity volajícího, včetně 0 k vyřazení cachingu, jsou zachovány. MOSS a Qwen3-ASR sdílejte tento rozpočet; uvolnění konečného modelu obnoví předchozí limit volajícího, pokud jej volající během používání nezměnil.
To omezuje nevyužité opakovaně použitelné buffery, ne celkovou paměť. Živé KV tenzory a audio data stále rostou s délkou záznamu; váhy a další příděly runtime vyžadují dodatečnou paměť.
Pro strukturovaný výstup reproduktoru použijte výchozí cache FP16 KV. Aktuální INT8 kV kontroluje vynechání štítků reproduktoru s oběma váhovými variantami na originálních i limitovaných runtimách; strop buffer- cache tento problém kvality nespraví.