Konekäännös · Englanninkielinen alkuperäinen

MOSS Transkriptio Diarize 0.9B

MOSS Transcribe Diarize 0.9B tuottaa yhdessä transkriptiotekstin, aikaleimat ja anonyymit kaiuttimet. speech-swift tarjoaa nyt natiivin 128K MLX-runtimelle pitkän tallennuksen rinnalla olemassa olevan lyhytmuotoisen CoreML-taustaosan.

Offline, ei streaming

Täydellisen tallenteen on oltava saatavilla ennen sukupolven alkua. Tästä MOSS -mallista ei julkaista streaming-tarkastuspistettä, eikä se lähetä osittaista transkriptiota tallennuksen aikana.

Katselu

Malli	MOSS Transkriptio Diarize 0.9B
Rooli	Offline yhteinen transkriptio ja diarisointi mallin luomilla kaiuttimilla ja aikaleimat
Taustaosat	MLX ja 131,072 dynaaminen konteksti kuponkia; CoreML, jossa on kiinteä 1,024-token tila
Tuotos	Plain transkriptio ja aikaleimatut kaiuttimet
Kieli	Upstream vaatii yli 50 kieltä; mallikortti ei julkaise tyhjentävää luetteloa
Lisenssi	Apache Lisenssi 2.0
Tila	Saatavana `speech transcribe --engine moss` ja `MossTranscribe` Swift -tuotteen kautta.
Lähde	OpenMOSS-ryhmä/MOSS-tilausikkuna
Swift -tuote	`MossTranscribe`
CLI / ajoaika	`speech transcribe --engine moss`

Käyttö

CoreML INT8 on edelleen yhteensopivuusoletus. Valitse MLX alkupään pitkän aikavälin käyttäytymiselle; INT5 on MLX oletus.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Malli Linkit

Miten 128K-polku toimii

Koodari edelleen käsittelee Whisper-kokoinen 30 sekunnin palaset. Runtime concatetes jokainen tuloksena äänen upottaminen yhteen nopeaan ennen dekoodaus, joten kaiuttimen tarrat voivat käyttää täydellistä tallennusta kontekstissa. Transcript kuponkia sitten syntyy autoregressiivinen; . yhden pass. ei tarkoita samanaikaisia kuponki sukupolvi.

INT5 vs INT8

Variantti	ASR WER / CER	ASR RTF	ASR RSS-huippu	Diarisointi DER / JER	Diarisointi RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiB	28.02% / 25.79%	0.085

INT5 on suositeltu MLX-oletus: sen kaksi painotiedostoa yhteensä 987.0 MiB sijaan 1,200.1 miB, 0.28 piste Englanti WER kustannus ja tehokkaasti yhtä suuri DER tämän viiden tiedoston viipaleen. Vertailussa käytettiin identtisiä FP16 äänipainoja, ahne dekoodaus, ja FP16 KV välimuistit.

ASR-laite on ensimmäinen 80 English-US-testileikkeitä Google/fleur-maila. Diarisointitiedostot ovat peräisin CC-BY-4.0 VoxConverse testipeili; ne eivät ole Community-1:n kehitysviipale, jota käytetään erillisessä CoreML Z:n vertailuarvossa.

Rajat ja muisti

Audio kuluttaa 12.5 konteksti rahakkeita sekunnissa, joten 90 minuuttia on noin 67,500 audio rahakkeita ennen ohjeita ja transkripti lähtö.
Tuossa audio-token laskea, analyyttinen KV- välimuisti arvio on 7.74 GB FP16 tai 4.11 GB INT8, ennen painot ja väliaikaiset tensorit.
Aikaisemmat lyhytliitostarkistukset säilyttivät strukturoidun ulostulon INT8 KV välimuisti. Ajankohtaista tarkistusta ei ole kaiuttimen etiketeissä; käytä FP16 KV struktuurituotoksessa. INT4 välimuisti pudotti aikaleimat ja toisti sanan aikaisemmassa laatuportissa, joten se ei ole altistunut.
Etupään mallissa on 50+ kieltä ja noin 90 minuuttia. Vertaillut speech-swift vertailu kattaa tällä hetkellä englannin ASR ja viisi englanninkielistä VoxConverse-tallennusta.
Kaiuttimet ovat anonyymejä tiedostoissa eivätkä ole pysyviä puhujan identiteettejä.

MLX puskurivälimuisti

Painon latauksesta transkription kautta MLX rajoittaa prosessin koko prosessin kattavan uudelleenkäytettävän puskurivälimuistin pienemmäksi 2 GiB:stä ja 25% fyysisestä RAM. Alemmat soittajarajat, mukaan lukien 0-poistettava välimuisti, säilyvät. MOSS ja Qwen3-ASR jakavat tämän budjetin; lopullisen mallin vapauttaminen palauttaa soittajan aiemman rajan, ellei soittaja muuta sitä käytön aikana.

Tämä rajoittaa käyttämättömiä uudelleenkäytettäviä puskureita, ei kokonaismuistia. Live KV - tensorit ja äänitiedot kasvavat edelleen tallennuspituudella; painot ja muut ajoajat vaativat lisämuistia.

Oletusarvo FP16 KV välimuisti strukturoidulle kaiuttimelle. Virta INT8 KV-tarkistukset Jätä pois kaiuttimet, joissa on sekä painovariantit alkuperäisissä että rajatuissa ajoajoissa; puskuri-välimuistikatto ei korjaa tätä erillistä laatuongelmaa.