Tłumaczenie automatyczne · Oryginał angielski

MOSS Transcribe Diarize 0.9B

MOSS Transcribe Diarize 0.9B wspólnie generuje tekst transkrypcyjny, znaczniki czasu i anonimowe etykiety głośników. speech-swift teraz zapewnia rodzime 128K MLX runtime dla długich nagrań wraz z istniejącą wersją skróconą CoreML Backend.

Offline, nie strumieniowe

Kompletne nagrywanie musi być dostępne przed rozpoczęciem generacji. Nie publikuje się żadnego punktu kontrolnego strumieniowania dla tego modelu MOSS i nie emituje żadnego częściowego zapisu podczas nagrywania.

At a Glance

Wzór	MOSS Transcribe Diarize 0.9B
Rola	Offline transkrypcja i diaryzacja ze znacznikami głośnikowymi i znacznikami czasu generowanymi przez modelowanie
Poduszki	MLX z dynamicznymi tokenami kontekstowymi 131,072; CoreML ze stałym symbolem 1,024-
Wyjście	Transkrypcja z napisem "Plain" oraz odcinki głośników z oznakowaniem czasowym
Języki	Upstream twierdzi, że 50 + języki; jego karta modelowa nie publikuje wyczerpującej listy
Licencja	Apache Licencja 2.0
Status	Dostępne przez `speech transcribe --engine moss` oraz `MossTranscribe` Produkt Swift
Źródło	OpenMOSS- Team / MOSS-Transcribe- Diarize
Produkt Swift	`MossTranscribe`
CLI / runtime	`speech transcribe --engine moss`

Stosowanie

CoreML INT8 pozostaje domyślną kompatybilnością. Wybierz MLX dla zachowania w długim kontekście; INT5 jest domyślnym MLX.

# CoreML INT8: short-form default.
.build/release/speech transcribe recording.wav --engine moss

# MLX INT5: dynamic 128K context.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx

# MLX INT8 quality reference, using the default FP16 KV cache.
.build/release/speech transcribe meeting.wav --engine moss --backend mlx --model int8

Wzory linków

Jak działa ścieżka 128K

Enkoder nadal przetwarza Szepty o rozmiarze 30-sekundowym. Czas biegania łączy każdy uzyskany dźwięk osadzony w jednym momencie przed odkodowaniem, więc etykiety głośników mogą używać pełnego kontekstu nagrywania. Tokeny transcriptu są wtedy generowane automatycznie; "jedno pass" nie oznacza równoczesnego generowania symboli.

INT5 vs INT8

Wariant	ASR WER / CER	ASR RTF	Szczyt ASR RSS	DER / JER do diaryzacji	Diaryzacja RTF
MLX INT5	8.55% / 6.36%	0.028	1,196 MiB	28.05% / 26.56%	0.065
MLX INT8	8.27% / 5.98%	0.032	1,407 MiB	28.02% / 25.79%	0.085

INT5 jest zalecany MLX domyślnie: jego dwa pliki wagi ogółem 987.0 MiB zamiast 1,200.1 MiB 0.28-point English WER koszt i skutecznie równy DER na tym pięciokrotnym pliku. Wskaźnik referencyjny stosowany identycznie FP16 wagi audio, chciwe dekodowanie, oraz FP16 Kawałki KV.

ASR to pierwsze klipy testowe 80 English- US z google / pchły. Pliki diaryzacji pochodzą z CC-BY-4.0 Badanie lusterka VoxConverse; nie są to plasterki rozwoju Community-1 stosowane przez oddzielny punkt odniesienia CoreML.

Granice i pamięć

Audio zużywa 12,5 żetonów kontekstowych na sekundę, więc 90 minut to około 67,500 żetonów audio przed instrukcjami i wyjściem transkrypcji.
Przy tej liczbie symboli audio, analityczną szacunkową wartością KV- cache jest 7.74 GB FP16 lub 4.11 BG INT8, przed wagą i czasowym napięciem.
Wcześniejsze sprawdzenie skrótu-mocowania zachowane ustrukturyzowane wyjście z pamięci podręcznej INT8 KV. Bieżące kontrole pomijają etykiety głośników; używać FP16 kV dla ustrukturowanego wyjścia. INT4 cache upuścił znaczniki czasu i powtórzył słowo na wcześniejszej bramie jakości, więc nie jest narażony.
Model górny twierdzi, że 50+ jest językiem i do około 90 minut. Dopasowane porównanie speech-swift obecnie obejmuje angielski ASR i pięć angielskich nagrań VoxConverse.
Etykiety głośników są anonimowe w każdym pliku i nie są trwałą tożsamością głośnika.

MLX bufora pamięci podręcznej

Od obciążenia ciężarem poprzez transkrypcję, MLX ogranicza jego proces- szeroki reuseable-bufor cache do mniejszych z 2 GiB i 25% o RAM. Niższe limity dzwoniących, w tym 0 do wyłączenia caching, są zachowane. MOSS oraz Qwen3-ASR udostępnianie tego budżetu; zwolnienie modelu końcowego przywraca wcześniejszy limit dzwoniącego, chyba że dzwoniący zmienił go podczas użytkowania.

Ogranicza to nieużywane bufory wielokrotnego użytku, a nie całkowitą pamięć. Żywe naciski KV i dane audio wciąż rosną z długością zapisu; wagi i inne przydziały czasu pracy wymagają dodatkowej pamięci.

Użyj domyślnej pamięci podręcznej FP16 KV do uporządkowanego wyjścia głośnika. Bieżące etykiety głośników INT8 są sprawdzane pomijając zarówno warianty wagowe w oryginalnych jak i zamkniętych runtimes; sufit bufor- cache nie rozwiązuje tego oddzielnego problemu jakości.