Strojový překlad · Anglický originál

Parakeet TDT

Parakeet TDT je model pro rozpoznávání slov NVIDIA, přizpůsobený pro spuštění na Apple Silicon Neural Engine přes CoreML. Používá kódér FastConformer spárovaný s dekodérem TDT (Token- and- Trvalý převodník) pro přesné a efektivní přepis.

Architektura

Model je rozdělen na tři soubory CoreML modelu, které pracují společně během inference:

Enkodér je INT8 kvantifikován pro minimální paměťovou stopu a rychlý provedení Neural Engine. Dekodér a společná síť jsou dostatečně malé, že kvantifikace není nutná.

Filtrování transcriptu se řídí special- token syntaxe slovní zásoby spíše než rozsahy token ID, takže model- emitované číslice (0–9) jsou zachovány, zatímco jazyk, reproduktor, a ovládání žetony zůstávají skryté.

Vzor Variantů

Výkonnost

RTF je doba hradby dělená dobou trvání zvuku: nižší je rychlejší. RTF VÝDEJ 0.031 odpovídá asi 32 × real-time rychlosti.

Použití CLI

Používejte --engine parakeet Značka pro výběr Parakeet TDT místo výchozího Qwen3-ASR:

.build/release/speech transcribe recording.wav --engine parakeet

CoreML vs MLX

Parakeet Použití TDT CoreML Běžet na Neural Engine, zatímco Qwen3-ASR použití MLX Běžet na Metal GPU. Oba přístupy mají různé obchodní-off:

Varianta proudění

Pro real-time diktace a živé titulky, viz Parakeet-EOU-120M - parametr 120M--streaming RNN-T varianty s explicitní end- of- utterance hlava, takže hlasový agent může říct, když reproduktor skončil z proudu ASR sám, bez samostatného detektoru otáčení. To běží postupně na 640 ms audio kusy a sdílí SententScout slovní zásoba Parakeet TDT 0.6B, optimalizované pro sub- second part latency spíše než špičkový průchodnost.

Je mnohojazyčný (25 evropské jazyky) a lehký: na telefonu používá o 232 MB paměti a běží pohodlně v reálném čase - zhruba 5-6 × menší než Parakeet TDT 0.6B. Na Android, Linux a Windows běží přes ONNX Runtime od soniqo/Parakeet-EOU-120M-ONNX-INT8.

Také k dispozici na Android, a dále Linux & Windows prostřednictvím jádra řeči (ONNX Runtime).