Maskinöversättning · Engelskt original

Parakeet TDT

Parakeet TDT är NVIDIA taligenkänningsmodell, anpassad för att köra på Apple Silicon Neural Engine via CoreML. Den använder en FastConformer-kodare parad med en Token-and-Duration Transducer (TDT)-avkodare för korrekt, effektiv transkription.

Arkitektur

Modellen är uppdelad över tre CoreML modellfiler som fungerar tillsammans under slutsatsen:

Encoder är INT8 kvantiserad för minimal minnesavtryck och snabb Neural Engine utförande. Avkodaren och det gemensamma nätverket är tillräckligt små för att kvantiseringen inte behövs.

Transkriptfiltrering följer ordförrådets specialtoken syntax snarare än token ID-intervall, så modell-emitterade siffror (0-9) bevaras medan språk, högtalare och kontrolltokens hålls dolda.

Modellvarianter

Prestanda

RTF är väggtid dividerad med ljudvaraktighet: lägre är snabbare. RTF ≈ 0,031 motsvarar cirka 32 × realtidshastighet.

CLI Användning

Använd --engine parakeet flaggan för att välja Parakeet TDT istället för standard Qwen3-ASR:

.build/release/speech transcribe recording.wav --engine parakeet

CoreML vs MLX

Parakeet TDT använder CoreML för att köra på Neural Engine, medan Qwen3-ASR använder MLX för att springa på Metal GPU

Streaming variant

För realtidsdiktation och live captioning, se Parakeet-EOU-120M - en 120M-parameter streaming RNN-T-variant med en explicit slut-of-utterance huvudet, så en röstagent kan berätta när en högtalare har avslutat från ASR strömma sig själv, utan separat vriddetektor. Det körs stegvis på 640 ms ljud bitar och delar SentencePiece vokabulär av Parakeet TDT 0.6B, optimerad för sub-second partiell latens snarare än topp genomströmning.

Det är flerspråkigt (25 europeiska språk) och lätt: på en telefon använder den om 232 MB minne och körs bekvämt i realtid - ungefär 5-6 × mindre än Parakeet TDT 0.6B. På Android, Linux och Windows körs den via ONNX Runtime från ZXQXQXZ soniqo/Parakeet-EOU-120M-ONNX-INT8.

Också tillgänglig på Android, och på Linux & Windows genom Speech Core (ONNX Runtime).