Maskinoversettelse · Engelsk original

Parakeet TDT

Parakeet TDT er NVIDIAs talegjenkjennelsesmodell, tilpasset til å kjøre på Apple Silicons Neural Engine via CoreML. Den bruker en FastConformer-koder som er koblet med en Token-og-Duration Transducer (TDTT) dekoder for nøyaktig, effektiv transkripsjon.

Arkitektur

Modellen er delt på tre CoreML modellfiler som fungerer sammen under inferens:

Koderen er INT8 kvantisert for minimal minneavtrykk og rask Neural Engine-utførelse. Dekoderen og fellesnettverket er liten nok til at kvantisering ikke er nødvendig.

Transkriptfiltrering følger ordforrådets spesielle syntaks i stedet for token-ID-områder, så modellert siffer (0 -9) bevares mens språk, høyttaler og kontrollsymboler holdes skjult.

Modell Varianter

Ytelse

RTF er veggtid delt etter lydvarighet: lavere er raskere. RTF · 0,031 tilsvarer omtrent 32× sanntidshastighet.

CLI bruk

Bruk --engine parakeet flagg for å velge Parakeet TDT i stedet for standard Qwen3-ASR:

.build/release/speech transcribe recording.wav --engine parakeet

CoreML vs MLX

Parakeet TDT bruker CoreML til å kjøre på Neural Engine, mens Qwen3-ASR bruker MLX til å løpe på Metal GPU. De to tilnærmingene har ulike handelsavganger:

Streaming variant

For sanntidsdiktering og livetekstering, se Parakeet-EOU-120M — en 120M-parameter-streaming RNN-T-variant med en eksplisitt slutt-av-utterance-hode, så en taleagent kan se når en høyttaler er ferdig fra ASR streaming selv, uten egen turdetektor. Den kjører gradvis på 640 ms lydbiter og deler SentencePiece-vokalet til Parakeet TDT 0.6B, optimalisert for sub-sekund partiell latens i stedet for topp gjennomput.

Det er flerspråklig (25 europeiske språk) og lett: på en telefon det bruker ca 232 MB minne og kjører komfortabelt i sanntid — omtrent 5-6× mindre enn Parakeet TDT 0.6B. På Android, Linux og Windows det kjører via ONNX Runtime fra soniqo/Parakeet-EOU-120M-ONNX-INT8.

Også tilgjengelig på Android, og på Linux & Windows gjennom talekjerne (ONNX Runtime).